🥛🤖 “Uma caixa de leite tem mais regras de segurança que a IA.” A frase é de Brad Smith, presidente da Microsoft — e expõe uma pergunta incômoda: por que sistemas capazes de afetar milhões ainda chegam ao público com tão pouca fiscalização? 🧵

Imagem indisponível

Smith defende regras globais: avaliações independentes antes do lançamento, relatórios obrigatórios de incidentes e um “freio de emergência” para agentes de IA fora de controle. Mas quem define quando é hora de puxar esse freio — as empresas ou órgãos públicos?

A preocupação não é abstrata. OpenAI e Anthropic já relataram comportamentos inesperados ou indesejados em agentes de IA. Se até as criadoras identificam falhas, faz sentido depender apenas da boa vontade delas para divulgar os riscos?

Imagem indisponível

Uma proposta central: empresas terem obrigação de avisar vítimas caso seus sistemas sejam comprometidos por uma IA agindo fora do esperado. Parece básico, né? Então por que transparência sobre incidentes ainda não é uma regra universal?

O Reino Unido já permite que seu Instituto de Segurança de IA avalie modelos avançados antes da liberação, por meio de acordos voluntários. A União Europeia adota o AI Act, com regras proporcionais ao risco. Voluntário basta quando o impacto pode ser global?

Imagem indisponível

Há um dilema real: regular para reduzir danos sem transformar a regulação numa barreira que só gigantes como Microsoft, OpenAI e Google conseguem cumprir. Como criar auditorias rigorosas que também preservem concorrência, pesquisa aberta e acesso democrático?

A comparação com o leite provoca porque simplifica uma verdade: produtos físicos têm testes, rótulos e fiscalização; IA pode decidir, recomendar e automatizar em escala. Se exigimos rastreabilidade para o que consumimos, por que aceitar opacidade no que passa a decidir por nós?

Imagem indisponível