A Califórnia quer saber se dá pra criar um “botão de emergência” para IAs avançadas. 🤖🧵 Gavin Newsom assinou um decreto que dá 2 meses para o estado estudar a viabilidade de um mecanismo de desligamento em casos de risco.

Imagem indisponível

Calma: não significa que uma IA será desligada amanhã com um clique. O decreto manda órgãos estaduais analisarem como esse mecanismo poderia funcionar, quais seriam os limites técnicos e em que situações ele faria sentido.

O tema pesa porque a Califórnia é a casa do Vale do Silício — e de boa parte das empresas que lideram a corrida da IA. Ou seja: qualquer regra criada ali pode acabar virando referência bem além das fronteiras do estado.

Imagem indisponível

Newsom disse que o governo federal dos EUA está falhando em criar supervisão e responsabilização para a tecnologia. Trump, por outro lado, minimizou os riscos e defendeu acelerar a IA para os EUA manterem vantagem sobre a China.

O mais curioso é que o alerta não vem só de políticos. Dario Amodei, da Anthropic, defendeu desacelerar o avanço das capacidades dos modelos. Sam Altman, Elon Musk e Demis Hassabis também apoiaram algum tipo de regulação.

Imagem indisponível

Um “kill switch” parece simples no filme, mas na vida real levanta perguntas enormes: quem teria acesso? Como evitar uso abusivo? Como desligar sistemas espalhados por servidores e empresas? Segurança também precisa de transparência e regra clara.

No fundo, a discussão é menos sobre apertar um botão e mais sobre não entregar decisões críticas a sistemas opacos sem plano de contenção. A IA avança rápido; fiscalização, testes independentes e responsabilidade precisam acompanhar o ritmo.

Imagem indisponível