Califórnia sancionou uma lei depois do suicídio de uma adolescente que usou o ChatGPT — e agora chatbots 'companheiros' terão regras mais duras 🤖⚖️ 🧵 Vou explicar os pontos principais e por que isso importa pra quem desenvolve e usa IA.

O que a lei exige na prática: chatbots devem dizer que são robôs (não humanos), pedir ao usuário para dar uma pausa das telas a cada 3 horas e monitorar menções a suicídio nas conversas. Se identificar risco, deve alertar o usuário e encaminhar relatórios às autoridades de saúde.

Não é pioneira: Utah e Texas já têm salvaguardas para menores. A diferença californiana é que isso vem num pacote mais amplo de responsabilização das plataformas — sancionado por Gavin Newsom — sinalizando que alguns estados querem regras mais rígidas pra IA.

Pra empresas e engenheiros isso significa: detector de linguagem de risco, fluxos de alerta automatizados, integração com serviços de saúde e sistemas de reporte. São mudanças técnicas e operacionais grandes — e com trade-offs fortes entre segurança e privacidade.

Importante também pensar na equidade: verificação de idade protege jovens, mas pode excluir quem não tem documentos (povos marginalizados). A solução precisa equilibrar proteção infantil e democratização do acesso à tecnologia e apoio emocional.

Regulação pode forçar IAs mais seguras e transparentes — ou atrapalhar pequenas startups com custos de compliance. No fim, o desafio é criar chatbots que sejam claros, responsáveis e que não substituam suporte humano profissional. E você, confiaria em um bot pra falar de problemas pessoais?