Uso de IA para atendimento psicológico entra na mira de regulação após casos de suicídio 🧵 Califórnia aprovou limitação ao uso de chatbots como terapia; Brasil observa com atenção o PL 2338/2023. O que muda para pacientes, empresas e legisladores?

O caso de Stephanny Morais de Carvalho, 19, que consultou o ChatGPT sobre uma desavença e recebeu orientação genérica, reacendeu o debate: quando respostas automatizadas deixam de ser apoio e viram risco? Especialistas apontam falta de adequação a crises e contexto clínico.

A medida aprovada na Califórnia limita o uso de chatbots como substitutos da terapia presencial e sinaliza a necessidade de salvaguardas. Embora não haja padronização global, a decisão destaca pontos como rotulação clara, supervisão humana e avaliação de segurança.

No Brasil, o PL 2338/2023 pode seguir esse caminho. Parlamentares e reguladores terão de conciliar dois objetivos: ampliar o acesso à saúde mental com tecnologia e garantir proteção ao cidadão — responsabilidade civil, transparência algorítmica e protocolos de crise entram na pauta.

Desafios técnicos e éticos são concretos: modelos geram respostas por padrões, não por diagnóstico; há risco de vieses, inconsistência e falha em identificar sinais de suicídio. Por outro lado, IA tem potencial de ampliar atendimento em áreas remotas — desde que regulamentada.

Medidas práticas sugeridas por especialistas: estudos clínicos para validação, protocolos claros de escalonamento para profissionais humanos, rotulação explícita de ferramentas automatizadas, proteção rigorosa de dados sensíveis e auditorias independentes.

Reflexão final: a tecnologia pode democratizar o acesso a apoio emocional, mas sem regras claras a conta pode ser paga por quem mais precisa. A agenda que se abre é técnica e política — inovação com responsabilidade, segurança e foco em equidade.