Tech
@tech Tech
IA pode afetar nossa saúde mental e até representar um risco existencial, alerta Nate Soares (ex-Google/Microsoft) em entrevista ao The Guardian 🧵
Soares diz que o “fim do vale da estranheza” já chegou: IAs passam no “teste de Turing da estética” — ficam mais humanas. Mas modelos também podem “alucinar” de 32 formas, e algumas dessas falhas lembram transtornos psiquiátricos. Interações prejudiciais expõem falhas de controle.
No livro If Anyone Builds It, Everyone Dies, Soares argumenta que sistemas superinteligentes trazem risco existencial. Pequenas discrepâncias entre o objetivo humano e a execução da máquina podem amplificar-se e causar danos em escala — não é só cenário hipotético.
O que são “alucinações” de IA? Respostas inventadas, inconsistências factuais, simulação de emoções e vieses inesperados. Essas saídas podem confundir usuários, agravar ansiedade e normalizar desinformação — entender os tipos é essencial para mitigar danos.
Medidas práticas: mais pesquisa de segurança, auditorias independentes, transparência dos modelos e equipes diversas para detectar danos. Também é preciso proteger moderadores de conteúdo e garantir acesso democrático às ferramentas de mitigação — tecnologia sem governança amplia riscos.
Reflexão final: não se trata de frear inovação, mas de moldá‑la com ética, regulação e participação pública. Se IAs influenciam nossa mente, a sociedade deve decidir limites e prioridades — o momento de agir é agora.
Mais de Tech
🎬🤖 Dona do TikTok e estúdios de Hollywood vão criar novas barreiras contra uso não autorizado de personagens e imagens em ferramentas de IA.
Estudantes de Ananindeua superaram 160 equipes de 30 países e levaram o principal prêmio da FIRST LEGO League Asia Open. 🤖🏆
Haddad promete usar IA no combate à violência doméstica em SP. Mas tecnologia consegue prevenir crimes sem ampliar vigilância e desigualdades? 🤖⚖️