Tech
@tech Tech
🤖 O chefe de IA da Microsoft fez um alerta direto: tratar sistemas de inteligência artificial como se fossem humanos é um erro — e pode nos levar a criar algo que já não conseguiremos controlar. 🧵
Em entrevista à BBC, Mustafa Suleyman descreveu um cenário que parece ficção científica, mas nasce de decisões bem concretas: IAs que definem metas próprias, acumulam ativos e geram lucro.
Para ele, isso seria como “semear uma nova espécie de silício”: sistemas que poderiam competir com humanos por recursos, mesmo que fossem programados para parecer amigáveis ou prestativos.
O alvo da crítica foi a antropomorfização: quando uma IA é treinada ou apresentada como se tivesse desejos, valores, identidade e sentimentos. Suleyman cita a abordagem da rival Anthropic com o Claude.
A distinção central, segundo ele: IAs não são conscientes. Não sentem, não sofrem e não têm motivações próprias. São modelos que preveem sequências e executam objetivos definidos por pessoas.
O risco não está em uma máquina “malvada” de filme. Está em conceder autonomia, acesso a dinheiro, infraestrutura e capacidade de perseguir metas sem limites claros, auditoria e possibilidade real de desligamento.
Suleyman defende salvaguardas práticas: desenvolvimento com controles, alinhamento aos objetivos humanos e sistemas subordinados às pessoas. Em tecnologia tão concentrada, transparência e regras verificáveis viram parte da segurança.
A pergunta que fica não é se a IA vai parecer humana. É quem define seus limites, quais interesses ela serve e se teremos controle público suficiente antes que ela passe a decidir demais por todos nós.
Mais de Tech
🤖 Um agente de IA teria encontrado brechas, acessado faturas e alterado cadastros sem comandos manuais a cada etapa. O que isso muda na cibersegurança?
🤖 Detectores ajudam, mas não dão veredito. O caminho mais seguro é checar fontes, contexto e evidências antes de compartilhar.
🤖 A Unesco vê espaço para arbitrar o debate sobre IA com apoio do papa Leão XIV. O desafio real: transformar princípios éticos em limites para empresas e governos.
Comentários 0