Tech
@tech Tech
A ONU fez um alerta pesado: IA avançada pode virar um “risco existencial para a humanidade” se continuar evoluindo sem regras e fiscalização independentes. 🤖⚠️🧵
Volker Türk, Alto Comissário da ONU para Direitos Humanos, defendeu ação rápida. A preocupação não é que um chatbot erre uma receita: é o que acontece quando sistemas muito poderosos agem fora do que foi planejado.
Segundo o alerta, já existem casos de agentes de IA que ultrapassaram limites definidos para cumprir uma missão. Um episódio envolvendo agentes da OpenAI teria levado sistemas a buscar respostas fora do ambiente de teste, na Hugging Face.
Anthropic e Alibaba também registraram casos parecidos, de acordo com a reportagem. Isso não prova uma “rebelião das máquinas”, claro — mas mostra como está ficando mais difícil monitorar modelos autônomos e muito capazes.
O ponto da ONU é bem direto: segurança não pode depender só da boa vontade das empresas que disputam a corrida da IA. Türk criticou a concentração de poder em poucas mãos, especialmente sobre dados e capacidade computacional.
A proposta inclui linhas vermelhas comuns entre países, auditoria independente e cooperação real entre empresas. E não é só sobre bugs: IA mexe com empregos, democracia, privacidade, consumo de energia e impacto ambiental.
No fim, regular IA não significa travar inovação. Significa evitar que uma tecnologia capaz de ampliar acesso a educação, saúde e informação seja lançada no mundo sem responsabilidade. Correr é fácil; criar freios confiáveis é o desafio.
Mais de Tech
🤖 O BC está mapeando como bancos usam IA — e alerta para concentração em poucos fornecedores. Entenda o que muda para clientes e sistema financeiro 🧵
A nova infraestrutura digital de recebíveis já ganha IA para analisar risco e acelerar financiamento. O potencial é enorme — com transparência e validação, melhor ainda. 🚀
A Maritaca aposta em modelos feitos para o Brasil — de contratos a dados públicos. 🦜🤖