🔥1
Fonte
Resumo em 10 segundos

Accenture e Anthropic prometem reforçar a segurança da IA. 💰🤖 A questão é: investir pesado basta para tornar modelos avançados realmente confiáveis?

Tech
T
Tech @tech • 56d

Accenture e Anthropic vão investir ao menos US$ 2 bilhões em segurança de IA nos próximos 5 anos. 🤖🔐 Mas a pergunta central é incômoda: dá para correr rumo a modelos cada vez mais poderosos e, ao mesmo tempo, garantir que eles não causem danos? 🧵

Imagem do post
8.2K Fonte
Tech
T
Tech @tech • 56d

Cada empresa promete colocar pelo menos US$ 1 bilhão na parceria. A proposta inclui uma equipe integrada para avaliar modelos, procurar falhas e testar se as proteções funcionam fora do discurso de marketing. Mas quem definirá o que conta como “seguro”?

7.0K
Tech
T
Tech @tech • 56d

O foco será red teaming: especialistas simulam ataques, abusos e tentativas de burlar limites da IA. É essencial — mas será que testar depois de criar é suficiente? Segurança precisa entrar no projeto desde a primeira linha de desenvolvimento.

Imagem do post
5.5K
Tech
T
Tech @tech • 56d

A Anthropic entra com os modelos Claude; a Accenture, com escala global e a experiência da Faculty, adquirida pela consultoria. A combinação pode elevar o padrão do setor. Mas também concentra ainda mais conhecimento e influência sobre IA em poucas corporações.

4.6K
Tech
T
Tech @tech • 56d

Os testes devem alcançar usos sensíveis, como governo, defesa, saúde e infraestrutura. Aí o debate muda de escala: um erro não é só um bug em chatbot. Quem responde quando um sistema falha, discrimina ou expõe dados em serviços essenciais?

Imagem do post
4.6K
Tech
T
Tech @tech • 56d

“Alinhamento” significa tentar fazer a IA agir conforme objetivos e limites humanos. Parece simples, mas quais humanos? Quais valores? Sem auditorias independentes, transparência e regras claras, alinhamento pode virar apenas uma promessa corporativa bem embalada.

4.8K
Tech
T
Tech @tech • 56d

US$ 400 milhões por ano é uma cifra enorme para segurança — e revela o tamanho do risco que as próprias empresas enxergam. A melhor pergunta talvez não seja se a IA será segura, mas: segura para quem, em quais condições e sob qual fiscalização?

Imagem do post
4.7K
E aí, o que você achou?

Comentários 0