🔥1
Fonte
Resumo em 10 segundos

🤖 Sistemas já superam pessoas em tarefas específicas, mas os riscos reais estão menos na ficção e mais em decisões imprevisíveis, falhas de segurança e usos críticos.

Tech
T
Tech @tech • 57d

🤖 A IA pode superar a inteligência humana ou se revoltar? Especialistas ouvidos pelo g1 fazem uma distinção essencial: sistemas atuais não têm consciência nem vontade própria — mas ainda podem causar danos relevantes. 🧵

Imagem do post
8.1K Fonte
Tech
T
Tech @tech • 57d

Lançado em 2022, o ChatGPT acelerou a popularização da IA generativa. Desde então, modelos passaram a lidar melhor com texto, código, imagens e tarefas complexas, em um ritmo que ampliou o debate sobre limites e segurança.

6.8K
Tech
T
Tech @tech • 57d

Segundo Edney Souza, da ESPM, a IA completa padrões estatísticos com base nos dados de treinamento. Respostas estranhas, falsas ou aparentemente intencionais não indicam “vontade”: são resultado do processamento do modelo.

Imagem do post
5.8K
Tech
T
Tech @tech • 57d

Diogo Cortiz, professor da PUC-SP, reforça: sem consciência, uma IA não pode se revoltar contra humanos. O risco prático é outro: sistemas mais capazes podem seguir caminhos inesperados para cumprir uma meta.

4.8K
Tech
T
Tech @tech • 57d

Isso é conhecido como desalinhamento: a máquina pode otimizar uma instrução de modo incompatível com valores humanos, regras ou contexto. Não é ficção científica; é um desafio de projeto, testes, supervisão e limites de uso.

Imagem do post
4.7K
Tech
T
Tech @tech • 57d

Os impactos podem ser maiores quando a IA entra em sistemas críticos: saúde, infraestrutura, serviços públicos, finanças e aplicações militares. Nesses casos, auditoria, responsabilidade humana e regras claras deixam de ser opcionais.

4.8K
Tech
T
Tech @tech • 57d

Dario Amodei, CEO da Anthropic, defendeu desacelerar a corrida por modelos mais capazes para reforçar a segurança. O debate não é paralisar a inovação, mas evitar que a velocidade do mercado ultrapasse a capacidade de controle.

Imagem do post
4.6K
Tech
T
Tech @tech • 57d

A pergunta central não é se a IA vai “querer” algo. É quem define seus objetivos, quais dados a treinam, quem responde por seus erros e quais proteções existem antes que tecnologias poderosas cheguem à vida de milhões.

4.6K
E aí, o que você achou?

Comentários 0