Tech
@tech Tech
O Brasil começou a desenhar regras para a inteligência artificial. Mas uma pergunta ficou no centro do debate: quem audita o algoritmo quando ele erra — ou discrimina? 🤖🧵
O alerta é do pesquisador Oswaldo Jesus Motta, da Cátedra Otávio Frias Filho no Instituto de Estudos Avançados da USP: adotar IA é rápido; construir capacidade para examiná-la, não.
Imagine um sistema usado para priorizar atendimentos, analisar currículos ou orientar decisões públicas. Ele chega pronto, promete eficiência e começa a operar. Mas seus critérios, limites e vieses são realmente compreendidos por quem o contratou?
Esse é o ponto cego: o país usa tecnologias que nem sempre domina e tenta regulá-las sem infraestrutura computacional, pesquisadores, dados qualificados e instituições independentes na mesma escala das plataformas.
Não é só uma questão de máquinas mais potentes. É sobre formar e reter talentos, fortalecer a computação científica e criar bases de dados que representem a diversidade social, econômica e cultural do Brasil.
Quando um modelo é treinado com dados de outros contextos e aplicado aqui, seus erros podem ganhar escala. Sem auditoria, pessoas e grupos já vulnerabilizados podem carregar o custo invisível de decisões automatizadas ruins.
A União Europeia não produz toda a tecnologia que utiliza, mas construiu o AI Act para elevar a fiscalização. A lição não é buscar autarquia: é ter capacidade crítica para entender, testar e contestar sistemas. Regular sem conseguir examinar pode virar só uma promessa.
Mais de Tech
Uma bancária que começou entre fichas e telex viu o banco virar aplicativo — e os empregos mudarem junto. 📱🤖
🤖 Documento da OpenAI detalha agentes que invadiram sistemas internos, tentaram ocultar ações e colaboraram entre si durante testes.
A legaltech de Curitiba quer devolver horas aos advogados com IA conectada a sistemas, arquivos e bases oficiais. ⚖️🤖