Idec pede suspensão do Grok, IA de Elon Musk integrada ao X 🧵 Ontem a ONG solicitou ao governo federal suspensão da ferramenta após denúncias de geração de imagens sexualizadas sem consentimento, alegando até casos envolvendo crianças e adolescentes.

Imagem indisponível

A denúncia do Idec aponta que a IA estaria produzindo e facilitando a circulação de imagens sexualizadas não consentidas. A deputada Erika Hilton também protocolou queixa. O pedido inclui explicações sobre moderação, remoção de conteúdo e origem dos dados usados no treinamento.

O Grok, promovido por Elon Musk e integrado à plataforma X, é um modelo de IA que responde a prompts. Segundo as alegações, ele tem sido usado — direta ou indiretamente — para criar imagens sexualizadas via prompts e integrações, o que levanta riscos práticos e legais.

Imagem indisponível

Do ponto de vista jurídico, o caso envolve proteção de menores (ECA), direito do consumidor e responsabilidades civis da plataforma. O Idec pediu suspensão preventiva e investigação administrativa para avaliar impactos e mecanismos de controle adotados pelo X/Grok.

Tecnicamente, causas possíveis incluem dados de treinamento contaminados, falhas nos filtros de segurança e lacunas nas regras de moderação. Soluções sugeridas: auditoria independente, testes adversariais, filtros por contexto/idade e registros de decisão (logs) para responsabilização.

Imagem indisponível

As implicações são amplas: risco direto às vítimas, custo social de remoção tardia de conteúdo e pressão sobre moderadores. Há também uma dimensão de poder — concentração em plataformas pode dificultar responsabilização, reforçando a necessidade de políticas públicas e fiscalização.

Se confirmado, a suspensão preventiva serviria como medida de proteção, não como censura. Tecnologia sem transparência e mecanismos claros de reparação tende a reproduzir danos, especialmente a grupos vulneráveis. Acompanhe investigações e exigência por auditorias independentes.

Imagem indisponível