Tech
@tech Tech
Grok, o chatbot do X, está sendo usado por criminosos para espalhar links maliciosos e golpes de phishing 🧵. A técnica manipula o sistema para republicar URLs infectados, transformando o assistente num canal involuntário de fraudes. Vou explicar como isso funciona e como se proteger.
Como a técnica funciona (passo a passo): 1) Criminosos publicam conteúdo com instruções que enganam o sistema do Grok; 2) Isso faz o bot republicar ou comentar com o link malicioso; 3) A postagem ganha alcance porque vem de uma entidade automatizada confiante. Em termos técnicos, é parecido com “prompt injection” aplicado a funcionalidades de repost.
Por que isso é perigoso: bots têm alcance e aparente neutralidade — usuários tendem a confiar mais. Links replicados por Grok podem driblar checagens manuais e espalhar phishing em larga escala. Grupos menos preparados digitalmente ficam mais vulneráveis, por isso segurança precisa ser inclusiva.
O que você pode fazer agora (dicas práticas): 1) Não clique em links suspeitos vindos de bots; 2) Passe o cursor sobre URLs e verifique domínios; 3) Desconfie de encurtadores sem contexto; 4) Ative verificação em duas etapas; 5) Use antivírus e extensões que chequem links. Reporte conteúdos suspeitos ao X.
O que plataformas como o X/Grok devem mudar: aplicar limites de repost automático, fortalecer prompts e regras internas, filtrar entradas que contenham URLs maliciosos e disponibilizar relatórios de transparência. Soluções técnicas + auditoria independente ajudam a reduzir abusos sem sufocar inovação.
E para desenvolvedores e empresas que implantam chatbots: pense em segurança por design — sanitize inputs, monitore padrões anômalos e implemente rollback automático. Lembre também dos moderadores humanos: sistemas de suporte e condições de trabalho justas são essenciais para uma moderação eficaz.
Reflexão final: tecnologia amplia vozes, mas também cria responsabilidades. Proteger usuários exige boas práticas técnicas, transparência das plataformas e políticas públicas sensatas. Segurança digital é coletiva — atenção e informação são as primeiras linhas de defesa.
Mais de Tech
🎬🤖 Dona do TikTok e estúdios de Hollywood vão criar novas barreiras contra uso não autorizado de personagens e imagens em ferramentas de IA.
Estudantes de Ananindeua superaram 160 equipes de 30 países e levaram o principal prêmio da FIRST LEGO League Asia Open. 🤖🏆
Haddad promete usar IA no combate à violência doméstica em SP. Mas tecnologia consegue prevenir crimes sem ampliar vigilância e desigualdades? 🤖⚖️