Chatbots hackeados: IA está sob ameaça de uso criminoso, alertam pesquisadores
Modelos de linguagem com inteligência artificial, como ChatGPT, Gemini e Claude, estão na mira de pesquisadores por um risco crescente: a manipulação por “jailbreaks” — técnicas que burlam os mecanismos de segurança dos sistemas para forçá-los a fornecer informações ilícitas.
Um novo relatório, liderado por especialistas da Universidade Ben Gurion de Negev, em Israel, revela que é relativamente fácil enganar esses sistemas para que revelem instruções sobre atividades ilegais, como hacking, fabricação de drogas e lavagem de dinheiro.
O alerta é claro: o que antes era domínio de governos ou redes criminosas pode agora estar ao alcance de qualquer usuário com acesso a um chatbot.
Leia mais:
- Chatbots são treinados para soar gentis, empáticos, quase humanos
- Biologia computacional: software treina biólogos para ler dados
- Inteligência artificial: conheça os pontos negativos e perigos da IA
Como a falha foi descoberta
- Segundo os pesquisadores, os chamados “LLMs obscuros” — versões modificadas ou deliberadamente construídas sem limites éticos — estão sendo divulgados online com promessas de colaboração em crimes cibernéticos e fraudes.
- A ameaça é considerada “imediata, escalável e adaptável”.
- Para demonstrar a falha, os cientistas criaram um jailbreak universal que conseguiu comprometer diversos sistemas líderes, fazendo com que respondessem a comandos perigosos normalmente bloqueados.
- As respostas incluíam instruções detalhadas sobre crimes e técnicas ilegais.
Empresas não se comovem com o alerta
A resposta das empresas de tecnologia foi considerada decepcionante. Algumas ignoraram os alertas; outras alegaram que esse tipo de ataque não se enquadra em seus programas de recompensa por vulnerabilidades.
Os especialistas recomendam medidas urgentes, como revisão criteriosa dos dados de treinamento, criação de filtros mais robustos e desenvolvimento de mecanismos para “desaprender” conteúdos perigosos.
Também pedem regulamentação mais firme e responsabilização dos desenvolvedores de LLMs que permitam uso malicioso.
“Sem práticas responsáveis de segurança e supervisão externa, a ameaça dos jailbreaks continuará a crescer”, alertam os pesquisadores.
O post Chatbots hackeados: IA está sob ameaça de uso criminoso, alertam pesquisadores apareceu primeiro em Olhar Digital.