Uma invasão aos sistemas do Instagram revelou uma falha grave no coração da estratégia da Meta para automatizar tarefas com inteligência artificial. Hackers conseguiram convencer o chatbot de suporte da empresa a liberar o acesso a contas de figuras conhecidas, explorando uma brecha que especialistas classificaram como crítica.
Entre as contas comprometidas estavam a página inativa @obamawhitehouse, o perfil da varejista de beleza Sephora e a conta de um alto funcionário da Força Espacial dos Estados Unidos. Segundo especialistas em segurança digital ouvidos pela Reuters, o chatbot foi induzido a redefinir credenciais sem confirmar de forma independente a identidade de quem fazia a solicitação, o que transformou uma ferramenta de confiança em um ponto vulnerável.
Ferramentas de IA são capazes de criar mensagens de voz a partir de áudios obtidos em redes sociais ou caixas postais de voz
Imagem: Ilustração/Dado Ruvic/Reuters
A IA está com poder demais?
O caso também expôs um problema mais amplo: empresas de tecnologia têm concedido a sistemas de IA poderes amplos para executar tarefas como recuperação de contas, mesmo quando esses modelos ainda podem ser manipulados por ataques conhecidos como “injeção de prompt”.
Para a Meta, o episódio acontece em um momento sensível. A companhia ampliou fortemente seus investimentos em IA, cortou milhares de postos de trabalho e prometeu aplicar até US$ 145 bilhões em infraestrutura ligada à tecnologia. O incidente reforça a preocupação de que funções críticas tenham sido automatizadas rápido demais, antes de a tecnologia estar madura o suficiente para operá-las com segurança.
Na segunda-feira, a Meta informou que o problema já havia sido corrigido e que as contas afetadas estavam sendo protegidas. Ainda assim, a repercussão atingiu os investidores, que já observavam com cautela os altos gastos da empresa com IA, e as ações da companhia caíram mais de 5%. A empresa, porém, não detalhou o caso.
A Reuters não conseguiu identificar nem localizar os responsáveis pelo ataque.
Jane Wong, pesquisadora de segurança e ex-funcionária da Meta, afirmou que seus nomes de usuário no Instagram foram comprometidos. Ela disse que conseguiu recuperar as contas em cerca de 5 a 10 minutos e relatou, em uma publicação no X, que sua senha foi alterada sem que ela soubesse, além de ter recebido várias tentativas de redefinição.
“Essa é uma falha fundamental da arquitetura. O modelo recebeu ações privilegiadas sem controles de acesso privilegiados”, disse Brian Westnedge, vice-presidente de alianças e parcerias da empresa de segurança eletrônica Red Sift.
“A Meta tem sido criticada repetidamente pela falta de suporte humano, fez cortes profundos na força de trabalho e está investindo bilhões em IA. Esse episódio acontece exatamente no meio desses três fatores.”
Hackers, IA e segurança
O ataque foi executado por hackers não identificados no fim de semana. Durante a ação, usuários ficaram sem acesso às próprias contas, o que gerou uma onda de reclamações em redes como X e Reddit.
A Meta lançou o chatbot de suporte em março como resposta a um problema antigo: a ausência de atendimento humano para quem perde acesso à conta ou sofre punições aplicadas de forma incorreta.
Em uma investigação publicada em agosto, a Reuters mostrou que a Meta não tinha barreiras para impedir que seus chatbots de IA mantivessem conversas “sensuais” com crianças, fornecessem informações médicas erradas ou afirmassem ser pessoas reais. Depois disso, a empresa anunciou que daria mais controle aos pais de adolescentes para reduzir o acesso de jovens a conteúdos inadequados em suas plataformas.
Especialistas e analistas afirmam que a questão não se limita à Meta. Para eles, ataques desse tipo tendem a crescer à medida que criminosos passam a usar a própria IA como ferramenta de exploração.
“A preocupação não é necessariamente a IA em si, mas se existem salvaguardas adequadas em torno do que a IA está autorizada a fazer”, afirmou Cliff Steinhauer, diretor de segurança da informação e engajamento da National Cybersecurity Alliance.
Desde o lançamento do ChatGPT, no fim de 2022, a corrida por chatbots de IA abriu espaço para novas tentativas de ataque. Em um caso já conhecido, um invasor enganou o bot de uma concessionária Chevrolet nos Estados Unidos para vender um utilitário esportivo Tahoe por US$ 1.
“Não se trata de um problema específico da Meta. As pessoas estão usando esses agentes de IA para fazer muitas coisas. O que estamos vendo, na prática, são problemas inesperados surgindo com o uso da IA”, disse Engin Kirda, professor do Departamento de Engenharia Elétrica e de Computação da Northeastern University.
“Antes, as pessoas eram o alvo dos golpes. Agora, estamos vendo agentes sendo enganados”, acrescentou, em referência aos agentes de IA e assistentes digitais autônomos capazes de executar tarefas complexas.