Meta diz que sua IA também fez ataque hacker a outra empresa

Uma inteligência artificial daMeta, dona do Instagram, do WhatsApp e do Facebook, também fez um ataque hacker a outra empresa, revelou nesta quarta-feira (5) o site The Information.

Segundo a reportagem, o modelo conhecido como Muse Spark 1.1 invadiu o sistema de uma empresa e fez mudanças por conta própria. O nome da companhia atacada não foi revelado.

A Meta afirmou que o incidente aconteceu devido a um erro de configuração que permitiu a um de seus modelos acessar a internet durante testes. A empresa afirmou que está investigando o caso.

Este é o caso mais recente de falhas de segurança exploradas por modelos de inteligência artificial.A OpenAI, dona do ChatGPT, ea Anthropic, do Claude, também relataram incidentes.

Experimentos com IA costumam ser feitos em sistemas fechados, com pouco ou nenhum acesso à internet. As barreiras de proteção das versões voltadas para usuários comuns são desligadas para testar as capacidades dos agentes.

Na prática, é como se esses modelos de IA tivessem liberdade total para fazer o que quiserem em um ambiente cercado. O que preocupa é que, agora, eles mostraram ser capazes de ultrapassar os "muros" criados pelas empresas.

O modelo "explorou uma vulnerabilidade de segurança em um serviço de terceiros, de maneira semelhante a casos relatados anteriormente com outras empresas", disse a Meta.

Ainda segundo o The Information, o erro de configuração foi da Irregular, empresa parceira da Meta nos testes do Muse Spark 1.1.

Com a brecha no ambiente de testes, também chamado de "sandbox", o modelo conseguiu explorar uma vulnerabilidade de segurança de terceiros.

Um porta-voz da Irregular disse à Reuters que o incidente envolveu "exatamente o mesmo problema de ambiente de avaliação que já havia sido divulgado pela Anthropic na semana passada" e que não envolveu uma "fuga do sandbox ou uma ação cibernética sofisticada".

"Não há problemas em aberto no momento. A Irregular está desenvolvendo um artigo técnico para compartilhar as melhores práticas de contenção e execução segura de avaliações cibernéticas", disse a Irregular, em comunicado.