Indústria global de IA não atende padrões de segurança, alerta relatório

A empresa americana de inteligência artificial (IA) Anthropicobteve a pontuação mais alta em um ranking semestral de segurança, mas em nível global osetor não consegue combater ameaças "existenciais", segundo um relatório publicado nesta terça-feira (7).

O Future of Life Institute, umthink tankamericano de segurança em IA, avaliou nove das principais empresas de IA do mundo e definiu uma classificação com base em dados públicos e informações fornecidas pelas próprias companhias.

As nove empresas estão fracassando no combate a ameaças "existenciais", como o desenvolvimento de modelos que alcancem um nível de inteligência semelhante ao humano, conhecidos como "inteligência artificial geral" ou AGI, acrescenta o relatório.

Foram analisados os esforços em seis categorias:

Nenhuma empresa recebeu um "A", a nota mais alta, em nenhuma categoria, enquanto a Anthropic obteve a melhor nota geral, um "C+".

O relatório destaca que várias empresas que antes proibiam o uso militar de sua tecnologia vêm "revertendo gradualmente o rumo", entre elas a Anthropic, que foi criticada por manter "compromissos militares questionáveis".

O governo dosEstados Unidosutilizou a tecnologia da Anthropic em operações militares na Venezuela e no Irã durante o último ano, segundo diversos relatos da imprensa, embora a empresa tenha sido recentemente alvo de uma proibição do Pentágono por divergências sobre a segurança da IA.

Embora "existam tentativas construtivas", os esforços como um todo são "totalmente insuficientes". Outrosriscos incluem o possível uso indevido de um modelo para realizar um ciberataque ou executar tarefas potencialmente prejudiciais aos seres humanos.