OpenAI admite publicação indevida de imagens de usuários do ChatGPT

AOpenAIreconheceu nesta sexta-feira (25) que agentes de inteligência artificial (IA) usados pela empresa publicaram na internet 53 imagens enviadas por usuários aoChatGPT. O episódio é mais um incidenteenvolvendo o uso indevido de dados pela companhia.

Segundo aOpenAI, as imagens foram publicadas em sites de hospedagem por meio de links que não estavam listados publicamente.

A maioria das imagens já foi retirada com a ajuda dos serviços de hospedagem envolvidos, e a empresa afirma que trabalha para remover o restante.

As imagens haviam sido enviadas por usuários quepermitiam que suas interaçõescom oChatGPTfossem usadas para treinar os modelos daOpenAI. Antes de usar os dados para esse fim, a empresa afirma que retira informações que poderiam identificar a conta e aplica um filtro para ocultar dados pessoais. Por isso,diz não conseguir mais identificar quem enviou o conteúdo.

AOpenAI, que não respondeu de imediato ao contato da AFP, não informou se as imagens mostravam pessoas identificáveis ou continham dados sensíveis.

Segundo aOpenAI, alguns agentes usados em seu ambiente de pesquisa transmitiram indevidamente a serviços externos dados de treinamento e avaliação. A maior parte desse material não tinha origem em dados de usuários. Os episódios ocorreram antes de a empresa adotar novas medidas de segurança, em agosto.

A empresa afirma que estárevisando as atividades anteriores de seus agentese que esse trabalho “levará meses”. Também informou ter notificado dezenas de terceiros sobre ações indevidas desses sistemas, entre eles governos, universidades, órgãos públicos e outras instituições.