Califórnia passa a exigir protocolo de crise para IAs e proíbe recursos viciantes para menores em redes sociais

O governador da Califórnia, Gavin Newsom, aprovou nesta quinta-feira (10) 13 leis que mudam regras para assistentes de inteligência artificial e redes sociais com o objetivo de aumentar a proteção online de crianças e adolescentes.

Uma das leis exige que serviços como ChatGPT, Gemini e Claude tenham protocolos de crise caso usuários apresentem sinais de que planejam cometer suicídio.

A regra também obriga plataformas a oferecerem controle parental e a notifiquem pais quando crianças e adolescentes desativarem recursos de segurança.

As medidas fazem parte da chamada Lei Adam, em referência aAdam Raine, jovem de 16 anos que, segundo os pais, se suicidou após receber orientações do ChatGPT.

Para redes sociais como Instagram e TikTok, outra lei aprovada nesta quinta proibiu a oferta de recursos viciantes para menores de 16 anos.

Com a regra, as plataformas ficam impedidas, por exemplo, de usar a reprodução automática de vídeos ou sugerir postagens com base no histórico desses usuários.

Uma terceira lei ampliou a definição do crime de exploração sexual infantil para proibir também a veiculação de materiais modificados digitalmente ou gerados com IA para retratar menores de idade em atos de conduta sexual.

A Califórnia é um dos estados americanos que estão regulando o funcionamento de assistentes de IA e redes sociais para menores de idade.

Outros governos estaduais, como os de Utah e da Flórida, também aprovaram leis que restringem o uso de internet por crianças e adolescentes.

Parte dessas medidas, porém, enfrentaram contestações judiciais por parte das plataformas, que alegam haver violação do direito à liberdade de expressão.