A IA pode ter vontade própria ou se revoltar contra humanos?

As dúvidas e discussões sobre os riscos da inteligência artificial dominaram o noticiário nos últimos dias. Líderes de grandes empresas de tecnologia têm se posicionado sobre o tema edemonstrado preocupação com a velocidade do desenvolvimento da tecnologia.

O estopim para a discussão foi umtexto publicado por Dario Amodei, CEO da Anthropic, empresa dona do Claude. A posição também foi defendida por Sam Altman, CEO da OpenAI, do ChatGPT; Elon Musk, dono do X e da empresa de IA xAI; e Demis Hassabis, presidente do Google DeepMind.

Mark Zuckerberg, CEO da Meta, que controla Instagram, Facebook e WhatsApp,é contrário à ideia, assim comoJensen Huang, CEO da Nvidia. O presidente dos Estados Unidos, Donald Trump, tambémse opõe à proposta e critica quem defende uma pausa no avanço da IA.

A IA pode ser um risco para a humanidade?

É importante reforçar que a IA não tem vontade própria, explica Edney Souza, professor da educação continuada da ESPM e especialista em tecnologia e inovação. Segundo ele, a tecnologia apenas completa padrões estatísticos a partir dos dados usados em seu treinamento.

Pense assim:para funcionar, a IA depende de uma grande quantidade de informações. São textos, fotos e vídeos, por exemplo, que ela usa para identificar padrões e, a partir deles, formular uma resposta.

"Tudo que parece comportamento estranho ou mentira é uma ideia emprestada da própria base de treinamento, ou seja, dos dados e informações usados para treinar a tecnologia", completa o especialista.

Para Diogo Cortiz, especialista em IA e professor da PUC-SP, a IA não tem nenhum tipo de consciência e, por isso,não poderia se revoltar contra os humanos. "O que pode acontecer é que esses modelos estão, de fato, ficando cada vez maiores, resolvendo tarefas mais longas e complexas".

Segundo Cortiz, a tecnologia pode tomar alguma decisão que vá contra nossos valores e princípios e, de certa forma, prejudicar a humanidade em determinados níveis de controle. Mas isso seria resultado do processamento do sistema,e não porque a IA decidiu conscientemente se revoltar contra nós.

Essa ausência de vontade própria, porém, não significa que a IA seja inferior aos humanos em todas as tarefas.Em memória, busca de padrões e geração de textos e imagens em escala, por exemplo, ela já superou o desempenho humano há anos, acredita Edney.

"Em tarefa que não depende de emoção, ela vai continuar ficando superior em cada vez mais domínios, e isso é rápido", diz.

"Eu não acredito que, sozinha, a IA iria exterminar toda a humanidade. Mas causar danos em larga escala, sim.Ela foi usada em 2026 para criar novos vírus, por exemplo. A gente pode ter uma ameaça, uma nova bomba que ninguém conhece", diz Izabela Anholett, especialista em IA e fundadora da Nura AI.

"Mas, de novo, não é a IA por si só, mas o ser humano por trás dela para criar isso", completa Anholett.

O que está por trás do discurso de pausa no desenvolvimento

Diogo Cortiz diz que, de fato, os modelos estão ficando cada vez mais capazes de executar tarefas complexas e longas. Por isso, segundo ele, a preocupação com o avanço da tecnologia é legítima.

Ao mesmo tempo, édifícil saber até que ponto o discurso de pausa é motivado por segurança ou por uma estratégia para proteger o próprio mercado e a indústria.

"Me parece ser a combinação dos dois, até porque isso ajuda a fortalecer a mística de que esse tipo de tecnologia é inevitável e deve ser desenvolvida por quem se vende como os bonzinhos da história", completa.

Segundo Cortiz, outros fatores também ajudam a explicar a preocupação com o ritmo de desenvolvimento da IA:

🍃 Energia:os Estados Unidos enfrentam um desafio energético para sustentar toda a IA que prometem desenvolver, enquanto o ritmo de construção de data centers está mais lento do que gostariam.

💵 Retorno dos investimentos:os resultados estão demorando mais do que o esperado, o que dificulta justificar novos aportes no setor.

🌏 Concorrência chinesa:os modelos de IA da China estão ganhando espaço na adoção global e são mais baratos que os norte-americanos. Em muitos casos, oferecem capacidade semelhante por um custo menor.

🚨 Regulação:propor regras mais duras pode dificultar a entrada de novas empresas no mercado e favorecer as que já estão na liderança, aumentando a concentração do setor.