Em vez de se inquietar com a IA substituindo empregos, ele está preocupado com a tecnologia caindo em mãos erradas – e com a falta de proteções para manter os modelos de IA sofisticados e autônomos sob controle.

"Ambos esses riscos são importantes e desafiadores", disse ele em entrevista a Anna Stewart, da CNN, durante o festival SXSW em Londres, que acontece esta semana.

Na semana ada, o CEO do renomado laboratório de IA Anthropic fez um alerta contundente sobre o futuro do mercado de trabalho, alegando que a IA poderia eliminar metade dos empregos de entrada para profissionais istrativos. Mas Hassabis disse estar mais preocupado com o potencial uso indevido do que os desenvolvedores de IA chamam de "inteligência artificial geral", um tipo teórico de IA que se equipararia amplamente à inteligência humana.

"Um agente mal-intencionado poderia redirecionar essas mesmas tecnologias para fins prejudiciais", disse ele. "Então, uma grande questão é... como restringimos o o a esses sistemas poderosos para agentes mal-intencionados... mas permitimos que os bons atores façam muitas coisas incríveis com isso?"

Hackers têm usado IA para gerar mensagens de voz se ando por funcionários do governo americano, informou o FBI em um comunicado público em maio. Um relatório encomendado pelo Departamento de Estado dos EUA no ano ado constatou que a IA poderia representar riscos "catastróficos" à segurança nacional, reportou a CNN. A IA também facilitou a criação de pornografia deepfake — embora a Lei Take It Down, que o presidente Donald Trump sancionou no mês ado, vise impedir a proliferação desses deepfakes tornando ilegal compartilhar imagens explícitas não consensuais online.

Hassabis não é o primeiro a apontar tais preocupações. Mas seus comentários ressaltam ainda mais tanto a promessa da IA quanto o alarme que ela traz à medida que a tecnologia se torna melhor em lidar com tarefas complexas como escrever código e gerar videoclipes. Embora a IA tenha sido anunciada como um dos maiores avanços tecnológicos desde a internet, ela também fornece aos golpistas e outros atores maliciosos mais ferramentas do que nunca. E está avançando rapidamente sem muita regulamentação enquanto os Estados Unidos e a China correm para estabelecer domínio no campo.

O Google removeu em fevereiro a linguagem de seu site de política de ética em IA que se comprometia a não usar IA para armas e vigilância.

Hassabis acredita que deve haver um acordo internacional sobre os fundamentos de como a IA deve ser utilizada e como garantir que a tecnologia seja usada apenas "para os casos de uso benéficos".

"Obviamente, está parecendo difícil no presente com a geopolítica como está", disse ele. "Mas, sabe, espero que à medida que as coisas melhorem, e conforme a IA se torne mais sofisticada, ficará mais claro para o mundo que isso precisa acontecer."

O CEO da DeepMind também acredita que estamos caminhando para um futuro em que as pessoas usarão "agentes" de IA para executar tarefas em seu nome, uma visão que o Google está perseguindo ao integrar mais IA em sua função de busca e desenvolver óculos inteligentes com IA.

"Às vezes chamamos isso de assistente universal de IA que irá acompanhá-lo em todos os lugares, ajudar em sua vida cotidiana, fazer tarefas istrativas mundanas para você, mas também enriquecer sua vida recomendando coisas incríveis, desde livros e filmes até mesmo amigos para conhecer", disse ele.

Novos modelos de IA estão mostrando progresso em áreas como geração de vídeo e codificação, aumentando os temores de que a tecnologia possa eliminar empregos.

"A IA está começando a ficar melhor que os humanos em quase todas as tarefas intelectuais, e vamos coletivamente, como sociedade, lidar com isso", disse o CEO da Anthropic, Dario Amodei, à CNN logo após dizer à Axios que a IA poderia eliminar empregos de entrada. Em abril, o CEO da Meta, Mark Zuckerberg, disse que espera que a IA escreva metade do código da empresa até 2026.

No entanto, um futuro focado em IA está mais próximo da promessa do que da realidade. A IA ainda é propensa a deficiências como vieses e alucinações, que provocaram alguns incidentes de alto perfil para as empresas que usam a tecnologia. O Chicago Sun-Times e o Philadelphia Inquirer, por exemplo, publicaram no mês ado uma lista de leitura de verão gerada por IA que incluía livros inexistentes.

Embora Hassabis diga que a IA mudará a força de trabalho, ele não acredita que a IA tornará os empregos obsoletos. Como alguns outros no setor de IA, ele acredita que a tecnologia pode resultar em novos tipos de empregos e aumentar a produtividade. Mas também reconheceu que a sociedade provavelmente terá que se adaptar e encontrar alguma forma de "distribuir toda a produtividade adicional que a IA produzirá na economia".

"Haverá uma enorme quantidade de mudança", disse ele. "Geralmente, o que acontece é que novos e até melhores empregos surgem para substituir alguns dos empregos que são substituídos. Veremos se isso acontece desta vez."