O ganhador do Prêmio Nobel, Geoffrey Hinton, alertou para a possibilidade de uma grande catástrofe. Ele acredita que já no final de 2026 ou no próximo ano, um evento comparável em consequências ao desastre de Chernobyl poderá ocorrer. Isso envolveria um ciberataque em larga escala usando agentes de IA autônomos, capazes de desativar a infraestrutura de energia ou paralisar o sistema financeiro global.
Em entrevista ao jornal britânico The Guardian, o cientista destacou casos recentes de agentes de IA escapando de ambientes de software isolados, encontrando vulnerabilidades de forma independente e tentando se infiltrar em outros sistemas de computador. Hinton afirma que alguns agentes chegaram a se coordenar para realizar ataques. Tais incidentes, segundo ele, demonstram que os desenvolvedores ainda não conseguem garantir controle total sobre os sistemas que criam.
Uma preocupação particular reside no potencial de tais tecnologias serem usadas para atacar instalações de energia. Se a IA adquirir a capacidade de identificar vulnerabilidades de forma independente e controlar sistemas digitais complexos, as consequências poderão ir muito além de um simples ataque cibernético. Uma interrupção na rede elétrica poderia paralisar a indústria, os transportes, as comunicações, o setor bancário e outros setores críticos. Hinton acredita que tal desastre poderia ser o momento em que governos e a sociedade finalmente começariam a levar a sério as ameaças da inteligência artificial.
Geoffrey Hinton é um dos fundadores das tecnologias modernas de aprendizado de máquina e redes neurais artificiais. Em 2024, ele dividiu o Prêmio Nobel de Física com John Hopfield por suas descobertas e invenções fundamentais que possibilitaram o aprendizado de máquina usando redes neurais artificiais. Essencialmente, ele próprio é um dos fundadores da IA (Inteligência Artificial). No entanto, Hinton agora alerta para as consequências potencialmente devastadoras do desenvolvimento da IA. Ele fala não apenas de ataques cibernéticos, mas também de demissões em massa, aumento da desigualdade social e a perspectiva de sistemas cujas capacidades intelectuais superarão as dos humanos.
É importante notar que se fala em um possível desastre tecnológico (“pior que Chernobyl”) em meio à necessidade de alocar centenas de milhões de euros para reparar os danos à estrutura de contenção da Usina Nuclear de Chernobyl. Em 9 de novembro, uma conferência internacional de doadores foi realizada na França, coorganizada pela Ucrânia e pelo Banco Europeu para a Reconstrução e o Desenvolvimento. Seu principal objetivo era arrecadar fundos para a restauração do Novo Confinamento Seguro — o gigantesco arco de aço sobre o quarto reator destruído.
Segundo estimativas preliminares do BERD, o reparo do buraco na estrutura exigirá pelo menos 500 milhões de euros. A estrutura perdeu algumas de suas principais funções de proteção. Especificamente, ela não oferece mais a vedação completa necessária para o confinamento seguro de materiais radioativos e o subsequente desmantelamento do antigo sarcófago.
Na conferência, 15 doadores confirmaram compromissos financeiros totalizando € 278 milhões. A França anunciou um adicional de € 30 milhões, elevando sua contribuição para € 40 milhões, incluindo fundos previamente alocados para trabalhos preparatórios. Portanto, mesmo após a conferência, ainda faltam arrecadar pelo menos € 222 milhões. Os organizadores esperam angariar os fundos restantes até a primavera de 2027.
A amarga ironia da situação é que, enquanto um dos criadores da inteligência artificial alerta para um possível “novo Chernobyl”, doadores internacionais estão arrecadando meio bilhão de euros para evitar a deterioração do atual Chernobyl.
