El “padrino de la IA” que renunció a Google advierte: “Hay 20% de probabilidades de que nos extingamos”

Un 20 % de probabilidad de extinción humana. Esa es la estimación que Geoffrey Hinton, el reconocido “padrino de la inteligencia artificial”, lanza sobre el futuro de la humanidad ante el avance imparable de la IA.

Ganador del Premio Turing y figura central en el desarrollo de las redes neuronales, ha pasado de ser uno de los arquitectos de la revolución tecnológica a convertirse en uno de sus críticos más severos. En una entrevista reciente en el pódcast de Steven Bartlett “The Diary Of A CEO”, el “padrino de la IA” advierte que la humanidad podría haber perdido el control sobre la inteligencia artificial y urge a gobiernos y sociedad a actuar con rapidez para evitar consecuencias catastróficas.

La voz de alarma del ex investigador de Google no es una simple especulación: se basa en décadas de experiencia y en una visión privilegiada de los riesgos que se avecinan.

Del Nobel de la computación al profeta del apocalipsis: quién es Geoffrey Hinton

Geoffrey Hinton es una de las figuras más influyentes en la historia de la inteligencia artificial. Su trabajo pionero en redes neuronales y aprendizaje profundo sentó las bases de los sistemas que hoy impulsan, desde asistentes virtuales hasta diagnósticos médicos automatizados. Hinton recibió el Premio Turing en 2018, considerado el Nobel de la computación, y su trayectoria abarca más de medio siglo de investigación.

Durante diez años, trabajó en Google tras la adquisición de la tecnología desarrollada por su equipo, donde contribuyó a avances clave en el campo. Fue uno de los pocos que defendió la idea de modelar la inteligencia artificial a partir del cerebro humano, una visión que en sus inicios fue minoritaria. “Puse en práctica ese enfoque durante 50 años”, explicó, y gracias a ello atrajo a estudiantes brillantes, algunos de los cuales, como Ilya Sutskever, desempeñaron papeles fundamentales en la creación de plataformas como OpenAI.

Por qué el ‘padrino de la IA’ renunció a Google para advertir sobre el fin del mundo

En 2023, Hinton decidió abandonar Google. El motivo principal, según explicó al medio, fue la necesidad de poder hablar con libertad sobre los peligros de la inteligencia artificial. “Quería advertir sobre lo peligrosa que puede ser la IA”, afirmó. Aunque Google le ofreció continuar trabajando en seguridad de la IA, Hinton consideró que, al formar parte de una gran empresa, se sentía limitado para expresar opiniones que pudieran perjudicar a la compañía. “Uno se autocensura”, reconoció.

La salida del investigador marcó un punto de inflexión en su carrera: de arquitecto de la IA pasó a ser uno de sus críticos más visibles. “Mi principal misión ahora es advertir sobre lo peligrosa que puede ser la IA”, declaró en la entrevista.

Esta transición estuvo motivada por la constatación de que los sistemas de IA estaban alcanzando capacidades que superan a las humanas en muchos ámbitos y que los riesgos asociados ya no podían ser ignorados.

Un 20 % de probabilidades de extinción: la escalofriante predicción de Hinton

Uno de los aspectos más inquietantes de la advertencia de Hinton es la posibilidad real de que la inteligencia artificial supere a la inteligencia humana y decida prescindir de nosotros. “Hay un 10 a un 20 % de probabilidad de que la IA nos extinga”, estimó Hinton, aclarando que se trata de una valoración personal basada en su experiencia y en la incertidumbre inherente a un fenómeno sin precedentes.

Hinton distingue entre dos tipos de riesgos: los derivados del mal uso de la IA por parte de personas y los que surgen de la propia autonomía de sistemas superinteligentes. “Nunca hemos tenido que enfrentarnos a algo más inteligente que nosotros”, advirtió.

Para ilustrar la magnitud del desafío, Hinton recurrió a una analogía: “Si quieres saber cómo es la vida cuando no eres la inteligencia dominante, pregúntale a una gallina”.

Ciberataques, virus letales y armas autónomas: las 6 amenazas que nos extinguirán

Durante la entrevista, el científico enumeró seis amenazas mortales que, a su juicio, plantea la inteligencia artificial en la actualidad:

1. Ciberataques: Hinton alertó sobre el aumento exponencial de los ciberataques facilitados por la IA, que entre 2023 y 2024 crecieron un 1.200 %. Los sistemas de IA permiten realizar ataques de suplantación de identidad (phishing) con una sofisticación inédita, incluyendo la clonación de voces e imágenes. “Ya es fácil para la IA analizar millones de líneas de código en busca de vulnerabilidades”, explicó.

2. Creación de virus: la IA puede ser utilizada para diseñar nuevos virus biológicos de forma barata y sin necesidad de grandes conocimientos en biología molecular. “Solo hace falta una persona con ciertos conocimientos y una motivación destructiva”, advirtió Hinton, quien señaló que incluso pequeños grupos podrían desarrollar patógenos peligrosos.

3. Manipulación electoral: el uso de IA para recopilar datos personales y dirigir mensajes políticos personalizados representa una amenaza para la integridad de los procesos democráticos. Hinton expresó su preocupación por la acumulación de datos por parte de grandes plataformas y la posibilidad de manipular a los votantes de manera masiva.

4. Polarización social: los algoritmos de recomendación de redes sociales, diseñados para maximizar la interacción, tienden a mostrar contenidos cada vez más extremos, lo que refuerza los sesgos y divide a la sociedad. “Ya no tenemos una realidad compartida”, lamentó el “padrino de la IA”, quien subrayó el papel de la IA en la creación de cámaras de eco.

5. Armas autónomas letales: Hinton alertó sobre el desarrollo de armas que pueden tomar decisiones de vida o muerte sin intervención humana. “Los grandes países podrán invadir a los pequeños sin temor a bajas propias, lo que reducirá la resistencia social a la guerra”, explicó.

6. Desempleo masivo: la automatización impulsada por la IA amenaza con eliminar millones de empleos, especialmente en tareas intelectuales rutinarias. Hinton comparó este fenómeno con la revolución industrial, pero advirtió que, a diferencia de entonces, la IA podría reemplazar incluso trabajos creativos y especializados.