Hinton, el padre del aprendizaje profundo, eleva la alarma: hasta un 20 % de chances de que una superinteligencia extinga a la humanidad antes de 2055

Geoffrey Hinton, el investigador británico-canadiense de 78 años al que la comunidad científica reconoce como uno de los padres del aprendizaje profundo (la técnica que permite a las computadoras aprender a partir de grandes volúmenes de datos), volvió a instalar en la agenda pública el debate sobre los riesgos existenciales de la inteligencia artificial. El científico, que renunció a su cargo en Google en 2023 para poder expresarse sin ataduras corporativas, difundió en las últimas horas una estimación que oscila entre el 10 % y el 20 % de probabilidades de que una inteligencia artificial superior a la humana provoque la extinción de la especie dentro de un horizonte de treinta años.

El rango, según explicó el propio Hinton, refleja la velocidad con la que avanzan los modelos y la dificultad de calibrar un fenómeno sin precedentes. La humanidad, argumentó, nunca se enfrentó a entidades más inteligentes que ella misma, y esa asimetría constituye, a su entender, el principal punto ciego del momento.

Modelos que comprenden, no sólo calculan

Uno de los puntos centrales de su planteo es la naturaleza de los grandes modelos de lenguaje, es decir, los sistemas entrenados con enormes corpus de texto que sostienen asistentes como los chatbots. Para Hinton, estas herramientas ya dejaron de limitarse a detectar correlaciones estadísticas en los datos: en su lectura, comprenden efectivamente los conceptos semánticos y abstractos que procesan. Esa distinción, sostuvo, cambia la categoría del riesgo porque implica que las máquinas pueden formar representaciones internas del mundo, un paso cualitativo que modifica el debate sobre el control.

“Sin un volante que oriente la innovación, más velocidad equivale a más peligro. La regulación gubernamental es ese volante.”Geoffrey Hinton, investigador y Nobel de Física 2024

El reclamo de regulación y los límites del mercado

Hinton rechazó de plano la idea de que la autorregulación del mercado alcance para contener una tecnología de esta escala. Frente a quienes argumentan que imponer límites pone en desventaja a determinados países frente a competidores internacionales, el científico respondió que la competencia geopolítica no puede ser razón suficiente para postergar marcos legales globales. Para graficar el problema, recurrió a una metáfora: la innovación tecnológica se parece al acelerador de un automóvil; sin volante, más velocidad equivale a más peligro.

• Regulación estatal con dientes: el científico reclama que los gobiernos fijen reglas obligatorias y auditables, en línea con las recomendaciones del reporte que firmó para el gobierno británico.
• Leyes globales y coordinación internacional: Hinton entiende que la magnitud del riesgo exige acuerdos entre bloques, similares a los tratados de no proliferación nuclear.
• Investigación sobre seguridad: el padre del aprendizaje profundo demanda que una parte significativa del presupuesto de desarrollo se destine a estudiar cómo mantener sistemas avanzados bajo control humano.
• Transparencia y rendición de cuentas: el planteo incluye obligaciones de divulgación para los laboratorios que entrenan modelos de frontera, con el fin de que los reguladores tengan información verificable.
• Capacitación ética previa al despliegue: el investigador propone que los sistemas sean entrenados con valores humanos antes de alcanzar capacidades de autopreservación.

Una ventana que se achica

El cierre del planteo de Hinton tiene tono de advertencia temporal. La humanidad todavía puede definir la orientación ética de los sistemas que está construyendo, pero ese margen se reduce a medida que los modelos ganan capacidad de forma autónoma. En su esquema, postergar la regulación equivale a manejar un vehículo sin volante en una pendiente cada vez más pronunciada: la probabilidad de accidente no es certeza, pero la física del problema indica que crece con cada año sin reglas globales.