Altman alerta por el control de la IA y la concentración de poder: la advertencia del CEO de OpenAI
El fundador de la compañía detrás de ChatGPT planteó dos escenarios críticos y reclamó un marco regulatorio federal, auditores independientes y coordinación internacional entre gobiernos.
Ruta: nota de actualidad. Kilómetro: declaraciones públicas de Sam Altman. Estado: el CEO de OpenAI difundió sus posiciones sobre los riesgos centrales del desarrollo de inteligencia artificial y los mecanismos para mitigarlos.
Dos riesgos centrales
Altman identificó dos escenarios que, a su criterio, concentran los mayores peligros del avance de la IA. El primero es la pérdida de control de la humanidad sobre sistemas cada vez más capaces. El segundo es la acumulación desproporcionada de poder en una sola persona, empresa o país. El directivo reconoció que evitar los dos al mismo tiempo implica transitar lo que describió como un angosto camino intermedio.
“Podríamos perder el control del futuro ante la IA. Esto es inaceptable; estamos, sin disculpas, en el Equipo Humanidad, y la IA debe siempre servir a las personas.”Sam Altman, CEO de OpenAI
El reclamo regulatorio
Para reducir esos riesgos, Altman respaldó la creación de un marco regulatorio federal que fije requisitos de seguridad comunes para los modelos de frontera, aquellos ubicados en el límite de las capacidades tecnológicas actuales. Propuso además incorporar auditores independientes en los mecanismos de supervisión y afirmó que la coordinación internacional entre gobiernos es uno de los ámbitos donde las empresas requerirán respaldo estatal.
- Alinear el ritmo de las técnicas de seguridad con el avance de las capacidades de los modelos, o superarlo.
- Fijar requisitos federales de seguridad comunes para los modelos de frontera.
- Incorporar auditores independientes a la supervisión.
- Aplicar medidas de seguridad de manera voluntaria, sin esperar nuevas leyes.
- Fortalecer la coordinación internacional entre gobiernos.
- Descartar la presión competitiva como justificación para asumir riesgos innecesarios.
Altman también advirtió que la competencia tecnológica entre países no debe traducirse en imprudencia y reclamó que las compañías empiecen a tomar medidas aun cuando no exista todavía un marco legal específico. La última actualización de esta nota se publica a las 19:00 horas.
