Un paso más para que la inteligencia artificial respete reglas sin perder eficiencia

Quien haya seguido los anuncios sobre inteligencia artificial de los últimos años recordará más de una promesa de sistemas que iban a "respetar las normas" y a "ser más seguros por diseño". La mayoría de esos anuncios quedaron en el papel o en la página de un paper. Lo que acaba de presentar un equipo del Instituto de Tecnología de Massachusetts (MIT) tiene, al menos, la virtud de mostrar un resultado concreto: un brazo robótico que sortea obstáculos y encuentra el camino más corto hacia un objeto sin chocar contra nada. El sistema, bautizado HardFlow, fue evaluado también en laberintos y en edición de imágenes a partir de instrucciones escritas, y cumplió con todas las restricciones impuestas en cada prueba.

El dato importa porque ataca un problema central de los modelos generativos actuales: cómo obligarlos a respetar condiciones duras, por ejemplo no atravesar una pared o no modificar una zona de una imagen, sin que el cumplimiento de esa regla arruine la calidad del resultado. En el ensayo con el brazo robótico, la mayoría de las alternativas evaluadas o bien provocaron colisiones o eligieron recorridos mucho más largos. HardFlow, en cambio, mantuvo la condición de seguridad y, al mismo tiempo, eligió la trayectoria más eficiente entre las permitidas.

La diferencia está en cuándo se exige el cumplimiento

La técnica más usada hasta ahora, conocida como muestreo basado en proyección, aplica las restricciones en cada paso intermedio de la generación. Ese ajuste permanente, explican los investigadores, puede reducir el espacio de búsqueda y empujar al sistema a quedarse con soluciones mediocres, siempre válidas, pero lejanas de la mejor respuesta posible. HardFlow hace lo contrario: deja mayor libertad durante los pasos internos del cálculo y exige que el resultado final respete las condiciones. Para eso, el equipo recurrió a herramientas de control óptimo, que corrigen de manera gradual la generación hasta llevarla a una respuesta válida, sin penalizar de antemano cada intento.

Digámoslo claro: la diferencia no es un detalle técnico menor. En la práctica, significa que se puede tomar un modelo ya entrenado, por ejemplo un generador de trayectorias o de imágenes, y agregarle una capa de cumplimiento normativo sin volver a entrenarlo desde cero ni resignar calidad. El método aprovecha la estructura de los modelos de emparejamiento de flujo y descompone el cálculo en problemas más chicos, lo que hace viable esa verificación al final del proceso en lugar de paso a paso.

Qué se probó y qué resultados se obtuvieron

• Manipulación con un brazo robótico: el equipo le planteó llegar hasta un objeto esquivando obstáculos. HardFlow eligió la trayectoria más corta entre las que no generaban colisiones, mientras que la mayoría de los métodos de referencia o chocaban o tomaban rutas sensiblemente más largas.
• Recorridos por laberintos: el algoritmo debió encontrar caminos válidos dentro de distintas configuraciones. Cumplió las restricciones de la prueba y superó en calidad de solución a las alternativas comparadas.
• Edición de imágenes a partir de instrucciones escritas: se le pidió modificar regiones específicas sin alterar el resto. El sistema respetó las zonas protegidas y obtuvo mejores resultados que los métodos usados como referencia.
• Tiempo de procesamiento: en el conjunto de ensayos, fue similar o menor al de la mayoría de las técnicas con las que se lo comparó.

El trabajo fue reportado por el propio equipo del MIT y no pasó todavía por revisión de pares. Aún así, los números que presentaron son los que son: restricciones cumplidas en todos los casos evaluados y calidad de las soluciones consistentemente superior a la de los métodos tomados como referencia. Para quienes gestionan sistemas automatizados en la industria, la salud o la administración pública, eso se traduce en una posibilidad concreta: sumar una capa de seguridad a modelos generativos ya en uso, sin tener que gastar en reentrenamientos costosos ni resignar el rendimiento.

Lo que debería hacer la gestión de cualquier organismo que use inteligencia artificial es tomar nota de este tipo de avances y dejar de conformarse con hojas de ruta declamativas. Si existe una herramienta que permite exigir condiciones de cumplimiento sin perder calidad, la pregunta que cualquier intendente, gobernador o responsable de compras tecnológicas debería hacerse es por qué sus licitaciones siguen aceptando sistemas que se entrenan una vez y después nadie sabe si respetan las reglas. La transparencia, en estos casos, no se declama: se mide.