Un robot, un laberinto y una IA obediente: el truco del MIT para ponerle límites a la máquina sin tener que reeducarla

¿Cuántas veces le pedimos a la tecnología que haga algo bien y termina haciendo cualquier cosa? Bastantes. Por eso, cuando aparece un método que le pone límites a la inteligencia artificial sin tener que mandarla de nuevo a la escuela, la noticia interesa. ¿Me explico?

Un equipo del Instituto de Tecnología de Massachusetts, más conocido como MIT por su sigla en inglés, presentó HardFlow, un sistema que permite exigir condiciones de seguridad a modelos de inteligencia artificial ya entrenados. ¿Traducción a la vida del pueblo? Imagínense que compran un auto usado, ya viene con motor, y en lugar de desarmarlo para cambiarle el comportamiento, le agregan un módulo externo que lo obliga a no pasar los 60 kilómetros por hora. Eso, más o menos, es HardFlow.

¿Qué hizo el robot cuando le soltaron la correa?

En una de las pruebas, un brazo robótico tenía que llegar hasta un objeto sin chocar con lo que encontrara en el camino. Spoiler: lo logró, y además eligió el recorrido más corto. Las otras técnicas evaluadas terminaron con el robot chocando contra todo o dando vueltas como en el patio de una estancia un domingo a la tarde.

El sistema también fue puesto a prueba en laberintos y en tareas de edición de imágenes a partir de instrucciones escritas. En todos los casos, cumplió las restricciones y, según reportaron los investigadores, obtuvo resultados de mejor calidad que los métodos usados como referencia, con tiempos de procesamiento similares o incluso menores.

¿Y por qué es distinto a lo que ya había?

La técnica anterior más usada, llamada muestreo basado en proyección, intenta encarrilar al modelo en cada pasito del proceso. Es como un jubilado retocando la puntería del nieto cada vez que tira al blanco: tanta corrección termina mareando al que tiene que acertar. HardFlow, en cambio, deja que las etapas intermedias respiren y solo le exige al sistema que el resultado final cumpla las reglas. Las etapas de cálculo intermedio se descartan, como las pruebas internas que hacía el almacenero del pueblo antes de pasarle la mercadería al cliente.

Para que esto fuera viable, el equipo del MIT dividió el problema en pedazos más chicos y usó herramientas de control óptimo, que básicamente van corrigiendo de a poco la trayectoria del modelo hasta llevarlo a una respuesta válida.

La diferencia, entonces, está en el momento en que se aprietan los tornillos. Antes había que andar retocando todo el tiempo. Ahora se aprieta una vez, al final, y listo.

¿Qué significa esto para los que no somos del MIT?

Para nosotros, los mortales, la traducción es simple: si una empresa ya tiene entrenado un modelo de inteligencia artificial y después se da cuenta de que necesita que cumpla ciertas reglas por temas legales, de seguridad o de sentido común, ya no tiene que tirarlo a la basura y empezar de cero. Le enchufa HardFlow y listo. Tiempo, plata y headaches ahorrados.

Falta, claro, que el método se pruebe en escenarios más ruidosos y con modelos más caprichosos. Pero la idea de fondo ya está sobre la mesa y funciona. Mientras tanto, seguimos esperando la fibra.