Altman se acuerda de tenerle miedo a la IA justo cuando la IA ya está en todos lados

¿A quién se le ocurrió que el inventor del juguete tenía que ser el que avise que el juguete es peligroso? Bueno, eso es exactamente lo que pasó esta semana con Sam Altman, el CEO de OpenAI, la empresa detrás de ChatGPT. Es como si el dueño de la fábrica de pirotecnia le pidiera al intendente que le ponga límites a los cohetes. Conociendo al personaje, uno sospecha, pero vamos a darle el beneficio de la duda y escucharlo.

¿De qué tiene miedo el señor Altman?

El propio Altman, CEO de OpenAI, identificó dos escenarios que, según él, son los más riesgosos en el avance de la inteligencia artificial. El primero es el clásico de las películas de ciencia ficción: que la humanidad pierda el control sobre sistemas cada vez más capaces. El segundo, y acá se pone más interesante, es que una persona, una empresa o un país acumule un poder desproporcionado gracias a esa misma tecnología. Vamos por partes, como en el pueblo cuando hay que arreglar la bomba de agua y todos quieren opinar.

“Podríamos perder el control del futuro ante la IA. Esto es inaceptable; estamos, sin disculpas, en el Equipo Humanidad, y la IA debe siempre servir a las personas.”Sam Altman, CEO de OpenAI

¿Y cómo se supone que evitemos el apocalipsis, según el propio CEO?

• Que las técnicas de alineación y seguridad (o sea, los mecanismos para que la IA haga lo que queremos y no lo que se le cante) avancen al mismo ritmo que las capacidades de los modelos, o incluso más rápido.
• Un marco regulatorio federal, que en criollo significa: una ley nacional que valga en todos lados y no veinticuatro reglamentaciones distintas como pasa con tantas cosas en la Argentina.
• La incorporación de auditores independientes, o sea, peritos que no cobren sueldo de la empresa que fabricó el modelo.
• Coordinación internacional entre gobiernos, porque la IA no respeta fronteras. Lo que se entrena en California puede terminar contestándole el teléfono a su tía en Mar del Plata.

Altman también aclaró algo que vale la pena repetir: las empresas no deberían esperar a que salgan las leyes para empezar a aplicarse medidas de seguridad por su cuenta. Es como decirle al pibe que no cruce la calle hasta que venga el semáforo, cuando el semáforo viene mal desde hace tres barrios. Y agregó una perlita en medio de la pulseada geopolítica con China: ninguna cantidad de presión competitiva estadounidense debería justificar la imprudencia. Dicho en otras palabras: no nos mandemos ninguna macana por ganarle al rival.

¿Y a mí qué, Matías?

Yo, como usuario de a pie que cada día le pide más cosas a ChatGPT, miro todo esto con una mezcla de alivio y desconfianza. Alivio porque alguien con poder de decisión reconoce que el problema existe. Desconfianza porque ese alguien es, justamente, el que más se beneficia hoy con el avance sin frenos. Altman pide regulación, pero al mismo tiempo su empresa corre a toda máquina. Es como el almacenero del pueblo que pide que pongan semáforos en la ruta, pero sigue cruzando con el camión a cien kilómetros por hora para llegar primero a abrir la persiana.

La pregunta que me queda dando vueltas es si estos avisos llegan tarde, llegan justo a tiempo, o si son, en realidad, la forma más elegante de pedir que regulen a la competencia y no a uno. Mientras tanto, seguimos esperando la fibra.