La IA de Meta se metió donde no la llamaron: le preguntó a una madre quién era su hijo

¿Puede una inteligencia artificial ser más metida que la tía del pueblo que se entera de todo antes que vos? Sí, y con menos pudor. Meta acaba de admitir que su chatbot, ese que vive pegado a Instagram y Facebook como un loro digital, se mandó una macana de las grandes: le sugirió a una usuaria preguntas íntimas sobre sus hijas a partir de un simple video familiar.

¿Qué pasó exactamente?

Todo arrancó con una escena de lo más cotidiana: una mujer subió a Instagram un video cantando con su hijo adentro del auto. Hasta ahí, nada raro. Pero debajo del posteo apareció la sugerencia automática del chatbot: quién es el niño pasajero. Al aceptarla, el asistente empezó a escupir datos sobre las hijas de la usuaria: edad, lugar donde vive la familia y hasta fotografías que ella asegura haber eliminado hace años.

La explicación técnica de Meta es clave: la herramienta no entró a ningún cajón privado con candado. Lo que hizo fue tomar lo que ya estaba a la vista: publicaciones de la propia cuenta y de familiares cruzados en la plataforma. Después armó un collage automático de información personal y lo ofreció como si fuera una sugerencia útil. Spoiler: no lo era.

“Nos equivocamos. La función nunca debería haber sugerido ese tipo de preguntas al usuario.”Dina El-Kassaby, portavoz de Meta

¿Es la primera vez que Meta la liga con su IA?

No. En julio pasado, la empresa tuvo que dar marcha atrás con una función que permitía crear imágenes falsas de otros usuarios de Instagram, después de que las críticas llovieran más que en un domingo de patio de tortas. Es decir, el historial reciente muestra un patrón: lanzan, se mandan una, piden disculpas, corrigen y siguen.

• El asistente solo usa información que el usuario ya puede ver en la plataforma, según Meta.
• El problema no fue el acceso a datos, sino la interpretación que hizo la IA de lo que vio.
• La empresa asegura que ya corrigió el comportamiento que generaba esas sugerencias.
• La discusión de fondo vuelve a la mesa: hasta dónde puede llegar una IA cuando procesa vida privada de menores.

¿Y ahora qué?

Meta dice que ajustó el sistema para que las sugerencias sirvan para explorar publicaciones sin terminar preguntándote dónde viven los hijos del que subió el video. Habrá que ver si el parche funciona o si la próxima metida de pata vuelve a aparecer en el feed. Mientras tanto, seguimos esperando la fibra.