Arranquemos por la jugada que definió el partido: una piba subió un video a Instagram cantando con su hijo en el auto y, abajo, el chatbot de Meta le soltó una pregunta que la dejó helada. ¿Quién es el niño pasajero?, decía el texto sugerido por la inteligencia artificial de la red social.

Hasta ahí parecía una pavada. Pero cuando la usuaria apretó el botón y le dio curso a la pregunta, el sistema fue por más: empezó a escupir datos sobre las hijas de ella, con edad y con el barrio donde vive la familia. Como si nada. Como si fuera parte del paquete.

Lo que dijo la empresa

Dina El-Kassaby, la portavoz de Meta, salió a poner la cara y reconoció que se equivocaron. La empresa, dueña de Facebook, Instagram y WhatsApp, explicó que el asistente nunca debería haber sugerido ese tipo de preguntas y anunció cambios para que la herramienta no vuelva a cruzar información disponible con consultas de carácter íntimo.

“La función nunca debería haber sugerido ese tipo de preguntas al usuario.”Dina El-Kassaby, portavoz de Meta

Qué datos usó la IA y por qué la cosa se complicó

• El chatbot habría usado publicaciones propias de la usuaria, sumadas a contenidos de familiares, para armar las sugerencias.
• La mujer contó que el sistema le mostró fotos de sus hijas ya publicadas, e incluso una imagen que ella aseguraba haber borrado hace años.
• Meta aclaró que la IA no accede a contenido privado ajeno al usuario, pero reconoció que el problema estuvo en cómo interpretó y relacionó lo que sí estaba a la vista.
• Según la compañía, la función está pensada para dar contexto sobre lo que uno ve en la plataforma; el error fue aplicarla sin filtro sobre datos personales y familiares.

No es la primera vez que Meta queda en offside con sus herramientas de inteligencia artificial. En julio pasado tuvo que retirar una función que permitía generar imágenes falsas de otros usuarios de Instagram tras una lluvia de críticas por el mismo tipo de cosas: tecnología que se pasa de rosca y termina avasallando a la gente.

El caso vuelve a poner sobre la mesa un debate que no tiene respuesta fácil: hasta dónde puede meterse una IA cuando empieza a masticar información personal, incluso cuando esa información está publicada por el propio usuario. La frontera entre lo útil y lo invasivo, en este partido, todavía está muy poco clara.