La IA de Meta se mandó una: le preguntó a una madre quién era su hijo que aparecía en un video

¿Puede un chatbot preguntarte quién es tu propio hijo cuando subís un video con él? Sí, le pasó a una usuaria de Instagram y Meta tuvo que salir a dar explicaciones. Te cuento el caso, porque toca un punto sensible: hasta dónde pueden llegar las herramientas de inteligencia artificial con la información que ya tenés publicada en tus redes.

Todo arrancó con un video aparentemente inocente: una mujer cantando en un auto con su hijo. Debajo de la publicación, el asistente de IA de Meta, integrado en Instagram y Facebook, le sugirió automáticamente la pregunta "¿Quién es el niño pasajero?". Hasta ahí podría sonar como una ayuda para entender el contexto. El problema fue lo que pasó cuando la usuaria seleccionó esa sugerencia.

El chatbot empezó a tirar datos sobre sus hijas: la edad, el lugar donde vive la familia e incluso fotografías que ella había subido tiempo atrás, incluyendo una que aseguró haber eliminado hace años. Según su relato, la herramienta cruzó información de sus propias publicaciones con las de otros familiares para armar esas respuestas. No estamos hablando de un comentario sobre el video: estamos hablando de la IA reconstruyendo la vida privada de alguien a partir de lo que esa persona ya tiene visible en la plataforma.

Qué dijo Meta y qué cambió

Dina El-Kassaby, portavoz de Meta, reconoció que la empresa "se equivocó" y que la función "nunca debería haber sugerido ese tipo de preguntas al usuario". La compañía aclaró un punto clave: el sistema no accedió a contenido privado ni a datos a los que la usuaria no pudiera ver. El problema no fue que la IA entrara a robar información, sino cómo interpretó y relacionó lo que ya estaba disponible para producir sugerencias invasivas.

Dicho de otra manera: es como si alguien entra a tu casa abierta y, en vez de mirar y callarse, empieza a hacer preguntas incómodas sobre tu familia. No entró a robar, pero tampoco actuó con el cuidado que esperaba. Meta aseguró que ya corrigió el comportamiento que generaba ese tipo de recomendaciones y que trabaja para que las sugerencias sigan siendo útiles al explorar publicaciones, sin meterse con la vida privada ni el entorno familiar de las personas.

Por qué este caso importa más allá del error puntual

• No es el primer papelón de Meta con IA: en julio pasado retiró una función que permitía crear imágenes falsas de otros usuarios de Instagram tras recibir críticas parecidas.
• El episodio reaviva la pregunta de fondo: ¿qué límites deben tener los asistentes de inteligencia artificial cuando procesan información personal, aun cuando esa información sea pública?
• La función fue pensada para ayudar a entender mejor lo que ves en la plataforma, pero el error fue aplicarla sobre datos familiares sin los filtros necesarios.

“La función nunca debería haber sugerido ese tipo de preguntas al usuario.”Dina El-Kassaby, portavoz de Meta

La moraleja, en criollo, es que la IA puede ser muy buena para resumir, explicar o sugerir, pero cuando se mete con tu familia, tus hijos o tu casa, el costo de un error es mucho más alto que un dato mal interpretado. Meta lo sabe, lo reconoció y dice haberlo arreglado. Ahora falta ver si efectivamente la herramienta deja de hacer estas preguntas invasivas o si volvemos a hablar del tema en unos meses. Si te sirve, probalo: la próxima vez que veas una sugerencia rara del asistente en Instagram o Facebook, pensá dos veces antes de seleccionarla, sobre todo si involucra a menores.