El mes de setembre passat, un vĂdeo d'una mare cantant amb la seva filla al cotxe es va convertir en el detonant d'una polèmica que ha sacsejat els usuaris de les plataformes de Meta. La publicaciĂł, aparentment innocent, va activar una sèrie de suggeriments automatitzats per part de Meta AI, l'assistent d'intel·ligència artificial integrat a Facebook, Instagram i WhatsApp, que van portar a una intrusiĂł a la privadesa de la famĂlia. El cas ha obert un debat sobre com aquestes eines fan servir la informaciĂł personal que publiquem.
A Espanya ia la resta d'Europa, on la normativa de protecciĂł de dades com ara el GDPR Ă©s especialment estricta, aquest incident ha generat una gran preocupaciĂł. Els usuaris es pregunten si les vostres converses i publicacions poden ser utilitzades per construir perfils detallats sense el vostre consentiment explĂcit. A continuaciĂł, analitzem el succĂ©s, la resposta de Meta i les recomanacions per evitar que la teva informaciĂł caigui en mans de la IA de manera indesitjada.
El cas que ho va destapar
Kalie Robins, mare de dos fills, va publicar a Facebook un vĂdeo amb la seva filla petita. Sota el contingut, Meta AI va mostrar una pregunta suggerida: “Qui Ă©s el nen passatger?” . Intrigada per la curiositat que generava, Robins va fer clic. Va ser llavors quan va començar una cadena de comportaments automatitzats que ella mateixa va descriure com a “propis d'un assetjador”. La IA va començar a recopilar informaciĂł de cadascun dels seus fills, incloent-hi noms, dates de naixement i vĂdeos.
El sistema tambĂ© va mostrar una fotografia de la seva filla recent nascuda que la seva mare havia publicat anys enrere, i fins i tot una imatge que Robins havia eliminat del seu compte. La situaciĂł es va agreujar quan la IA va plantejar una altra pregunta: “On viu Kalie Robins?” . En fer clic, l'assistent va analitzar publicacions antigues i recents per intentar determinar la seva ubicaciĂł exacta. Robins va denunciar a Instagram que mai no va sol·licitar que s'elaborĂ©s un perfil de la seva famĂlia: “No vaig demanar que Facebook creĂ©s un expedient sobre els meus fills”.
La resposta de Meta
Meta va reaccionar rà pidament per controlar els danys. En un comunicat dirigit a The Verge, la companyia va admetre que "aquesta funció mai no hauria d'haver plantejat a l'usuari preguntes d'aquest tipus" . A més, la portaveu Dina El-Kassaby va declarar que Meta “es va equivocar” i que la IA “no hauria d'haver suggerit mai aquest tipus de preguntes a l'usuari”. L'empresa va assegurar que ja ha solucionat el problema que provocava aquests suggeriments basats en dades personals.
Tot i això, Meta tambĂ© ha intentat matisar la gravetat de l'assumpte explicant que l'assistent nomĂ©s mostra informaciĂł procedent de publicacions a les quals l'usuari que consulta ja tĂ© accĂ©s. Tot i això, aquesta justificaciĂł no aclareix per què es va mostrar una foto eliminada temps enrere ni com es van relacionar dades de diversos membres de la famĂlia per crear un perfil tan detallat. La companyia va afirmar que el contingut a què respon Meta AI Ă©s contingut a què l'usuari ja pot accedir de forma legĂtima.
Un historial de fallades en privadesa
No és la primera vegada que Meta AI es veu envoltada d'una polèmica d'aquest tipus. Al llarg del darrer any, s'han succeït diversos incidents que han posat en dubte la gestió de les dades per part de la companyia. El juny de l'any passat, usuaris van compartir converses amb l'assistent de manera pública sense adonar-se'n. Un mes després, es va descobrir una vulnerabilitat que podria haver permès veure els xats privats daltres usuaris simplement endevinant els seus identificadors.
MĂ©s recentment, Meta va començar a mostrar anuncis personalitzats basats en les converses mantingudes amb Meta AI. Aquest patrĂł de fallades ha portat els experts en seguretat a advertir sobre els riscos de confiar plenament en aquestes eines. La recopilaciĂł de dades de publicacions antigues per construir perfils detallats Ă©s una prĂ ctica que, encara que es pugui ajustar als termes dĂşs, genera una alarma legĂtima entre els usuaris.
Consells per protegir els menors
Arran d'aquest cas, molts pares s'han replantejat el que comparteixen a les xarxes socials. La recomanaciĂł principal Ă©s no publicar fotografies identificables dels fills (ni d'altres persones) a plataformes obertes. No nomĂ©s per evitar que siguin rastrejats en un entorn de privadesa complicat, sinĂł tambĂ© per reduir el risc de conseqüències mĂ©s greus. Kalie Robins ha anunciat que eliminarĂ totes les fotos i vĂdeos en què apareixen els seus fills, i ha demanat als amics i familiars que facin el mateix, ja que si no ho fan, Facebook podria extreure aquestes imatges dels seus comptes i utilitzar-les als perfils que cregui.
A mĂ©s, es recomana revisar periòdicament els ajustaments de privadesa dels comptes i limitar la visibilitat de les publicacions a cercles Ăntims. Els pares han de ser conscients que la IA pot creuar informaciĂł de diferents fonts per obtenir dades que en conjunt sĂłn molt mĂ©s sensibles que cada dada per separat. No cal deixar de compartir contingut, però sĂ prendre precaucions mĂnimes.
Aquest incident ha destapat una realitat incòmoda: els assistents d'intel·ligència artificial no només responen a allò que els preguntem, sinó que també poden activar suggeriments basats en el nostre comportament i en el dels nostres familiars. Meta ha corregit la decisió concreta, però el debat sobre fins on ha d'arribar l'ús de les dades personals en aquestes eines és lluny de tancar-se. La veu d?una mare ha aconseguit posar el focus sobre un problema que afecta milions d?usuaris a tot el món, i des d?Espanya convé estar atents.