La intel·ligència artificial viu i respira dades . Cada interacció amb un assistent de IA, un xatbot o una extensió per al navegador alimenta models que aprenen del nostre comportament. Aquesta “fam” d'informació fa que aquestes eines siguin tan útils per resumir textos, respondre correus o ajudar a la feina, però també obre la porta a riscos seriosos per a la privadesa, la seguretat i fins i tot per a la manipulació comercial o geopolítica.
Avui, els assistents d'IA tenen accés a racons de la nostra vida digital que abans estaven fora del radar : historials de navegació , formularis amb dades bancàries o de salut, converses de missatgeria privada, documents laborals, fotos i fins i tot llistes de contactes del mòbil. Mentre les grans tecnològiques busquen la manera de seguir entrenant models potents malgrat les restriccions de dades, els usuaris ens movem en un terreny complex on el consentiment sol ser poc clar, amb polítiques de privadesa llargues, ambigües i canviants.
Per què els assistents d'IA necessiten tantes dades i què implica per a la teva privadesa
Els agents d'IA i chatbots no són només “programes que contesten” : són sistemes que prenen decisions, recomanen, prioritzen contingut i, cada cop més, actuen en nom nostre (comprar, reservar, gestionar agenda, respondre correus, etc.). Per ser eficaços necessiten un context molt ric sobre qui ets, què fas i què t'interessa, cosa que els empeny a recopilar dades personals de manera massiva.
Investigacions recents han demostrat que molts assistents de navegador amb IA accedeixen a informació extremadament sensible . En proves realitzades amb extensions populars , els investigadors van comprovar que alguns complements enviaven als seus servidors el contingut complet de les pàgines visitades, incloent-hi formularis amb dades bancàries, informació sanitària o qualsevol dada visible a la pantalla, a més de l'adreça IP i metadades que permeten inferir edat, sexe, nivell d'ingressos o interessos.
El risc no és només que sàpiguen molt de tu, sinó el que hi poden fer . Experts en ciberseguretat adverteixen de possibles escenaris de manipulació comercial (recomanacions esbiaixades en funció del teu perfil), discriminació o exclusió (per exemple, limitar ofertes o serveis a certs col·lectius), extorsió si les dades acaben filtrats, i fins i tot suplantació d'identitat si es combinen diferents fonts d'informació.
El gran problema de fons és l'opacitat : molts usuaris són conscients que un cercador o una xarxa social recopilen dades per a publicitat, però no imaginen que un assistent integrat al navegador pugui monitoritzar bona part de la seva activitat en línia. En molts casos, aquesta captura es fa sense un consentiment veritablement informat i, de vegades, als límits de la normativa de protecció de dades o directament en contradicció amb les condicions d'ús de l'empresa, que molts accepten sense llegir.
Quines dades recopilen els assistents d'IA i quines diferències hi ha entre plataformes
Les dades que recullen els assistents d'IA comprenen des d'informació bàsica fins a detalls íntims . Entre els tipus de dades més habituals s'inclouen informació de contacte (nom, correu, telèfon), ubicació precisa o aproximada, identificadors del dispositiu, historial d'ús, contingut de les converses, fitxers pujats, dades de compra i, en alguns casos, l' agenda de contactes de l'usuari.
Estudis comparatius situen alguns assistents com especialment “tràgons” . En l'àmbit dels chatbots conversacionals, s'ha assenyalat que determinades solucions poden arribar a recopilar més de vint tipus de dades diferents per usuari, repartits en nombroses categories: contacte, localització, contingut que escrius o puges, historial d'activitat, identificadors únics, informació de diagnòstic, patrons d'ús, compres realitzades i fins i tot la llista de contactes del telèfon, gairebé cap altre xat.
A l'extrem oposat hi ha assistents més mesurats , que només registren un grapat d'atributs bàsics relacionats amb la comunicació i el funcionament tècnic del servei (com ara identificadors o dades de diagnòstic). Entre mitges se situen una àmplia varietat d'eines com Claude, Copilot, DeepSeek, ChatGPT o Perplexity , que difereixen en quants tipus de dades recopilen, quines categories cobreixen i per a què les usen, especialment pel que fa a publicitat o compartició amb tercers.
No tots els assistents es comporten igual quan s'integren al navegador . En extensions per a Chrome, Edge o altres navegadors s'han detectat pràctiques particularment intrusives: complements que capturen formularis bancaris i de salut, altres que envien les preguntes de l'usuari juntament amb identificadors a serveis d'analítica com Google Analytics, permetent el seguiment entre llocs, i diversos que construeixen perfils detallats (edat, sexe, ingressos, aficions) per a personalitzar.
Un cas cridaner és el de certes eines que, segons les anàlisis, amb prou feines mostren indicis de perfilat o personalització davant d'altres extensions que fan un seguiment massiu de la navegació. Precisament per això alguns investigadors les destaquen com a exemple que és tècnicament possible prestar un servei d'IA útil sense explotar al màxim les dades personals de l'usuari.
Meta AI i el salt a lexplotació massiva de dades sensibles
Amb la integració del vostre assistent a Facebook, Instagram i altres serveis, Meta creua una nova línia en l'ús de dades personals . El model de negoci només deixa de centrar-se en captar atenció per mostrar anuncis i passa a explotar interaccions directes amb l'usuari, en contextos molt específics i carregats d'informació íntima.
Una anàlisi de pràctiques de recopilació de dades de diferents chatbots mostra que Meta AI és, amb diferència, un dels més voraços . Totes les aplicacions revisades recollien dades d'usuari, gairebé la meitat rastrejaven geolocalització i prop d'un terç feien seguiment publicitari, creuant informació amb altres serveis o venent-la a intermediaris de dades. Però Meta AI destaca perquè, segons aquest estudi, és l'únic que arriba a recopilar informació financera, de salut i d'estat físic de manera explícita.
La cosa no es queda aquí: Meta AI també recull categories especialment sensibles , com ara origen racial o ètnic, orientació sexual, dades sobre embaràs o part, discapacitat, creences religioses o filosòfiques, afiliació sindical, opinions polítiques, així com informació genètica i biomètrica. Aquest tipus de dades estan especialment protegides en normatives com el RGPD, perquè el seu mal ús pot derivar en discriminació, persecució o riscos greus per als drets fonamentals.
A més, Meta AI comparteix certes informacions amb tercers en el context de la publicitat dirigida . Juntament amb Copilot, figura entre els pocs assistents que utilitzen dades relacionades amb la identitat de l'usuari per a campanyes comercials, però es diferencia clarament pel volum i la diversitat de la informació implicada, amb més d'una vintena de tipus de dades emprades davant de xifres molt menors en altres serveis.
L'enfocament és reforçat per un ecosistema d'intermediaris de dades (data brokers) que compren i venen informació personal compilada a partir d'apps, webs i bases de dades públiques. Empreses com Acxiom, Experian, Epsilon o Oracle Data Cloud manegen enormes volums de perfils, que poden acabar en mans d'anunciants, asseguradores, ocupadors i fins i tot organismes públics, en un mercat global encara escassament regulat malgrat certs avenços legislatius.
Google Gemini, canvis de polítiques i control de l'activitat
Google també ha mogut fitxa actualitzant les seves polítiques de privadesa per incorporar l'ús de les interaccions amb el seu ecosistema d'IA . A través de Gemini, la companyia indica que pot utilitzar les consultes, fitxers pujats, captures de pantalla i fotos que comparteixes per millorar els seus serveis i entrenar models de IA generativa, incloent àudio i enregistraments de funcions com Gemini Live.
En resposta a les crítiques, Google ha introduït una funció anomenada “Conversa Temporal” , pensada per limitar l'ús de les vostres consultes recents amb fins de personalització o entrenament. Tot i això, l'usuari ha d'activar-la i ser proactiu configurant opcions com ara desactivar la conservació d'activitat o gestionar i esborrar elements de l'historial; si no ho fa, bona part de la vida digital quedarà accessible a l'empresa.
La companyia reconeix que quan fa servir l'activitat de l'usuari per millorar els seus serveis també recorre a revisors humans . Per això, afirma desvincular les converses del compte abans d'enviar-les a proveïdors de serveis. Tot i així, admet expressament que “com abans” ha utilitzat aquestes dades personals i que les comparteix amb tercers per a determinades tasques, cosa que genera dubtes sobre l'abast real de l'anonimat i la protecció efectiva de la informació.
Aquest enfocament planteja preguntes incòmodes sobre el consentiment : molts usuaris accepten les noves condicions de privadesa de forma gairebé automàtica, sense llegir-les, per pura inèrcia o per por de perdre accés al servei. D'aquesta manera, cedeixen permisos amplis per utilitzar dades personals sense ser plenament conscients de les implicacions, cosa que alguns especialistes consideren “sospitós” quan les clàusules s'amplien justament per donar cobertura a l'entrenament de models d'IA.
A l'àmbit regulatori, tot això es creua amb exigències de compliment de normes com el RGPD europeu , que obliguen a justificar la base legal del tractament (consentiment, interès legítim, obligació legal, etc.) ia garantir drets d'accés, rectificació, oposició i supressió. El debat sobre si és acceptable invocar “l'interès legítim” per entrenar sistemes d'IA amb dades personals sense consentiment explícit és molt viu entre autoritats de protecció de dades i associacions de consumidors.
Missatgeria privada, emmagatzematge de fitxers i on acaben realment les teves dades
Les aplicacions de missatgeria són un dels entorns digitals més sensibles perquè contenen converses íntimes, fotos, documents i tota mena d'informació confidencial. La idea que un assistent d'IA pugui ensumar en aquests missatges sense un consentiment clar aixeca seriosos dubtes de privadesa i trenca la confiança de molts usuaris.
En el cas de WhatsApp, la companyia insisteix que els xats personals amb amics i familiars són inaccessibles per a la IA . Segons expliquen, l'entrenament dels seus models es fa mitjançant interaccions directes amb el compte específic d'intel·ligència artificial: has d'obrir un xat amb la IA o enviar-li un missatge de manera activa, i ni Meta ni WhatsApp poden iniciar aquesta conversa per tu. També recalquen que parlar amb la IA no vincula automàticament el teu compte de WhatsApp amb Facebook, Instagram o altres aplicacions del grup.
Tot i així, la pròpia empresa adverteix que el que enviïs a aquesta IA es pot utilitzar per oferir-te respostes precises , i recomana explícitament no compartir informació que no vulguis que Meta conegui. Això deixa clar que, encara que hi hagi barreres formals entre serveis, qualsevol contingut que decideixis introduir en un xat amb IA entra de ple al circuit de tractament i possible anàlisi per a entrenament.
Els serveis d'emmagatzematge i transferència de fitxers també s'han vist envoltats de polèmiques . Un exemple recent va ser el canvi en els termes d'ús d'un conegut servei de transferència, les noves clàusules del qual es van interpretar com un permís ampli per utilitzar els documents pujats a fi de millorar futurs sistemes d'IA. La reacció dels usuaris va obligar la companyia a aclarir que el contingut seguia pertanyent al remitent, que l'ús es limitava al funcionament i millora del servei i que no es faria servir per entrenar models d'IA ni es vendria a tercers, ia recordar que hi ha alternatives per gestionar els teus arxius i fotos de forma local com Photoprism.
Aquest tipus d'episodis mostra fins a quin punt la confiança depèn de la transparència . Si els textos legals són ambigus o fan la impressió d'obrir la porta a usos no previstos, l'usuari assumeix el pitjor. Quan, a més, es barregen fins legítims (seguretat, rendiment, manteniment) amb conceptes genèrics com “millorar els nostres serveis”, resulta difícil saber si els teus documents acaben com a simple trànsit tècnic o com a part d'un dataset gegantí per a entrenament.
La situació es complica quan entren en joc proveïdors d'alt risc i ubicacions sensibles d'emmagatzematge . En el cas d'alguns assistents desenvolupats fora de la UE, s'han documentat fugues importants de converses i registres, i el fet que els servidors estiguin allotjats en jurisdiccions amb normes de protecció de dades més laxes augmenta l'exposició de l'usuari. Aquí no només importa quant es recopila, sinó on es guarda i sota quines lleis es regeix aquest tractament.
Riscos de ciberseguretat, dades omnipresents i necessitat de regulació
La combinació d'IA avançada i grans volums de dades personals és un caramel per als ciberdelinqüents . Els atacants estan emprant cada cop més eines d'IA per perfeccionar campanyes d'enginyeria social, generar correus de pesca creïbles, perfilar víctimes i automatitzar el robatori d'identitat o el frau financer.
Si un assistent d'IA emmagatzema historials de conversa, documents i dades sensibles sense mesures de seguretat suficients , una sola bretxa pot exposar informació a gran escala. A diferència d'una contrasenya que pots canviar, dades com el teu historial mèdic, les teves opinions polítiques o la teva orientació sexual, un cop filtrats, són pràcticament impossibles de “revocar”.
Els informes sobre resiliència en ciberseguretat apunten que la majoria d'organitzacions no estan preparades per protegir sistemes i processos impulsats per IA. Moltes manquen de pràctiques bàsiques de seguretat i governança de dades, no han definit polítiques clares sobre què es pot introduir en eines d'IA i què no, i tampoc no han adaptat les seves infraestructures cloud per gestionar aquest nou tipus de risc. A més, algunes amenaces provenen de serveis aparentment legítims; per això convé vigilar proveïdors i aplicacions, incloses certes VPN que roben dades que poden augmentar l'exposició.
Davant aquest panorama, els experts reclamen una regulació més estricta i específica per a la IA . Es parla d'obligacions de transparència reforçades (deixar molt clar què es recopila i amb quina finalitat), consentiment explícit per a usos delicats, estàndards de seguretat mínims per a dispositius i serveis intel·ligents, i restriccions addicionals per a proveïdors considerats d'alt risc. La normativa europea en matèria d'IA i protecció de dades intenta avançar en aquesta adreça, però la seva aplicació pràctica encara està en construcció.
També se subratlla la importància d'integrar la privadesa i la seguretat “des del disseny” . En lloc de veure la regulació com un fre, alguns especialistes defensen que incloure la protecció de l'empremta digital des de l'inici de cada projecte fa que les solucions siguin més robustes i eficients a llarg termini, i evita situacions en què calgui improvisar pegats després d'un incident de privadesa o una sanció regulatòria.
Dades sintètiques, automillora de la IA i el futur de l'entrenament de models
Digital background depicting innovative technologies in security systems, data protection Internet technologies
La dependència de dades reals planteja un coll d'ampolla per al desenvolupament de models cada cop més potents . Les grans tecnològiques saben que no poden basar indefinidament el seu progrés a explotar informació personal sense límits, tant per raons ètiques com per restriccions legals creixents. Per això, estan investigant vies alternatives per entrenar IA sense dependre tant de dades d'usuaris.
Una d'aquestes rutes és “l'automillora” de la IA : sistemes capaços d'optimitzar el seu propi rendiment mitjançant millors algorismes, processos d'autoprogramació i maquinari més eficient (sobretot al terreny dels processadors). Laboratoris d'empreses com Meta o Google DeepMind treballen en models que, en part, s'entrenen o refinen a ells mateixos, reduint la necessitat de noves dades humanes etiquetades.
Una altra via clau és la generació de dades sintètiques . En lloc de limitar-se a aprendre del que ja existeix, un model pot crear noves experiències o exemples a partir del que s'ha après, i després fer-los servir per seguir entrenant-se. D'aquesta manera, el sistema deixa d'estar lligat a l'escassetat de dades reals i pot produir quantitats gairebé il·limitades d'informació simulada per millorar-ne l'exercici en tasques concretes.
Ja comencen a veure's aplicacions pràctiques d'aquest enfocament . Eines especialitzades en assistència per programar, com els assistents de codi, mostren com un model pot aprendre de la seva pròpia producció, corregir errors, refinar estils i proposar solucions cada cop més sofisticades sense necessitat de revisar manualment cada cas humà. Startups experimenten amb agents que modifiquen el propi codi per adaptar-se millor a les tasques que afronten, tancant un cicle continu de prova i millora.
No obstant això, aquesta “autonomia” a l'entrenament no està exempta de riscos . Organitzacions dedicades a l'avaluació de riscos a IA adverteixen que si un sistema és capaç d'amplificar ràpidament les seves pròpies capacitats es podria reutilitzar per a activitats malicioses, des de la pirateria avançada fins al disseny d'armes o la manipulació massiva de persones mitjançant continguts generats a mida.
La realitat és que, mentre les empreses exploren dades sintètiques i automillora, els sistemes actuals continuen bevent en gran mesura informació real . Més del 80% de les organitzacions analitzades en alguns estudis no tenen encara pràctiques madures per assegurar els seus models d'IA, protegir el trànsit de dades o blindar la seva infraestructura al núvol. El desfasament entre la velocitat d'adopció de la IA i les capacitats de defensa es tradueix en una superfície d'atac cada cop més gran.
Bones pràctiques per a usuaris: què no compartir i com protegir-te en utilitzar IA
La principal defensa de l'usuari continua sent el sentit comú aplicat amb rigor . Per molt amistós que sembli un chatbot, no és el teu col·lega de confiança: és una interfície cap a servidors que poden registrar, analitzar i reutilitzar allò que dius. Assumeix sempre que qualsevol cosa que introdueixis podria emmagatzemar més temps del que imagines.
Evita compartir dades personals identificables (PII) llevat que sigui estrictament imprescindible . Això inclou nom complet, adreça postal, correu personal, número de telèfon, data de naixement o documents didentitat. Quan diverses d'aquestes dades es combinen, es torna molt més fàcil perfilar-te i vincular les converses a una identitat real.
Mai introdueixis informació financera ni credencials de seguretat . Números de targeta de crèdit, comptes bancaris, contrasenyes, codis PIN o codis de verificació de dos factors no haurien de passar mai per un xat d'IA. Gestiona aquest tipus de dades només en plataformes oficials amb xifratge d'extrem a extrem i mesures específiques de protecció.
Mantingues fora dels chatbots els números de seguretat social, dades de passaport i altres identificadors d'alt risc . Són l'objectiu preferit per robatori d'identitat i, a diferència d'una targeta, no és senzill canviar-los si es veuen compromesos. Considera aquestes credencials “material radioactiu” que no s'ha d'introduir en sistemes el funcionament intern dels quals no controles.
En l'àmbit acadèmic, institucional o corporatiu, vigila especialment allò que comparteixes . No pugis expedients acadèmics, bases de dades amb informació protegida, informes interns, plans estratègics, documentació financera sensible o propietat intel·lectual no publicada. Moltes organitzacions prohibeixen expressament enviar aquest tipus de contingut a serveis de IA públics, i podries incomplir tant normes internes com a lleis de protecció de dades.
Adopta una estratègia de minimització i anonimització de dades als teus prompts . Proporciona només la informació necessària perquè l'assistent et pugui ajudar: elimina noms, adreces, referències concretes a persones o projectes reals i substitueix elements identificables per marcadors genèrics com ara “Client A”, “Empresa X” o “Ciutat Y”. Revisa els teus missatges abans d'enviar-los per assegurar-te que no s'ha colat res sensible.
Revisa de forma periòdica la política de privadesa i les opcions de control de cada servei . Algunes plataformes permeten desactivar l'ús de les vostres converses per a entrenament, esborrar historials antics o activar modes de xat temporal que redueixen el temps de retenció. Activa sempre que puguis aquestes funcions i no donis per fet que estan habilitades per defecte.
Des del punt de vista tècnic, reforça la teva seguretat bàsica . Utilitza contrasenyes robustes i úniques per a cada compte d'IA, activa l'autenticació en dos passos sempre que sigui possible, evita connectar-te des de xarxes Wi-Fi públiques sense protecció i mantingues els teus dispositius actualitzats. Respecteu les polítiques de la vostra organització sobre l'ús d'eines d'IA, especialment si treballeu amb informació sensible.
Finalment, exigeix transparència i responsabilitat als proveïdors de IA . Les eines haurien de deixar clar que són sistemes automatitzats, explicar de manera comprensible quines dades recullen i amb quins fins, qui pot accedir a aquesta informació i com exercir els drets d'accés, rectificació, esborrat o oposició. Un disseny ètic inclou també mesures per mitigar biaixos, evitar recomanacions perilloses i escalar adequadament casos de risc.
En un ecosistema on la IA es fica cada vegada més a la nostra vida diària, entendre quines dades recopilen els assistents, com es fan servir i quines opcions de control tenim és clau per seguir aprofitant els seus avantatges sense regalar-los la nostra intimitat ; amb una combinació de normes més exigents, empreses responsables i usuaris ben informats, és possible beneficiar-se daquests sistemes sense perdre el control sobre la informació que millor ens defineix.
