La intel·ligència artificial ha facilitat la creació de perfils en xarxes socials que semblen pertà nyer a persones reals, però que en realitat són personatges generats per algorismes. Aquesta situació ha generat confusió i malestar entre els usuaris, que sovint descobreixen tard que el compte amb què interactuen no té un humà al darrere. Per posar ordre, Instagram ha anunciat un canvi al vostre sistema d'identificació d'aquests comptes.
La plataforma propietat de Meta ha decidit substituir l'etiqueta actual 'AI creator' per una nova denominació més explÃcita: 'perfil generat per IA'. L'objectiu és que els usuaris comprenguin immediatament que la persona mostrada al perfil no existeix a la vida real, sinó que ha estat creada mitjançant intel·ligència artificial. Aquesta actualització respon a les queixes de molts usuaris que se sentien enganyats en seguir perfils aparentment autèntics.
Un canvi d'etiqueta per a més transparència
La nova etiqueta 'perfil generat per IA' reemplaça l'anterior, que alguns consideraven ambigua. El terme AI creator podia interpretar-se com una referència a un creador humà que utilitza eines d'intel·ligència artificial, quan en molts casos el perfil complet representa una identitat sintètica. Amb el canvi, Instagram busca deixar clar que és un personatge generat o construït substancialment mitjançant IA.
Segons ha explicat la companyia, la mesura forma part d'un esforç més ampli perquè els usuaris puguin distingir fà cilment quan interactuen amb una persona real i quan ho fan amb una identitat artificial. Meta va començar a provar aquest sistema a principis d'any després de rebre comentaris d'usuaris que manifestaven la seva incomoditat en seguir perfils que semblaven humans i després descobrir que eren generats completament per IA.
L'etiqueta s'activarà de manera voluntà ria des de la configuració del perfil. Els responsables de comptes que ja feien servir l'etiqueta anterior rebran un avÃs per confirmar si la nova descripció continua sent adequada. Quan s'activi, el senyalador apareixerà al perfil i també juntament amb les publicacions que ja no tinguin una indicació especÃfica sobre l'ús d'IA.
Pèrdua d'abast per als perfils no etiquetats
La novetat principal és que la mesura ja no serà únicament informativa. Instagram ha anunciat que limitarà l'abast dels comptes que presentin persones generades per IA sense incloure-hi l'etiqueta corresponent. Això vol dir que el perfil deixarà de ser apte per aparèixer a les recomanacions de la plataforma, com ara la secció Explorar o els Reels, dirigides a usuaris que encara no segueixen el compte.
Quan Instagram detecti un compte sospitós d'utilitzar personatges artificials sense identificar-los correctament, enviarà una notificació als responsables. A partir d'aquell moment, tindreu dues opcions: afegir l'etiqueta 'perfil generat per IA' o presentar una apel·lació si considereu que la plataforma s'ha equivocat. Si l'apel·lació prospera, el compte recuperarà la vostra elegibilitat per aparèixer en recomanacions.
La companyia ha aclarit que els creadors que utilitzin eines d'IA només com a ajuda en el procés creatiu, com ara retocar fotografies, corregir textos o dissenyar grà fics, no hauran d'activar aquesta etiqueta. L'obligació s'aplica únicament quan la identitat principal del compte correspon a una persona creada artificialment, com ara influencers virtuals, personatges ficticis o comptes que utilitzen un rostre sintètic com a imatge principal.
Motius de la restricció: casos d'abús freqüent
Aquesta actualització cerca mitigar diverses prà ctiques enganyoses que aprofiten l'avenç del contingut sintètic. Entre els principals problemes que Meta intenta frenar destaquen les estafes financeres i el 'catfishing', on es creen avatars hiperrealistes per generar vincles romà ntics ficticis per sol·licitar diners o promoure fraus amb criptomonedes. També s'esmenta la publicitat enganyosa, amb suposats influencers d'estil de vida que obtenen productes gratuïts o patrocinis de marques que desconeixen estar interactuant amb personatges inexistents.
Un altre cas freqüent és el robatori d'identitat biomètric, que consisteix en el clonatge no autoritzat de rostres reals per operar perfils falsos paral·lels que monetitzen contingut o fan malbé la reputació de la persona original. A més, s'ha detectat l'ús de granges de comptes sintètiques per simular suport ciutadà a causes polÃtiques, manipular els algorismes de recomanació o propagar notÃcies falses, una prà ctica coneguda com a astroturfing.
La decisió d'Instagram arriba en un moment en què els anomenats influencers virtuals guanyen popularitat en diferents plataformes digitals. Aquests perfils poden acumular centenars de milers o fins i tot milions de seguidors malgrat que les persones que apareixen a les fotografies, vÃdeos i publicacions no existeixen realment. El creixement d'aquests comptes ha generat debats sobre transparència, publicitat, confiança dels usuaris i l'impacte de la intel·ligència artificial a les xarxes socials.
Com funcionarà el nou sistema
Els responsables de perfils generats per intel·ligència artificial poden activar voluntà riament l'etiqueta des de la configuració del vostre compte. Si Instagram detecta que un compte presenta una persona creada per IA i no inclou la identificació corresponent, enviarà una notificació als administradors. A partir d'aquell moment, tindreu dues opcions: afegir l'etiqueta 'perfil generat per IA' o presentar una apel·lació si considereu que la plataforma s'ha equivocat.
La companyia també ha aclarit que els creadors que utilitzin eines d'IA només com a ajuda en el seu procés creatiu, com ara retocar una fotografia, corregir la redacció dels textos o dissenyar grà fics, no hauran de fer servir l'etiqueta. Aquesta mesura no està dirigida contra els que empren IA per millorar-ne el contingut, sinó contra aquells que simulen ser persones reals quan en realitat són personatges generats per algorismes.
Meta reconeix que els vostres sistemes no sempre són perfectes i permet consultar les restriccions des de l'estat del compte. Els afectats podran recuperar la possibilitat d'aparèixer en recomanacions afegint-hi l'etiqueta o apel·lant la decisió si creuen que Instagram s'ha equivocat. Aquesta identificació a nivell de perfil complementa les etiquetes aplicades a publicacions individuals, que ja es fan servir en imatges, vÃdeos i à udios quan es detecten indicadors tècnics compatibles o quan lusuari declara lús daquestes eines.
La nova norma forma part d'una estratègia més à mplia de Meta per millorar la identificació de continguts creats o modificats mitjançant intel·ligència artificial a Instagram, Facebook i Threads. Amb aquesta mesura, la companyia busca equilibrar el creixement de les eines generatives amb la necessitat que els usuaris sà piguen qui, o què, està darrere dels perfils que segueixen. La decisió podria convertir-se en un precedent per a altres plataformes digitals que enfronten desafiaments similars relacionats amb identitats sintètiques i influencers creats per intel·ligència artificial.
En definitiva, Instagram ha fet un pas important perquè els usuaris puguin distingir amb claredat entre perfils reals i aquells generats per IA. La nova etiqueta 'perfil generat per IA' substitueix l'anterior i comporta conseqüències directes per als que no la facin servir: la pèrdua de visibilitat en les recomanacions. La mesura no afecta els creadors que usen IA com a eina d'edició, però sà aquells que presenten personatges sintètics com si fossin persones reals. Amb aquesta actualització, la plataforma reforça el seu compromÃs amb la transparència i la confiança de la seva comunitat, en un moment en què la intel·ligència artificial generativa està transformant la manera com es crea i consumeix contingut a les xarxes socials.