Claude marcaràels textos quegeneri la seva IA

Anthropic va anunciar aquest dimarts que imprimirà una marca d’aigua a tot l’output que generi Claude, sigui text o arxius d’imatge. El text portarà una marca imperceptible incrustada als tokens mateixos. Segons el comunicat d’Anthropic, la marca sobreviurà a un copiar-enganxar i pot aguantar, fins i tot, algunes edicions. Les imatges i altres arxius (SVG, PNG, JPG) ja porten metadades de procedència signades amb l’estàndard C2PA, que permeten saber si algú les ha manipulat després de generar-les.

La mesura respon al compliment de l’article 50(2) del Reglament d’IA de la Unió Europea. Anthropic és una de les empreses que ha signat el codi de pràctiques associat, com a proveïdora de sistemes d’IA generativa d’ús general. La normativa, que ja us vam explicar a ciberpoder.net, exigeix que tot allò generat amb IA sigui detectable com a tal, en totes les modalitats.

Malgrat que l’obligació ve d’una normativa europea, Anthropic aplicarà la mesura a tot el món, també als Estats Units, on no hi ha cap llei que els obligui. És una decisió arriscada si es té en compte que OpenAI ja va desenvolupar, fa temps, un sistema de marcatge de text. Després que el 30% dels seus usuaris digués que faria servir menys el producte si se sabia que el text generat era d’IA, l’empresa de Sam Altman va decidir arxivar-ho.

Tot i que Anthropic no detalla la implementació pròpia, el mecanisme de fons és el que Google DeepMind ha fet públic amb SynthID-Text. Consisteix que, durant la generació, el model tria entre els tokens candidats seguint un patró estadístic subtil, associat a una clau, que no altera el significat del text però que un detector pot recuperar a posteriori. Funciona sobretot amb textos d’una extensió no breu; amb uns quants centenars de tokens, la detecció que van mesurar els investigadors de Google supera el 90% amb un 1% de falsos positius fixat.

La reacció dels usuaris, a X, tendeix al rebuig. La lectura de fons és que ajudar-se de la IA per articular idees pròpies no hauria de penalitzar-se restant el mèrit a qui ha tingut la idea o l’ha desenvolupada. Ara bé, cal distingir entre «penalitzar» i «marcar la procedència» d’un output generat. Els consumidors tenen dret a saber d’on ve allò que consumeixen, sigui un producte alimentari, un article, un assaig o un reel.

Recuperar el procés com a pràctica humana

Potser aquesta notícia és una bona oportunitat per pensar què hem perdut en com fèiem les coses abans de la implantació i democratització de la IA generativa. No com un exercici de nostàlgia o d’idealització del passat «artesanal», propi del luddisme, sinó com un procés de dol per la pèrdua del procés creatiu.

TikTokdo not forget to be human in your pursuit of perfection▶Obre-la aquí — carregarà contingut de TikTok

Com assenyala la creadora @nuffsaidchannel en aquest TikTok, gràcies a internet tenim a cop de clic tutorials, dreceres, guies pas a pas, trucs i trampes per fer tot el que es pugui imaginar. Poc a poc hem perdut l’assumpció de la inexperiència i, per això, ara esperem la competència immediata en qualsevol activitat o tècnica. Si tothom pot fer de tot immediatament, quasi com un expert, ens quedem venuts a la sensació d’inutilitat i mediocritat, tot abaixant els braços abans d’enfrontar-nos als obstacles que apareixen en el procés.

En aquest fenomen conviuen dos processos simultanis. Per una banda, l’accés il·limitat a dreceres fa que qualsevol resultat mediocre sembli una fallada personal. Per l’altra, quan tothom pot generar en segons qualsevol cosa amb IA generativa, la mateixa idea de «resultat» perd tot el seu valor de referència.

La marca d’aigua no arreglarà aquesta pressió que descriu nuff. Però sí que farà front a la gesta dels usuaris escèptics amb els textos que llegeixen a les xarxes, o dels professors amb els treballs que presenten els seus alumnes. Si es pot detectar més fàcilment l’origen d’un text o d’un arxiu, es revalorarà la feina de les persones que lluiten contra el procés de crear, d’escriure, de fer.

Anima’t a ser un artesà i no un empresari. A vegades no cal fer-ho tot més ràpid i amb més quantitat, sinó millor i amb més coneixement de causa.