Escriure pitjora propòsit

El maig passat, el papa Lleó XIV va publicar la seva primera encíclica, Magnifica humanitas, que com sabeu no ha passat inadvertida. Com que tracta temes tan diversos, entre ells una crítica humanista de la intel·ligència artificial, va obrir el debat en moltes comunitats que volien discutir les idees de fons del papa. Tant és així que el blog comunitari Less Wrong va passar l’encíclica per Pangram, un dels detectors de text generat amb IA més ben considerats del mercat, per mirar de demostrar que una part del redactat l’havia escrita una màquina. El veredicte de Pangram va ser que en alguns fragments s’hi reconeixia «la veu de Claude» (la intel·ligència artificial d’Anthropic). Havien identificat pistes i indicis com els més de 127 guions llargs, l’abús de l’adverbi genuinely i una acumulació de tricolons, aquelles enumeracions de tres elements que els generadors de text col·loquen a tot arreu —com en aquesta mateixa frase.

La reacció a les «acusacions» va arribar gairebé de seguida. Des del Vaticà, l’escriptor i editor Christopher Hale va negar al seu compte d’X que cap part de Magnifica humanitas s’hagués generat amb IA. L’havien escrita persones, va precisar, i el primer esborrany s’havia redactat en paper i amb bolígraf.

La discussió va passar de tractar sobre el que diu l’encíclica a discutir qui l’havia escrita. Ara bé, entre escriure-ho tot a mà i generar-ho tot amb un prompt hi ha moltes maneres de fer servir la intel·ligència artificial generativa i no totes valen el mateix.

La intel·ligència artificial generativa resol dificultats reals, ens facilita la feina i, per tant, ens estalvia temps. A més, en segons quines tasques, obté millor que si ho féssim nosaltres. Ningú no discuteix seriosament que una eina que et desencalla un paràgraf, que et troba una referència o que et neteja una transcripció formi part d’un procés de creació honest. El problema comença quan utilitzem l’eina per fer tota la feina, des de la concepció fins a l’execució i, fins i tot, fins a la distribució. El resultat de fer servir la IA end-to-end és l’slop, un contingut generat en sèrie. Pot ser perfectament útil per informar o desinformar, per entretenir o per decorar, però en el fons no l’ha treballat ningú; no és obra directament humana. La diferència entre les dues coses, però, no es veu al text acabat. Per això hi ha molta gent dedicada a demostrar que l’habilitat que exhibeix és seva, treballada i construïda amb anys de feina, per no ser «acusada» d’haver agafat la drecera de la IA.

Quan l’obra demostrava l’ofici

La creadora de contingut Aleida Argueta ho va plantejar fa poc en un vídeo, on explica com els usuaris de TikTok es foten de les senyores que escolten cançons fetes amb IA. Al llarg de la història, diu, hem entès que una obra era sinònim de posseir una habilitat. Si algú publicava una novel·la, donàvem per fet que sabia escriure. L’obra era la prova de l’ofici que hi havia al darrere.

TikTok✨ ¿La IA cambió la forma en la que entendemos crear? La música hecha con IA y del oficio detrás de una obra. 🤖🎵📚 #mipropiaprioridad #ia #inteligenciaartificial #ensayo▶Obre-la aquí — carregarà contingut de TikTok

Argueta recorre al psicòleg hongarès Mihaly Csikszentmihalyi i al concepte de flow que va desenvolupar a Creativity, l’estat en què t’absorbeix una activitat i perds la noció del temps perquè el repte està a l’altura de les teves habilitats. El plaer de crear s’allotja en el procés de construir l’obra i no en el resultat. L’exemple que dona és l’Ulisses, on hi ha capítols sencers sense puntuació. James Joyce podia permetre’s trencar la llengua perquè la dominava. La pregunta que Argueta deixa oberta és quina part del procés estem delegant.

«La feina de la IA acostuma a estar buida, és com el porexpan»

— Juan Antonio Latorre García, lingüista de la Universitat Complutense de Madrid a El País

Qui s’hi dedica professionalment descriu aquest ofici en termes molt semblants. Juan Antonio Latorre García, lingüista i professor del departament d’Estudis Anglesos de la Universitat Complutense de Madrid, va fer a mà la seva pròpia anàlisi forense de l’encíclica, perquè no es fia de cap detector, i va concloure que Magnifica humanitas és un text 100% humà. Les proves d’humanitat que ell busca són la fluïdesa de les referències i de les cites, que amb la IA semblen ficades amb calçador, com també la complexitat de les idees. «La feina de la IA acostuma a estar buida, és com el porexpan», analitza a EL PAÍS.

Flagxiety i dumbcrafting

La sospita ha afectat, inevitablement, la nostra manera d’escriure. La novel·lista Laura Brooke Robson explica a WIRED que, mentre escrivia Love Is an Algorithm, es va esforçar perquè la seva prosa no semblés generada i va prescindir dels guions llargs, de les llistes de tres elements i de les «metàfores insulses». Diu que ara escriu de manera menys mecànica i que sent la necessitat de cometre errors petits, com a picades d’ullet al lector, per demostrar que hi ha un ésser humà darrere les paraules.

La novel·lista i acadèmica australiana Ellena Savage s’ho pren amb més pena que resignació. «La IA em va robar unes quantes convencions sintàctiques que abans m’agradaven molt. Enyoro l’ús excessiu del guió llarg», lamenta a la mateixa peça.

A les universitats nord-americanes ja han posat nom a aquest fenomen. Els estudiants parlen de flagxiety, la por de ser assenyalat per error per un detector, i de dumbcrafting, que és escriure deliberadament pitjor per no activar-lo. Segons una enquesta interna de la Universitat de Stanford que recull EL PAÍS, un 75% dels estudiants va declarar algun grau d’estrès relacionat amb els detectors. Un 52% va dir que l’havien acusat en fals de presentar treballs fets amb IA. El lingüista Latorre ho observa entre els seus alumnes i entre qui publica a revistes científiques. «Treuen els guions llargs o fiquen una quarta enumeració encara que no vingui gaire a tomb», explica al mateix reportatge.

El preu de semblar humà

Desfer una acusació d’aquestes no és gens senzill. El cas de la novel·lista Mia Ballard n’és un exemple. El març, l’editorial Hachette va retirar la seva novel·la de terror Shy Girl després que a internet s’especulés que havia fet servir IA. Ballard ho va negar rotundament. Per tornar a publicar, explica a WIRED, va haver de revisar el text i va contractar un editor que li va analitzar la prosa amb un programari d’IA —irònicament.

A sobre d’aquesta por ha crescut una indústria que s’anomena a si mateixa «mercat humanitzador». Les eines que prometen fer indetectable un text generat i que venen allò que en diuen the human touch han rebut prop de 33,9 milions de visites enguany. El sector val 500 milions de dòlars el 2026 i s’espera que arribi als 1.000 a finals del 2027. El que va sorprendre els investigadors d’Stanford, però, és que bona part d’aquests usuaris no ha fet servir mai la IA per escriure. Espatllen expressament textos propis i nets, els passen per eines com ZeroGPT o Superhumanizer i es queden més tranquils quan una màquina els certifica que podrien passar per humans.

En aquest cas ja no estem parlant de vergonya. La vergonya suposa un acte i necessita que l’hagis comès. El que mou aquests 33,9 milions de visites és més aviat la por a la condemna, que no necessita cap acte i que no distingeix entre culpables i innocents, perquè el que es castiga és assemblar-se a la IA. Contra una acusació de semblança no serveix de res no haver-la feta servir mai.

«Un camp és necessari per determinar el valor d’una idea nova»

— Mihaly Csikszentmihalyi, Creativity

Argueta cita Csikszentmihalyi pel flow, que és la part interior del problema. Ara bé, el mateix llibre en sosté una altra idea de fons que encaixa molt millor amb el que està passant. A Creativity, Csikszentmihalyi defensa un model sistèmic on la creativitat surt de la relació entre tres coses, més que no pas de la persona sola. Aquestes són l’individu, el domini (el conjunt de regles i procediments d’una disciplina) i el camp, que són totes les persones que fan de guardians del domini i decideixen si una idea nova hi pot entrar. «Un camp és necessari per determinar el valor d’una idea nova», hi escriu.

Aplicat a l’escena d’ara, el que ha entrat en crisi és el camp. Els guardians que decidien qui havia fet la feina han perdut el criteri que feien servir i n’han adoptat un de nou, que és un detector.

Les conseqüències d’això no són iguals per a tothom, però. Qui ja té nom no ha de demostrar res, perquè el nom fa de prova. Qui encara no en té, el paga amb diners (un editor que revisi, una subscripció mensual a una eina d’humanització, etc.), amb estil (guions llargs fora, vocabulari més pobre, el millor paràgraf retallat perquè llueix massa polit, etc.) i, si res d’això funciona, ho paga convertint-se en la diana d’acusacions pràcticament indemostrables. Paral·lelament, l’influencer que penja reflexions profundes sobre temes que no coneix ni li importen, generades senceres i publicades sense gens de pudor, tampoc no paga res, perquè la seva autoritat descansa en l’audiència i no ha necessitat mai cap ofici per fer-se valer. L’estudiant de Stanford que passa el seu propi treball per ZeroGPT abans d’entregar-lo i la novel·lista que contracta un editor perquè una màquina la certifiqui són subjectes del mateix segrest; el segrest d’haver de construir el dret a ser cregudes en la pràctica, amb destresa, de la seva habilitat.

Una llengua que necessita la màquina

En català, tot això de què parlem es dona d’una manera particular. El Govern ha invertit 12 milions d’euros fins aquest any a través del projecte Aina, que desenvolupa el Barcelona Supercomputing Center per garantir que el català existeixi als models de llenguatge i que no quedi fora del món digital per manca de dades. És una política lingüística defensiva i té tot el sentit. Ara bé, com millor escrigui el català la màquina, més difícil serà distingir una columna que ha escrit algú d’una que s’ha generat en deu segons.

«Cap eina pot garantir un 100% de fiabilitat»

— Detecció de documents elaborats amb IA, informe d’Agtic per a la Diputació de Barcelona

El guió llarg, l’adverbi genuinely i el tricolon, que són exactament les proves que Less Wrong va donar contra l’encíclica, com hem dit, descriuen prosa anglesa generada. Són els mateixos senyals que fem servir per reconèixer l’escriptura amb IA en català. Tot i això hi ha certes peculiaritats. L’empresa Agtic ha redactat per a la Diputació de Barcelona un informe titulat Detecció de documents elaborats amb IA, pensat per decidir si val la pena contractar algun d’aquests serveis. La conclusió és que cap de les eines analitzades ofereix garanties suficients pel que fa a la precisió, a la traçabilitat ni a l’evidència tècnica del seu funcionament.

Per comprovar-ho van fer una prova senzilla. Van agafar un text generat sencer per una IA i el van passar per cinc detectors del mercat. Isgen el va classificar com a 85% IA, QuillBot com a 82%, Justdone com a 74% i Smodin com a 57%. ZeroGPT, la mateixa eina que els estudiants fan servir per quedar-se tranquils, el va donar per 53,61% humà.

L’informe assenyala, també, que pràcticament totes aquestes plataformes ofereixen en paral·lel serveis de reescriptura pensats per esquivar la detecció del seu propi sistema, cosa que, diu el document, «posa en dubte la coherència i la fiabilitat dels serveis que ofereixen».

Finalment, l’informe dona al personal de la Diputació una llista d’indicadors pràctics per identificar un text generat. Destaca l’estil uniforme i impersonal, les respostes llargues però poc concretes, les referències inventades, les transicions artificials entre paràgrafs i la falta de context local. També, l’absència d’errors tipogràfics o gramaticals naturals, perquè els textos generats acostumen a ser impecables «de manera gairebé massa perfecta». Un informe tècnic d’una administració catalana adverteix, doncs, que escriure sense cap errada és un indici. El mateix document avisa que aquests trets també apareixen en textos redactats per persones, sobretot en contextos formals, i que s’han d’entendre com «indicadors orientatius i no com proves concloents».

De fet, un estudi de la Universitat de Stanford va trobar que els detectors classificaven com a generats amb IA la majoria dels assajos escrits per estudiants no nadius d’anglès, mentre que gairebé no s’equivocaven amb els textos dels nadius. Qui busqui «detector d’IA en català» hi trobarà una desena de pàgines que ofereixen el servei gratuït i «precís».

Resistir-se a la por

El maig passat, l’analista Enrique Dans, professor a IE Business School, va publicar un article titulat «No, no voy a poner faltas de ortografía para demostrar que soy humano», on defensa que no pensa espatllar la seva prosa per satisfer un programa o per evitar ser acusat d’utilitzar la IA generativa.

Denota una certa valentia reconèixer que l’equivalència entre obra i ofici no ha estat mai neutral. El camp que consagrava l’ofici decidia també qui hi pertanyia. Durant segles va decidir que gairebé ningú que no fos home, ni gairebé ningú sense temps ni diners per dedicar-se a escriure. Defensar que l’obra demostra l’ofici és defensar, de retruc, una porta que ha estat tancada durant molt de temps i que ha deixat fora molta gent que tenia habilitats perfectament desenvolupades.

No és per ser aixafaguitarres, però tot el repertori que estem construint per demostrar que hi ha algú al darrere (l’error deliberat, el guió llarg tret, el vocabulari escapçat, etc.) és prou regular perquè un model l’aprengui i l’apliqui. Dels detectors d’IA tampoc no ens en podem fiar gaire.

El que ens juguem, doncs, és determinar qui té dret a exigir-nos la prova. Continuar escrivint com escrivim, amb els guions llargs que facin falta i sense faltes posades a posta, trasllada aquesta càrrega als acusadors, que és exactament on la deixa l’informe de la Diputació quan admet que els seus indicadors no són «proves concloents». Alhora, aquests programes van atribuir a una màquina el 90% del contingut de diverses encícliques anteriors, explica Latorre, i entre elles hi ha Evangelium vitae, que Joan Pau II va signar el 1995, quan aquests models no existien!