Com reconeixeremun escriptordesprés d’Almadía

Des de fa un parell d’anys, la confiança i la tranquil·litat en la lectura han començat a convertir-se en recel. Un guionet llarg, una llista de tres adjectius, un «no és això, és allò» o un paràgraf massa polit ens fan sospitar que el text que tenim al davant l’ha escrit una màquina, tant si és el correu d’una companya de feina com una publicació de LinkedIn. Hi ha estudiants que passen els seus propis treballs per un detector abans d’entregar-los i escriptors que escriuen pitjor a propòsit per no semblar un xatbot.

A la feina, que un informe l’hagi redactat un xatbot ens pot fer més o menys gràcia. Ara bé, amb una novel·la, una cançó, un quadre o una pel·lícula és diferent, perquè el valor d’una obra depèn del fet que l’hagi fet algú, amb un nom, una trajectòria, unes idees i la intenció de dir alguna cosa. Ara que la IA ja escriu, pinta i compon suficientment bé per confondre’ns, la seva massificació ens està portant a vigilar permanentment si algú l’ha fet servir, sobretot en les feines que consideràvem més humanes i que, per això mateix, esperem trobar netes d’algorismes, càlculs i xarxes neuronals.

En aquesta línia, l’editorial independent mexicana Almadía fa servir l’expressió «vigilància permanent» en el comunicat amb què va defensar, el 6 de novembre, una novel·la premiada que un detector atribueix gairebé sencera a la IA. En el mateix text, citant el 1984 d’Orwell, l’editorial es pregunta què passa quan algú evita una paraula o una cadència per por que una màquina el qualifiqui. El cas seria, segons El País, el primer d’aquesta magnitud en castellà i deixa oberta la pregunta sobre amb quins criteris jutjarem a partir d’ara el que fem les persones.

El cas Almadía

Al juliol, les tres escriptores del jurat del primer premi de novel·la breu Almadía-Ventosa Arrufat (la mexicana Cristina Rivera Garza, l’argentina Selva Almada i l’equatoriana Mónica Ojeda) van triar per unanimitat, entre 2.204 manuscrits de 22 països, Donde el agua trabaja, la primera novel·la de l’advocat penalista peruà David Silva Rojas. En van elogiar les «oracions breus com el degoteig dels regadors a les vinyes». Les bases, amb una dotació de 20.000 euros a compte de drets d’autor, obligaven a declarar que l’obra no s’havia escrit amb IA, ni parcialment ni totalment.

El 23 d’octubre al matí, el dia que Silva Rojas havia de presentar el llibre a Madrid, El País va publicar, en una peça signada per l’escriptora Elizabeth Duval i els periodistes Kiko Llaneras i Jordi Pérez Colomé, el resultat de passar la novel·la sencera per Pangram. Es tracta d’un detector nord-americà que el mateix diari havia presentat al setembre com una eina «gairebé infal·lible». El detector atribuïa a un model de llenguatge el 99% de la novel·la i el 97% de les respostes de l’autor en una entrevista. Almadía va suspendre aquell mateix dia una gira que havia de passar per Barcelona i, quatre dies després, Silva Rojas va negar a Instagram haver fet servir eines d’IA generativa «per crear-la, redactar-la ni revisar-la».

Dues setmanes més tard, l’editorial va anunciar que manté el premi. Diu haver revisat els materials lliurats per l’autor i haver consultat perits lingüístics, reclama una disculpa al diari i va més enllà quan qüestiona que una empresa del nord global (Pangram) validi literatura llatinoamericana escrita en castellà. De fet, tanca amb una frase que podem interpretar com una declaració de principis, «preferim continuar confiant en el criteri humà». Quan El País li va demanar els materials de la revisió, Almadía s’hi va negar per no «alimentar una dinàmica de sospita i persecució». Elizabeth Duval, una de les signants de la (si es pot anomenar així) investigació, va respondre aquell mateix dia que no havia vist cap prova ni cap investigació interna que desmentís la del diari.

La caça de bruixes

A les xarxes, la sospita va anar en totes dues direccions. Hi va haver usuaris que penjaven fragments de la novel·la com a prova del to de màquina i escriptors que difonien captures d’un detector de pa sucat amb oli que donava la primera pàgina de Frankenstein per generada amb IA. La jove escriptora peruana Brunella, que cobreix la IA als Estats Units i explica que la seva família és d’Ayacucho i d’Ica, ha escrit al seu butlletí Qué vergüenza la resposta més dura als defensors del llibre. Diu que li sembla dolent, hi compta gairebé trenta vegades la fórmula «No és X. És Y» i sosté que la IA va muntar i polir el text a partir dels esborranys i les entrevistes de l’autor, més que no pas inventar-lo. L’usuari @marcos_baratell, que també l’ha llegit, defensa que n’hi ha prou de llegir-lo per reconèixer-hi la prosa narrativa de Claude, el model d’Anthropic.

També hi ha hagut qui ha posat a prova el detector. L’arquitecte i escriptor Pedro Torrijos ho ha fet amb un text seu de 427 paraules. La versió 4.0 de Pangram el donava per 100% generat per IA i la 4.1 el donava per 100% humà.

Diego Álvarez, que es presenta com a desenvolupador d’IA i analista quantitatiu, li va contestar amb la calculadora a la mà. Calcula que Pangram parteix les 26.000 paraules de la novel·la en uns 52 trossos i que en va marcar 51. Si el detector decidís cada tros tirant una moneda a l’aire, la probabilitat d’aquest resultat seria d’una entre 84,9 bilions. Álvarez hi posa, tot i així, una objecció a favor de l’autor. Tots els trossos són de la mateixa persona i, si Silva Rojas escriu d’una manera que Pangram confon amb un model, l’error es repeteix a cada tros. Pangram assegura que en castellà s’equivoca una vegada de cada 38.000, mentre que l’avaluació externa més pessimista citada per Álvarez el deixa en un error de cada cinquanta. Per sortir del dubte, proposa passar pel detector textos de Silva Rojas anteriors al 2022 i revisar-ne els esborranys. El periodista de dades Efra Tzuc trobava a faltar, precisament, els dictàmens dels perits lingüístics que l’editorial diu que va consultar.

Amb quins criteris jutgem

En el punt on estem és inevitable que la IA entri en els processos de creació i producció literària. Si assumim, amb la teòrica feminista nord-americana Donna Haraway, que fer-se responsable de les relacions socials de la ciència i la tecnologia vol dir refusar-ne la demonologia i «abraçar la feina hàbil de reconstruir les fronteres de la vida quotidiana», ens toca decidir on passa aquesta frontera dins d’un llibre. Abraçar la IA, però, no vol dir sucumbir-hi, o sigui, deixar-li redactar una novel·la sencera o, igualment important, deixar que un detector jutgi qui mereix guanyar un premi artístic.

La IA pot ordenar entrevistes, resumir bibliografia, proposar una estructura o corregir faltes, com ho fan un corrector o una documentalista, sense que ningú qüestioni l’autoria. Un premi literari, en canvi, paga els drets d’autor sobre unes paraules escollides i ordenades d’una manera concreta i intencional. L’humorista Manuel Burque ho recordava, a la seva manera, en un fragment del pòdcast Me pasa una cosa, de la SER. Com que el que fa una màquina no té drets d’autor, proposa copiar els llibres fets amb IA que triomfen a Amazon, perquè ningú no vagi després a la fira del llibre a «signar llibres que no ha escrit ell».

La llei espanyola de propietat intel·lectual considera autor «la persona natural que crea» una obra i la Suprema Cort de Mèxic va resoldre el 2025 que les obres generades exclusivament per IA no tenen protecció de drets d’autor. Els 20.000 euros d’Almadía són la bestreta dels drets patrimonials que el guanyador cedeix a l’editorial segons la llei mexicana. Si un model hagués generat íntegrament les frases de Donde el agua trabaja, l’editorial hauria pagat per uns drets que aquesta llei no reconeix i el jurat hauria premiat la prosa d’una màquina.

Ara bé, algú ho ha de poder comprovar. El cas ensenya que les dues eines que teníem a mà no ho permeten. Un detector serveix per estimar quanta IA hi ha en milers de textos (aquesta revista mateixa va citar una xifra de Pangram al juliol per parlar de LinkedIn), però no basta per condemnar una persona concreta. La prohibició total que imposaven les bases tampoc no ha impedit que el dubte arribés fins a la coberta del llibre. Ens calen, doncs, altres criteris per jutjar el que fan les persones. Crec que n’hi ha dos que pesaran cada cop més, la intenció dels escriptors i la intuïció dels lectors, tot i ser conscient que cap dels dos no es pot mesurar fàcilment.

La intenció dels escriptors

La teoria literària va passar mig segle desconfiant de la intenció de l’autor. El 1967, el crític francès Roland Barthes en va decretar la mort i va demanar que els textos es llegissin sense preguntar què volia dir qui els havia escrit. Els llibres generats amb IA que es venen a Amazon no tenen al darrere ningú que volgués dir res. Per això la llei mexicana i les bases d’Almadía tornen a demanar el que Barthes volia deixar de banda, un autor que respongui de cada frase.

La filòsofa britànica Elizabeth Anscombe va proposar el 1957, a Intention, que una acció és intencional quan té sentit preguntar-ne el «per què?» i qui l’ha feta en pot donar raons. Un escriptor pot explicar per què ha triat una paraula i no una altra, encara que de vegades respongui que no hi ha cap raó especial, a diferència d’un model, que genera la paraula probable i, si se li pregunta, en fabrica la justificació després. Brunella recorda que una entrevista a The Atlantic va enxampar el trinitenc Jamir Nazir, un altre autor premiat i assenyalat per Pangram, sense recordar ni els títols dels poemes que, segons ell, havien inspirat el seu conte. Com que cap percentatge no mesura la intenció, per arribar-hi cal preguntar a qui escriu i decidir si el creiem.

La intenció també es pot declarar d’entrada. La presidenta del jurat, Rivera Garza, defensa a Los muertos indóciles (2013) una manera d’escriure que avança «retant constantment el concepte i la pràctica de la propietat» i reconeix que tot text es fa amb el treball imaginatiu d’altres. El prologuista de l’edició espanyola d’aquell assaig, l’escriptor Jorge Carrión, va signar el 2023 Los campos electromagnéticos amb el col·lectiu barceloní Taller Estampa i amb els models GPT-2 i GPT-3 a la coberta. El premi Emili Mira i López de la Universitat de Barcelona, adreçat a estudiants, va en la mateixa línia quan deixa fora les obres generades totalment amb IA i demana declarar quines eines s’han fet servir com a suport i per a què. Potser és el model que s’acosta més al que defensem.

La intuïció dels lectors

A l’altre costat del llibre hi ha qui el llegeix. Brunella sosté que qui fa servir sovint els xatbots acaba reconeixent-ne la veu en un correu de compromís o en un text burocràtic. Per a ella, la novel·la de Silva Rojas té aquesta mateixa veu. Ara bé, les tres escriptores del jurat també la van llegir i hi van trobar una prosa de silencis que van premiar per unanimitat.

Brunella explica que ella i altres autors joves, d’entre vint-i-tres i vint-i-cinc anys, no gosaven dir en públic que el llibre els semblava muntat amb IA perquè les jurades tenen poder al món editorial i el respecte del nord global. També explica per què creu que la novel·la va convèncer el jurat. Hi troba la mateixa matèria que en el conte de Nazir i en la novel·la d’un altre premiat sota sospita, el canadenc d’origen haitià Thélyson Orélien (migració, aigua, territori, ruralitat, violència contra les dones). Al seu parer, és el resultat d’una indústria que, per corregir dècades en què només publicava escriptors blancs de les elits, ha acabat premiant clixés fàcils de reproduir mecànicament, el que ella anomena racisme benèvol. El compte Lunes Felices, que escriu el butlletí Gold Soundz, ho resumia dient que un mal escriptor amb IA continua sent un mal escriptor i que el premi diu més del jurat que de l’obra.

Una qüestió de confiança

Tant la intenció com la intuïció depenen de la confiança que una persona es guanya o transmet. Les Éditions du Boréal van trencar amb Orélien el 21 d’octubre, quan una anàlisi externa va trobar marques d’IA a les metadades dels seus documents de treball. L’editorial admetia que potser no sabria mai quanta IA hi havia a C’était ça ou mourir, premi Fnac de novel·la, però deia que «la qüestió fonamental és la de la confiança», perquè l’autor li havia assegurat diverses vegades que no l’havia fet servir mai. Almadía invoca la mateixa paraula per arribar a la conclusió contrària.

Si el text tot sol ja no basta per saber qui l’ha escrit, el prestigi d’aquells que escriuen sense IA s’haurà de recolzar en coses que el text no porta a dins. Als Estats Units, l’Authors Guild, la principal associació d’escriptors del país, va obrir al març a tots els autors el segell «Human Authored», que admet la IA per corregir l’ortografia, revisar la gramàtica, documentar-se o fer pluja d’idees, però no per escriure el text. El segell es basa en la paraula de l’autor, que signa una llicència i, si no és membre, acredita la identitat. L’estratega digital Ariana Basciani ja va descriure a Catalunya Plural com s’està formant «una jerarquia de la humanitat», en què el que fan de debò les persones queda a dalt, escàs i car.

La confiança, però, no es reparteix igual entre un autor consagrat, amb una obra anterior que respon per ell, i un advocat que debuta com a novel·lista. El 20 de novembre, els jurats dels premis Josep Vallverdú d’assaig i Màrius Torres de poesia, que convoquen l’Ajuntament de Lleida i l’Institut d’Estudis Ilerdencs, faran públic el veredicte de dos guardons que prohibeixen fer servir cap eina d’IA «ni parcialment ni totalment». Per comprovar-ho, només demanen una declaració signada dins la plica.