Francoska književnost doživlja eno tistih polemik, ki pustijo grenak priokus v ustih in vas hkrati prisilijo, da se soočite z neprijetnim vprašanjem. Roman C'était ça ou mourir kanadsko-haitske pisateljice Thélyson Orélien se je iz enega od fenomenov literarnega preporoda spremenil v središče neformalne preiskave o tem, ali je bilo njegovo besedilo napisano s pomočjo umetne inteligence. Obtožba ne prihaja s sodišča ali založnika, temveč iz anonimnega računa na X, ki je delčke dela poslal orodju za odkrivanje.
Knjiga, ki je bila v španščino prevedena tudi kot Era eso, morir (To je to, umreti ), se je v petih tednih prodala v približno 35.000 izvodih in je veljala za kandidatko za večje nagrade. Zdaj vprašanje ni več le, kdo jo je napisal, temveč kaj točno pomeni avtorstvo v industriji, ki se začenja spopadati z jezikovnimi modeli, ki so sposobni posnemati človeške sloge. Založniki, agenti in literarne žirije pozorno spremljajo primer, saj napoveduje podobne težave na drugih evropskih trgih.
V Franciji odprt primer: od anonimnih pritožb do literarnih nagrad
Polemika se je začela, ko je račun Balance ton Claude objavil več analiz o X z uporabo Pangrama, programa, specializiranega za prepoznavanje vzorcev v besedilih, ustvarjenih z umetno inteligenco. Glede na te rezultate je nekatere odlomke romana ustvaril stroj in celoten roman je bil "skoraj v celoti" napisan na ta način. Objava je zbrala milijone ogledov in opozorila na knjigo, ki je do takrat prejemala pohvale kritikov in dobro prodajo.
Francoski mediji so se izziva lotili. Le Monde je z uporabo Pangrama analiziral več kot polovico romana in z visoko stopnjo zaupanja ugotovil, da bi lahko več kot 95 % besedila ustvarila umetna inteligenca. Ta ugotovitev je bila presenetljiva, saj Pangram velja za enega najnatančnejših detektorjev umetne inteligence na trgu. Kljub temu nam sama narava teh orodij preprečuje, da bi govorili o dokončnem dokazu: ne potrjujejo avtorstva, temveč le nakazujejo verjetnosti.
Tudi izdajna pot knjige pojasnjuje obseg škandala. V petih tednih je bila prodana v približno 35.000 izvodih in je bila uvrščena v ožji izbor za prestižne nagrade, kot je Goncourtova nagrada, poleg tega pa je prejela še druga priznanja v Franciji. Ta komercialni in kritiški uspeh je sumničavost glede umetne inteligence naredil za industrijo še bolj neprijetno vprašanje.
Thélyson Orélien je v odgovor na obtožbe zanikal uporabo umetne inteligence pri pisanju romana. Pojasnil je, da je bil prvi osnutek končan pred javnim ogorčenjem ChatGPT in da ponovitve, podobe in ritmi v besedilu odražajo njegov lasten način izražanja, ki temelji na njegovi haitijski in karibski dediščini. Tako on kot njegovi založniki pripravljajo dokumentacijo o ustvarjalnem procesu, da bi poskušali dokazati, da je delo njegovo.
Orodja za odkrivanje: namigi, ne dokončen dokaz
Primer je pod drobnogled postavil Pangram in detektorje umetne inteligence na splošno . Orodje se ponaša z zelo nizko stopnjo lažno pozitivnih rezultatov in je bilo omenjeno v akademskih študijah, vendar strokovnjaki poudarjajo, da noben sistem ne more dokončno določiti, kdo je napisal besedilo. Različni mediji in uporabniki so iste fragmente besedila preizkusili z drugimi detektorji in dobili mešane rezultate: nekateri so jih opredelili kot verjetno človeške.
Strokovnjaki za forenzično odkrivanje so opozorili, da lahko nekateri slogi pisanja povzročijo napake in da se natančnost zmanjša pri analizi jezikov, ki niso angleščina. K temu je treba dodati še ključno podrobnost: detektor sam je umetna inteligenca, zato njegova odločitev temelji na statističnih vzorcih in ne na dokumentarnih dokazih. V primeru, kot je Orélien, je razlika med sumom in gotovostjo ogromna.
Pravzaprav so že krožili dokazi z uporabo človeških besedil, ki so jih orodja, kot je Pangram, označila kot ustvarjena z umetno inteligenco. To ne pomeni, da je obtožba proti Orélienu napačna, vendar zahteva previdnost pri obravnavanju rezultatov. Med detektorji umetne inteligence ni soglasja in zaenkrat sumi temeljijo na tehničnih indikacijah, ki ne potrjujejo niti ne zanikajo, da je avtor uporabil jezikovni model.
Temeljna razprava: avtorstvo, nagrade in pravila industrije
Poleg tega specifičnega primera je polemika sprožila vprašanje, ki se mu industrija dolgo izogiba: kje je meja med uporabo umetne inteligence kot orodja in tem, da ji pustite pisati namesto vas? Ni enako, če jo uporabljate za raziskovanje, urejanje ali premagovanje pisateljske blokade, kot če ji prepustite strukturo, slog ali dialog. Francoski literarni krogi razpravljajo o tem, ali si obe praksi zaslužita enako kritiko in ali bi morali bralci vedeti, kaj je vključeno v vsako knjigo.
Tudi nagrade so pod drobnogledom. V razpravi o literarnih natečajih se je pojavila trditev, da morajo biti pravila veliko bolj jasna, da bi preprečili goljufije, in da bi moral biti za diskvalifikacijo dela zadosten utemeljen sum . Hkrati nekateri založniki in agenti pozivajo k temu, da se postopek odkrivanja ne spremeni v lov na čarovnice, saj bi lažno pozitivni rezultati lahko škodovali legitimnim avtorjem. Pomanjkanje skupnih predpisov ta občutek negotovosti še poslabšuje.
Primer Orélien je tudi pokazal, da umetna inteligenca ni več futuristična grožnja, temveč sodoben problem v knjižni industriji . Od oddaje rokopisov do promocije, vključno s pogodbami in avtorskimi pravicami, vsak člen v verigi potrebuje jasne smernice. Medtem ko nekateri avtorji trdijo, da je pisanje osebna in edinstvena izkušnja, drugi menijo, da je tehnologija lahko koristno orodje, če je njena uporaba pregledna.
Roman Thélyson Orélien bo še naprej sprožil razprave, a njegov pravi vpliv sega daleč preko nagrade ali porasta prodaje. Epizoda je razkrila krhkost meril za avtorstvo in težavnost dokazovanja, kdo je kaj napisal, ko gre za umetno inteligenco. Dokler ne bodo vzpostavljena skupna pravila in robustnejše metode preverjanja, se bo vsak nov primer reševal sredi sumov, sporočil za javnost in neprijetnega občutka, da industrija zaostaja za tehnologijo.