Kan du bevisa att din text inte är skriven av AI?

Kan du bevisa att din text inte är skriven av AI? Frågan har blivit allt mer relevant i takt med att generativa AI-verktyg används för att skriva allt från skoluppgifter och artiklar till ansökningar och arbetsmaterial. Samtidigt har AI-detektorer vuxit fram som ett sätt att försöka avgöra vem eller vad som ligger bakom en text. Problemet är att det ofta är betydligt svårare att bevisa mänskligt författarskap än att upptäcka tydliga tecken på AI-genererat innehåll. En text kan dessutom felaktigt klassas som AI-skriven. Det väcker frågor om bevisbörda, tillförlitlighet och hur vi egentligen kan fastställa en texts ursprung.

Varför AI-detektorer inte kan ge ett säkert svar

AI-detektorer används för att analysera texter och bedöma om formuleringarna liknar sådant som har skapats av generativa språkmodeller. Verktygen letar bland annat efter statistiska mönster, förutsägbarhet och variation i språket. Problemet är att dessa egenskaper också förekommer i texter som skrivits helt av människor. En person som skriver formellt, korrekt och strukturerat kan därför få ett resultat som antyder AI-användning, trots att ingen AI har varit inblandad. Ett sådant resultat säger därmed något om textens språkliga egenskaper, men behöver inte kunna fastställa vem som faktiskt skrev den.

AI-detektorer bygger på sannolikheter

En AI-detektor fungerar inte som en kamera som kan se vem som skrev texten. Den analyserar i stället texten utifrån olika språkliga signaler och beräknar hur sannolikt det är att innehållet har producerats av en språkmodell. Det innebär att resultatet alltid behöver tolkas med försiktighet. Ett påstående om att en text är AI-genererad baserat enbart på en sådan analys blir därför problematiskt. Det går inte automatiskt att vända resultatet och säga att en låg AI-poäng bevisar mänskligt författarskap.

Det finns dessutom flera faktorer som kan påverka resultatet. Språk, textlängd, ämnesområde, skrivstil och graden av redigering kan exempelvis spela roll. En människa kan skriva på ett sätt som modellen känner igen, medan en AI-genererad text kan bearbetas tills de ursprungliga mönstren blir mindre tydliga. Därför kan två texter med liknande innehåll få helt olika bedömningar. Det gör det svårt att använda detektorernas resultat som ett definitivt bevis i situationer där författarskapet har betydelse.

Falska positiva resultat är ett problem

Ett falskt positivt resultat innebär att en text som faktiskt är skriven av en människa klassificeras som AI-genererad. Det kan få betydande konsekvenser om resultatet används för att ifrågasätta en elev, skribent, forskare eller arbetstagare. Särskilt problematiskt blir det när en automatiserad bedömning behandlas som om den vore ett säkert bevis. En detektor kan identifiera ett mönster, men mönstret behöver inte ha en unik koppling till AI. Mänskligt språk innehåller också regelbundenhet, återkommande formuleringar och strukturer som statistiska verktyg kan reagera på.

Risken för felaktiga bedömningar gör att det behövs en tydlig skillnad mellan indikation och bevis. Ett resultat från en AI-detektor kan möjligen väcka frågor om hur en text har kommit till, men det behöver kompletteras med annan information. Exempelvis kan tidigare utkast, versionshistorik eller dokumentation av arbetsprocessen ge en betydligt bättre bild av hur texten skapades. Ju större konsekvenser en bedömning får, desto viktigare blir det att inte förlita sig på en enda automatiserad analys.

Språklig stil kan förändras utan AI

En text behöver inte vara AI-genererad bara för att den har ett jämnt språk, få stavfel eller en tydlig struktur. Människor kan redigera sina texter flera gånger, använda stavningskontroll, ta hjälp av språkverktyg eller följa en bestämd skrivmall. Resultatet kan då bli mycket mer enhetligt än det första utkastet. Om en detektor främst letar efter vissa statistiska egenskaper kan den därför få svårt att skilja mellan professionellt redigerad text och text som har skapats av AI.

Det omvända kan också förekomma. En AI-genererad text kan förändras genom mänsklig redigering, omskrivningar och faktakontroll. När en person bearbetar texten kan språkmodellsrelaterade mönster försvagas eller blandas med personens egen stil. Frågan blir då inte bara om texten ursprungligen skapades av en människa eller en AI, utan vilka delar som har skrivits, ändrats eller bearbetats av olika aktörer. Det visar varför textens slutliga utformning inte alltid räcker för att fastställa dess ursprung.

Vilka bevis kan visa att en människa skrivit texten?

Om målet är att visa att en text har skrivits av en människa är det ofta mer användbart att dokumentera själva arbetsprocessen än att försöka bevisa något genom textens färdiga formuleringar. Ett färdigt dokument visar vad som slutligen står på sidan, men inte nödvändigtvis hur innehållet kom till. Utkast, anteckningar och tidigare versioner kan däremot visa hur idéer har utvecklats över tid. Genom att spara material från olika stadier blir det möjligt att skapa en mer sammanhängande bild av skrivprocessen och därmed stärka trovärdigheten i ett påstående om mänskligt författarskap.

Utkast visar hur texten växte fram

Ett tidigt utkast kan vara värdefullt eftersom det visar formuleringar, ändringar och idéer som föregick den slutliga texten. Om texten har skrivits över flera tillfällen kan olika versioner dessutom visa hur innehållet successivt har förändrats. Stavfel kan ha rättats, resonemang kan ha byggts ut och meningar kan ha flyttats eller skrivits om. Den typen av förändringar är svåra att se när man bara granskar slutversionen. Därför kan sparade arbetsversioner fungera som dokumentation av processen snarare än som en bedömning av själva sluttextens språkliga egenskaper.

Versionshistorik kan ge ännu tydligare information. Många digitala skrivverktyg registrerar när dokument har skapats och ändrats samt vilka delar som har redigerats. En sådan historik kan visa att texten har vuxit fram stegvis i stället för att ha skapats i sin slutliga form vid ett enda tillfälle. Det bevisar inte automatiskt att varje formulering är mänskligt skriven, men det kan ge relevant information om arbetsprocessen. Ju mer detaljerad dokumentationen är, desto lättare blir det att beskriva hur texten faktiskt har producerats.

Anteckningar och källarbete kan ge stöd

Anteckningar före själva skrivandet kan också vara relevanta. Handlingsplaner, tankekartor, stödord och egna formuleringar visar vilka idéer som låg bakom texten. Om en skribent dessutom har samlat information från olika källor kan anteckningarna visa hur materialet har valts ut och bearbetats. Det ger en inblick i det arbete som inte syns i den färdiga texten. Särskilt när innehållet bygger på omfattande research kan denna dokumentation göra det lättare att förklara varför vissa uppgifter och resonemang finns med.

Även kommunikation under arbetets gång kan ibland bidra till att dokumentera processen. Kommentarer i ett dokument, redigeringshistorik och egna arbetsanteckningar kan visa när olika delar har tillkommit. Det viktiga är inte att samla så mycket material som möjligt utan att kunna visa en rimlig kedja från idé till färdig text. Enstaka dokument säger ofta mindre än flera olika typer av arbetsmaterial som tillsammans beskriver hur skrivandet har gått till. På så sätt blir bevisningen mer konkret än ett enskilt resultat från en AI-detektor.

Mänskligt författarskap handlar om processen

Det är svårt att bevisa att varje enskild mening har skrivits utan hjälp av AI enbart genom att läsa slutprodukten. Ett starkare underlag kan därför handla om vem som har utvecklat innehållet, gjort research, valt argument, strukturerat texten och genomfört redigeringen. I praktiken kan författarskap vara en process snarare än en egenskap som går att identifiera genom ett specifikt språkligt kännetecken. Det blir särskilt relevant när moderna skrivverktyg används för exempelvis stavningskontroll, språkförbättring eller andra begränsade funktioner.

Det är också viktigt att skilja mellan olika former av teknisk hjälp. Att använda ett verktyg för att korrigera ett kommatecken är inte samma sak som att låta en språkmodell producera hela texten. Om frågan gäller hur en text har skapats behöver man därför definiera vad som menas med mänskligt författarskap och vilken typ av AI-användning som eventuellt har förekommit. Utan en sådan definition riskerar diskussionen att bli alltför förenklad. Dokumentation av arbetssättet kan då ge mer relevant information än en bedömning av textens stil.

När blir det omöjligt att bevisa textens ursprung?

Frågan om textens ursprung blir särskilt komplicerad när det saknas sparade utkast, versionshistorik eller annan dokumentation. En färdig text innehåller sällan tillräckligt med information för att säkert rekonstruera hela skapandeprocessen. Om någon exempelvis har skrivit texten i ett enda dokument och därefter lämnat ifrån sig slutversionen kan det finnas mycket få externa spår att undersöka. Då återstår främst språklig analys och uppgifter från den som har producerat texten. Inget av detta behöver ensamt kunna fastställa ursprunget med säkerhet.

En färdig text berättar inte allt

En texts innehåll kan visa vilka idéer och argument som används, men normalt inte exakt hur de har formulerats. Samma mening kan dessutom ha skrivits självständigt av olika personer. Att en formulering liknar språk som förekommer i AI-genererat material innebär därför inte automatiskt att AI har använts. På samma sätt kan en text som känns personlig och varierad fortfarande ha skapats med hjälp av en språkmodell. Stil är helt enkelt inte en unik identitetsmarkör. När arbetsmaterialet saknas blir det därför svårt att gå från observationer i texten till ett säkert påstående om dess ursprung.

Problemet blir ännu större när texten har bearbetats efter att den skapades. En person kan ha skrivit ett första utkast, använt ett digitalt verktyg för språkliga ändringar och därefter gjort egna justeringar. Den färdiga versionen kan då innehålla element från flera steg i processen. Om man bara analyserar slutresultatet blir det svårt att avgöra vilka delar som kom från vilket steg. Författarskap och verktygsanvändning behöver därför inte vara två helt separata kategorier. En text kan vara mänskligt bearbetad även om tekniska verktyg har använts under arbetet.

Bevisbördan spelar en central roll

Vad som räknas som tillräckligt bevis beror på sammanhanget. I en skolmiljö kan exempelvis läraren vilja förstå hur en uppgift har producerats, medan en arbetsgivare kan behöva bedöma hur ett dokument har tagits fram. Kraven på dokumentation och vilka slutsatser som är rimliga kan därför skilja sig åt. Ett AI-detektorresultat kan vara en del av underlaget, men det är något annat än ett säkert fastställande av författarskap. Ju allvarligare konsekvensen av bedömningen är, desto större betydelse får kvaliteten på det samlade underlaget.

Det finns också en principiell skillnad mellan att inte kunna bevisa mänskligt författarskap och att kunna bevisa AI-författarskap. Om det saknas dokumentation betyder det inte automatiskt att AI har använts. På samma sätt innebär avsaknad av tydliga AI-signaler inte att mänskligt författarskap är bevisat. Bedömningen behöver utgå från vad som faktiskt går att belägga. Det är särskilt viktigt när ett osäkert tekniskt resultat riskerar att behandlas som ett definitivt svar på en fråga som verktyget egentligen inte är konstruerat för att besvara.

Frågan kan vara felställd

I vissa fall är frågan ”Kan du bevisa att din text inte är skriven av AI?” svårare att besvara än den först verkar. Om beviskravet innebär att skribenten måste visa att ingen AI-relaterad hjälp alls har förekommit kan även mycket begränsad teknisk assistans bli relevant. Om kravet däremot handlar om vem som står bakom textens innehåll och huvudsakliga formuleringar blir bedömningen annorlunda. Därför behöver man först definiera vad som faktiskt ska bevisas. Utan en tydlig definition går det inte att avgöra vilken dokumentation som är relevant.

Det innebär också att den mest användbara dokumentationen ofta är den som kan beskriva processen från början till slut. Utkast, anteckningar, versionshistorik och redigeringar kan tillsammans ge en betydligt mer nyanserad bild än en ensam teknisk klassificering. Samtidigt kan inte heller sådan dokumentation alltid ge absolut säkerhet om varje steg. Digitala verktyg gör skrivprocessen mer komplex och gränsen mellan mänskligt skrivande och teknisk assistans mindre skarp. Därför behöver påståenden om en texts ursprung baseras på det underlag som faktiskt finns, inte på antaganden utifrån textens stil.