Hållbara städer
Ny studie: Politiska motioner skrivs med AI – i smyg
Närmare 10 procent av motionerna under det senaste riksdagsåret har skrivits med hjälp av AI-chattbottar. Inte någon gång har politikerna redovisat det. Det konstaterar forskare som utvecklat AI-detektorer som tränats på tusentals riksdagsmotioner.
Prenumerera på Extrakts nyhetsbrev!
Läs mer
Håll dig uppdaterad! Få kunskapen, idéerna och de nya lösningarna för ett hållbart samhälle.
Tack för din prenumeration på nyhetsbrevet Extrakt! För att bekräfta din prenumeration, vänligen klicka på länken som vi har skickat till din e-postadress.
Personuppgifter lagras endast för utskick av Extrakts nyhetsbrev och information kopplat till Extrakts verksamhet. Du kan när som helst säga upp nyhetsbrevet, vilket innebär att du inte längre kommer att få några utskick från oss
– Oavsett i vilken grad AI har använts kan det finnas risker med att inte vara transparent. Vi ser också att texter som producerats med hjälp av AI ofta är mycket välformulerade och övertygande, vilket ökar risken för att fel inte ens upptäcks av skribenten själv. Dessutom är det en förtroendefråga utifrån mottagarens perspektiv säger Minerva Suvanto, forskare vid Chalmers och studiens huvudförfattare, i ett pressmeddelande.
I ett samarbete med Edinburgh Napier University har hon och hennes kollegor tagit fram AI-detektorer för svenska och engelska texter. Detektorerna har skapats med hjälp av en stor mängd träningsdata, bland annat motioner skrivna mellan 2014 och 2020 – innan AI-baserade chattbottar användes. Sedan har de använts för att analysera tusentals politiska motioner i Sverige och Storbritannien.
Studien visar att i princip inga motioner var AI-genererade under riksdagsåret 2021-2022, fyra år senare var nästan var tionde motion AI-genererad i någon utsträckning. Någon skillnad mellan olika politiska partier, eller mellan svenska och brittiska parlamentariker, ser man inte.
Hittills har det inte funnits några krav i Sverige på att innehåll framtaget med hjälp av AI ska redovisas, men 2 augusti började nya EU-regler om transparens gälla.
– I vår forskning har vi varken fokuserat på regelverk eller faktainnehåll, utan hållit oss strikt till språket. Men det blir intressant att följa hur de nya reglerna kommer att tillämpas i Sverige och om det kommer att påverka motionsskrivandet framöver. Även om AI-förordningen är ganska vag, och det finns undantag för om man bara använder AI för redigering, så kanske politikerna omvärderar hur de redovisar sin AI-användning – utifrån att de vill ha väljarnas förtroende, säger Minerva Suvanto.
