Kunstig Intelligens (KI) kommer til å revolusjonere tekstproduksjon. Europol anslår at 90 % av all tekst på internett i 2026 kommer til å være generert av KI. Dette aktualiserer spørsmålet om hvorvidt det skal merkes at innhold er produsert av kunstig intelligens. KI-forordningen stiller krav til merking av KI-generert output. Output er “svaret” du får fra KI-systemet. Denne artikkelen ser nærmere på hvilke merkingskrav som kommer til å gjelde og relevant markedspraksis. 

 

KI-forordningen og krav til merking av tekst 

EU vedtok KI-forordningen i mars 2024. Det er uavklart når forordningen kommer til å gjelde i Norge, men det er altså bare et tidsspørsmål. Forordningens artikkel 52 angår merking av KI-output og må ses i sammenheng med formålet om å fremme en tillitsskapende bruk av KI. Forordningens merkeordning for tekst rammer i hovedsak tekst som ikke gjennomgår menneskelig revisjon eller redaksjonell kontroll. 

For produsenter av systemer som genererer KI-output er hovedregelen at systemet må merke bilde, tekst eller video. Dette gjelder likevel ikke for tekstredigeringsprogrammer og andre støttefunksjoner som ikke endrer brukerens input i betydelig grad. 

For de som bruker KI til å skape tekst gjelder merkingskrav dersom teksten er til for å opplyse offentligheten om forhold av offentlig interesse. Tekst produsert av mediehus er klart nok omfattet. En annen kategori som kan være særlig aktuell for merking er KI-tekster publisert av politiske parti, folkeopplysningskampanjer eller lignende. Det er usikkert om en bedrift som markedsfører produktet sitt mot offentligheten må merke KI-generert tekst på en reklameplakat eller i artikkellignende annonser. Hvor vidtrekkende regelens nedslagsfelt blir, gjenstår å se. Merkingen må få klart frem at teksten er kunstig generert. Derfor bør merkingen plasseres innledningsvis i en tekst, slik at leseren tidligst mulig får kunnskap om hvordan teksten har blitt produsert. 

Det er et praktisk viktig unntak til kravet til merking. Unntaket gjelder tekst som har gjennomgått en menneskelig revisjon eller redaksjonell kontroll, forutsatt at en fysisk eller juridisk person (eksempelvis et aksjeselskap) har påtatt seg redaksjonsansvar for publikasjonen. Dermed ser det ut som de fleste, og spesielt mediehus, kan komme seg unna merkeplikten for tekst ved å revidere og påta seg ansvaret for det publiserte. Hvor vidåpen denne bakdøren ut av direktivet står er ikke avklart, og må avklares av EU-domstolen. Men det er ganske klart at mediehus etter ordlyden enkelt kan bli fritatt for merkeplikt. KI-forordningens merkekrav gjelder altså hovedsakelig for KI-generert tekst som ikke er revidert av brukere mellom produksjon og publikasjon.  

 

Markedspraksis 

Gjeldende markedspraksis for mediehusene beveger seg likevel i retning av at man merker tekst som er skapt ved hjelp av KI. I lys av behovet for betryggende og tillitsskapende bruk av KI, og kanskje for å skille seg ut som ansvarlige formidlere av informasjon, har flere norske aviser, som Dagens Næringsliv, utviklet retningslinjer for bruk og merking av tekst. Disse retningslinjene går lenger eller er på linje med forordningen. Medienes spesielle plass i samfunnet som den “fjerde statsmakt” underbygger at denne praksisen er viktig og riktig. Også andre som publiserer tekst kan merke tekstene de publiserer for å understøtte sannhetssøken og bidra til å tydeliggjøre skillet mellom hva som er menneskelig og kunstig generert.  

Juridisk ABC mener at man står ansvarlig for det innholdet man publiserer, uansett hvilket verktøy eller hva slags kilde man har benyttet seg av. Man bør være nysgjerrig på hva den kunstige intelligensen kan bidra med, men også være kritisk til de løsningsforslagene den gir. Det er samspillet mellom KI og menneskelig intelligens som kan skape de beste løsningene. Brukere bør holde seg oppdatert på gjeldende regelverk, men også hente inspirasjon fra andres tillitsskapende løsninger som strekker seg lenger enn hva regelverket krever.