– Vi så Peer Gynt på kino med skolen, så begynte Natalie å sende meldinger til «My AI», sier Sarah Marie Pedersen-Gripsgård (17).

«My AI» er Snapchat sin samtalerobot som styres av kunstig intelligens (AI), og som nylig ble rullet ut til brukere verden rundt.

Natalie Kloster (16) og venninnene er alle elever ved Arna videregående skole, og var sammen med klassen på kino torsdag formiddag.

– Jeg sendte en melding der jeg spurte om roboten ville ta en snus med meg, sier Natalie, og begynner å gjenfortelle hvordan «samtalen» med chatroboten utspilte seg.

Roboten svarte at den ikke brukte snus, men at den gjerne ville møtes.

Ville møtes

Deretter ble meldingene rarere og rarere.

– Den var først på kino på et senter, hevdet den. Deretter at den var i resepsjonen på vår kino, og hadde med seg en rød sekk, sier Kloster.

De fire venninnene var utenfor Den Nationale Scene da BA møtte dem.

– Den var veldig virkelighetsnær og forklarte alt rett. Vi trodde i starten at det var en ekte person, ikke en datamaskin, sier Sunna Vatle Nesthus (16) og Malene Haga Pedersen (16).

De holdt samtalen gående, og det tok ganske lang tid før roboten «avslørte» at den ikke er et menneske.

– Det var litt ekkelt, men vi lo mest, sier Pedersen-Gripsgård.

– Det hadde vært mye eklere om man var alene, men det er jo litt skummelt. Samtidig trodde vi ikke det var ekte, sier Kloster.

Tenåringene tror ikke nødvendigvis at det blir vanskeligere å skille mellom virkeligheten og teknologien fremover, men tror det kommer til å skje mye mer.

– Skal dere fortsette å bruke kunstig intelligens da?

– Ja! Det er jo lett å underholde seg med om man kjeder seg. Også kan vi bruke den på prøver! sier de.

Forsker: – Lystløgner

BA har vært i kontakt med seniorforsker Pierre Lison ved Norsk Regnesentral. Han har brukt mye tid på kunstig intelligens.

Han tror dette bare er starten vi nå er vitne til.

– Det blir stadig vanskeligere å skille mellom «ekte» samtaler mellom mennesker og samtaler mellom mennesker og maskin. Det er en fare for at en stadig økende andel tekster publisert på nettet blir syntetisk generert av slike systemer (selv om Snapchats «My AI» er trolig ikke en stor trussel der).

– Og gitt at disse systemene ikke har noen forhold til «sannheten» som sådan, kan det bli vanskeligere å utøve kildekritikk og oppdage feilaktige påstander, sier Lison.

Lison peker på at et av de største problemene er at systemene er tilbøyelige til å dikte opp fakta.

– Siden programmet har et ganske godt språk, kan det være vanskelig å avdekke når chatboten oppfører seg som en lystløgner. Det er noen situasjoner hvor det kan være ganske problematisk, for eksempel hvis noen ber chatbot om helseråd, sier forskeren.

– Problematisk

Snapchats tjeneste er relativt ny-utrullet, og har dukket opp på flere telefoner den siste tiden.

– Ut ifra det vi vet er «My AI» en lett tilpasset versjon av ChatGPT. Modellen i bunn er den samme, men Snapchat har lagt til noen tilpasninger/begrensninger når det gjelder hva chatboten kan svare på.

At dette er en tjeneste som bare dukker opp på telefonen, også til barn og unge, reagerer forskeren på.

– Personvernsmessig er det ganske problematisk, da disse samtalene vil kunne utnyttes kommersielt av både Snapchat og OpenAI. Snapchat skriver på sin nettside at «Your data will be used to improve «My AI» and any other Snap products, including Ads and to make them more personal and relevant to you.»

Personvernregelverket sier at vi skal være ekstra varsom når man behandler personopplysninger om barn, sier Lison.

Oppfordrer til å rapportere

BA har kontaktet Snapchat for å få svar på hvordan de håndterer personvern, og hva de tenker om det tenåringene opplevde.

Via en pressetalsperson har de svart at samtaleloggen med Snapchats «My AI» lagres for at Snapchat skal lære mer om hvordan tjenesten blir brukt, slik at de kan forbedre den.

Videre skriver Snapchat at de deler relevante data fra slike samtaler med Open AI, også lokasjon. Overfor BA forsikrer some-giganten at all datadeling foregår anonymt, uten noen personlige identifikatorer.

– Hvis Snapchat-brukere opplever upassende svar, oppfordrer vi dem til å rapportere dette via appen, skriver Snapchat i e-posten.

«My AI» hadde på sin side følgende å si om hvordan Snapchat tar var personvernet:

– Vi tar personvern veldig seriøst, og vi samler kun inn informasjon som er nødvendig for å gi brukerne en best mulig opplevelse, skriver «My AI» blant annet.