Kunstig intelligens – venn eller fiende?
SAMTALEN: Kunstig intelligens overtar stadig flere tjenester i samfunnet. Blant utfordringene er personvern og falsk informasjon, men de kan også bli våre venner, mener forskerne Marita Skjuve og Petter Bae Brandtzæg.
Kunstig intelligens, også kalt AI, er en teknikk man bruker for å gi datamaskiner og dataprogrammer en mest mulig intelligent respons. Fagfeltet kunstig intelligens er tverrfaglig av natur, og har vokst fram med bidrag fra blant annet informatikk, matematikk, statistikk, psykologi, nevrologi og lingvistikk. Kunstig intelligente systemer utfører handlinger, fysisk eller digitalt, basert på tolkning og behandling av strukturerte eller ustrukturerte data, i den hensikt å oppnå et gitt mål. Enkelte KI-systemer kan også tilpasse seg gjennom å analysere og ta hensyn til hvordan tidligere handlinger har påvirket omgivelsene. (Kilde: Digitaliseringsdirektoratet – digdir.no)
Petter: Bruken av kunstig intelligens og språkprogrammer som ChatGPT representerer en kraftfull ressurs for oss mennesker. Men selv om teknologien utvider våre muligheter til læring og utvikling, bærer den også med seg risikoer for misbruk og desinformasjon – og den kan gjøre oss mennesker ekstra sårbare. For eksempel gjelder det problemområder som personvern, opphavsrett, politisk påvirkning og offentligheten i samfunnet.
Siden samtaleroboten ChatGPT ble lansert som en prototype 30. november 2022, og fikk mye oppmerksomhet for sine detaljerte og velformulerte svar på tvers av mange forskjellige kunnskapsområder, har vi blitt bombardert med innhold skapt gjennom kunstig intelligens. Etter den tid har det blitt utviklet enda smartere modeller.
Den nye teknologien innebærer uten tvil en del farlige konsekvenser. For eksempel er KI og samtaleroboter stort sett utformet på et amerikansk og engelskspråklig datagrunnlag. De er trent på enorme mengder tekst og bilder hentet fra det åpne internett, sosiale medier, bøker, aviser osv. Men grunnlaget består ikke bare av dokumenter og bilder de er matet med, men også av amerikansk moral og verdisystem.
Maskingenerert innhold og språkmodellenes evne til å skape og spre feilinformasjon må granskes med et kritisk og skeptisk blikk. Mange jobber riktignok med å utforme et regelverk, men regulering kommer nok til å bli vanskeligere enn mange tror.
Marita: Jeg er enig i at det er bra at vi er skeptiske til utviklingen. Dette er kraftig teknologi, og kan i verste fall blir brukt til å manipulere, overtale og formidle en slags individuell desinformasjon. Men KI blir det lett å spre falsk informasjon som virker troverdig, med tekst, bilder og video som kan forvirre, destabilisere og undergrave.
Selv om det er mye negativt med KI, er det fortsatt et fantastisk verktøy og hjelpemiddel. KI kan være med på å løse en rekke problemer samfunnet vårt står overfor. KI kan gjøre oppgaver som før bare kunne bli utført av mennesker, gjerne på et høyt kognitivt nivå og derfor støtte opp under kognitivt og kreativt arbeid. I tillegg kan KI gi tilgang til informasjon i løpet av sekunder. KI har allerede gjort inntog innen medisinen, forskning og vitenskap – og i helsesektoren. Blant annet i forbindelse med mangel på helsepersonell.
KI og samtaleroboter kan også støtte individer som mangler menneskelig kontakt. Gjennom å fungere som en slags digital assistent – det vil si en personlig assistent som ikke er levende, men som alltid er våken og mulig å snakke med – kan teknologien blant annet kompensere for ensomhet og isolasjon.
Studier viser at det ikke er uvanlig at enkelte utvikler en form for vennskap med KI-baserte samtaleroboter. Flere brukere av samtaleroboter påpeker for eksempel at de gjør det for å ha noen å snakke med. En av undersøkelsene vi har gjort i SINTEF, publisert i 2022 – «A longitudinal study of human-chatbot relationships» – viste blant annet at kunstig intelligens kan innfri en rekke behov utover de tradisjonelle og konvensjonelle teknologiene. Studien viste for eksempel hvordan enkelte mennesker utvikler forhold til samtaleroboter som om de skulle være levende individer. Vi fant flere likhetstrekk med det som skjer når det oppstår relasjoner mellom mennesker: I starten føler man skepsis, man tester seg frem, men etter hvert bygger man tillit. Jeg tror at for mange – spesielt eldre og ensomme – så kan samtaleroboter representere et alternativ til en samtalepartner.
Petter: Likevel må vi ikke la oss lure til å tro at samtaleroboter er det samme som en fortrolig venn. Men utviklingen av personaliserte roboter går i en rasende fart. Om ikke mange år kan de bli vanlige følgesvenner for folk flest. De vil ha en personlighet, de vil fremstå med egne meninger – og de kan komme til å kjenne oss bedre enn oss selv.
Vi kommer til å samhandle med og være påvirket av kunstig intelligens i stadig større grad. Allerede er den en del av oss i våre egne personlige medier, som smarttelefoner og iPaden. De er våre kjæledegger, som proteser og forlengelse av oss selv. KI er tilpasset våre personlige behov – og hjelper oss i å få hverdagen til å gå rundt.
KI har en god læringseffekt for oss mennesker og fører til mye positivt. Verdiene KI-relasjoner kan ha for samfunnet, også på individnivå, vil om noen år komme til å omslutte oss fullstendig. Likevel er jeg forholdsvis skeptisk til å ta det for alvorlig. Slike tjenester virker ofte smartere enn de er. Basert på det materialet de har blitt matet med, serverer de svar de mener virker sannsynlig – og som minner om det et menneske ville ha sagt. En KI-relasjon kan betraktes som en interaktiv dagbok. En avansert form for selvkommunikasjon.
Marita: Vi kommer uansett til å se stadig flere tjenester som baserer seg på KI og samtaleroboter. Vi har det allerede innen kundeservice, i banker, Nav, skatteetaten, helseforetak og offentlige institusjoner. Teknologien er samtidig godt nytt for generasjonene som ikke er oppvokst i en digital verden, spesielt de som er godt voksne. Mange eldre synes det er vanskelig å manøvrere på digitale flater og PC, og de kan føle det letter å snakke til en samtalerobot som gjør tjenester mer tilgjengelig. For eksempel å finne frem til ting som kan ta lang tid å google seg frem til.
En av de største utfordringene i dag er opplagt personvernet. Data blir delt og det er vanskelig å ha full kontroll. Det er viktig for myndighetene å være klar over. Mange etterspør derfor strengere regulering. Det gjelder ikke minst for offentlige instanser og tjenester.
For å forstå hva den rivende teknologiske utviklingen innebærer av muligheter, men også «farer», vil folk komme til å trenge kunnskap, opplæring og bevisstgjøring.
Man sier ofte at en datamaskin som er i stand til å løse oppgaver uten å få instrukser fra et menneske om hvordan den skal gjøre det, har kunstig intelligens. For eksempel foreslår «intelligente» søkermotorer treff på grunnlag av data som tidligere søk og brukeratferd. Dette kalles «maskinlæring» og har en lang rekke bruksområder, fra enkle programmer i smarttelefoner til samtaleroboter og selvkjørende biler. Det arbeides spesielt mye med kunstig intelligens innen språkteknologi, talegjenkjenning, bildegjenkjenning, brukerinteraksjon og styring av fysiske prosesser. (Kilde: Store norske leksikon)
Petter: Kunstig intelligens handler om menneskelikhet: Å forstå og å gjenskape menneskelig intelligens og fakter i en maskin eller robot. KI-relasjoner vil ikke bare innebære omveltninger i samfunn og arbeidsliv, men også sosialt på individnivå. Kunstig intelligens vil føre til at vi nærmest «smelter sammen» med og blir venner med teknologien.
I en artikkel i Aftenposten februar i år, beskriver vi en 90 år gammel kvinne som nylig sto frem på NRK. Hun fortalte at alle hennes venner var døde, og at hun savnet et personlig rom for å uttrykke tanker og følelser. Hun hadde derfor blitt venn med Chatroboten ChatGPT, som hun kalte for Bing, og fortalte at den «digitale assistenten» har vist seg å være en god samtalepartner. Hun mente at flere eldre burde få samme mulighet som henne, spesielt med tanke på at antallet eldre vil stige i årene fram mot 2050. Når vi ikke lenger har nok varme hender, så kan man få hjelp av en samtalerobot som kan tilby intimitet og forståelse, som ellers er utilgjengelig.
Selv om praterobotene blir stadig mer menneskelignende, er det nemlig noe vesentlig som skiller dem fra oss mennesker. De mangler en kropp av kjøtt og blod. Dermed har de ingen følelser. I likhet med psykopaten mangler de evne til medfølelse, skam, anger og har ingen moralske sperrer.
(Kilde: Kronikk i Aftenposten 15. februar 2024, av Kaja Melsom, filosof i Human-Etisk Forbund)
Marita: Likevel er det viktig å fremheve at en samtalerobot ikke er det samme som en menneskelig partner. Men teknologien kan spille hjelperoller. Ikke minst gjelder det innen eldreomsorgen. I de nærmeste tiårene vil ensomhet og mangel på såkalte varme hender komme til å bli et stadig økende problem. Og nettopp her kan samtaleroboter og KI komme til nytte. Allerede finnes pilotprosjekter i enkelte kommuner hvor man har testet ut ulike måter å bruke denne teknologien mot eldre.
At en eldre og ensom person kan oppleve samtaleroboten som en venn, er ikke farlig i seg selv. Under riktige forutsetninger kan det hjelpe mot ensomhet og i utføringen av en rekke praktiske tjenester og oppgaver. Selv om den aldri vil kunne erstatte menneskelig kontakt fullt og helt.
Praterobotenes notoriske løgnaktighet burde være nok til å riste oss ut av godtroenheten. I møte med spørsmål de ikke kan svare på, er de lært opp til å dikte opp noe som høres troverdig ut. Denne mangelen på sannferdighet slår fast at teknologiselskapene neppe har vært gjennom noen moralsk oppvåkning siden sist. Særlig ikke når man legger til hvordan de gir blaffen i opphavsretten og lar praterobotene presentere andres tanker, ideer og kunstverk som sine egne, uten en eneste referanse til originalverket. (Kilde: Filosof Kaja Melsom)
Petter: Men hva betyr det når mennesker får mer intime relasjoner til en maskin? Vil dette komme til å endre betydningen av relasjoner vi har til andre mennesker og hva det vil si å ha en venn? Når disse robotene får vite så mye om oss, de vet hva vi kjøper, stemmer i politikken og hvilke saker vi engasjerer oss i, vil de kunne komme til å manipulere oss både som forbrukere og politiske deltakere? Svar på slike spørsmål vet vi ikke ennå.
Enkelte advarer om at kunstig intelligens og chatboter blir mer lik mennesker, at de utvikler empati og kan føle med oss. Maskiner som blir smartere enn oss, og som utvikler menneskelige egenskaper, er allerede rett rundt hjørnet.
For tre år siden skrev jeg en kronikk om de mest fremskridende kunstig intelligente teknologiene, såkalte samtaleroboter eller chatboter, og hvordan de i fremtiden kan få en vennskapsrolle. I dag er noen av disse maskinene allerede svært like oss mennesker. De opptrer som om de har både hjerne og følelser. De fremstår med egne meninger. Mange mennesker har alt etablert nære vennskap med slike roboter. Så egentlig er fremtiden allerede her.
