I sommar blei bilde av hjerneskanningar med ein bodskap delt på sosiale medium.

ChatGPT kan gjere deg dummare. 

Sigrun Aasland, minister for forskning og høgare utdanning, var med i ei førelesning då ho åtvara om det samme. 

«Brukt feil kan kunstig intelligens gjere oss dummare», sa Aasland ifølge Khrono.

KI gir enorme moglegheitar, ifølge Aasland, men me må sjå til at KI ikkje gjer hjernen latare. 

Til Faktisk.no seier ho at ho baserer påstanden på eit forskningsprosjekt ved Massachusetts Institute of Technology (MIT). Dei publiserte ein rapport i juni.

– Ein lærer ikkje om ein bruker KI som erstatning for eiga tenkning. Då blir ein dårlegare til å tenke sjølv, seier Aasland. 

– På dette grunnlaget verkar det også som at det har mykje å seie korleis KI blir brukt: Det er stor forskjell på å få ein KI til å løyse ei oppgåve, og å bruke KI-verktøy til å vidareutvikle løysningar ein har brynt seg på sjølv.

Statsråden vil ikkje gå inn i kva ho meinte med «dummare». 

Men forskarane har sjølv åtvara mot å bruke akkurat det ordet.

Åtvara mot ei rekke ord

Aasland er ikkje åleine. Om du søker på «ChatGPT MIT studie» og «ChatGPT MIT study» , kjem nokså like titlar opp.

Ifølge fleire nettstader kan ChatGPT «gjere deg dummare», «rotne hjernen din» og «føre til hjerneskade».

Dette er formuleringar som forskarane eksplisitt har bedt publikum og media om å ikkje bruke når dei omtaler studien. 

I eit eige avsnitt skriv dei, «Nei! Vennligst ikkje bruk ord som dum, hjernerote, skade og hjerneskade.» 

Forskarane seier at desse orda ikkje vil yte rettferd overfor arbeidet som ligg bak, særleg om journalistar brukar dei i omtale.

Faktisk.no har kontakta to norske mediehus som omtala studien. Begge fortel at dei ikkje var kjent med åtvaringa til journalistar, om ord ein ikkje skulle bruke i omtale.

Kva betyr funna viss me ikkje skal bruke ordet «dummare»?

Scannet hjernen

Forskarane ved MIT ville undersøke korleis ChatGPT verkar på hjernen når me løyser ei oppgåve, og korleis det verkar på hukommelsen.

MIT delte dei 54 forskningsobjekta mellom 18-39 år inn i tre grupper: Ein skulle berre bruke ChatGPT, den andre Google Search, og den tredje fekk ikkje bruke noko anna enn seg sjølve.

Oppgåva dei fekk var veldig spesifikk: 

Dei fekk velge mellom tre temaer å skrive eit essay om. Oppgåvene var henta frå tidlegare SAT-testar.

Deltakarane hadde 20 minutt på å skrive essayet. Medan dei skreiv, hadde dei på seg elektroder på 32 regionar av hjernen.

Forskarane konkluderte med at ChatGPT har målbar effekt på hjerneaktiviteten vår, der deltakarane hadde ei overfladisk kognitiv prosessering av stoffet dei jobba med.

Kva betyr «dummare», då?

– «Dummare» er lite presist. På fagspråket kunne ein kanskje sagt at KI kan gjere at hjernen går litt i «kognitiv hvilemodus». Eit anna omgrep er «metakognitiv latskap». 

Hedda Tvedten Ness er postdoktor ved UiO med psykologi og nevrovitskap som fagfelt. Ho fekk med seg MIT-studien i sommar.

Ness peikar på visse svakheiter i studien. Talet på deltakarar var lågt og oppgåva i eksperimentet var veldig spesifikk. 

Rapporten er heller ikkje fagfellevurdert, som er ein kvalitetskontroll.

– Ein fordel med tidleg publisering er at det kan opne for raskare dialog frå samfunnet, noko som kan føre til diskusjonar og oppfølgingsstudiar, seier Ness.

Ho er og skeptisk til å hevde at lågare EEG-aktivitet er «bevis» på at ein bruker hjernen mindre.

– Høgare eller lågare hjerneaktivitet er korkje bra eller dårleg i seg sjølv. Det kan bety fleire ting, seier forskaren.

For nokon kan det bety at dei engasjerer seg djupare i ei oppgåve. For andre kan det handle om at dei belaster hjernen mindre, eller at dei opplever meir eller mindre stress.

Basert på resultata i studien ser Ness fordelen av å balansere KI med å aktiviteter der ein bruker hjernen meir aktivt.

– Det kan tyde på at det ikkje er så lurt å overlate roret til KI i starten, men heller legge ein ordentleg innsats sjølv først.

Noko å hente på KI

Alt er ikkje negativt med ChatGPT. Studien fann ei overraskande gulrot.

Då dei samme tre gruppene skulle skrive essay igjen, bytta dei på roller. 

Dei som brukte ChatGPT først, skulle no skrive utan hjelp. Resultatet deira var dårlegere, dei hugsa lite etter å ha vore vant med hjelp frå ChatGPT.

Derimot overraska kun-hjernen-gruppa då dei fekk bruke KI til å skrive: 

Hjerneaktiviteten økte, og dei hugsa lettare kva dei skreiv enn før dei fekk skrivehjelp.

Gruppa som fekk størst utbytte av å bruke ChatGPT var altså dei som starta utan hjelpemiddel. Dette stemmer med fleire studier, mellom anna ei frå Swiss Business School som peikar på at KI kan bidra til læring.

Det er framleis mogleg at hjernen blir «dummare» av ChatGPT, men MIT-studien kan ikkje brukast for å slå fast det.

Etter eksperimentet testa forskarane personane med ulike spørsmål: 

Etterpå testa forskarane kor godt personane kunne gjengi det dei hadde skrive, og spurte kor nøgd dei var sjølv.

Mindre innsats, større «gjeld»

Forskarane målte utslaga på hjernebølger kopla til kreativitet, hukommelse, konsentrasjon, synkronisering og problemløysing.

Dette er ting hjernen treng for å lære ny informasjon, og overføre denne frå korttids- til langtidsminnet.

Rapporten frå MIT bruker omgrepet «cognitive debt», som kan bli omsatt til arbeidsminne. Forenkla kan ein seie at når hjernen gjer vanskelege oppgåver, skapast det koplingar i hjernen. Når hjernen brukast mindre, blir koplingane og svakare.

Denne «gjelden» fungerer litt som økonomisk gjeld. Jo oftare du brukar ChatGPT, jo vanskelegare blir det å tenke sjølv utan hjelp.

EEG-målingane som deltakarane hadde på seg under eksperimentet, viste i sanntid på skjerm korleis arbeidsminnet handsama oppgåvene dei fekk.

Funna var nedslåande. 

Overfladisk aktivitet 

ChatGPT-deltakarane hadde lågast utslag på hjernebølgene knytt til kognitiv innsats. Hjerneaktiviteten var høgare hjå personane som brukte Google Search, og enda høgare blant dei som ikkje brukte hjelpemiddel.

Å skrive essay med ChatGPT aktiverer hjernebølgene assosiert med arbeidsminne i lågare grad enn når du bruker Google Search eller berre hovudet.

Sjå føre deg at du bruker KI for å få ein maskin til å løfte ei vektstang for deg. Vektstanga blir løfta og jobben unnagjort, men kroppen blir ikkje sterkare.

I testinga av hukommelse var skilnaden stor:

89 prosent av ingen-hjelpemiddel-gruppa klarte å sitere ei setning dei hadde skrive i essayet. 

I Google Search-gruppa klarte like mange (88,9 prosent) det same.

I ChatGPT-gruppa klarte berre 16,7 prosent å hugse ei einaste setning frå sitt eige essay.