AI – bør vi outsource tenking?

 

Kunstig intelligens, KI, AI, hva nå enn du vil kalle det, har virkelig tatt internett med storm det siste årene. I hovedsak gjennom ChatGPT og lignende boter.

Jeg er en vanlig mann i gata som overhode ikke har noen kompetanse på området, men har, som alle andre, noen tanker om AI. Jeg er nysgjerrig, men også etterhvert svært skeptisk til hva som kommer til å skje fremover. Jeg kommer til å legge frem bekymringene mine etterhvert, men først vil jeg ta en rask beskrivelse av litt grunnleggende info som legges til grunn i mine bekymringer.

Slik jeg har forstått det er ChatGPT det de kaller for LLM – Large language model, en stor språkmodell. Når man bruker ChatGPT kan man få inntrykk av at det er et vesen med bevissthet som svarer. Det er derimot bare en statistisk modell som tar de ordene jeg har skrevet og svarer.

«Intelligensen» er ikke nødvendigvis noe mer enn en massiv base med kildedata der den «analyserer» og finner gjenkjennelige mønster som den videre bruker til å svare. Basert på dette, i tillegg til interne regler, vil den «tenke» seg frem til neste ord den skal skrive. Dette er grunnen til at den kan skrive en tekst som ligner på skrivestilen til Kjartan Fløgstad for eksempel – den har antageligvis tilgang til alt Kjartan Fløgstad har skrevet (i hvertfall nesten), kjenner igjen stilen og kan kopiere den.

Her vil jeg legge til at den lærer kontinuerlig, samtidig som at reglene til modellen (som GPT5.2) kontinuerlig blir oppdatert av utviklerne. Jeg antar også at kildedataen blir utvidet med jevne mellomrom.

Det er altså LLMs beskrevet på en unødvendig enkel og antageligvis feil måte, av en fyr som ikke kan noe om det. Uten bruk av AI forøvrig. Det er selvsagt en utrolig kompleks og imponerende teknologi, la det ikke være noen tvil om det. Det er svært mange nyttige bruksområder, men som ethvert verktøy må man være forsiktig med å bruke det i riktig situasjon.

Det er et par ting som bekymrer meg:

1. Feilbarligheten til AI

Den nyeste versjonen av ChatGPT er uendelig mye bedre enn den som ble presentert i begynnelsen. Det betyr ikke at den ikke sier noe feil, eller «hallusinerer» – det gjør den stadig. I og for seg et enkelt poeng. Jeg kommer ikke til å gå så mye dypere inn i det, men slik jeg oppfatter bruken av AI, er det nå svært mange som bruker det, og de bruker det ofte ukritisk. Dette vil bli utvidet i de neste punktene.

2. Måten det påvirker hjernen vår på

Forskere fra MIT gav tidligere i år ut en studie som de kalte “Your Brain on ChatGPT” (den har ikke blitt publisert i fagfellevurdert tidsskrift enda). Der har de undersøkt hvordan bruk av ChatGPT påvirker hjerneaktiviteten til deltagerne. De skulle skrive tre essays og ble delt inn i tre forskjellige grupper: GPT-assistert, søkemotor-assistert (uten AI) og ingen assistanse. Deretter målte de hjerneaktiviteten deres mens de skrev essays. Hjerneaktiviteten viste at AI-assistert og søkemotorassistert hadde mindre hjerneaktivitet enn de som ikke fikk noen assistanse. Mer hjerneaktivitet = bedre – tenk på hjernen som en muskel. Dersom den ikke brukes vil den forvitre. Derfor vil overdreven bruk av AI kunne gjøre at vi brukes hjernen vår mindre. Det kan føre til økning av sykdommer som Alzheimers.

Et positivt funn i studien er at de som kun brukte hjernen først, var de som fikk aller best resultater av alle i studien. Så dersom du skal bruke AI, tenk først og spør etterpå. Forfatterne kaller dette for «cognitiv debt», eller kognitiv gjeld: dersom du forsøker å «kjøpe» deg ut av hjerneaktivitet ved å bruke

CHatGPT, så vil du lide av det senere. Det var flere parametere hvor dette viste seg, blant annet så husket de mye mindre av det de skrev, ergo lærte de mindre.

3. Den kumulative utviklingen – «AI slop»

Som nevnt tidligere er språkmodellene avhengige av kildedata. Dersom kildedataen er «korrupt» eller dårlig, vil utdataen også være det. I en artikkel fra 2024 (!) anslo forfatterne at over 50% av artikler som ble skrevet, ble skrevet av AI. Det ekstreme tall. De mener at det flatet ut, men det er vanskelig å vite. Uansett, dersom halvparten av artikler som skrives kommer fra AI, og vi vet at AI 1) kan skrive feil og 2) er avhengige av korrekt kildedata, så kan man anta at kvaliteten på det som skrives gradvis vil bli dårligere og dårligere. Om all den nye kildedataen som kommer inn er halvriktig eller direkte feil informasjon, så vil det neste steget og det neste etter der igjen bli dårligere og dårligere. Dette kalles for “Model Collapse“. Det nevnes ofte i forbindelse med «AI Slop», som beskriver dette fenomenet bra. Den kumulative effekten, dersom dette blir fremtiden, er en total mangel på fakta fra det som kommer fra internett. Og konsekvensene av det kan bli ganske katastrofale i en verden som så smått har blitt dødelig avhengige av denne type teknologi.

4. Forbruk

Noe mange kanskje ikke tenker på er energibruk. Kunstig intelligens krever ekstremt mye energi, i form av strøm. Noen forskere antar at innen 2028 vil AI industrien bruke like mye strøm som 22% av husholdningene til hele USA. Det er anslått at AI (kun i USA) vil bruke 300 terrawatt-timer med elektrisitet, nok til 28 millioner husholdninger. Datasenterene (som bruker mye strøm), må også kjøles ned. Dette gjøres ofte med vann. De anslår at det innen 2028 kan brukes opp til 2,7 billioner liter med vann. Igjen, bare i USA.

Det blir søkt om bygging av datasentere over hele verden (Norge inkluder). Det kan føre til overforbruk av energi, som er en knapp ressurs, og da vil prisene på energi øke.

Energihistorikeren Vaclav Smil sier: «Ingen annen energiform har hatt større og mer vidtrekkende betydning for økt livskvalitet enn tilgangen på rimelig elektrisitet.» Og da kan man tenke seg hva som skjer dersom man tar bort «rimelig» i den ligningen.

For forbrukerne kan økte priser på elektrisitet, økt nettleie og andre eventuelle kostnader ha stor betydning. I et land der det er økte økonomiske forskjeller, så vil disse øke. Med seg fører dette ofte til økt kriminalitet (se Gini-koeffisienten), etc.

En annen faktor som har betydning på lommeboken din er bruken av minnebrikker (RAM). OpenAI har pr. idag tilgang på 40% av hele verdens RAM beholdning. Det har ført til en femdobling i prisen på RAM, og det ser ut til at den neste telefonen du kjøper kommer til å ha minst halvert RAM og muligens blir dyrere. Igjen, forbrukerne kommer til å lide. Produksjonen av datakomponenter krever råmaterialer, som kobber og gull og prisene på disse vil antageligvis øke. Det er også mulig at andre sjeldne materialer blir enda mindre tilgjengelige dyrere.

---

KI er uendelig mye mer enn bare ChatGPT, bare så det er sagt. Det er også andre faktorer, som opphavsrett til kunst, som er problematisk. Det er godt mulig vi står ovenfor en revolusjon på flere områder, men det er ikke utelukkende positivt med slike verktøy. Det er også viktig å tenke over de potensielle konsekvensene. Det er alltid de som mener at den nye teknologien enten kommer til å føre til paradis på jord og noen som mener det kommer til å utslette hele menneskeheten.

Punktene som er diskutert her har et mer pessimistisk syn, men det er ikke dermed sagt at det bare er negative følger – eller at jeg ikke bruker det selv. Poenget er, som vanlig, at det er viktig å reflektere litt over de potensielle konsekvensene før effektene løper løpsk og man ikke kan gjøre noe med det. Jeg har tidligere skrevet om hva vi burde tenke på når vi skal adoptere ny teknologi.

Det kan fort være at AI på mange måter gir oss et mer komfortabelt liv – ved å outsource tenking, på kort sikt. Men kanskje man skal tenke at det også kan føre til en kognitiv gjeld og ødelegge for oss på lengre sikt? Bare en tanke.