En viktig kronikk av Yngvar Ugland, Innovation og Science Fellow, DNB. KI-forsker ved NTNU og forfatter av «Moonshots-metoden»
Fra CERNs historiske vegger til finansverdenens skifter: Hvor mye av vår egen dømmekraft tør vi egentlig å overlate til kunstig intelligens?
Navnet oser av respekt. Jeg hadde et forhold til stedet lenge før jeg faktisk besøkte CERN.
Da jeg skrev diplomoppgaven min i industriell matematikk på NTNU, gjorde jeg beregningene på en Cray. På den tiden var det noe av den kraftigste regnekraften jeg kunne få tilgang til. Hele 96 parallelle prosessorer. Vi brukte ikke en Cray til å skrive e-post, men vi brukte den når problemet var større enn maskinene vi ellers hadde tilgjengelig.
Nylig sto jeg på CERN utenfor Genève, som deltager på Open Innovation Lab of Norway’s studietur til det verdenskjente forskningsmekkaet.
Noen av dem som jobbet der på den tiden fortalte meg en historie om Seymour Cray. Ifølge dem var han på CERN da ideene til superdatamaskinene hans begynte å ta form. De trengte stadig mer datakraft og forslaget hans var å lage flere parallelle beregningsmoduler, heller enn å lage stadig større moduler. Men han fikk ikke bygge maskinen der, så han dro videre. Maskinene hans endte likevel opp på CERN. Og senere satt jeg selv og brukte en Cray på Gløshaugen på NTNU.
CERN er fullt av sånne spor. De gamle akseleratorene fra 1950-tallet er fremdeles en del av systemet som mater partikler inn i Large Hadron Collider. De har ikke kastet det gamle hver gang de har bygget noe nytt. De har heller lagt lag på lag.
Det samme gjelder egentlig datateknologien. Eksperimentene deres ga mer data, og de trengte kraftigere maskiner. På CERN ville man fra dag én dele alt med resten av verden, og for å dele informasjon mellom institusjoner og land kom Tim Berners-Lee opp med World Wide Web på CERN.
Det var ikke noen som satt og tenkte at verden trengte en hjemmeside (tenk at vi kalte det hjemmesider en gang). De hadde et konkret problem i forskningen.
Nå skjer det noe som ligner med kunstig intelligens…
Regnekraftverkene og 20-watts-hjernen
Språkmodellene vi bruker er bygget på enorme mengder regnekraft i enorme datasentre. Jeg kaller dette for regnekraftverk, som egentlig er en komprimering av regnekraft-kraftverk, fordi det er nettopp det det er.
Energibehovet er etter hvert så stort at forslagene til hvor vi skal plassere regnekraften begynner å bli ganske ville. På havet. Under bakken. I rommet. Med kjernekraftverk i nærheten.
Så kom setningen som sparker litt ben på det hele:
«None of it makes the machine need less.»
Det er jo sant. Vi løser energiproblemet ved å lete etter mer energi og bedre steder å bli kvitt varmen. Vi har foreløpig ikke løst problemet med at maskinen er sulten.
Menneskehjernen bruker omtrent 20 watt.
Det tallet har hengt igjen hos meg gjennom turen, i hjernen som bruker 20 watt. Vi snakker om datasentre på hundrevis av megawatt og etter hvert gigawatt for å drive kunstig intelligens. Hjernen gjør jobben sin på omtrent samme effekt som en lyspære.
Det betyr ikke at hjernen er en bedre datamaskin. Sammenligningen blir fort tullete hvis man drar den for langt. Men naturen har åpenbart løst noen problemer rundt energieffektiv intelligens som vi ikke har løst særlig godt med silisium. I jaget etter kunstig generell intelligens på et spor som bruker enorme energimengder, glemmer vi at den eneste instansen av generell intelligens vi har, går på 20 watt.
Å outsource dømmekraft
Et godt sitat sitter igjen i 20-wattshjernen:
“Humanity has outsourced its memory to Google, its social relationships to Facebook, and its spatial orientation to GPS. It is now outsourcing its judgment to ChatGPT.”
Jeg kjenner meg igjen i de tre første. Jeg husker nesten ingen telefonnumre lenger. Barna mine gir meg tyn for det. Jeg kan gå rundt i en fremmed by uten å vite hvor nord er. Telefonen tar seg av mye som jeg før måtte holde i hodet.
Men det siste poenget skiller seg ut:
En språkmodell finner informasjon for meg, men den vurderer den i tillegg. Den kan lese ti dokumenter og fortelle hva som er viktig. Den kan foreslå hva jeg bør gjøre, og den kan si hvilken forklaring som virker mest sannsynlig.
Og mest irriterende: den er skikkelig flinkis til å høres ut som om den vet.
Det utfordrer hvordan vi har pleid å forholde oss til verden. Vi har holdt flere forklaringer åpne. Noen ganger endret vi mening fordi vi fikk ny informasjon. Noen ganger fordi et annet menneske så noe vi ikke så.
En språkmodell kan formulere en forklaring vi selv ville gitt 60 prosent sannsynlighet for å være sann, så godt at vi opplever den som en 100 % sannhet.
Det er ikke nødvendigvis bra at AI alltid gir det glatteste og mest entydige svaret. Noen ganger bør usikkerheten få være der. Noen spørsmål blir bedre av at vi ikke lukker dem for raskt. Det kan også være verdt å beskytte enkelte kanaler mellom mennesker, selv når en maskin i prinsippet kunne gjort kommunikasjonen raskere.
Det er vanskelig å sende tillit over en kabel
Det siste traff meg igjen i Genève, som er verdens hovedstad for diplomati og samtaler om krevende temaer og uenigheter.
Der hørte jeg om en britisk embetsmann som mente at telegrafen ville bety slutten på diplomatiet. Når regjeringene kunne kommunisere direkte over store avstander, hva skulle man med diplomatene?
Det viste seg å være en litt prematur konklusjon.
Reagan og Gorbatsjov møttes i Genève i 1985. De hadde nok av kommunikasjonskanaler tilgjengelig. Likevel måtte de møtes. De vandret langs Genèvesjøen for å finne ut hvem de hadde på den andre siden.
Det er vanskelig å sende tillit over en kabel.
Dette er svært viktig for bankbransjen, og det danner grunnlaget for hele doktorgraden min.
Bank er allerede gjennomdigitalisert, og KI kommer til å spise seg inn i en stor del av arbeidet. Dokumenter kan leses automatisk. Informasjon kan sammenstilles. Beregninger og analyser kan gjøres fortere. Det meste kan automatiseres, og mye av det kunden i dag må vente på, og mye av kompleksiteten ansatte må håndtere manuelt, kan forsvinne.
Det bør vi ønske velkommen.
Men noen banksituasjoner er ikke interessante fordi de er kompliserte, men heller fordi noe står på spill for den som sitter på den andre siden.
Det kan handle om et stort lån, om familieformuen eller om en bedrift som trenger finansiering. Eller arv, skilsmisse eller en kunde som har havnet i en økonomisk situasjon hun ikke helt ser veien ut av.
Da hjelper det ikke hvor mye informasjon man klarte å prosessere.
Dette er omtrent her doktorgraden min befinner seg. Jeg ser på tillit når språkmodeller kommer inn i finansiell rådgivning. I situasjoner der det står noe på spill, hvor mennesket opplever seg selv som sårbart.
Derfor synes jeg diskusjonen om hvorvidt KI kommer til å erstatte rådgiveren blir litt flat. En del av rådgiverjobben kommer til å forsvinne, og mye kommer til å endre seg. Det blir naivt å late som noe annet.
Men det er interessant å prøve å forstå hva som blir igjen. Eller hva som blir viktigere.
Europas fortrinn: Tung fagkompetanse og dømmekraft
Europa ligger langt bak USA og Kina på frontier-modeller. Vi har mindre risikokapital, færre store modeller og lavere AI-bruk i arbeidslivet.
Samtidig finnes det mye tung fagkompetanse her. Bank, forsikring, industri, pharma, energi. Mye av den er bygget opp over tiår i markeder med masse regulering og ganske høy kompleksitet.
Den kompetansen kan ikke lagres i prosedyrer og databaser. Den sitter i folk som har sett hundrevis eller tusenvis av saker og vet når noe skurrer, selv om saken ser grei ut i skjemaet. De vet hvilke feil som virkelig gjør vondt. De vet når to nesten like saker ikke bør behandles likt.
Det er vanskeligere å kjøpe enn en modell.
Hvis vi klarer å bruke denne dømmekraften til å evaluere og forme AI-systemene våre, har Europa kanskje et bedre utgangspunkt enn det ser ut som når vi bare teller modeller og GPU-er. Det samme gjelder for bank, særlig i høytillitssamfunn slik vi har i Norden. Vi har levd av tillit i hundrevis av år, og jeg tror ikke dømmekraft kommer til å gå ut på dato.
Hvis vi ikke klarer å ta vare på dømmekraften, hjelper det lite å snakke om at vi har kompetansen. Da blir dataene liggende i hvelvet og dømmekraften blir liggende i hodene på folk som etter hvert går av med pensjon.
Jeg begynte yrkeslivet mitt med å bruke en av de kraftigste maskinene jeg kunne få tak i til å gjøre beregninger jeg ikke kunne gjøre selv.
Nå arbeider jeg med maskiner som gjør langt mer enn å beregne. De produserer syntetisk troverdighet.
På sivilingeniørgraden var utfordringen å se hva jeg kunne få maskinen til å regne ut.
På doktorgraden er utfordringen å vite hvor mye dømmekraft vi tør å overlate til en maskin som er skikkelig flink til å høres ut som om den vet.
