Fremmed intelligens: Er det på tide å få panikk?

Ingen er mer skremt enn Geoffrey Hinton, ofte referert til som «Gudfaren til KI». Hinton er en bemerkelsesverdig figur. Han kommer fra en fremstående familie av forskere i Storbritannia. Hans tippoldefar var George Boole, skaperen av Boolsk algebra, grunnlaget for datamaskinbasert aritmetikk. Hinton ble faktisk tatt opp ved University of Cambridge for å studere arkitektur, men sluttet etter to dager, så snart han innså at arkitektur ikke var noe for ham. Han studerte naturfag i stedet, og begynte etter hvert å jobbe med KI. Hinton har vist seg å være en KI-helt, ved at han forble overbevist om at den beste måten å få KI til å fungere på ville være å modellere den på hjernen. I en tid der nevrale nettverk hadde blitt avvist fordi de ikke hadde klart å levere, stod Hinton hardnakket fast på sitt. Men etter hvert som Graphic Processing Units (GPUer) ble introdusert ved årtusenskiftet, og datamaskiner hadde blitt mye raskere og kraftigere, begynte nevrale nettverk å levere på løftet, og Hinton fikk rett. Denne utviklingen er det som førte til hele Deep Learning-revolusjonen som drifter KI i dag. I disse dager er nevrale nettverk – Deep Learning – nesten synonymt med KI. 

KI ser nå ut til å fungere utrolig bra. Det er selvfølgelig en stor suksess. KI er nå utrolig nyttig. Så hvorfor er folk så livredde for egenskapene til KI? Problemet ser ut til å være at KI fungerer for godt og har begynt å utvikle evner som de fleste hadde trodd ville ta flere tiår å utvikle – om i det hele tatt. For eksempel har det vært generelt antatt at KI ikke har mer kapasitet til å tenke enn lommekalkulatoren din, og at det neppe noen gang vil være i stand til å tenke i menneskelige termer. Men ifølge noen eksperter er KI nå i stand til å faktisk tenke, på nøyaktig samme måte som mennesker gjør. Da Google-ingeniøren Blake Lemoine hevdet at KI kan være sansende og ha følelser, ble han ledd av, og til slutt mistet han jobben hos Google. Men nå er ikke ekspertene så sikre.

For Hinton kom den første antydningen om at KI kan være mer kapabel enn noen trodde, da han oppdaget at PaLM – Googles versjon av GPT – var i stand til å forklare en vits. Så, hvis den var i stand til å forklare en vits, må den ha vært i stand til å «forstå» den vitsen. En annen bekymring oppsto da Hinton begynte å lure på om KI kunne «tenke» – og om det var sånn at det kunne «tenke», var det da en metaforisk bruk av ordet «tenke», eller var det nøyaktig samme type «tenkning» som mennesker bedriver? Til slutt ble han overbevist om at det var det sistnevnte. Som han sa det: «Jeg tror virkelig at den bruken av ordet ‘tenke’. . . var akkurat den samme betydningen av ordet ‘tenke’ som vi bruker om mennesker.»³ Dette er alt sammen forsterket av det faktum at han også begynte å innse at KI har en bedre måte å lære på og en mer effektiv måte å dele sin kunnskap på enn mennesker har. Dette er fordi mange kopier av samme KI-modell kan kjøres på forskjellig maskinvare, men gjøre nøyaktig det samme. «Når en [modell] lærer noe, vet alle de andre det,» bemerket Hinton. «Mennesker kan ikke gjøre det. Hvis jeg lærer mye om kvantemekanikk og jeg vil at du skal vite alt det samme om kvantemekanikk, er det en lang, smertefull prosess å få deg til å forstå det.»⁴ 

Så kan vi nå hevde at KI er genuint intelligent? Mye avhenger selvfølgelig av hvordan vi tolker «intelligens». Det finnes helt klart forskjellige former for intelligens, og det ville være feil å begrense oss til en definisjon knyttet til menneskelig intelligens. For Hinton er det to hovedtyper intelligens dyrehjerner og nevrale nettverk, og intelligensen til nevrale nettverk er overlegen: «Det er en helt annen form for intelligens – en ny og bedre form for intelligens.»⁵ Personlig liker jeg å kalle det alien intelligence (fremmed intelligens), et begrep som allerede har blitt brukt av Philip Rosedale, og som har blitt brukt mer nylig av Yuval Harari.⁶ I boken min, Architecture in the Age of Artificial Intelligence: An Introduction to AI for Architects, kommer jeg med følgende beskrivelse: «Det er som om jorden har blitt invadert av en usynlig, superintelligent, fremmed art.»⁷

Poenget mitt her er at det finnes mange forskjellige former for «intelligens», akkurat som det er mange forskjellige former for «tenking», «forståelse» og «læring». Vi må bruke anførselstegn når vi refererer til disse begrepene, for ellers er det en risiko for å antropomorfisere dem. Problemet er at vi mennesker har en tendens til å innta et antroposentrisk syn. Vi har en tendens til å dømme verden på våre premisser, og anser oss selv for å være sentrum for intelligent liv i universet. Men er ikke dette feil? I stedet for å dømme KI på våre premisser, hva om vi skulle dømme oss selv på KIs premisser? Ville vi ikke fremstå som langt underlegne? Dette er i alle fall grunnen til at noen krever en ny kopernikansk revolusjon. Vi må korrigere dette antroposentriske synet, og erkjenne at vi mennesker ikke lenger er sentrum for intelligent liv i universet.

Hvordan har KI oppnådd disse mystiske kreftene? Det er her historien blir spennende. Tross alt er ikke de nevrale nettverkene i slike Large Language-modeller (LLM) som ChatGPT og andre så kompliserte. Algoritmen som brukes består av knapt 2000 linjer med kode. Men det er selve størrelsen på disse LLM-ene som har vist seg å være så betydningsfull. Merkelig nok viser de det som omtales som «emergent capabilities» eller fremvoksende evner, nettopp på grunn av størrelsen. Begrepet «emergence» refererer til et prinsipp som vi har kjent til en stund, men som vi så langt ikke har klart å forklare på en overbevisende måte. Fremveksten kan sees i naturlige systemer, for eksempel luftakrobatikken til en stærflokk – referert til som murmuration – når de kommer til hvile om kvelden. Den kan sees i den stigmergiske (spontan organisering skapt nedenfra, red.anm.) oppførselen til maur som danner feromonstier. Og den kan finnes i den kollektive oppførselen til slimsopp, der tusenvis av individuelle celler kommer sammen for å danne en enkelt enhet når de leter etter mat. Prinsippet her er at i ethvert selvorganisert system er det en tendens til en form for nedenfra-og-opp fremvoksende atferd som er uforutsigbar, hvor helheten er større enn summen av delene. Videre, jo større det selvorganiserte systemet er, desto mer ekstraordinær er fremveksten. Forskere har lenge vært klar over dette prinsippet, men har slitt med å forklare det. Sterke former for fremvekst har til og med blitt sammenlignet med magi. Selvfølgelig eksisterer ikke magi teknisk sett. En tryllekunstner utfører ikke magi. Snarere utfører en tryllekunstner et triks, der selve handlingene skjules, for å lure publikum til å tenke at det er magi. Magi derimot – hvis vi skal tro en uttalelse som vanligvis tilskrives sci-fi forfatter Arthur C. Clarke – er bare et fenomen som vitenskapen ennå ikke har forklart.

Det er disse fremvoksende evnene som har gjort det mulig for KI å være «kreativ». Og det er disse som har gjort det mulig for KI å lære å skrive, oversette språk og generere kode. Faktisk er det nå slik, som Yuval Harari har hevdet, at KI har hacket vårt menneskelige operativsystem – språket.⁸ Dette er potensielt skremmende, fordi ord er nøkkelen til alt. Jeg vil imidlertid også påstå at KI har hacket vårt visuelle system – design. Ta en titt på den MidJourney-genererte illustrasjonen som følger denne artikkelen, og du vil legge merke til at KI er ganske i stand til å komponere et design. Bildene genereres basert på prompts eller verbale beskrivelser som MidJourney oversetter til bilder. Men disse beskrivelsene – detaljerte som de er, når det gjelder å beskrive spesielle egenskaper ved bildet som genereres, som lysforhold, hyperrealistisk detaljering, gjengivelse og så videre – inneholder bare svært få ord for å beskrive en bygning og dens landskap. Faktisk er de eneste ordene som brukes for å beskrive designet begrenset til uttrykk, for eksempel «ultramoderne futuristisk hus høyt på et fjell i de østerrikske alper». Ikke noe mer. MidJourney gjør resten. Den genererer bilder på en så overbevisende måte at de gir en sterk følelse av materialitet. Den legger til speilbilder, og trær, steiner og fjell i bakgrunnen. Den legger til alle detaljene. Kort sagt, MidJourney genererer hele designet. Og videre kan vi bruke nøyaktig den samme beskrivelsen, men endre fra «bygning» til «smykker» eller «klesplagg», og verktøyet vil generere utrolige resultater. Dette er fantastisk, men også litt skremmende.

Mest skremmende av alt er imidlertid spørsmålet om hva annet KI har lært å gjøre, som vi ikke er klar over. Poenget mitt her er at når en intelligent enhet opererer på et nivå langt utover menneskelig forståelse, kan vi mennesker rett og slett ikke forstå hva den tenker, akkurat som vi ikke kan oppdage luktene og lydene som en hund kan oppdage. De dumme, sier man, vet ikke hvor dumme de er.

Så KI har hacket både språk og design. Men kan det ikke også ha hacket selve «genomet» til menneskelig kultur? De som kjenner kultbokserien og filmen The Hitchhikers Guide to the Galaxy, vil huske at en superdatamaskin– kalt «Deep Thought» – ga svaret på «livet,  niverset og alt.» Litt foruroligende, som vi vet, var svaret «42». Men kan KI nå faktisk gjøre det samme? Kan KI forklare hele vår eksistens? Den eneste forskjellen – basert på vår erfaring med ChatGPT eller MidJourney – er at mens Deep Thought brukte ti millioner år på å komme med svaret, ville KI være i stand til å svare på tre sekunder.

På baksiden av boken, The Hitchhikers Guide to the Galaxy, står ordene DON'T PANIC!

Men er det ikke på tide å få panikk?

Denne teksten er oversatt ved hjelp av Google Translate, som bruker KI-teknologi. Innholdet er kvalitetssikret av redaksjonen før publisering.