Kan AI tenke? Searles kinesiske romtankeeksperiment

Bruken av kunstig intelligens til en lang rekke formål har blitt stadig mer populær. Fra selvkjørende biler til å lage prisvinnende bilder, analysere milliarder av tweets og (ironisk nok) skrive hele artikler. Ingen kan nekte for at den økende produksjonen av digitale data og fremskrittene innen beregningskraft har endret hverdagen vår og måten vi tenker på intelligens. Noen forskere som Nicholas Christakis (en gresk-amerikansk sosiolog) har referert til AI som en av de radikale teknologiene som vil for alltid endre menneskelig interaksjon .

Likevel er det en lang vei frem; og den kjente filosofen John Searle har hevdet at AI egentlig aldri kan synes at som mennesker gjør . For å demonstrere dette har han konstruert det beryktede kinesiske romargumentet, som ble svært innflytelsesrikt i samtidens filosofi.

Sette opp det kinesiske romargumentet: To typer AI

Et skille mellom Kunstig intelligens (AI) og Kunstig generell intelligens (AGI) er nyttig på dette punktet. De fleste av oss samhandler allerede med en eller annen type kunstig intelligens. I det første tilfellet etterligner datamaskiner og maskiner menneskelig intelligens i snever forstand; for eksempel kan en AI være god til å filtrere og analysere milliarder av ord på Twitter, men veldig dårlig til å forstå en vits; eller god til å kjøre bil eller spille sjakk, men ikke begge deler. Begrensningen i AI er da mangel på fleksibilitet og fravær av kontinuerlig læring; Modeller må trenes før de kan distribueres.

Jeff Hawkins, en gründer og nevrovitenskapsmann, forklarer at, i motsetning til AI, handler AGI om å skape «maskiner som raskt kan lære nye oppgaver, se analogier mellom ulike oppgaver og fleksibelt løse nye problemer» (2021, s.119). Og her snubler man over en filosofisk diskusjon: er en slik AGI i det hele tatt mulig? Vi er ikke interessert i å vite om denne 'intelligensen' ville være god eller dårlig (moralsk sett), eller forårsake utopier eller dystopier; snarere undersøker vi mulighet av slik etterretning.

Searles kinesiske romargument

Filosofen John Searle, påvirket av Wittgensteins senere filosofi , taklet dette problemet i sin bok Sinn, hjerner og vitenskap (1984). Han hevdet at programmer kan imitere mentale prosesser laget av mennesker, men bare formelt, dvs. at de ikke gjør det forstå hva de gjør. Sagt på en annen måte, er slik intelligens bare å følge et sett med regler (algoritmer) uten å tildele dem mening. For å illustrere poenget hans bedre utviklet han et tankeeksperiment: det kinesiske rommet.

Searle ber oss se for oss selv innelåst i et rom der ulike kurver med kinesiske symboler kan finnes. I det rommet finner du en regelbok på ditt morsmål med instruksjoner om hvordan du manipulerer de kinesiske tegnene. Regelboken gir bare regler som: 'hvis du ser symbol [X], svar med symbolet [Y]', og så videre. Slik sett får du aldri vite betydningen av disse kinesiske symbolene.

Anta videre at noen kinesiske tegn er sklidd under døren av noen utenfor rommet. Du kan svare på disse meldingene ved å ta tegn fra kurvene, bestille dem i henhold til regelboken og legge dem under døren. La oss anta at instruksjonene er så klare og detaljerte at svarene dine snart ikke kan skilles fra svarene til en morsmål. Personen utenfor rommet tror nå du forstår og snakker mandarin.

Searle spør så: kan vi konkludere med at du kan mandarin? Det ser ut til at du ikke gjør det. I analogi, siden dette er nøyaktig hva som skjer med kunstig intelligens, gjør ikke AI det forstå som mennesker gjør. Searle skriver: «å forstå et språk (...) innebærer mer enn bare å ha en haug med formelle symboler. Det innebærer å ha en tolkning, eller en mening knyttet til disse symbolene» (2003, 31). Da ser det ut til at veien til kunstig generell intelligens er blokkert av iboende begrensninger.

Teknologisk fremskritt og imitasjonsspill

Du kan spørre: hva med teknologiske fremskritt? Kan den til slutt overvinne disse begrensningene? Machine Learning-algoritmer blir mer komplekse og mengden informasjon på internett som brukes til å trene opp slike modeller, utvides eksponentielt. Enkelt sagt virker det som om det er et tidsspørsmål før en AI kan forstå språk og ikke bare reprodusere det. Spørsmålet er ikke hvordan, men når .

Mot denne tankegangen er Luciano Floridi, professor ved University of Oxford, enig med Searle. Uavhengig av teknologiske fremskritt, sier han, vil den iboende begrensningen til AI forbli. Det er som å multiplisere tall med null: uansett hvor stort tallet er, vil resultatet alltid være null. Går tilbake til Searles kinesiske romtankeeksperiment, selv om bruksanvisningen blir ticker og mer kompleks, vil personen inne i rommet aldri forstå mandarin.

I en annen retning kunne man observere at i Searles kinesiske rom er poenget at folk utenfor er overbevist om at du behersker mandarin flytende. Er ikke det hele poenget? Ville ikke det være tilstrekkelig? Til Alan Turing , kunstig intelligenss far, hvis noen ikke kan skille mellom et medmenneske og en maskin, har det programmet lykkes! Kan simulering være nok?

Vi trenger ikke spekulere. Eksempler er enkle å finne: Googles virtuelle assistent kan ringe og avtale avtaler uten at folk skjønner at de snakker med en AI; Åpen AI-modell GPT-3 har blitt intervjuet av YouTubere; til slutt, du har sannsynligvis interagert med en chat-bot når du trenger hjelp med banken din eller med matbestillingen du la inn. Som Turing sa det, er det en imitasjonsspill .

Imitasjonsspillet er likevel ikke tilstrekkelig. Som nevnt tidligere kan enkeltalgoritmer utkonkurrere mennesker i noen oppgaver, men det betyr ikke at de tenker, eller at de lærer kontinuerlig. Deep learning-nettverk kan spille sjakk (IBMs Deep Blue) eller Go (AlphaGo) eller til og med vinne på Jeopardy på TV-programmer (IBMs Watson), men ingen av dem vet at de spiller et spill.

Dessuten har vi en tendens til å glemme at under 'konfrontasjonen' står dusinvis av ingeniører, matematikere, programmerere, kabler, bærbare datamaskiner og så videre bak AI som får alt til å fungere; de er virkelig flotte dukkespillere! Intelligens er mer enn å ha de riktige svarene eller å beregne riktig trekk. Som Jeff Hawkins skriver: 'Vi er intelligente, ikke fordi vi kan gjøre én ting spesielt bra, men fordi vi kan lære å gjøre praktisk talt hva som helst.' (2021, s. 134)

Ligger nøkkelen i hjernen vår?

Gitt ovenstående, står argumentet fra Searles kinesiske rom. Så hvis simuleringer ikke oppfyller idealene for kunstig generell intelligens og bildene vi har fra science fiction, f.eks. Jeg Robot (2004) eller Ex machina (2015), hva er fremtiden til AI? Kanskje trengs en annen tilnærming.

Da IBMs Deep Blue vant mot Garry Kasparov i 1997, sa sjakk-stormesteren: «Alt vi kan gjøre (...) maskiner vil gjøre det bedre (...) Hvis vi kan kodifisere det , og sende det til datamaskiner, vil de gjøre det bedre.» (I Epstein, 2019, s. 22). Det er en ledetråd i Kasparovs ord: hvis vi kan kodifisere hva vi gjør. Saken er at vi fortsatt prøver å forstå hvordan det har seg at mennesker er intelligente og hvordan de for eksempel utvikler språkferdigheter. Mange aspekter av vår erkjennelse forblir mystiske; vi har ennå ikke kodifisert prosessen. Kan det være at veien til kunstig generell intelligens er stengt av vår mangel på klarhet om hvordan hjernen fungerer?

Dette er holdningen inntatt av Jeff Hawkins i sin bok Tusen hjerner (2021). Han mener at en AGI må fungere slik hjernen vår gjør, som inkluderer å kunne navigere i verden, det vil si å ha en kropp. Legemliggjøring er avgjørende fordi det er gjennom kroppen hjernen fungerer: vi lærer ved å ta på, bevege oss, se, høre, utforske, smake, undre oss over osv.

En AGI trenger på samme måte sensorer og bevegelige mekanismer. Kroppen krever ikke å være menneskelignende; bare å være i stand til å utforske og navigere verden er avgjørende. Det er derfor nevrovitenskapsmenn, robotforskere og AI-utviklere må jobbe sammen. Den filosofiske konsekvensen av denne intuisjonen knuser den gamle dualismen til Rene Descartes : vi kan ikke tenke uten en kropp.

Tilbake til Searles kinesiske rom, vil enhver AGI trenge tilgang til annen kontekstuell informasjon: når brukes disse symbolene? Hvordan opptrer folk når de sender disse symbolene? Å strekke tankeeksperimentet, ville være nødvendig med vinduer og sensorer. Som du allerede kan legge merke til, er disse modifikasjonene knyttet til egenskapene til rommet i stedet for til personen som er inne. Ved å bruke tekniske termer handler det ikke bare om hvordan en CPU (sentral prosesseringsenhet) fungerer (illustrert av personen inne), men om interaksjonen med dens kontekst, og navigasjonsferdighetene som kan knyttes til den CPUen.

Utilsiktet har det kinesiske rommet gjengitt en kartesisk skildring av intelligens. Hvis disse modifikasjonene ble gjort, er det ingen grunn til at rommet – som helhet – ville bli forhindret fra å forstå mandarin.

Konsekvensene av det kinesiske romargumentet: Ludditter eller digitale utopister?

Jeg tror at Searle ville være enig med Hawkins: hvis hjernens mysterier skulle avsløres, ville en AGI være gjennomførbar. Hawkins er av den oppfatning at en slik utvikling vil komme i løpet av de neste to til tre tiårene (2021, s. 145). Alt avhenger av å finne ut, for det første, hvordan mennesker lærer og tenker, og den kognitive interaksjonen mellom kroppene våre og konteksten rundt oss.

Hva ville skje videre? Hva er konsekvensene av å ha en AGI? I følge Max Tegmark er det ludditter, som tror at implikasjonene vil være negative for menneskeheten, mens vi kan finne de digitale utopierne på den andre siden, og tror at ankomsten av slike teknologier markerer starten på en bedre tid for alle. Uavhengig av din posisjon er én ting sikkert: vår evne til å tenke og lære bør ikke tas for gitt; mens vi venter på at en AI skal tenke, bør vi fortsette å utforske våre evner som mennesker.

Litteratur

Epstein, D. J. (2019). Område (Kindle-Ver). Penguin Publishing Group.

Hawkins, J. (2021). Tusen hjerner: En ny teori om intelligens (Kindle Edi). Grunnleggende bøker.

Searle, J. (2003). Sinn, hjerne og vitenskap . Harvard University Press.

Tegmark, M. (2017). Liv 3.0. Å være menneske i en tidsalder av kunstig intelligens . Alfred A. Knopf.