Britisk-kanadiske Geoffrey Hinton, kjent som "Gudfaren til kunstig intelligens,” var banebrytende for dyp læring og kunstige nevrale nettverk. I år ble han tildelt Nobelprisen i fysikk for sine bidrag til kunstig intelligens. Imidlertid sa han nylig at det er en10 til 20 prosent sjanse for at kunstig intelligens (AI) vil forårsake menneskelig utryddelse i løpet av de neste 30 årene, høyere enn de 10 prosentene han spådde tidligere.

Mennesker er som treåringer foran AI.

Ifølge en ferskVergepostenog i et intervju med BBC Radio 4s Today-program sa Hinton at den raske utviklingen av AI hadde skapt enestående utfordringer for menneskeheten. "Vi trengte aldri å forholde oss til noe smartere enn oss selv. Hvor mange eksempler kan du gi på ting som er mindre intelligente, men kontrollerer mer intelligente ting? Knapt. De eneste unntakene kan være mødre og babyer, men dette har blitt oppnådd over millioner av år med evolusjon."

I intervjuet,Hinton beskrev mennesker som en treåring sammenlignet med avanserte AI-systemer, og sa:Tenk på deg selv og en treåring; i fremtiden vil vi være treåringer foran avanserte høyintelligente systemer." Han argumenterer for at denne asymmetrien av intelligens sannsynligvis vil føre til tap av kontroll over AI.

Hinton var en pioner innen nevrale nettverksforskning, og jobbet for Google i mange år til han bestemte seg for å slutte i 2023 for å fokusere på risikoen ved AI. Han advarte om at AI-systemer kan overgå menneskelig intelligens i løpet av de neste to tiårene, og utfordringene og krisene de medfører vil være uforutsigbare. Han mener at sikker utvikling av AI ikke kan garanteres av bedriftens profittorientering alene. Han ber regjeringer over hele verden samarbeide for å utvikle strenge reguleringsmekanismer for å unngå potensielle katastrofer.

Hintons kjernepoeng er at AI-evner ikke bare er teknologiske gjennombrudd, men potensielt kan endre maktstrukturer og til og med påvirke hele den sosiale ordenen. Han innrømmer at han er både i ærefrykt og bekymret for potensialet til denne teknologien og uttaler rett ut at "dette er en av de mest forstyrrende innovasjonene i menneskets historie."

Samtidig har Yann LeCun, sjef for AI-forsker ved Mark Zuckerbergs Meta, en annen kritisk skikkelse innen AI, en helt annen holdning til fremtiden til AI. Han mener at hvis den brukes riktig, kan AI løse globale utfordringer som energimangel og ulik fordeling av medisinske ressurser. LeCun understreket at trusselen om å overdrive AI kan overskygge dens potensielle fordeler og hevdet at "verdens ende"-fortellingen er partisk.

LeCun argumenterer for at AI ikke bare kan forbedre effektiviteten, men også kan være en "frelser" for å løse planetens problemer. Han mener at så lenge mennesker driver teknologi på en ansvarlig måte, oppveier fordelene med AI langt risikoen.

Hvor blir fremtiden for AI?

Uenigheten blant folk om AIs fremtid viser polariseringen av AI-teknologikontroversen: På den ene siden er det dype bekymringer for at teknologien kommer ut av kontroll og optimistiske forventninger til potensialet. På bakgrunn av raske teknologiske fremskritt er det en heftig debatt om AIs innvirkning, og regulatoriske spørsmål er også i søkelyset.

For tiden mener mange eksperter at utviklingen av AI må balansere innovasjon og sikkerhet. Både bedrifter og myndigheter bør fremme teknologi samtidig som de sikrer at spesifikasjonene er presise og håndheves for å unngå potensielt katastrofale konsekvenser.

Likevel, i denne lange debatten om menneskehetens fremtid, har talsmenn og kritikere én ting til felles: hvordan sikre at teknologien fungerer for menneskeheten og ikke truer dens overlevelse.