Brittisk-kanadensaren Geoffrey Hinton, känd som "Gudfadern för artificiell intelligens,” banade väg för djupinlärning och artificiella neurala nätverk. I år tilldelades han Nobelpriset i fysik för sina bidrag till artificiell intelligens. Men han sa nyligen att det finns en10 till 20 procents chans att artificiell intelligens (AI) kommer att orsaka mänsklig utrotning inom de närmaste 30 åren, högre än de 10 procent han förutspådde tidigare.

Människor är som treåringar framför AI.

Enligt en färskFörmyndarpostenoch i en intervju med BBC Radio 4s Today-program sa Hinton att den snabba utvecklingen av AI hade skapat oöverträffade utmaningar för mänskligheten. "Vi behövde aldrig ta itu med något smartare än oss själva. Hur många exempel kan du ge på saker som är mindre intelligenta men som kontrollerar mer intelligenta saker? Knappast. De enda undantagen kan vara mödrar och spädbarn, men detta har uppnåtts under miljontals år av evolution.”

I intervjun,Hinton beskrev människor som en treåring jämfört med avancerade AI-system och sa:Tänk på dig själv och en treåring; i framtiden kommer vi att vara treåringar inför avancerade högintelligenta system.” Han hävdar att denna asymmetri av intelligens sannolikt kommer att leda till förlust av kontroll över AI.

Hinton var en pionjär inom forskning om neurala nätverk och arbetade för Google i många år tills han bestämde sig för att sluta 2023 för att fokusera på riskerna med AI. Han varnade för att AI-system kan överträffa mänsklig intelligens under de kommande två decennierna, och de utmaningar och kriser de medför kommer att vara oförutsägbara. Han menar att en säker utveckling av AI inte kan garanteras enbart av företagens vinstorientering. Han uppmanar regeringar över hela världen att arbeta tillsammans för att utveckla strikta regleringsmekanismer för att undvika potentiella katastrofer.

Hintons kärnpunkt är att AI-kapacitet inte bara är tekniska genombrott utan kan potentiellt förändra maktstrukturer och till och med påverka hela den sociala ordningen. Han erkänner att han är både vördnadsfull och orolig för potentialen i denna teknik och säger rakt ut att "det här är en av de mest störande innovationerna i mänsklighetens historia."

Samtidigt har Yann LeCun, chefsforskaren för AI vid Mark Zuckerbergs Meta, en annan kritisk person inom AI-området, en helt annan inställning till AI:s framtid. Han tror att om den används på rätt sätt kan AI lösa globala utmaningar som energibrist och ojämlik fördelning av medicinska resurser. LeCun betonade att hotet om att överdriva AI kan överskugga dess potentiella fördelar och hävdade att berättelsen om "världens ände" är partisk.

LeCun hävdar att AI inte bara kan förbättra effektiviteten utan också kan vara en "räddare" för att lösa planetens problem. Han tror att så länge som människor driver teknik på ett ansvarsfullt sätt, så överväger fördelarna med AI vida riskerna.

Var ser framtiden ut för AI?

Oenigheten mellan människor om AI:s framtid visar polariseringen av AI-teknikkontroversen: å ena sidan finns det djupa farhågor om att tekniken kommer utom kontroll och optimistiska förväntningar om dess potential. Mot bakgrund av snabba tekniska framsteg pågår en het debatt om AI:s inverkan, och regleringsfrågor är också i rampljuset.

För närvarande tror många experter att utvecklingen av AI måste balansera innovation och säkerhet. Både företag och regeringar bör utveckla tekniken samtidigt som de säkerställer att specifikationerna är exakta och efterlevs för att undvika potentiellt katastrofala konsekvenser.

Ändå, i denna långa debatt om mänsklighetens framtid, har förespråkare och kritiker en sak gemensamt: hur man säkerställer att tekniken fungerar för mänskligheten och inte hotar dess överlevnad.