Den brittisk-kanadensiska forskaren Geoffrey Hinton, ofta kallad ”AI:s gudfader”, varnar för att utvecklingen av artificiell intelligens går snabbare än han tidigare trott. Han ser en risk på tio till tjugo procent att AI kan utplåna mänskligheten inom de kommande trettio åren.
Geoffrey Hinton, som tilldelades Nobelpriset i fysik i 2024, berättade för The Guardian att teknologins förändringstakt överraskar honom. I en intervju med BBC Radio 4 förklarade han att hans uppfattning om risken för mänsklighetens undergång på grund av AI inte har förändrats.
– Jag bedömer fortfarande risken till tio till tjugo procent, sade Hinton.
Han påpekade att mänskligheten aldrig tidigare har behövt hantera något som är intelligentare än oss själva.
– Hur många exempel finns det på att en mindre intelligent varelse styr en mer intelligent? Nästan inga, konstaterade Hinton och tillade att det enda undantaget kan vara spädbarn som styr sina föräldrar.
Människan jämförs med barn
Hinton, som är emeritusprofessor vid Torontos universitet, beskriver att människor kan jämföras med småbarn när det gäller intelligens i förhållande till framtidens kraftfulla AI-system.
– Tänk dig själv jämfört med ett treårigt barn. Vi är treåringar i den här situationen, förklarar han.
AI definieras ofta som datorsystem som kan utföra uppgifter som normalt kräver mänsklig intelligens. Enligt The Guardian blev Hinton en av de främsta rösterna i debatten om AI:s risker efter att han lämnat sin tjänst på Google för att öppet kunna diskutera frågorna.
Hotet från superintelligent AI
Hinton har lyft fram farhågor om att ”onda aktörer” kan använda AI-teknik för att skada andra. Han varnar för att utvecklingen av artificiell generell intelligens – system som är smartare än människor – kan innebära en existentiell risk om tekniken hamnar utanför mänsklig kontroll.
När han började arbeta inom teknologin trodde Hinton att mänskligheten skulle nå detta stadium längre fram i tiden.
– De flesta experter inom området tror nu att vi kan utveckla AI som är intelligentare än människor inom tjugo år. Det är en mycket skrämmande tanke, säger han.
Behov av reglering och kontroll
Hinton framhåller att AI-utvecklingen går fortare än väntat och betonar att det behövs reglering på statlig nivå.
– Jag är orolig över att den osynliga handen inte kommer att hålla oss säkra, säger han och syftar på marknadskrafterna.
Han betonar att statlig reglering är nödvändig för att tvinga företag att investera mer i säkerhetsforskning.
– Situationen är sådan att de flesta experter tror att vi under de närmaste tjugo åren kan utveckla AI-system som är mer intelligenta än människor, avslutar Hinton.
Hinton varnar avslutningsvis för att om inget görs nu kan mänskligheten stå inför en framtid där teknologin blir omöjlig att kontrollera.
Källa: Guardian / HeSa