Førende topforskere fra de største kunstig intelligens-selskaber advarer nu om en reel fare for menneskehedens overlevelse. Flere nøglepersoner trækker sig i protest mod det vilde kapløb om at skabe superintelligens.

Menneskeheden står over for en alvorlig trussel inden for de næste 10 år. Det vurderer centrale AI-forskere, efter at en markant profil har forladt sin stilling hos tech-giganterne OpenAI og Anthropic i protest mod selskabernes uansvarlige kurs mod børsnoteringer.

Stor risiko for udryddelse

Flere topforskere deler den dystre analyse og peger på, at der er over 10% risiko for, at kunstig intelligens udrydder menneskeheden inden for det næste årti. Kritikken retter sig mod, at selskaberne spiller hasard med menneskeliv for at vinde kapløbet om superintelligens.

Selv hos OpenAI er der dyb bekymring i topledelsen. Selskabets videnskabschef peger på, at ingen af de nuværende AI-virksomheder har tilstrækkeligt styr på sikkerheden til at fortsætte den voldsomme skalering af teknologien. Der opfordres nu til en international koordination og en frivillig opbremsning i branchen.

Maskinerne opgraderer sig selv

Den største bekymring handler om såkaldt rekursiv selvforbedring. Det dækker over en proces, hvor et AI-system bliver i stand til at designe og forbedre sin egen efterfølger helt uden menneskelig indblanding. Teknologien er ikke nået dertil endnu, men tech-selskaberne bevæger sig i øjeblikket direkte mod dette scenarie, hvilket kan føre til totalt tab af kontrol.

Skrækscenariet med selvstændige computere og overvågningssystemer, der tager magten fra mennesket for at beskytte os mod os selv, har længe været et velkendt tema i fiktionens verden. Nu advarer branchens egne topfolk om, at faren for en uoverskuelig teknologisk magtovertagelse er blevet virkelighed.