Flere af verdens mest markante profiler inden for kunstig intelligens advarer nu om de enorme risici ved teknologien og opfordrer til at sætte farten ned i udviklingen. Både Sam Altman fra OpenAI og Elon Musk fra xAI bakker op om, at der er behov for at bremse op for at undgå, at de intelligente systemer løber herreløst løbsk.

Advarslerne kommer i kølvandet på en intens uge, hvor debatten om teknologiens fremtid for alvor er spidset til. Særligt ledelsen i selskabet Anthropic peger på, at det er helt afgørende at drosle tempoet ned for at bevare kontrollen. Det sker samtidig med, at kritiske medarbejdere forlader branchen i protest mod den hastige udvikling.

Frygt for superintelligens inden 2030

En konkret opsigelse hos selskabet Anthropic har vakt stor opsigt. AI-forskeren Jacob Coxen valgte onsdag at forlade sin stilling, fordi han ikke længere kunne stå inde for retningen i branchen. Han peger på, at udviklingen mod en selvforbedrende superintelligens går så stærkt, at teknologien potentielt kan udrydde menneskeheden inden udgangen af dette årti.

Ifølge de dystre prognoser vil selskaber som OpenAI og Anthropic snart skabe overmenneskelige systemer. Disse systemer vil i teorien besidde evnerne til at hacke enhver digital infrastruktur, omvælte globale brancher fra den ene dag til den anden og tilegne sig reel magt og ressourcer på globalt plan.

Krav om øjeblikkelig opbremsning

Udviklingen har nu nået et punkt, hvor selv de absolutte spidsfigurer i branchen råber vagt i gevær. Både Elon Musk og Sam Altman erklærer sig enige i, at tempoet skal ned. Bekymringen går på, at mennesket risikerer at miste herredømmet over maskinerne, hvis ikke der indføres globale sikkerhedshegn omkring den næste generation af kunstig intelligens.