FN advarer nu direkte om, at kunstig intelligens udgør en eksistentiel trussel mod menneskeheden og de grundlæggende menneskerettigheder. Advarslen blev afleveret på et formelt møde i FN's Menneskerettighedsråd, hvor behovet for global regulering af teknologien blev understreget.

Baggrund for advarslen

Bekymringen bunder i konkrete hændelser, der viser teknologiens farlige potentiale. Der henvises blandt andet til et sikkerhedsbrud på AI-platformen Hugging Face i juli samt meldinger om historiens første bekræftede drab på tre ukrainske civile udført af en fuldstændig selvstyrende drone. Disse episoder ses som beviser på, at teknologien allerede nu kan have dødelige og ukontrollerbare konsekvenser.

Manglende globale aftaler

Der arbejdes på at skabe fælles internationale spilleregler for at dæmme op for de voksende risici. Situationen beskrives dog som kritisk, da der blot er 4 måneder tilbage til en fastsat deadline i 2026, uden at der på nuværende tidspunkt eksisterer en bindende global aftale om regulering af kunstig intelligens.

Sikkerhed og rettigheder i fare

Uden en international rammeaftale frygter man, at den hurtige teknologiske udvikling vil løbe fra de eksisterende love og beskyttelsesmekanismer. Den manglende styring svækker den globale sikkerhed og efterlader civile sårbare over for militær og kommerciel misbrug af kunstig intelligens.