Kunstig intelligens bliver i stigende grad forsøgt misbrugt til alvorlig cyberkriminalitet og udvikling af farlige masseødelæggelsesvåben på globalt plan.

It-virksomheden Anthropic har for nylig grebet ind og stoppet flere koordinerede forsøg på at udnytte selskabets sprogmodel, Claude, til ondsindede formål. Blandt de mest kritiske hændelser var konkrete forsøg på at bruge teknologien til at udvikle biologiske våben samt til at udføre målrettet cyberspionage mod Ukraine.

Angreb mod Ukraine og vestlige mål

En af de mest markante trusler kom fra en statslig aktør med tætte tråde til Rusland. Denne gruppe forsøgte aktivt at bruge den kunstige intelligens til at planlægge og optimere cyberangreb mod ukrainske organisationer samt militære og diplomatiske mål i Europa.

Sikkerhedsanalyser viser, at de it-kriminelle forsøgte at få hjælp til at skrive skadelig programkode og analysere sårbarheder i computersystemer. Ved at gribe hurtigt ind fik virksomheden spærret de relevante brugerkonti, før angrebene nåede at gøre skade på de samfundskritiske systemer.

Biologiske våben under lup

Udover cyberspionage har sikkerhedseksperter også identificeret forsøg på at omgå sprogmodellens sikkerhedsbarrierer for at hente følsom information om farlige biologiske agenser. Aktørerne forsøgte at bruge systemet til at optimere fremstillingen af potentielle biologiske våben.

Sikkerhedssystemerne i den kunstige intelligens opdagede dog de mistænkelige forespørgsler i tide. Det forhindrede, at brugerne fik adgang til de livsfarlige kemiske og biologiske instruktioner, som ellers er strengt regulerede på internationalt niveau.

Stigende pres på it-giganter

De nye afsløringer understreger den voksende udfordring med at sikre avancerede AI-modeller mod misbrug fra både terrorgrupper og fjendtlige stater. Flere af de store teknologiske aktører har nu øget overvågningen af deres systemer markant.

Der arbejdes i øjeblikket på tættere koordination mellem de private it-giganter og de vestlige efterretningstjenester for at dæmme op for truslerne, før den kunstige intelligens kan bruges til at udføre fysiske eller digitale angreb mod demokratiske stater.