AI-företag föreslår paus i utvecklingen av artificiell intelligens

Anthropic, en ledande aktör inom AI, har uttryckt oro över att AI-modeller uppvisar självutvecklande förmågor. Företaget efterlyser därför en global paus i AI-utvecklingen. – Det kommer inte att ske, säger en professor i maskininlärning vid Luleå tekniska universitet.

I ett blogginlägg noterar Anthropic att ”människans roll minskar för varje steg i utvecklingsprocessen för AI”.

Företaget, som har skapat chattbotten Claude, anser att det är viktigt att bromsa sökandet efter mer avancerad AI.

”Vi anser att det vore bra för världen att ha möjligheten att bromsa eller tillfälligt avbryta utvecklingen av banbrytande AI, så att samhällsstrukturerna och forskningen om etisk anpassning hinner hålla jämna steg med teknikens framsteg”, skriver de.

Enligt Anthropic måste beslutet om en paus träffas gemensamt av hela branschen för att undvika att länder och företag hamnar i en konflikt mellan säkerhet och teknologisk utveckling.

Marcus Liwicki, professor i maskininlärning, anser att en paus är osannolik. – Jag tror inte att det går att pausa utvecklingen. I stället behöver man investera mer i människor så att de lär sig att ha kontroll över teknologin, säger han.

Han framhåller att AI:s självutveckling hittills bara har resulterat i ”massa nonsens”. Risken är att människor inte inser att det är nonsens, vilket kan bli farligt, enligt honom.

Anthropics varningar har fått motreaktioner från både andra företag och den amerikanska regeringen, som hävdar att företaget är alltför alarmistiskt. Som svar planerar Anthropic ett möte med företag, forskare och regeringstjänstemän för att diskutera säkerhetsfrågor.

Företaget varnar för en potentiell självutveckling av AI, vilket kan leda till att systemen blir allt mer intelligenta utan mänsklig inblandning. ”Vi är inte där ännu, och det kan gå att undvika”, säger de.

I mars 2023 gav flera AI-forskare och investerare en liknande varning, inklusive en känd innovatör, som ville pausa AI-utvecklingen i sex månader av liknande skäl.