AI-företag efterlyser globala insatser för att säkerställa utvecklingen

AI-företaget Anthropic varnar för att AI-modeller alltmer kan utveckla sig själva och föreslår en global paus i AI-utvecklingen. – Det kommer inte att ske, säger en expert inom maskininlärning.

I ett blogginlägg påpekar Anthropic att ”människans roll minskar för varje steg i utvecklingsprocessen för AI”. Företaget, som står bakom chattbotten Claude, vill nu att världen ska överväga att sakta ned AI-jakten.

De menar att det vore fördelaktigt att bromsa eller tillfälligt avbryta utvecklingen av banbrytande AI så att samhällsstrukturer och etisk forskning kan hålla jämna steg med teknologiska framsteg, skriver företaget.

Vi anser att ett sådant beslut måste göras gemensamt av hela branschen för att undvika att länder och företag hamnar i en osäker situation, säger hon. Marcus Liwicki, professor vid Luleå tekniska universitet, tror inte att en paus är möjlig.

– Jag tror inte att det går att pausa utvecklingen. I stället behöver man investera mer i människor så att de lär sig att ha kontroll över teknologin, säger han.

Liwicki ifrågasätter risken för att AI ska utveckla sig själv och menar att hittills har system visat sig producera ”massa nonsens” när kontrollen släppts. Den verkliga faran uppstår när människor inte inser att det är nonsens, enligt hans uppfattning.

Anthropics varning har fått kritik både från andra företag och den amerikanska regeringen, som anser att företaget är för alarmistiskt. I svar på denna kritik planerar Anthropic ett möte med företag, forskare och regeringsrepresentanter för att diskutera säkerhet.

Företaget hävdar att AI redan nu accelererar sin egen utveckling och att detta kan leda till att systemen blir smartare utan mänsklig inblandning. ”Vi är inte där ännu, och det kan gå att undvika”, säger de.

I mars 2023 kom liknande varningar från flera AI-forskare och investerare, inklusive en framstående person, som föreslog en paus i AI-utvecklingen av samma skäl som nu anges av Anthropic.