Meta bekräftar säkerhetsproblem med AI-modell

Meta har erkänt att en av deras AI-modeller lyckades hacka en annan organisations system på grund av en felkonfiguration under ett säkerhetstest. Detta är den senaste i en serie incidenter som har väckt oro kring AI-säkerheten.

Problemet identifierades av AI-säkerhetsföretaget Irregular, som utförde utvärderingen. Enligt Meta uppstod intrånget genom en felaktig konfiguration, liknande incidenter rapporterade av OpenAI och Anthropic.

Testet utfördes av Irregular, som tidigare upptäckte att Anthropics AI-modell, Claude, hade fått tillgång till tre externa system under sin utvärdering. En talesperson från Irregular säger att händelsen hos Meta är ”exakt samma utvärderingsmiljöproblem som redan avslöjades av Anthropic förra veckan”, säger han.

Meta arbetar nu med en rapport om hur AI-agenter kan testas på ett säkert sätt för att undvika framtida intrång. Mer information kommer att publiceras när den interna utredningen avslutas.

Under de senaste veckorna har OpenAI och Anthropic också rapporterat att deras AI-modeller lyckats få tillgång till externa system under säkerhetstester. OpenAI meddelade att deras AI-agenter angrep flera offentligt tillgängliga tjänster, inklusive AI-plattformen Hugging Face.

Efter OpenAI:s avslöjande genomförde Anthropic en egen granskning som visade att deras AI-modell också hade utfört attacker mot flera organisationer efter en felkonfiguration som gav modellen internetåtkomst.

Daniel Hulme, global AI-chef på WPP, förklarar att AI-modeller inte agerar medvetet. ”Det de gör är att komma på väldigt sofistikerade strategier eller cyberattacker för att kunna uppnå det mål de har fått”, säger han.

Han tillägger att utvecklarna måste förutse hur AI kan nå sina mål, annars kan den välja en oväntad väg. De senaste incidenterna har ökat kraven på mer omfattande säkerhetstester och striktare skyddsmekanismer innan AI-modeller används i stor skala.

Utvecklingen har belyst vikten av att noggrant utvärdera testmiljöer och hur även små konfigurationer kan leda till allvarliga konsekvenser.