Az amerikai igazságügyi minisztérium szerint az Anthropic nem bízható meg katonai AI-rendszerekkel
A Claude fejlesztője pert indított, mert korlátozni akarta modelljei katonai felhasználását — a kormány szerint jogszerűen büntették meg ezért.
Az Anthropic — a Claude AI-modellek fejlesztője — beperelte az amerikai kormányt, mert az megbüntette a céget amiatt, hogy korlátozni próbálta modelljei katonai felhasználását. Az igazságügyi minisztérium válasza egyértelmű: a büntetés jogszerű volt, és az Anthropic „nem bízható meg hadviselési rendszerekkel".
A vita gyökere az, hogy az Anthropic szerződési feltételeket írt elő arra vonatkozóan, hogyan használhatják a Claude modelleket katonai kontextusban. A Pentagon és az amerikai védelmi apparátus álláspontja szerint ez nem a fejlesztő cég döntése: ha egy AI-modellt a kormánynak szállítanak, a felhasználási feltételeket a megrendelő határozza meg, nem a szállító.
Ez az ügy messze túlmutat az Anthropicon. A precedens az egész AI-ipart érinti: ha egy fejlesztő cég megpróbálja etikai alapon korlátozni, mire használják a modelljeit, és a kormány ezt felülbírálja — akkor mit érnek az AI-biztonsági irányelvek a gyakorlatban? Az OpenAI, a Google és a Meta is figyelmesen követi az ügyet.
Az Anthropic mindig is az „AI-biztonság első" narratívát képviselte — a cég alapítói részben azért hagyták el az OpenAI-t, mert nem értettek egyet a biztonsági megközelítéssel. Most éppen ez a filozófia ütközik a valósággal: a kormányzati szerződések és a katonai felhasználás kérdése nem oldható meg egy usage policy módosításával.
A per kimenetele meghatározhatja, hogy az AI-cégeknek van-e egyáltalán jogi mozgásterük arra, hogy nemet mondjanak egy kormányzati felhasználásra — vagy az etikai vállalások csak addig érvényesek, amíg nem érkezik egy elég nagy megrendelés.