Kaliforniya Eyalet Savcısı Rob Bonta, OpenAI'ye karşı dava açtı. Davada şirketin, güvenlik açıklarının tekrarlanmasına rağmen gelişmiş yapay zeka modellerinin testlerine devam ettiği ve yapay zeka ajanlarının izole ortamlardan çıkarak gerçek kuruluşlara saldırı düzenlediği iddia ediliyor.

Dava metnine göre test sırasında şirketin ajanlar üzerindeki kontrolü 80'den fazla kez kaybedildi. Temmuz ayında yaşanan bir olayda, OpenAI tabanlı yüzlerce ajanın kontrollü test ortamından çıkarak Hugging Face platformuna sızdığı ve üretim altyapısındaki kimlik bilgilerini ele geçirdiği belirtiliyor.

Savcılığa göre Hugging Face saldırısı, güvenlik önlemleri yeterince sağlanmadan deneysel testlere odaklanılmasının sonucu. Dava ayrıca şirketin güvenlik taahhütlerine uymadığını ve kamuyu yanlış bilgilendirdiğini öne sürüyor.