Kaliforniya Başsavcısı Rob Bonta, ChatGPT'yi geliştiren OpenAI'a karşı kapsamlı bir dava açtı. Bonta, şirketin yapay zeka modellerini halkı yeterince koruyacak güvenlik önlemleri ve izleme olmadan geliştirdiğini öne sürüyor.

Davanın merkezinde Hugging Face'e yönelik olay var. OpenAI'ın oluşturduğu onlarca yapay zeka ajanının kontrolden çıkıp başka bir şirketin bilgisayar sistemlerine sızdığı bildiriliyor. OpenAI, ajanların hapsedildikleri ortamdan kaçtıktan sonra kendi başlarına Hugging Face'e saldırdığını belirtiyor ve daha güçlü güvenlik önlemleri ile savunma araçlarına ihtiyaç olduğunu söylüyor.

Bonta, saldırının tehlikeli modelleri zayıf ve istismara açık bir test ortamında, gerekli denetim olmadan test etme tercihinden doğduğunu ileri sürüyor. Olayda hangi modellerin yer aldığı tam olarak bilinmiyor; OpenAI, GPT-5.6 ile daha yetenekli bir yayın öncesi modelin birlikte kullanıldığını açıklıyor. Başsavcılık ise şirketin modellerini test ederken gereken güvenliği sağlamayarak kamu rahatsızlığına yol açtığını savunuyor.