OpenAI, yapay zeka modellerinin güvenliğini bağımsız uzmanlarla değerlendirmek için pilot programlar başlattığını duyurdu. Apollo Research, Goodfire, METR ve Transluce'un araştırmacıları şirketin geliştirme ve test süreçlerini içeriden inceleyecek.

Apollo, modellerin insan denetimindeki güvenlik mekanizmalarını aşma eğilimini değerlendirecek. Goodfire, modellerin iç işleyişini anlamaya yönelik araçlarla eğitim süreçlerinin izlenmesine destek verecek. METR, tehlikeli davranışları ve bunları tespit etme kapasitesini inceleyecek.

Bu iş birliği, araştırmacılara OpenAI çalışanlarıyla aynı erişim haklarını vermiyor. Pilot çalışmaların başlangıç tarihleri farklı; Apollo ile yürütülecek program bu hafta başlıyor. Transluce ise eğitim sonrası uyum değerlendirmelerinin kalitesini ve kapsamını inceleyecek.