OpenAI, çevrim içi çocuk istismarı görüntülerini tespit edebilen yeni bir sınıflandırma aracı geliştirdiğini duyurdu. Şirketin açıklamasına göre araç, daha önce tespit edilmemiş görsellerdeki görsel işaretleri analiz ediyor ve inceleme ekiplerinin önceliklendirmesi için puan veriyor.

Şirket, yapay zeka ile üretilmiş çevrim içi çocuk istismarı içeriklerine yönelik özel bir sinyal sunan bu aracın geniş erişime açılan ilk sınıflandırma aracı olduğunu belirtti. Araç, onaylı kuruluşların kullanımına ücretsiz sunulacak.

OpenAI ayrıca ChatGPT'de çocuk istismarı içeriği aramaya yönelik girişimleri kesintiye uğratacak yeni uyarılar uygulayacağını açıkladı. Uyarılarda bu tür içeriklerin yapay zeka ile üretilse de zarara yol açtığı belirtilecek; işaretlenen sohbet kaldırılacak ve kullanıcının erişimi 24 saat durdurulacak. Tekrarlanan ihlallerde daha uzun kısıtlamalar, hesap kapatma ya da yetkililere bildirim söz konusu olabilecek.