OpenAI, çocuk cinsel istismarı içeriklerini tespit etmeye yarayan bir sınıflandırıcı aracını tanıttı. Araç görüntülerdeki istismar izlerini tarıyor ve görselin yapay zekayla üretilip üretilmediğini de belirlemeye çalışıyor. Görsellere puan vererek insan incelemecilerin hangilerine öncelik vermesi gerektiğini ayırt etmelerine yardımcı oluyor.

Araç, bu tür içerikleri tespit etmek zorunda ya da yetkili olan kuruluşların kullanımına ücretsiz açılacak. Bazı geliştiriciler de OpenAI'ın uygulama programlama arayüzü üzerinden bu aracı kullanabilecek. Şirket ayrıca geliştiricilere tespit yöntemleri konusunda rehberlik edeceğini ve kolluk güçlerine yapay zekanın soruşturmalara nasıl katkı sağlayabileceği konusunda eğitim vereceğini belirtti.

Haberde, ABD'deki Kayıp ve İstismar Edilen Çocuklar Ulusal Merkezi'ne gelen yapay zeka kaynaklı ihbarların 2024'te 67.000 iken 2025'te 400.000'e çıktığı aktarıldı. Edinburgh Üniversitesi'ne bağlı Childlight araştırmasına göre de 2023'ten 2025'e kadar yapay zeka kaynaklı çocuk istismarı raporları küresel ölçekte yüzde 8.400'ün üzerinde arttı. Bu artışın, kurumların iş yükünü ciddi biçimde büyüttüğü vurgulandı.