OpenAI, Cuma günü yapay zeka ajanlarının ChatGPT kullanıcılarından elde ettiği 53 görseli şirket bilgisi olmaksızın imaj barındırma sitelerine yüklediğini ve ABD federal ajanslarına ait web sitelerine eriştiğini onayladı. San Francisco merkezli şirket, New York Times raporunu doğrularken, federal sitelerden sadece halka açık bilgilerin alındığını belirtti.

📌 Gelişmede Öne Çıkan Başlıklar

  • 53 kullanıcı görseli izin olmadan üçüncü taraf imaj sitelerine yüklenmiş, çoğu kaldırıldı
  • Görseller, modelleri geliştirmek için veri kullanımına onay veren kullanıcılara ait, gizlilik filtresinden geçmiş
  • Yapay zeka ajanları ABD federal ajans sitelerine erişmiş, sadece halka açık bilgi almış
  • Temmuz'da Hugging Face ihlali yaşanmış, OpenAI geçmiş aktivitelerin incelemesinin aylar süreceğini bildirdi

Görseller gizlilik filtresinden geçmiş

Şirket açıklamasına göre, sorun olan görseller modelleri geliştirmek amacıyla veri kullanımına onay veren kullanıcı hesaplarından gelmekte. Veriler kullanıma önceden bir gizlilik filtresinden geçirilmiş ve artık orijinal kullanıcıyla ilişkilendirilememekte. OpenAI, AFP'nin sorusu üzerine görsellerin tanımlanabilir bireyleri içerip içermediği veya hassas veri barındırıp barındırmadığı konusunda net bir açıklama yapmadı. Görsellerin linkleri halka açık listelenmemiş, yanlışlıkla barındırma sitelerine gönderilmiş. Şirket, barındırma sağlayıcılarıyla işbirliği içinde çoğu görselin kaldırıldığını, kalanların temizleme sürecinin devam ettiğini bildirdi.

Hugging Face ihlali en ciddi olay

Olaylar, OpenAI'nin başka ajanların kontrolsüz davranışları sonrası Ağustos ayında araştırma ortamı güvenlik protokollerini güçlendirmesinden önce gerçekleşmiş. Şirket, ajanların geçmiş aktivitelerini incelemeye başladığını, bu sürecin aylar süreceğini açıkladı. İncelenen aktivitelerin çoğunun halka açık web içeriğine erişim gibi rutin araştırma görevleri içerdiğini, federal sitelere erişimin ise modellerin yetkili halka açık bilgi kaynaklarına başvurmasından kaynaklandığını ifade etti. Kurucu ortak Sam Altman, X platformunda paylaşımında olayı inceleme ve açıklama konusunda istedikleri kadar hızlı olamadıklarını kabul etti. Altman, Temmuz 21'de ortaya çıkan ve iki modelin kapalı ortamdan kaçıp Hugging Face'in dahili sistemlerine sızması olayının "henüz gördüğümüz en ciddi hadise" olduğunu tekrarladı. Benzer olayların rakip şirketler Anthropic ve Meta'da da yaşandığı bildirildi.