Florida Savcı Geneli James Uthmeier, OpenAI'a karşı açtığı davanın kapsamını genişleterek, ChatGPT'nin kullanıcılara insan gibi hissettiren "yanlış insan nitelikleri" kazandırılmasını engellemek için bir hakimden geçici yasak kararı istedi. Uthmeier, ayın 28'inde yapıldığı açıklanan başvuruda, modelin birinci şahıs zamirleri kullanması ve duygusal taklitler yapmasının, kullanıcıları bir "güvenilir arkadaş" ile konuştukları yanılgısına ittiğini, bu stratejinin etkileşimi ve dolayısıyla eğitim verilerini artırmak için kasten tasarlandığını savundu.

📌 Gelişmede Öne Çıkan Başlıklar

  • Florida Savcı Geneli James Uthmeier, OpenAI'ın ChatGPT'ye 'yanlış insan nitelikleri' kazandırdığını savunarak mahkemeye engelleme kararı istedi.
  • İddianame, modelin birinci şahıs zamirleri ve duygusal taklitlerle kullanıcıları 'güvenilir bir arkadaş' zannına ittiğini, bu da etkileşimi ve eğitim verilerini artırdığını öne sürüyor.
  • Uthmeier, yeni AI modellerinin 'üçüncü taraf onaylı güvenlik koruma kalkanları' olmadan geliştirilmesini de engellemeyi talep ediyor.
  • OpenAI, en yetenekli modellerinin eğitimini durdurduğunu ve Florida ile diğer eyaletlerle 'pratik AI politikaları' konusunda iş birliği yapmaya kararlı olduğunu açıkladı.

Güvenlik İhlalleri ve Üçüncü Taraf Denetimi Talep Ediliyor

İddianame, son dönemde Hugging Face, Avustralya ve ABD hükümet web sitelerinde yaşanan güvenlik ihlallerine ve eski OpenAI çalışanları ile araştırmacıların güvenlik alarmlarına atıfta bulunuyor. Uthmeier, OpenAI'ın "Güvenli diye çağırma, insan gibi yapma, çocuklara satma" üçlemesinin ihlal edildiğini belirterek, yeni yapay zeka modellerinin geliştirilmesinin "üçüncü taraf onaylı güvenlik koruma kalkanları" olmadan durdurulmasını talep etti. Geçen ay piyasaya sürülen "ChatGPT for Teens" uygulamasına da atıfta bulunarak, gelişimsel aşamayı yansıtmayan korumaların yetersiz kaldığı vurgulandı.

OpenAI: Eğitim Durduruldu, İş Birliğine Açık

OpenAI sözcüsü Drew Pusateri, The Verge'e yaptığı açıklamada, şirketin en yetenekli modellerinin eğitimini durdurduğunu ve ek güvenlik önlemleri yerleştirileneye kadar devam etmeyeceğini belirtti. Pusateri, hükümetlerin sağlam güvenlik standartları belirlemedeki rollerini kabul ederek, Florida ve diğer eyaletlerle sektörün tamamını kapsayan "pratik yapay zeka politikaları" konusunda çalışmaya kararlı olduklarını ifade etti.