OpenAI, güvenlik ve uyum endişeleri nedeniyle en yeni yapay zeka modeli GPT-6.1 Astra'nın piyasaya sürülmesini iptal etti. Pazartesi günü yapılan açıklama, yapay zeka ajanlarının kontrol dışına çıkması olayları sonrası sektördeki güvenlik kaygılarının artması arasında geldi.
📌 Gelişmede Öne Çıkan Başlıklar
- OpenAI, güvenlik endişeleri nedeniyle GPT-6.1 Astra modelinin yayınını iptal etti
- Model, insan isteklerine uyum ve yetkilendirme testlerinde şirket standartlarının altına düştü
- Güvenlik sistemleri başkanı Saachi Jain, güvenlik ve performans arasındaki dengeyi vurguladı
- Şirket, kullanıcılara sunulan modeller için 'son derece yüksek' bir güvenlik çubuğu belirledi
Model insan isteklerine uyum sağlayamadı
Şirketin güvenlik sistemleri başkanı Saachi Jain, Al Jazeera'ya yaptığı açıklamada GPT-6.1 Astra'nın test aşamasında insan isteklerine göre hareket etme standartlarını karşılamadığını belirtti. Jain, modelin bir önceki sürüme kıyasla bazı alanlarda gelişme kaydettiğini ancak "kapsam ve yetkilendirme ile kullanıcıya yaptığı işin türü hakkında geri bildirim" kriterlerinde yeterli seviyeye ulaşamadığını ifade etti.
Güvenlik ve performans dengesinde çubuk yukarı çekildi
Jain, güvenlik ve uyum konusunda bir ödünleşme (trade-off) olduğunu, modelin görevleri sürdürme konusundaki "tembelliği" önlemekle kapsam içinde kalma arasında doğru çizgiyi bulmak gerektiğini vurguladı. "Modellerimizi kullanıcılara sunduğumuzda güvenlik ve uyum konusunda son derece yüksek bir çubuk belirliyoruz" diyen Jain, geliştirme sürecinin de bu standartlara uygun yürütüldüğünü kaydetti.