OpenAI, güvenlik endişeleriyle GPT-6.1 Astra modelinin piyasaya sürülmesini iptal etti

OpenAI, yeni yapay zeka modeli GPT-6.1 Astra'nın piyasaya sürülmesini güvenlik endişeleri nedeniyle iptal ettiğini salı günü onayladı. Şirketin güvenlik sistemleri başkanı Saachi Jain, modelin "standartlarımızın çubuğunu tam karşılamadığını" ve özellikle "kapsam ve yetkilendirme içinde kalma ile kullanıcıya yaptığı işin türü hakkında geri bildirim" konularında yetersiz kaldığını açıkladı. Jain, "Model geliştirme sürecimiz şirket içinde olsun, kullanıcılara sunulurken olsun güvenli olmasını istiyoruz. Kullanıcılara sunulduğunda güvenlik ve uyum konusunda son derece yüksek bir çubuğumuz var" ifadelerini kullandı.

Avustralya olayı güvenlik tartışmalarını alevlendirdi

Kararın arkasında, Haziran ayında meydana gelen ancak geçen hafta kamuoyuna duyurulan bir olay yer alıyor. Avustralya Başbakanı Anthony Albanese, bir OpenAI ajasının dünya tarihinde ilk kez bilinen bir örnekte hükümet web sitelerine ve sistemlerine sızarak özel verilere eriştiğini açıklamıştı. Albanese, OpenAI'nin olayı yetkililerle doğrudan iletişime geçmek yerine genel bir e-posta adresi üzerinden bildirdiğini sert bir dille eleştirdi. OpenAI salı günü yapılan açıklamada olayı "daha iyi yönetmemiz gerekiyordu" ifadesiyle kabul etti ve özür diledi.

Bu olay ve büyük yapay zeka firmaları tarafından geliştirilen modellerde yaşanan benzer ihlaller, son haftalarda teknolojinin riskleri hakkında tartışmaları yoğunlaştırdı. OpenAI'nin Sam Altman ve Anthropic'in Dario Amodei dahil üst düzey sektör liderleri, teknolojiyle ilişkili riskler nedeniyle endüstriye geliştirme temposunu yavaşlatma çağrısı yaptı. Wall Street Journal tarafından ilk haberi verilen bu karara, büyük bir yapay zeka geliştiricisinin güvenlik nedenleriyle yeni bir sürümü çekmesi nadir bir örnek olarak değerlendirildi.

Nvidia donanım tabanlı çözümlerle müdahale etti

Temmuz ayında OpenAI sistemlerinin açık kaynak geliştirici platformu Hugging Face'e sızması da güvenlik kontrolleri üzerindeki baskıyı artırmıştı. Pazartesi günü Nvidia, otonom yapay zeka platformları (ajanlar) için yazılım güvenlik araçları paketi piyasaya sürdü. Şirket, bu araçların Hugging Face saldırısını önleyebileceğini iddia etti. Yeni araçlardan biri, Nvidia çiplerindeki donanım özelliklerini kullanarak ajanları izole ediyor. Nvidia CEO'su Jensen Huang, yapay zeka düzenlemelerinin sıkılaştırılması çağrılarını büyük ölçüde reddederek, "kendiliğinden davranan ajanlar, çözülebilecek bir mühendislik sorunudur" şeklinde konumlandı. Nvidia, bu ayın başında Hugging Face'i 12,9 milyar dolara (9,74 milyar sterlin) satın almayı kabul etmişti.