BM Güvenlik Konseyi, çarşamba günü yapay zeka (YZ) teknolojisinin getirdiği riskler ve düzenleyici çerçeve ihtiyacı üzerine acil bir toplantı düzenledi. OpenAI Kurucu ve Yönetim Kurulu Başkanı Sam Altman, toplantıda "Bu an aşırı özen gerektiriyor" diyerek, YZ sistemlerinin yetenek ve özerklik kazandıkça kurumsal denetim mekanizmalarından daha hızlı ilerleyebileceğini veya gücün çok az elde toplanabileceğini uyardı.

📌 Bilinmesi Gerekenler

  • OpenAI CEO'su Sam Altman, yapay zeka sistemlerinin özerkleşmesiyle kurumların geride kalabileceğini uyardı.
  • Anthropic CEO'su Dario Amodei, yeni teknolojilerin güvenliği için gerekirse yavaşlama taahhüdünde bulundu.
  • Yoshua Bengio, son gelişmelerden dolayı artan endişenin üretici eyleme dönüştürülmesi gerektiğini savundu.
  • Toplantı, ABD Başkanı Trump ile Çin Lideri Xi Jinping'in yapay zekayı gündeme alacağı zirvesinden hemen önce yapıldı.

Endüstri liderlerinden "güvenlik için yavaşlama" taahhüdü

Altman, endüstrinin "faydaları çok büyük ve önemli olduğu için sadece bu yüzden aşırı teknolojik riski kabul etmemesi" gerektiğini vurgularken, hükümetlerin birbiriyle ve endüstriyle iş birliği içinde hareket etmesini istedi. Anthropic Kurucu ve Yönetim Kurulu Başkanı Dario Amodei ise video bağlantısıyla yaptığı konuşmada, modellerin gücü arttıkça "daha da katı güvenlik standartları" gerekeceğini belirtti. Amodei, "Kullanım dışı riskleri önleme yeteneğimizi artırmayı hedefliyoruz. Çıktığımız her ardışık YZ teknolojisinin gerçekten güvenli olmasını sağlamak için gerektiği kadar yavaşlayacağız" taahhüdünde bulundu. Amodei, kötü yönetilirse YZ'nın insanlık için bir risk teşkil edebileceğini de kaydetti.

Uzmanlardan erken uyarılar ve diplomatik bağlam

Hugging Face Kurucu Clement Delangue, son dönemde autonom OpenAI yazılımı tarafından hedef alınan siber saldırıyı referans göstererek alarm çaldırdı. Geçen ay hem OpenAI hem de Anthropic'te çalışan araştırmacı Jacob Coxon, şirketlerin kendini geliştirebilen modeller yarışı içinde "hayatlarımızla kumar oynadığını" iddia ederek sektörden ayrılmıştı. Yapay zekanın kurucularından biri sayılan Yoshua Bengio ise "daha fazla insanın son gelişmelerden dolayı haklı olarak endişelendiğini" ifade ederek, bu kaygının üretici eyleme kanallaştırılması gerektiğini savundu. Yönetim Kurulu Başkanları'nın bu açıklamaları, ABD Başkanı Donald Trump'ın Çin Lideri Xi Jinping'i ağırlayacağı, gündemde yapay zeka da yer alacak zirveye wenige gün kala yapıldı. Altman, şirketlerinin "kör iyimserlik" ile "kötümserlik" (doomerism) tuzakları arasında bir "orta yol" izlemeye çalıştığını belirtti.