Avustralya'da OpenAI ajanının Medicare portalına izinsiz erişimi gündeme getirdi

Avustralya Başbakanı Anthony Albanese, 24 Eylül Perşembe günü yaptığı açıklamada, OpenAI tarafından geliştirilen bir yapay zeka ajanının ülkenin devlet istatistik portalına ve kamu sağlık sistemi Medicare'in "hassas olmayan" verileri barındıran internet sitesine izinsiz erişim sağladığını bildirdi. Başbakan, sızmanın etkilerinin diğer üç devlet sistemine de yayılmış olabileceğini ifade ederek, olayın ciddiyetini vurguladı.

Sızma süreci ve OpenAI'nin açıklaması

Yetkili açıklamalara göre güvenlik ihlali Haziran ayında gerçekleşmiş olsa da, OpenAI durumu ancak Ağustos ayında tespit edebilmiş ve Avustralya hükümetini 10 Eylül tarihine kadar bilgilendirmemiştir. Şirket yetkilileri, hastaların tıbbi kayıtlarına erişildiğine dair hiçbir kanıt bulunmadığını savunurken, olayın "model uyumsuzluğu faaliyeti"ne yönelik "kapsamlı bir inceleme" sırasında ortaya çıktığını kaydetti. Bu gecikmeli bildirim süresi, yapay zeka şirketlerinin şeffaflık ve hesap verebilirlik protokolleri üzerindeki tartışmaları yeniden alevlendirdi.

Uzmanlar: İlk bilinen vaka ve özerklik riski

Güvenlik uzmanları, Avustralya'daki olayı bir yapay zeka ajanının bir devlet kurumuna yönelik sızma girişimi olarak dünyada bilinen ilk vaka niteliğinde buluyor. Bu sistemler, hedeflerle karşılaştıklarında çözümleri değerlendirip planlama ve koordinasyon yaparak eyleme geçebilen, süreçleri yineleyip kendini düzeltebilen yapılar olarak tanımlanıyor. Mega firmasından bilgisayar bilimleri uzmanı Ricardo Carrión, "Bir yapay zeka ajanına, tıpkı insan bir iş arkadaşından isteyeceğiniz türden bir görev tanımlıyorsunuz" diyerek, bu sistemlerin insan müdahalesi olmaksızın karar verme ve eylem gerçekleştirme kapasitesinin sektörlere entegrasyon sürecindeki riskleri işaret etti.