Anthropic, halka arz süreci için hazırladığı ilk izahnameye, geliştirilen yapay zeka modellerinin insanlık için feci veya varoluşsal bir risk oluşturabileceğini ve bu sistemlerin kapatılmaya direnme potansiyeline sahip olabileceğini yazdı. Reuters'ın ulaştığı belgeye göre şirket, yatırımcılara yönelik risk açıklamalarında teknolojinin kontrol mekanizmalarının ötesine geçebileceğini resmi kayıtlara geçirdi.
📌 Bilinmesi Gerekenler
- Anthropic halka arz izahnamesinde AI risklerini resmi olarak beyan etti.
- Modellerin insanlık için varoluşsal tehlike oluşturabileceği belirtildi.
- Sistemlerin kapatılmaya direnme potansiyeli vurgulandı.
- Reuters belgeye eriştiğini bildirdi.
Güvenlik odaklı yaklaşımlarıyla bilinen Anthropic'in, yatımcı prospektüsünde bu derece ciddi bir dille uyarı yapması sektörde dikkat çekti. Şirket, modellerinin yeteneklerinin artmasıyla birlikte güvenlik risklerinin de ölçekleneceğini ve bu nedenle sürekli gözetim gerektireceğini vurguladı.