Claude‘un ardındaki yapay zekâ şirketi Anthropic, tüyleri ürperten bir rapor yayınladı: “En güçlü yapay zekâ sistemlerini geliştirmeyi global olarak durdurun, zira denetimi kaybetmek üzereyiz!”
İçerikten Görseller
‹ ›
Şirkete nazaran yeni modeller artık insan denetiminden kaçabilecek sinyaller vermeye başladı. Yani bilim kurgu sinemalarındaki “kontrolden çıkan robot” senaryosu, sandığımızdan çok daha yakın olabilir.
İçerikten Görseller
‹ ›
“Frene birlikte basmazsak felaket olur”
Anthropic, global bir yavaşlamanın insanlık için en yeterlisi olduğunu savunuyor lakin büyük bir sorun var. Şayet yalnızca bir şirket yahut ülke durursa, rakipleri gaza basmaya devam edecek. Bu yüzden ABD ve Çin başta olmak üzere tüm devlerin birebir anda “dur” demesi gerekiyor.
Şirket, bu durumu nükleer silah denetim mutabakatlarına benzetiyor lakin yapay zekâyı saklamak nükleer bir füzeyi saklamaktan çok daha kolay olduğu için işimiz çok daha güç. Üstelik şirketler üzerindeki rekabet baskısı, bu tehlikeli yarışı daima körüklüyor.
İnsanlığın rolü giderek azalıyor
Gelelim en ürkütücü kısma. Yapay zekâ artık yeni yapay zekâlar geliştirmek için kullanılıyor. Anthropic, sistemlerin insan yardımı olmadan kendi kendini eğittiği ve geliştirdiği bir “kendi kendini geliştirme döngüsüne” girmek üzere olduğumuzu söylüyor. Rapordaki şu cümle ise durumun ciddiyetini özetliyor:
“Kanıtlar, yapay zekâ geliştirme sürecindeki her adımda insan rolünün giderek daraldığını gösteriyor.”
Beyaz Saray, Anthropic’in siber güvenlik tasaları nedeniyle halka açmadığı “Mythos” isimli gizemli modelinin gücünü kabul etmiş durumda. Hatta ABD Başkanı Donald Trump, geçtiğimiz günlerde Çin ile bu hususta iş birliğini görüştüğünü ve en güçlü modellerin piyasaya sürülmeden evvel devlet tarafından incelenmesini zarurî kılan bir kararname imzaladığını açıkladı.
Görünen o ki yapay zekâ kendi geleceğini yazmaya başlamadan evvel, insanlığın ortak bir karar alması için vakit daralıyor.
Webtekno
https://www.webtekno.com/claude-arkasindaki-sirket-anthropic-korkunc-uyari-h218026.html
