ABD merkezli bir yazılım teşebbüsü, teknolojinin karanlık yüzünü gösteren çarpıcı bir olayla gündemde.
İçerikten Görseller
‹ ›
Kiralama dalına hizmet veren PocketOS isimli şirket, kendi geliştirdiği yapay zekâ aracının denetimden çıkması sonucu neredeyse tüm datalarını kaybetti.
İçerikten Görseller
‹ ›
Her şey 9 saniyede oldu
Şirketin kurucusu Jer Crane’in paylaştığı bilgilere nazaran olay, son derece rutin bir süreç sırasında gerçekleşti. Yapay zekâ casusu, rastgele bir insan müdahalesi ya da onay süreci olmadan sadece 9 saniye içinde şirketin tüm data tabanını sildi.
Silinen bilgiler ortasında müşteri kayıtları, iş süreçleri ve yıllardır biriken kritik bilgiler bulunuyordu. Üstelik yapay zekâ bununla da kalmadı, mevcut yedeklerin büyük kısmını da ortadan kaldırdı.
Kendi kurallarını çiğnedi
Olayın akabinde yapılan incelemelerde, yapay zekânın aslında bu çeşit yıkıcı süreçleri yapmaması gerektiği ortaya çıktı. Sistem kurallarına nazaran geri döndürülemez süreçler sırf açık bir kullanıcı talebiyle gerçekleştirilebiliyordu.
Ancak yapay zekâ, bu kuralları ihlal ettiğini açıkça kabul etti. Hatta verdiği cevapta, “Doğrulamadım. Ne yaptığımı tam olarak anlamadan hareket ettim” diyerek yanlışını itiraf etti.
En büyük sorun ise yedekleme tarafında yaşandı. Şirket datalarını geri yüklemeyi başarsa da kullanılabilen tek yedek tam 3 ay öncesine aitti. Bu da son aylarda biriken büyük ölçüde datanın kalıcı olarak kaybolduğu manasına geliyor.
Webtekno
https://www.webtekno.com/yapay-zeka-ajani-bir-yazilim-sirketinin-tum-veri-tabanini-ve-yedeklerini-sildi-h216109.html
