Google, sıhhatle ilgili aramalarda sunduğu yapay zekâ dayanaklı “AI Overview” yani yapay zekâ özetleri nedeniyle bir kere daha tartışmaların odağında. The Guardian’ın yayımladığı çarpıcı bir araştırmanın akabinde, birtakım tıbbi aramalarda yanlış ve hatta tehlikeli bilgiler verdiği ortaya çıkan bu özetler sessiz sedasız devre dışı bırakıldı.
Araştırmaya nazaran Google’ın yapay zekâsı, pankreas kanseri hastalarına yüksek yağlı besinlerden uzak durmalarını önerdi. Uzmanlar bu tavsiyenin “son derece tehlikeli” olduğunu ve tıbbi olarak tam karşıtının önerilmesi gerektiğini vurguladı. Bu biçim yanlış bilgilerin hastaların hayat riskini artırabileceği belirtildi.
Sağlık sorgularında yanılgılı karşılıklar veriyordu
Bir başka telaş verici örnekte ise Google’ın karaciğer işlev testleri hakkında yanılgılı bilgiler sunduğu görüldü. Bu durum, önemli karaciğer hastalığı olan bireylerin kendilerini sağlıklı sanmasına yol açabilecek kadar kritik.
Gelen yansılar sonrası “Karaciğer kan testlerinde olağan kıymetler nedir?” üzere sorular için yapay zekâ özetleri büsbütün kapatıldı. Google bu kaldırma süreciyle ilgili direkt yorum yapmazken, şirket sözcüsü Davis Thompson The Verge’e yaptığı açıklamada, sıhhat bahislerinde yüksek doğruluk için ağır yatırım yaptıklarını savundu. Thompson, kimi durumlarda bağlam eksikliği yaşanabildiğini kabul ederek, gerekli iyileştirmelerin yapıldığını söyledi.
Yine de bu olay, Google’ın yapay zekâ özelliğinin karıştığı birinci skandal değil. Daha evvel kullanıcılara pizzaya yapıştırıcı sürmeyi, hatta taş yemeyi önerdiği argümanlarıyla gündeme gelen sistem, hala çeşitli davaların da konusu olmaya devam ediyor.
Webtekno
https://www.webtekno.com/google-saglik-aramalarinda-yapay-zeka-ozetlerini-kapatti-h210552.html
