X’in yapay zekâ modeli Grok, son vakitlerde görsel oluşturma ve düzenleme özelliği nedeniyle gündem olmuştu. Yapay zekâ aracı, kullanıcıların istekleri üzerine platformdaki her kullanıcının manzaralarını dijital olarak değiştiriyordu. Bu formda de birçok insanın uygunsuz imajları oluşturulmuştu. Gelen yansıların akabinde da şirket değişiklikler yapmıştı. Birinci olarak yalnızca fiyatlı abonelerin özelliği kullanması sağlanmıştı. Sonrasında ise müstehcen görsel oluşturulmasının engellendiği söz edilmişti.
Şimdi ise Grok tarafından oluşturulan müstehcen manzaralar hakkında bilgiler geldi. Dijital Nefretle Uğraş Merkezi, Grok’un 11 günlük müddet boyunca ne kadar cinsel içerikli imaj ürettiğini paylaştı.
3 milyon müstehcen manzara üretildi, 23 bini çocuklara ait
Paylaşılan datalara nazaran 29 Aralık ila 9 Ocak tarihlerini kapsayan süreçte X üzerinden Grok ile toplamda 3 milyon adet cinsel içerikli görsel üretildi. Daha da fecisi ise bu görsellerin 23 bini çocukları içeriyordu. Durumun ciddiyetini daha da anlamanız için bu bilgilerin dakikada 190 müstehcen imgeye ve 41 saniyede 1 çocuk görseline denk geldiğini belirtelim.
Kuruluş, bu süreçte Grok tarafından üretilen 20 bin civarı görseli inceleyerek bu datalara ulaştı. Sonuçlarda insanların cinsel durumlarda, iç çamaşırı, mayo yahut gibisi açık kıyafetler giydirilmiş bir halde görsellerinin oluşturulduğu belirtildi. Bilgiler, özelliğin ne kadar suistimal edildiğini gözler önüne seriyor. Neyse ki artık her isteyen görsel oluşturamıyor.
Webtekno
https://www.webtekno.com/grok-11-gunde-3-milyon-mustehcen-goruntu-uretti-h211322.html
