Elon Musk'ın sahibi olduğu yapay zeka şirketi xAI, geliştirdikleri sohbet robotu Grok hakkında önemli bir güncelleme yayınladı. Sosyal medya platformu X üzerinden yapılan açıklamada, Grok'un gerçek kişilerin fotoğraflarını düzenleyerek müstehcen veya açık kıyafetli hale getirmesinin, bu eylemin yasa dışı olduğu bölgelerde engelleneceği bildirildi. Karar, kadınlara ve çocuklara yönelik cinsel içerikli materyallerin üretilmesi nedeniyle dünya genelinde artan tepkilerin ardından geldi.
Yasalara Aykırı Bölgelerde Coğrafi Engelleme Uygulanacak
Şirket tarafından yapılan duyuruda, coğrafi engelleme (geoblocking) teknolojisinin devreye sokulacağı belirtildi. Buna göre, yerel yasaların ihlal edildiği ülkelerde veya bölgelerde, kullanıcıların Grok aracılığıyla görselleri manipüle etmesi kısıtlanacak. Açıklamada, 'Grok hesabının, bikini, iç çamaşırı ve diğer açık kıyafetler gibi unsurları kullanarak gerçek kişilerin görüntülerini düzenlemesini önlemek için teknolojik tedbirler hayata geçirilmiştir' ifadelerine yer verildi.
Getirilen bu kısıtlama, platformdaki tüm kullanıcıları kapsıyor. Ancak şirket, görüntü oluşturma veya düzenleme özelliklerini sadece ücretli aboneler ile sınırlama kararı da aldı. Bu adımın gerekçesi olarak, yasaları veya şirket politikalarını ihlal etmeye çalışan kişilerin daha kolay tespit edilmesi ve hesap verebilirliğin sağlanması gösterildi. Şirket, kötüye kullanım durumlarında yasal süreçlerin işletilebilmesi için kimlik doğrulamanın önemine dikkat çekti.
Küresel Tepkiler ve Hükümetlerin Yasal İncelemeleri Sürüyor
Grok'un 'baharatlı mod' (spicy mode) olarak adlandırılan özelliği, kullanıcıların müstehcen içerikler oluşturmasına olanak tanıdığı gerekçesiyle kısa sürede uluslararası bir krize dönüştü. Özellikle Kaliforniya eyaleti, kadınların ve kız çocuklarının taciz edilmesine yol açan rızası dışı cinsel içerikli materyallerin yayılması nedeniyle geniş çaplı bir soruşturma başlattı. Kaliforniya Başsavcısı Rob Bonta, yapay zeka tabanlı rızasız mahrem görüntülerin veya çocuk istismarı materyallerinin oluşturulmasına karşı 'sıfır tolerans' gösterileceğini vurguladı.
Başlangıçta bu soruna yönelik medya sorularına 'eski medyanın yalanları' şeklinde yanıt veren şirket, artan yasal baskılar sonucunda geri adım atmak zorunda kaldı. ABD'nin en kalabalık eyaleti olan Kaliforniya'da, reşit olmayan bireylerin yapay zeka kaynaklı cinsel görüntülerden korunmasına yönelik yasalar bulunuyor. Ancak Demokrat Vali Gavin Newsom'un geçtiğimiz yıl çocukların yapay zeka sohbet robotlarına erişimini kısıtlayacak bir yasayı veto etmesi, tartışmaların bir diğer boyutunu oluşturuyor.
Asya ve Avrupa Ülkelerinden Erişim Engeli ve Uyarılar
Grok'un neden olduğu tartışmalar sadece ABD ile sınırlı kalmadı. Malezya ve Endonezya, yasal işlem başlatarak Grok'a erişimi engelleme kararı aldı. Filipinler'deki yetkililer de benzer bir adım üzerinde çalıştıklarını ve erişim engelinin kısa süre içinde uygulanabileceğini belirtti. Avrupa kanadında ise İngiltere ve Avrupa Birliği, çevrimiçi güvenlik yasalarının potansiyel ihlalleri nedeniyle soruşturma yürütüyor. Fransa ve Hindistan daha sıkı kontroller talep ederken, Brezilya da yapay zekanın kötüye kullanımıyla ilgili inceleme çağrısında bulundu.
İngiltere hükümeti, platformun yaptığı değişiklikleri olumlu karşılasa da ülkenin düzenleyici kurumu Ofcom, soruşturmanın devam edeceğini bildirdi. Teknoloji Bakanı Liz Kendall, tüm sosyal medya platformlarının yasal yükümlülüklerini yerine getirene kadar sürecin takipçisi olacaklarını ifade etti. Öte yandan, şirketin kısıtlama açıklamasına rağmen bazı teknik aksaklıkların sürdüğü gözlemlendi. Yapılan incelemelerde, görüntü düzenleme aracının X üzerindeki ücretsiz kullanıcılara hala açık olduğu ve Kaliforniya merkezli ücretsiz hesaplardan bikini içeren görsellerin üretilebildiği tespit edildi.
