Çin, insan kişiliğini simüle eden ve kullanıcılarla duygusal düzeyde etkileşime giren yapay zeka hizmetlerine yönelik denetimleri sıkılaştırmaya hazırlanıyor. Pekin yönetimi tarafından cumartesi günü kamuoyunun görüşüne sunulan yeni taslak kurallar, teknolojinin hızla yaygınlaşmasıyla birlikte ortaya çıkan güvenlik ve etik endişelere yanıt vermeyi amaçlıyor. Tüketiciye yönelik yapay zeka ürünlerinin hızlı yükselişini kontrol altına almayı hedefleyen bu hamle, dijital dünyada yeni bir dönemin kapılarını aralıyor.
Hazırlanan taslak düzenleme, Çin'de halka sunulan ve simüle edilmiş insan kişiliği özellikleri, düşünme kalıpları veya iletişim tarzları sergileyen tüm yapay zeka sistemlerini kapsıyor. Bu sistemlerin metin, görüntü, ses, video veya diğer araçlar yoluyla kullanıcılarla kurduğu duygusal etkileşim, düzenleyicilerin ana odak noktasını oluşturuyor. Yetkililer, bu tür teknolojilerin kontrolsüz kullanımının önüne geçmek için servis sağlayıcılara net sorumluluklar yüklüyor.
Servis Sağlayıcılarına Yeni Yükümlülükler Getiriliyor
Yeni düzenleme yaklaşımı, yapay zeka servis sağlayıcılarının ürün yaşam döngüsü boyunca tüm güvenlik sorumluluklarını üstlenmesini zorunlu kılıyor. Şirketlerin, algoritmaların gözden geçirilmesi, veri güvenliği ve kişisel bilgilerin korunması konularında sağlam sistemler kurması talep ediliyor. Taslağa göre, sağlayıcıların kullanıcıları aşırı kullanım konusunda açıkça uyarması ve gerekli durumlarda müdahalede bulunması gerekecek. Bu adım, teknolojinin insan psikolojisi üzerindeki potansiyel olumsuz etkilerini en aza indirmeyi hedefliyor.
Kullanıcı Psikolojisi ve Bağımlılık Riski Yakından İzlenecek
Taslağın en dikkat çekici bölümlerinden biri, potansiyel psikolojik risklere yönelik alınan önlemler oldu. Düzenleme, hizmet sağlayıcıların kullanıcıların ruh halini ve yapay zeka servisine olan bağımlılık düzeyini tespit etmesini bekliyor. Eğer bir kullanıcı aşırı duygusal tepkiler veriyor veya bağımlılık belirtileri gösteriyorsa, sağlayıcıların duruma müdahale etmek için gerekli tedbirleri alması zorunlu hale getiriliyor. Bu madde, dijital etkileşimin insan sağlığı üzerindeki etkilerinin ciddiyetle ele alındığını gösteriyor.
Ayrıca düzenleme, içerik ve davranış konusunda kesin kırmızı çizgiler belirliyor. Yapay zeka servislerinin ulusal güvenliği tehlikeye atan, asılsız söylentiler yayan, şiddeti teşvik eden veya müstehcenlik içeren içerikler üretmesi yasaklanıyor.
Reuters
