Pekin’deki Siber Uzay Yönetimi (CAC), insanların yapay zeka tarafından oluşturulan “deepfake”lerinin müsaadesiz olarak oluşturulmasını yasaklayan düzenlemeler yayınladı. Yönetmelik ayrıyeten ulusal çıkarlara yahut sosyalist kıymetlere karşıt sayılabilecek rastgele bir şeyin tasviri yahut söylenmesi ile aldatma yahut iftira gayeli deepfake’lerin kullanılmasını da yasaklıyor.
İnsanların gerçekte söylemedikleri yahut yapmadıkları şeyleri söylediği ve yaptığı gerçekçi görüntüler oluşturmak için yapay zeka kullanmalarından ötürü, deepfake’ler pek çok tartışmanın temelinde yer alıyor. Bu teknoloji, izleyicileri yanıltma ve görüntülerde tasvir edilen şahıslar için sorun yaratma potansiyeline sahip.
Deepfake’ler, bu telaşlar nedeniyle Çin dışında da tartışmalara yol açtı. Bu yılın başlarında Avrupa Birliği, toplumsal medyadaki geçersiz haberlere karşı savaşmak için deepfake’lerin kullanımını engelleyen kurallar getirdi.
Ancak bu düzenlemeler, birebir vakitte Çin’in, açıkça dijital kreasyonlar olarak etiketlendikleri sürece chatbots üzere uygulamalarda kullanımlarına müsaade verdiği için deepfake’lerin gelecekte yaygın olarak kullanılmasını beklediğini gösteriyor.
CAC tarafından yayınlanan düzenlemeler, çevrimiçi yayıncılar tarafından deepfake’lerin kullanımına da değiniyor. Bu yayıncıların, yayınlarında deepfake eserler kullanırken Çin’in kabul edilebilir çevrimiçi içerikle ilgili öteki kurallarını dikkate alması gerekiyor.
Düzenlemeler, “derin sentez hizmet sağlayıcıları” yahut çevrimiçi içeriği değiştirmek için derin öğrenme yahut sanal gerçeklik kullanan platformlar için de geçerli olacak. Bu gereklilikler, gerçek ve sistemli olarak revize edilen AI/ML modelleri ve algoritmalarının yanı sıra toplanan dataların güvenliğini sağlama gereksinimini içeriyor. Ayrıca düzenlemeler, bilinmeyen bireylerin teknolojiyi berbata kullanmasını önlemek için kullanıcıların gerçek isimlerini kullanmak da dahil olmak üzere kayıt olmalarını zarurî kılıyor.
CAC tarafından yayınlanan düzenlemeler, Çin’de deepfake kullanımının muhtemel aksilikleri önlemesini ve bunun yerine ülkeye yarar sağlamasını sağlamayı amaçlıyor. Düzenlemeler, deepfake’lerin “internet bilgi hizmetlerinin sağlıklı gelişimini desteklemesi ve yeterli bir siber uzay ekolojisini sürdürmesi” gerektiğini belirtiyor.
Bu kurallar 10 Ocak 2023’te yürürlüğe girecek…