İnsan hakları örgütlerinden Zoom’a açık mektup: “Bu planınızdan hemen vazgeçin!”

Kar emeli gütmeyen dijital haklar vakfı Fight for the Future ve 27 insan hakları kuruluşu, Zoom’a açık bir mektup yazarak şirketten görüntü konferans platformunda hisleri tahlil edebilen AI kullanımını araştırmayı durdurmasını istedi. Kümeler, Zoom’un gelecekte duygusal yapay zekayı eserine nasıl dahil edeceğini faal olarak araştırdığını söyleyen bir Protokol haberine karşılık olarak mektubu yazdığını söylüyor.

Bu araştırma, şirketlerin, satış görüşmeleri sırasında potansiyel bir müşterinin duygusal durumunu tespit etmek için yapay zekayı nasıl kullanmaya başladığını inceleyen daha büyük bir uğraşın modülü.

Salgının başlaması ile bir arada görüntü konferanslar dünya çapında çok daha yaygın hale geldi. Satış vazifelileri, beden lisanlarını ekrandan okuma yeteneği olmadan, potansiyel müşterilerin eser ve hizmetlerine ne kadar açık olduklarını ölçmekte zorlanıyorlar. Şirketler, aramalar sırasında insanların ruh hallerini tahlil etme yeteneğine sahip teknolojiyi kullanmaya başladılar ve Protokol, Zoom’un tıpkı hizmeti sağlamayı planladığını söylüyor.

Fight for the Future ve öteki insan hakları örgütleri, davetlerinin Zoom’a planlarından vazgeçmesi için baskı yapmasını umuyor. Teknolojiyi “ayrımcı, manipülatif, potansiyel olarak tehlikeli ve tüm insanların birebir yüz sözlerini, ses kalıplarını ve vücut lisanını kullandığı varsayımlarına dayalı” olarak tanımlıyorlar.

Ayrıyeten bu kümeler; teknolojinin, tıpkı yüz tanıma üzere, tabiatı gereği önyargılı ve ırkçı olduğuna dikkat çekti. Özelliği dahil ederek Zoom’un muhakkak etnik kökenlere ve engelli bireylere karşı ayrımcılık yapacağını argüman ediyorlar. Yanlış duyguyu sergiledikleri takdirde öğrencileri yahut çalışanları cezalandırmak için kullanılabilmesi de mümkün olabilir.

2021’de Cambridge Üniversitesi profesörü Alexa Hagerty tarafından yönetilen bir proje, his tanıma AI’larının hudutlarını ve onları kandırmanın ne kadar kolay olduğunu göstermişti. Daha evvelki çalışmalar da his tanıma programlarının ırksal önyargı testinde başarısız olduğunu ve siyahi yüzleri okumakta zorlandığını söylüyordu.

Küme, Zoom’un yüz izleme özelliklerinin kullanıma sunulmasını iptal etme kararından bahsederek ve bunu kullanıcıları için gerçek olanı yapmak için öteki bir fırsat olarak nitelendirerek mektubu sonlandırdı. Artık Zoom’dan 20 Mayıs 2022’ye kadar eserinde his AI uygulamama taahhüdünde bulunmasını istiyorlar.