‘Kodlanmış önyargı’: Bu Netflix belgeseli, AI’ların önyargılı olup olamayacağını soruyor ve cevap, kapsam açısından korkutucu

Her şey rahatsız edici bir bulguyla başlar, ancak bir anekdota indirgenebilecek bir bulgu: Afrikalı-Amerikalı bir araştırmacı olan Joy Buolamwini, bunun farkına varır. yüz tanıma programı yüzünüzü bir kişininkiyle ayırt etmez veya tanımlamaz veritabanınız için ölçülebilir. Ama nötr bir maske takıldığında oluyor… ve beyaz.

Birçok konuyu ele alan bir belgeselin başlangıç ​​noktasıdır. algoritmaların veritabanlarını şekillendirmek için bilgi topladığı keyfilik ve etik eksikliği ve farklı AI’ların şişmanladığı bilgi. Hepimizin sahip olduğu ve örneğin bu ilginç belgeseldeki katılımcılardan birinin dediği gibi, ırkçılığın mekanikleştirildiği ve tekrarlandığı anlamına gelen önyargılardan şekillenen bir keyfilik.

Eylemin başka bir anında belgesel, ülkesinde var olan sürekli gözetim ve kimlik sistemine sahip genç bir Çinli kadın, ve sosyal kredi sistemi. Daha sonra, Amerikalı bir uzman, sistemin sosyal ağlar aracılığıyla Batı’nın vatandaşları gözetlemesinden çok farklı olmadığını, ancak en azından Çin’de hükümetin bunu tanıdığını doğruluyor.

Bu şekilde belgesel sürekli olarak dünyayı dolaşıyor, mahremiyet, teknoloji ve teknoloji hakkında sorular soruyor. Yeni bilgisayar modelleri, birçok yönden üstesinden gelindiğini düşündüğümüz kısıtlamaları nasıl bize dayatıyor?. ‘Kodlanmış önyargı’ tek anlamlı ve tartışılmaz bir söyleme sahip değildir, ancak izleyiciye kendimize acilen sormamız (ve hepsinden önemlisi yanıtlamamız) gereken birçok soru sorar.

{«videoId»:»x80ojz8″,»autoplay»:true,»title»:»Kodlanmış Önyargı – Fragman»}

Algoritmanın ırkçılığı

‘Kodlanmış önyargı’ çok benzer sorunların tehlikeleri hakkında uyarıda bulunan teknolojiyle ilgili yeni bir dizi belgeselin parçasıdır: yakınlığın kaybı, teknolojinin daha önce tamamen insanlara ait olan yönlere istemeden nasıl girdiği ve genel olarak, kendi yarattığımız şeyin kontrolünü kaybetme riski. Hem ‘The Great Hack’ hem de Netflix’te de görülen ‘Sosyal ağların ikilemi’, özelin kontrolsüz dağılmasına odaklandı.

‘Kodlama yanlılığı’ da bu konuya girer, ancak daha büyük bir sorunun parçası olarak: Öğrenen, ancak zayıf öğrenen merkezi olmayan bir matematiksel algoritmanın soyut tehdidi. Ve evet, seçim manipülasyonu konusuna giriyor (her zaman önceden tasarlanmış değildir ve bu, bütünün en rahatsız edici sorunlarından biridir: burada kötü adamlar yoktur, ancak bir bütün olarak toplumun başarısızlıkları vardır), aynı zamanda bireysel erozyona da girer. önyargılı verilere dayalı veritabanlarının İngiliz veya Amerikan kolluk kuvvetleri tarafından kullanılması gibi haklar.

işte o anlarda belgesel, söylemini önemsizleştirmekle tehdit eden bir muazzamlıkla oynuyor. ‘1984’ün uyarlaması ya da ‘2001: A Space Odyssey’nin kötü AI’sı gibi filmlere göz kırpıyor, robotik bir sesle birinci tekil şahıs konuşuyor, güzeller ama söylenenlerin gerektirdiği ciddi ciddiyetle çatışıyorlar. Neyse ki, ‘Kodlanmış Önyargı’ ve yönetmeni Shalini Kantayya (filmde konuşan uzmanlardan biri) teknolojiden bahsettiğimizi unutmuyorlar, ama her şeyden önce, insanlar üzerindeki etkisinden bahsediyoruz.

Belgeselde Buolamwini, «AI verilere dayanmaktadır ve veriler tarihimizin bir yansımasıdır» diyor ve bir şeyin özü bu. acı sonuç: AI’lar önyargılıdır çünkü insanlar önyargıyla doludur. Ancak madalyonun diğer tarafında, belgesel iyimser ve araştırmacı için matematiksel makineye karşı küçük bir zafer, güzel bir teknoşiir ve harekete geçirici bir çağrı ile kapanıyor. «Sesgo kodlu»nun ifşa ettiği aşırılıkların çoğuna son vermek bizim elimizde ve bu açıdan bakıldığında, uyarılara rağmen, kendi türündeki diğer belgesellerden daha ileri gitmeyi biliyor.

(function() {window._JS_MODULES = pencere._JS_MODULES || {};var headElement = document.getElementsByTagName(‘head’)[0];if (_JS_MODULES.instagram) {var instagramScript = document.createElement(‘script’);instagramScript.src=”https://platform.instagram.com/en_US/embeds.js”;instagramScript.async = true;instagramScript. erteleme = true;headElement.appendChild(instagramScript);}})();

– Haberler ‘Kodlanmış önyargı’: Bu Netflix belgeseli, AI’ların önyargılı olup olamayacağını soruyor ve cevap, kapsam açısından korkutucu aslen yayınlandı Xataka John Tones tarafından.

Orijinal kaynağı kontrol edin

Bunu severim:

Severim Yükleniyor…