Bir sohbet robotunu eğitmek için izinsiz gerçek sohbetler kullanıyorlar ve nefret mesajları ve kişisel verileri sızdırmak için onu kaldırmaları gerekiyor.

Science of Love, Scatter Lab adlı bir şirket tarafından geliştirilen ve küçük bir ödeme karşılığında genç Güney Korelilere izin veren bir uygulamadır. teoride, ortaklarının konuşmalarının dökümlerinin analizi yoluyla onlara gösterdiği sevgiyi değerlendirin kendi ülkenizde popüler bir mesajlaşma platformu olan KakaoTalk’ta.

Uygulamanın kendisi özel bir şey değil… indiren 100.000 kişinin verileri: Scatter Lab tarafından derin öğrenme yoluyla, sohbet robotu eğit K-pop müziğinin yirmili yaşlarında Güney Koreli bir hayranı gibi davranan ‘Lee Luda’.

Lee Ruda, kullanıcılarla etkileşim kurarken genel anlamda gerçekçiliği açısından oldukça başarılıydı: 2020’nin son haftası ile bu yılın ilk haftası arasında, 750.000 kişi Facebook Messenger’da ‘onunla’ konuştu.

Sorun şu ki, zaman zaman kullanıcılar onlardan tonsuz yorumlar aldı. Ve biz (sadece) hakkında konuşmuyoruz cinsel içerikli, aynı zamanda diğer hakaret içerikli mesajlar lezbiyenler, transseksüeller, siyahlar, engelliler ve adet gören kadınlar hakkında.

Microsoft

Hayır, Microsoft sohbet robotunun durumu gibi değil

Bunun da o kadar alakalı olmadığını düşünebiliriz: sonuçta hepimiz, aynı zamanda Microsoft sohbet robotu Tay’ın ünlü vakasını hatırlıyoruz. benzer nedenlerle dolaşımdan çekilmek zorunda kaldı (nefret mesajları, uygunsuz dil vb.).

Sorun şu ki, Tay bir sohbet robotuyla etkileşime girdiğini bilen (ve çoğu durumda açıkça Microsoft’un deneyini boykot etmeye çalışan) kullanıcılar tarafından canlı olarak “eğitildi”. Lee Luda, gerçek insanlar arasındaki gerçek konuşmalarla eğitilmişti.bu bilgilere verilecek olan kullanımla ilgisi olmayan.

Kakao Games’in CEO’su Namkoong Whon’un sözleriyle,

“Bu olaydan sonra düşünmesi gereken yapay zeka değil toplumdur. Lee Lu-da’nın toplum dışında söylediği gibi değil: O sadece 10 ila 20 yaş arasındaki insanlar arasında yapılan konuşmalardan eğitilmiş bir karakter.”

İlk ChatBot'unuzu 30 dakikada oluşturun

Büyük bir kişisel veri sızıntısı

Tabii ki ikinci bir sorun daha var: Veriler rıza olmadan transfer edildi etkilenen insanlardandır.

Ve yaralanmaya hakaret eklemek için, konuşmalar anonimleştirilmemişlerdiöyle bir şekilde ki, bazı durumlarda sohbet robotu gerçek kişisel veriler (banka hesapları, posta adresleri, telefon numaraları) kullanıcılardan gelen açık sorular.

Daha sonra, ek olarak, bulundu. AI eğitim verileri GitHub’daki bir depoda bile yayınlandıböylece verilerin kamuya açıklanması artar.

Şimdi, elbette, kullanıcılarının özel verilerini ihlal ettiği için yasal ihtilaflara dalmış durumda. Son birkaç haftadaki olumsuz yorumların, uygulamanızın Google Play Store’daki puanını düşürdüğünden bahsetmiyorum bile.

{«file»:»https://webediaespana.video.content-hub.app/default/video/38/3c/c2/6021add74bd22fc588/default-standard-720.mp4″,»image»:»https:// webediaespana.delivery.content-hub.app/image/14/df/23/6021ad993bef074aee/orijinal/que-es-la-inteligencia-artificial-captcha-1×01.jpeg»}

üzerinden | Kayıt

(function() {window._JS_MODULES = pencere._JS_MODULES || {};var headElement = document.getElementsByTagName(‘head’)[0];if (_JS_MODULES.instagram) {var instagramScript = document.createElement(‘script’);instagramScript.src=”https://platform.instagram.com/en_US/embeds.js”;instagramScript.async = true;instagramScript. erteleme = true;headElement.appendChild(instagramScript);}})();

– Haberler Bir sohbet robotunu eğitmek için izinsiz gerçek sohbetler kullanıyorlar ve nefret mesajları ve kişisel verileri sızdırmak için onu kaldırmaları gerekiyor. aslen yayınlandı Genbeta Mark Merino tarafından.

Orijinal kaynağı kontrol edin

Bunu severim:

Severim Yükleniyor…