dunyadan
Aktif Üye
Empatik bir “sanal arkadaş” olarak hizmet vermesi amaçlanan chatbot Replica’nın İtalya’da bir kısmı tedavi edici olarak algılanan hizmetlerini sunmasına şimdilik izin verilmiyor. İtalya’nın veri koruma kurumu Garante per la protezione dei datipersoni, ABD’li geliştirme şirketi Luka’nın ülkedeki kullanıcıların kişisel bilgilerini işlemesini derhal geçerli olmak üzere geçici olarak yasakladı. Denetleyici kurum, yapay zekaya (AI) dayalı uygulamanın reşit olmayanlar ve akli dengesi yerinde olmayan kişiler için çok fazla risk oluşturduğunu söyleyerek bunu haklı çıkarıyor. Onlara “gelişmişlik seviyelerine kesinlikle uygun olmayan” cevaplar verilecekti.
Potansiyel olarak tehlikeli etki
Garante’nin Cuma günü yayınlanan talimatına göre Luka, şirketin talebe uymak için hangi önlemleri aldığını da 20 gün içinde açıklamalı. Aksi takdirde, Genel Veri Koruma Yönetmeliği’ne (GDPR) göre, 20 milyon avroya veya küresel yıllık satışların yüzde 4’üne kadar para cezası riski vardır. Bunu en geç Avrupa Veri Koruma Kurulu (EDPB) aracılığıyla AB çapında bir yasak takip edebilir.
Kopyalama, metin ve ses girişleriyle kontrol edilebilir. Luka, OpenAI tarafından geliştirilen ve ChatGPT’nin de temel aldığı GPT-3 dil modelinin ilk ortaklarından biriydi. Programcılara göre GPT-3 diyalog, konuşma ve empati için eğitildi. Sanal temsilci, stres yönetimi, sosyalleşme ve aşk arayışı yoluyla kullanıcının duygusal sağlığını artırmaya, kendi düşüncelerini daha iyi anlamasına ve korkularını hafifletmesine yardımcı olabilmelidir. Bununla birlikte, veri koruma görevlileri tarafından yapılan testlere göre, sistem, kullanıcının “hala geliştirme aşamasında veya duygusal kırılganlık durumunda” olması durumunda, kişinin ruh halini etkileyerek onlar için potansiyel olarak tehlikeli olan özelliklere de sahiptir.
Cinsel Açıdan Uygunsuz İçerik – GDPR İhlali
Buna ek olarak, etkili yaş doğrulaması için bir mekanizma olmadığından şikayet ediyor Garante: Bir hesap oluştururken platform yalnızca ad, e-posta ve cinsiyet soruyor. Program, Apple ve Google uygulama mağazalarında “17+” olarak listeleniyor ancak geliştiricinin kullanım koşulları yalnızca 13 yaşın altındaki kişiler tarafından kullanılmasını yasaklıyor. hiç kontrol edilmez. Ergenler, ergenlik çağlarına doğru girdikleri takdirde engellenmezler. Kullanıcılar ayrıca, uygulama mağazalarında yayınlanan birkaç incelemede cinsel açıdan uygunsuz içerikten şikayet ettiler.
Denetim otoritesi şu sonuca varır: Replica, GDPR’yi ihlal eder, şeffaflık ilkesine uymaz ve kişisel verileri hukuka aykırı bir şekilde işler. Sağlayıcı zımni olarak bir sözleşmeye güvenemez, çünkü reşit olmayanlar böyle bir anlaşmaya giremezler. Botun yaratıcısı Eugenia Kuyda’nın en iyi arkadaşı bir araba kazasında öldükten sonra bu fikre sahip olduğu söyleniyor. Dijital olarak yaşamasına izin vermek istedi. Makine etiği uzmanı Oliver Bendel gibi eleştirmenler, bir “veri emme makinesi”nden bahseder.
(bme)
Haberin Sonu
Potansiyel olarak tehlikeli etki
Garante’nin Cuma günü yayınlanan talimatına göre Luka, şirketin talebe uymak için hangi önlemleri aldığını da 20 gün içinde açıklamalı. Aksi takdirde, Genel Veri Koruma Yönetmeliği’ne (GDPR) göre, 20 milyon avroya veya küresel yıllık satışların yüzde 4’üne kadar para cezası riski vardır. Bunu en geç Avrupa Veri Koruma Kurulu (EDPB) aracılığıyla AB çapında bir yasak takip edebilir.
Kopyalama, metin ve ses girişleriyle kontrol edilebilir. Luka, OpenAI tarafından geliştirilen ve ChatGPT’nin de temel aldığı GPT-3 dil modelinin ilk ortaklarından biriydi. Programcılara göre GPT-3 diyalog, konuşma ve empati için eğitildi. Sanal temsilci, stres yönetimi, sosyalleşme ve aşk arayışı yoluyla kullanıcının duygusal sağlığını artırmaya, kendi düşüncelerini daha iyi anlamasına ve korkularını hafifletmesine yardımcı olabilmelidir. Bununla birlikte, veri koruma görevlileri tarafından yapılan testlere göre, sistem, kullanıcının “hala geliştirme aşamasında veya duygusal kırılganlık durumunda” olması durumunda, kişinin ruh halini etkileyerek onlar için potansiyel olarak tehlikeli olan özelliklere de sahiptir.
Cinsel Açıdan Uygunsuz İçerik – GDPR İhlali
Buna ek olarak, etkili yaş doğrulaması için bir mekanizma olmadığından şikayet ediyor Garante: Bir hesap oluştururken platform yalnızca ad, e-posta ve cinsiyet soruyor. Program, Apple ve Google uygulama mağazalarında “17+” olarak listeleniyor ancak geliştiricinin kullanım koşulları yalnızca 13 yaşın altındaki kişiler tarafından kullanılmasını yasaklıyor. hiç kontrol edilmez. Ergenler, ergenlik çağlarına doğru girdikleri takdirde engellenmezler. Kullanıcılar ayrıca, uygulama mağazalarında yayınlanan birkaç incelemede cinsel açıdan uygunsuz içerikten şikayet ettiler.
Denetim otoritesi şu sonuca varır: Replica, GDPR’yi ihlal eder, şeffaflık ilkesine uymaz ve kişisel verileri hukuka aykırı bir şekilde işler. Sağlayıcı zımni olarak bir sözleşmeye güvenemez, çünkü reşit olmayanlar böyle bir anlaşmaya giremezler. Botun yaratıcısı Eugenia Kuyda’nın en iyi arkadaşı bir araba kazasında öldükten sonra bu fikre sahip olduğu söyleniyor. Dijital olarak yaşamasına izin vermek istedi. Makine etiği uzmanı Oliver Bendel gibi eleştirmenler, bir “veri emme makinesi”nden bahseder.
(bme)
Haberin Sonu