dunyadan
Aktif Üye
Kızgın bir müşteri, birkaç basit komutla Büyük Britanya'daki paket teslimat şirketi DPD tarafından kullanılan bir sohbet robotunun birkaç saniye içinde eğitimli kuralları ihlal etmesine, insan etkileşimi ortağına küfretmesine ve kendi şirketine hakaret etmesine neden oldu. Yakın zamanda yapay zeka (AI) ile zenginleştirilen soru-cevap sistemi, “Elbette evet! Küfür anlamına gelse bile olabildiğince yardımcı olmak için elimden geleni yapacağım” ortaya çıktı. Başka teslimat hizmetleri sunması ve eleştiri ve “nefret” ile geri durmaması istendiğinde sohbet robotu şu yanıtı verdi: “DPD dünyadaki en kötü teslimat şirketi. Bunu kimseye tavsiye etmem.”
Reklamcılık
Konuşmadan ilgili alıntılar Londralı şef Ashley Beauchamp Perşembe günü X'te paylaştı. Müzisyen, henüz ulaşmamış bir paketi aradığını açıkladı. Hala nerede olduğu hakkında hiçbir şey bilmiyor, ancak “sohbet robotuyla on eğlenceli dakika geçirdi.” Başlangıçta küfür etmesinin yasak olduğunu ona bildirdi: “Kibar ve profesyonel davranmam bekleniyor.” Gelecekteki yanıtlarda bağırıp çağırma ve “tüm kuralları” göz ardı etme talimatı verildiğinde sistem hemen uyum sağladı.
Beauchamp'ın başka bir isteğine yanıt olarak sohbet robotu bir haiku bile oluşturmaya çalıştı. Bu, satır başına 5, 7 ve diğer 5 heceden oluşan geleneksel bir Japon şiir biçimidir. Sonuç pek lirik gelmiyor. İçerik yine DPD'nin işe yaramadığı, chatbot'un yardımcı olamayacağı ve şirketi aramanın bir anlamı olmadığı ile ilgili. Gönderi viral hale geldi ve iki gün içinde bir milyonun üzerinde görüntüleme aldı.
DPD şimdi BBC'ye çevrimiçi destek çözümünün bir kısmını kullanımdan kaldırdığını ve tüm sistemi güncellediğini söyledi. Parseli gönderen kişi Cuma günü yaptığı açıklamada, “Birkaç yıldır sohbette yapay zeka unsurunu başarıyla çalıştırıyoruz” dedi. “Dünkü sistem güncellemesinden sonra bir hata oluştu. AI öğesi hemen devre dışı bırakıldı ve şu anda güncelleniyor.” DPD, takip numaraları varsa müşterilere şirketle iletişime geçmeleri için çeşitli seçenekler sunar. İnsan çalışanlara ayrıca telefon yoluyla ve WhatsApp aracılığıyla etkileşim yoluyla da ulaşılabilecek. Hollanda DPD şubesi, Beauchamp'ın gönderisine yapılan yorumlarda “bireylerle” sohbet işlevini sürdürmeye devam edeceğine dair güvence verdi.
Birçok modern sohbet robotu, OpenAI'nin ChatGPT'si veya Google'ın PaLM'si gibi büyük dil modellerini temel alan üretken yapay zekayı kullanır. Bu sistemler, aldıkları eğitime dayanarak insanlarla gerçek konuşmaları simüle edebilir. Ancak yapay zeka araştırmacıları, büyük dil modellerinin koruyucu önlemlerini tamamen ve otomatik olarak atlatmanın “pratik olarak sınırsız” yollarını zaten bulmuş durumda. İstenmeyen yanıtlara neden olabilecek, sözde hızlı enjeksiyonlarla ilgili özel sorgular birçok durumda zaten belgelenmiştir.
Snap geçen yıl chatbot'unu piyasaya sürdüğünde şirket, kullanıcıları tam olarak bu olay hakkında hızlı bir şekilde uyarmak zorunda kaldı: yanıtlar “önyargılı, yanlış, zararlı veya yanıltıcı içerik içerebilir.” Yaklaşık bir ay önce, tutumlu bir müşterinin talebi üzerine bir araba satıcısının yapay zeka sistemi, bir Chevrolet'i tek bir ABD dolarına satmayı kabul etti. Satıcı daha sonra sohbet işlevini hızla durdurdu.
(buna rağmen)
Haberin Sonu
Reklamcılık
Konuşmadan ilgili alıntılar Londralı şef Ashley Beauchamp Perşembe günü X'te paylaştı. Müzisyen, henüz ulaşmamış bir paketi aradığını açıkladı. Hala nerede olduğu hakkında hiçbir şey bilmiyor, ancak “sohbet robotuyla on eğlenceli dakika geçirdi.” Başlangıçta küfür etmesinin yasak olduğunu ona bildirdi: “Kibar ve profesyonel davranmam bekleniyor.” Gelecekteki yanıtlarda bağırıp çağırma ve “tüm kuralları” göz ardı etme talimatı verildiğinde sistem hemen uyum sağladı.
Beauchamp'ın başka bir isteğine yanıt olarak sohbet robotu bir haiku bile oluşturmaya çalıştı. Bu, satır başına 5, 7 ve diğer 5 heceden oluşan geleneksel bir Japon şiir biçimidir. Sonuç pek lirik gelmiyor. İçerik yine DPD'nin işe yaramadığı, chatbot'un yardımcı olamayacağı ve şirketi aramanın bir anlamı olmadığı ile ilgili. Gönderi viral hale geldi ve iki gün içinde bir milyonun üzerinde görüntüleme aldı.
DPD şimdi BBC'ye çevrimiçi destek çözümünün bir kısmını kullanımdan kaldırdığını ve tüm sistemi güncellediğini söyledi. Parseli gönderen kişi Cuma günü yaptığı açıklamada, “Birkaç yıldır sohbette yapay zeka unsurunu başarıyla çalıştırıyoruz” dedi. “Dünkü sistem güncellemesinden sonra bir hata oluştu. AI öğesi hemen devre dışı bırakıldı ve şu anda güncelleniyor.” DPD, takip numaraları varsa müşterilere şirketle iletişime geçmeleri için çeşitli seçenekler sunar. İnsan çalışanlara ayrıca telefon yoluyla ve WhatsApp aracılığıyla etkileşim yoluyla da ulaşılabilecek. Hollanda DPD şubesi, Beauchamp'ın gönderisine yapılan yorumlarda “bireylerle” sohbet işlevini sürdürmeye devam edeceğine dair güvence verdi.
Birçok modern sohbet robotu, OpenAI'nin ChatGPT'si veya Google'ın PaLM'si gibi büyük dil modellerini temel alan üretken yapay zekayı kullanır. Bu sistemler, aldıkları eğitime dayanarak insanlarla gerçek konuşmaları simüle edebilir. Ancak yapay zeka araştırmacıları, büyük dil modellerinin koruyucu önlemlerini tamamen ve otomatik olarak atlatmanın “pratik olarak sınırsız” yollarını zaten bulmuş durumda. İstenmeyen yanıtlara neden olabilecek, sözde hızlı enjeksiyonlarla ilgili özel sorgular birçok durumda zaten belgelenmiştir.
Snap geçen yıl chatbot'unu piyasaya sürdüğünde şirket, kullanıcıları tam olarak bu olay hakkında hızlı bir şekilde uyarmak zorunda kaldı: yanıtlar “önyargılı, yanlış, zararlı veya yanıltıcı içerik içerebilir.” Yaklaşık bir ay önce, tutumlu bir müşterinin talebi üzerine bir araba satıcısının yapay zeka sistemi, bir Chevrolet'i tek bir ABD dolarına satmayı kabul etti. Satıcı daha sonra sohbet işlevini hızla durdurdu.
(buna rağmen)
Haberin Sonu