dunyadan
Aktif Üye
AI’lar bizi almaya mı çalışıyor? Görünüşe göre, özellikle Silikon Vadisi’nde yapay zeka ve teknoloji ortamında çalışan birçok kişi böyle düşünüyor. Açık bir mektupta, araştırmanın altı ay süreyle dondurulmasını talep ediyorlar. Ancak eleştirmenler şimdi bunun tamamen saçmalık olduğunu ve her şeyden önce dikkat dağıtıcı bir manevra olduğunu söylüyor. İddialardan ne haber?
videonun transkripti
(Not: Yukarıdaki videoyu izleyemeyen veya izlemek istemeyen kişiler için hazırlanmış bonus içeriktir. Video parça bilgisi transkripte yansıtılmamaktadır.)
Bakın bu, yapay zeka veya genel olarak teknoloji ile çalışan binlerce kişinin imzaladığı açık bir mektup. Diğerlerinin yanı sıra Apple kurucu ortağı Steve Wozniak, Elon Musk ve görüntü oluşturucu Stable Diffusion’ın yapımcılarından biri olan Emad Mustaque.
Evet ve gelişmiş yapay zekanın insanlığın yerini alma riski olduğunu söylüyor. Ve medeniyetimizin kontrolünü kaybedebileceğimizi. TAMAM…
Ve bunu önlemek için, aşağıda imzası bulunanlar yapay zeka araştırmalarına altı aylık bir ara verilmesini istiyor. Yine de araştırma topluluğundaki diğer insanlar, dünyayı fetheden AI’nın tamamen abartılı bir saçmalık olduğunu ve kimsenin GPT-4’ün tam olarak hangi materyali eğittiğini ve eğitim verilerinin içermesinin gerçekten uygun olup olmadığını bilmemesi gibi mevcut AI sorunlarını daha iyi ele almamız gerektiğini söylüyor. , diyelim ki, c’t makaleler. En azından bana sormadılar.
Ve yapay zeka sistemlerinin zaten istihdamı yok ettiği gerçeğiyle nasıl başa çıktığımızı. Öte yandan başkaları da bizim pembe zamanlara doğru gittiğimizi söylüyor. Artık kimse çalışmak zorunda değil. Makineler yakında bunu bizim için yapacak.
Peki şimdi nasıl? ChatGPT, Midjourney ve Bing artık arkadaşlarımız mı yoksa veri korsanlığı bizi elemek mi istiyor? Daha yakından baktık. Bizi izlemeye devam edin.
Sevgili bilgisayar korsanları, sevgili İnternet sörfçüleri, hoş geldiniz…
Pekala, buradaki açık mektup, son günlerde oldukça heyecan yarattı. Teknoloji dünyasının yarısı, AI gelişimi nedeniyle insanlığın geleceği hakkında endişeli. Kulağa hiç hoş gelmiyor.
Özellikle, aşağıda imzası bulunan kişi, GPT-4’ten daha güçlü yapay zeka araçlarının tüm geliştirmelerinin altı ay süreyle askıya alınmasını ve bu süre zarfında kişinin bu teknik gelişmeyle nasıl başa çıkılacağını düşünmesini talep ediyor. Gerekirse siyasetçiler de düzenleme yapsın.
Mektup, en şiddetli korku senaryolarını resmediyor, yani bizim yerimize geçen makinelerle tamamlandı ve hatta medeniyetimizin kaybından söz ediliyor. Bu özel düşünce okulunun bir adı zaten var, yani “x-risk”, çünkü bu varoluşsal riskle ilgili. Kısacası, x-risk savunucuları, bir noktada akıllı sistemlerin kendilerini geliştirebilecekleri bir noktaya ulaşılacağını ve ardından bir zeka patlaması yaşanacağını varsayıyorlar çünkü makineler insanlardan çok daha hızlı çalışabiliyor.
Yani tekerleğin icadından ilk bilgisayara kadar geçen süre en az 4000 yıl sürdü ve öte yandan potansiyel yapay zeka zekası patlaması yalnızca birkaç saat döngüsü sürebilir. Ve evet, tekilliğe sahibiz, tabiri caizse insanlığın artık makinelerin zekasına yetişemeyeceği bir noktaya geldik.
Ancak asıl soru şu ki, süper zeki bir yapay zeka mutlaka tehlikeli olmak zorunda mı? Kendini korumak için bir gündemi ve içgüdüsü olmak zorunda mı? Bu AI kıyamet tellallarının kendi alfa erkek egolarını makinelere yansıtması mümkün mü? Makinelerin hiç egosu ve hiç testosteronu olmamasına ve aslında rasyonel davranmaları gerekmesine rağmen.
Eh, böyle açık mektuplarla zaten her zaman içeriğe yakından bakmak gerekir: Aslında kim imzalıyor? Ve az önce size Elon Musk’ın imza atanların ön saflarında öne çıkan bir taslak at olduğunu söyledim.
Ve aynı Elon Musk, 2015 yılında ChatGPT’nin arkasındaki şirket olan OpenAI’yi kurdu. 2018’de tamamen devralmak istedi, ancak bu olmadı ve ardından şirketten tamamen ayrıldı. Bu nedenle, mantıklı eylemleriyle tanınan Musk’ın, yaralı bir gururla biraz mücadele ediyor olması oldukça olasıdır.
Ve bir diğer imza sahibi, milyonlarca kopya satan kitaplarında sık sık dünyanın sonunun biraz kehanetinde bulunan tarihçi Yaval Noah Harari. Bu, belki de markasının özü olarak bile tanımlanabilir. Yani bu tür kıyamet düşünceleriyle para kazanıyor. Yani, tabiri caizse, doğrudan açık mektuptan yararlanıyor. Ve bu aynı zamanda, süper akıllı ve süper tehlikeli bir yapay zekanın tehlikesi hakkındaki bu konuşmanın nihayetinde yapay zeka yutturmacasını küçültmediği, aksine daha da büyüttüğüne dair odada bulunan başka bir tez.
Ne de olsa, çoğu insan için böylesine güçlü bir yapay zeka ile çalışabilmek muhtemelen oldukça heyecan verici. “Woo, ChatGPT matematik problemlerimi çözüyor” gibi ama aynı zamanda tüm dünyayı da ele geçirebilir. Yani bunu tamamen anlayabiliyorum, zaten teknik olarak süper büyüleyici buluyorum ve eğer içinde yapay zeka bilim kurgu da varsa.
Elbette, onunla oynamak istiyorsun. Bu istediğim bir ürün. Elbette, OpenAI yani ChatGPT ve GPT-4’ü yapanların başkanı Sam Altman mektubu imzalamadı, ancak teknolojisinin ne kadar tehlikeli olduğundan bahsetmeye devam ediyor. İlk başta bunun ters tepeceğini düşünebilirsiniz, ama sonunda bu oldukça akıllıca bir pazarlama, çünkü elbette potansiyel bir Skynet icat ettiğimi iddia ederseniz, ah, benim orada böyle bir sistemim var demekten daha fazla dikkat çekersiniz. metin girişini tamamlayan icat edildi.
Ancak tüm imzacıların konunun kendisiyle hiç ilgilenmediğini iddia etmek istemiyorum. Kesinlikle ciddi endişe duyanlar var. Ancak, gerçekte hangi tehlikelerin söz konusu olduğu konusunda bir ayrım yapmanız gerektiğini düşünüyorum. Yani yapay zekanın dünyayı ele geçirmesiyle ilgili bu varoluşsal tehlike, evet, muhtemelen henüz orada değiliz.
GPT-4 gibi büyük dil modellerinde AGI gibi bir şey yani Yapay Genel Zeka bazen yanıp sönebilir. Yani yapay genel zeka, yani bir insanla aynı entelektüel yeteneklere sahip. Ama bir de grup var, ben buna “Kill the Hype” diyeceğim, tüm bunların zekayla hiçbir ilgisi olmadığını, sadece stokastik papağanlarla ilgili olduğunu ve ardından hangi kelimenin geleceğini istatistiksel olarak hesapladığını söylüyor.
Örneğin, hesaplamalı dilbilimci Emily Bender. O, “stokastik papağan” terimini ilk olarak icat eden bilim adamlarından biridir. Ve evet, bu kadar büyük dil modelleri gerçekte böyle çalışır.
Sadece, sistemlerin aslında eğitim materyallerinden toplayamayacakları yetenekler sergilediğini söyleyen sesler her zaman vardır. Örneğin yazılım hiç resim görmediği halde unicorn nasıl çizilir diyebilirler. Yani tek boynuzlu at bir yana, herhangi bir resim.
Bu kiraz toplama mı şimdi? Bu gerçek zeka mı? Ayrıca, araştırmanın bu tür büyük dil modellerinin dahili olarak ne yaptığına dair pek çok şeyi henüz anlamadığı da çok açık bir şekilde söylenmelidir. Bu arada, açıklamada konuyla ilgili birkaç kaynak ve makaleye bağlantı verdim. Ama yine de, bu tür dil modellerinin aptalca mı yoksa zekice mi olduğunu tartışmak anlamsız.
Önemli olan tek şey, ChatGPT, Midjourney ve Stable Diffusion gibi ürünlerin şimdiden milyonlarca insan tarafından kullanılıyor olması ve bugün dünyayı şimdiden değiştirmeye başlaması. Örneğin, illüstratörlere ödeme yapmak yerine, şirketler grafiklerini yazılımla üretebilir veya kodlayıcılar, aksi takdirde saatler veya günler sürecek şeyleri saniyeler içinde ChatGPT programlayabilir.
Bu, yapay zekanın zamandan tasarruf sağladığı ve sonuç olarak işlerin kaybedilebileceği anlamına gelir. Bu arada OpenAI, Pennsylvania Üniversitesi ile birlikte bu konuda bir çalışma da yayınladı. Ve çalışma, büyük dil modellerinden kaç işin risk altında olduğunu göstermeyi amaçlıyor. Sonuç olarak, işlerin %19’unda görevlerin en az yarısı bir yapay zeka tarafından üstlenilebilir.
Ama tabii ki her şeye çok daha iyimser de bakabilirsiniz. Yani yapay zeka, insanların aynı işi yapmak için daha az şey yapmasını sağlıyor. Yani daha az işten daha fazla katma değer. Ve bu herkes için daha fazla refah anlamına gelebilir. Evet, olabilir, değil mi?
Ancak son 30 yılda dijitalleşme, verimlilikte bariz artışlar sağladı, ancak zaten asıl işi yapanlardan daha fazla sermayeye sahip olanlar bundan özellikle yararlandı.
Bu solcu bir propaganda falan değil, oldukça objektif bir şekilde kanıtlanabilir. İşte, bu Gini endeksidir. 0 tamamen eşit dağılım, 100 tamamen eşit olmayan dağılım anlamına gelir. Son birkaç on yılda basitçe arttı. Burada Almanya ve ABD için grafikleri görebilirsiniz.
Bu nedenle, “AI’lar hepimizi öldürecek” gelecek senaryolarıyla uğraşmak yerine bugüne baksak iyi olur. Bu arada, bu aynı zamanda açık AI mektubunun bir okumasıdır. Mevcut, gerçek AI sorunlarından uzaklaşmak için tasarlanmış dünyanın bu kadar kötü bir sonu senaryosu olabilir mi?
Dediğim gibi, düşünecek daha çok şey var. Yani sadece potansiyel olarak ortadan kaybolan işler hakkında değil, aynı zamanda AI şirketlerinin ürünlerini görseller, metinler, kitaplar gibi insan yapımı işlerle nasıl beslediği, yazarlara bile ödeme yapmadan çok para kazandığı hakkında.
Veya ayrıca, örneğin, resimler temelde sadece mevcut resimlerin remiksleri olduğunda gerçekte ne olduğu hakkında, çünkü artık pahalı fotoğraf prodüksiyonları yapmaya değmez, çünkü kolayca süper profesyonel görünümlü fotoğraflar oluşturabilirsiniz.
Ama sonra bir noktada yeni hiçbir şey ortaya çıkmayacak mı? O zaman yapay zekaların eski şeyleri tekrar tekrar karıştırmasına izin mi vereceğiz? Yani kültür temelde şimdi durdu mu? Evet, peki ya artık kimse gerçek resimlerden sahte resimleri ayırt edemezken gerçek ne olacak?
Ve insanları tam olarak manipüle etmek için kullanılabilecek kişiselleştirilmiş sahte haberler olacak mı? Bunlar tartışmamız gereken şeyler. Ve sonra belki daha sonra bir noktada AI dünya hakimiyeti hakkında. Veya? Bunu nasıl görüyorsunuz? Hoşçakal!
c’t 3003, c’t’in YouTube kanalıdır. c’t 3003’teki videolar bağımsız içeriktir ve c’t dergisindeki yazılardan bağımsızdır. Editörler Jan-Keno Janssen ve Lukas Rumpler ile video yapımcıları Şahin Erengil ve Pascal Schewe her hafta bir video yayınlıyor.
(jkj)
Haberin Sonu
videonun transkripti
(Not: Yukarıdaki videoyu izleyemeyen veya izlemek istemeyen kişiler için hazırlanmış bonus içeriktir. Video parça bilgisi transkripte yansıtılmamaktadır.)
Bakın bu, yapay zeka veya genel olarak teknoloji ile çalışan binlerce kişinin imzaladığı açık bir mektup. Diğerlerinin yanı sıra Apple kurucu ortağı Steve Wozniak, Elon Musk ve görüntü oluşturucu Stable Diffusion’ın yapımcılarından biri olan Emad Mustaque.
Evet ve gelişmiş yapay zekanın insanlığın yerini alma riski olduğunu söylüyor. Ve medeniyetimizin kontrolünü kaybedebileceğimizi. TAMAM…
Ve bunu önlemek için, aşağıda imzası bulunanlar yapay zeka araştırmalarına altı aylık bir ara verilmesini istiyor. Yine de araştırma topluluğundaki diğer insanlar, dünyayı fetheden AI’nın tamamen abartılı bir saçmalık olduğunu ve kimsenin GPT-4’ün tam olarak hangi materyali eğittiğini ve eğitim verilerinin içermesinin gerçekten uygun olup olmadığını bilmemesi gibi mevcut AI sorunlarını daha iyi ele almamız gerektiğini söylüyor. , diyelim ki, c’t makaleler. En azından bana sormadılar.
Ve yapay zeka sistemlerinin zaten istihdamı yok ettiği gerçeğiyle nasıl başa çıktığımızı. Öte yandan başkaları da bizim pembe zamanlara doğru gittiğimizi söylüyor. Artık kimse çalışmak zorunda değil. Makineler yakında bunu bizim için yapacak.
Peki şimdi nasıl? ChatGPT, Midjourney ve Bing artık arkadaşlarımız mı yoksa veri korsanlığı bizi elemek mi istiyor? Daha yakından baktık. Bizi izlemeye devam edin.
Sevgili bilgisayar korsanları, sevgili İnternet sörfçüleri, hoş geldiniz…
Pekala, buradaki açık mektup, son günlerde oldukça heyecan yarattı. Teknoloji dünyasının yarısı, AI gelişimi nedeniyle insanlığın geleceği hakkında endişeli. Kulağa hiç hoş gelmiyor.
Özellikle, aşağıda imzası bulunan kişi, GPT-4’ten daha güçlü yapay zeka araçlarının tüm geliştirmelerinin altı ay süreyle askıya alınmasını ve bu süre zarfında kişinin bu teknik gelişmeyle nasıl başa çıkılacağını düşünmesini talep ediyor. Gerekirse siyasetçiler de düzenleme yapsın.
Mektup, en şiddetli korku senaryolarını resmediyor, yani bizim yerimize geçen makinelerle tamamlandı ve hatta medeniyetimizin kaybından söz ediliyor. Bu özel düşünce okulunun bir adı zaten var, yani “x-risk”, çünkü bu varoluşsal riskle ilgili. Kısacası, x-risk savunucuları, bir noktada akıllı sistemlerin kendilerini geliştirebilecekleri bir noktaya ulaşılacağını ve ardından bir zeka patlaması yaşanacağını varsayıyorlar çünkü makineler insanlardan çok daha hızlı çalışabiliyor.
Yani tekerleğin icadından ilk bilgisayara kadar geçen süre en az 4000 yıl sürdü ve öte yandan potansiyel yapay zeka zekası patlaması yalnızca birkaç saat döngüsü sürebilir. Ve evet, tekilliğe sahibiz, tabiri caizse insanlığın artık makinelerin zekasına yetişemeyeceği bir noktaya geldik.
Ancak asıl soru şu ki, süper zeki bir yapay zeka mutlaka tehlikeli olmak zorunda mı? Kendini korumak için bir gündemi ve içgüdüsü olmak zorunda mı? Bu AI kıyamet tellallarının kendi alfa erkek egolarını makinelere yansıtması mümkün mü? Makinelerin hiç egosu ve hiç testosteronu olmamasına ve aslında rasyonel davranmaları gerekmesine rağmen.
Eh, böyle açık mektuplarla zaten her zaman içeriğe yakından bakmak gerekir: Aslında kim imzalıyor? Ve az önce size Elon Musk’ın imza atanların ön saflarında öne çıkan bir taslak at olduğunu söyledim.
Ve aynı Elon Musk, 2015 yılında ChatGPT’nin arkasındaki şirket olan OpenAI’yi kurdu. 2018’de tamamen devralmak istedi, ancak bu olmadı ve ardından şirketten tamamen ayrıldı. Bu nedenle, mantıklı eylemleriyle tanınan Musk’ın, yaralı bir gururla biraz mücadele ediyor olması oldukça olasıdır.
Ve bir diğer imza sahibi, milyonlarca kopya satan kitaplarında sık sık dünyanın sonunun biraz kehanetinde bulunan tarihçi Yaval Noah Harari. Bu, belki de markasının özü olarak bile tanımlanabilir. Yani bu tür kıyamet düşünceleriyle para kazanıyor. Yani, tabiri caizse, doğrudan açık mektuptan yararlanıyor. Ve bu aynı zamanda, süper akıllı ve süper tehlikeli bir yapay zekanın tehlikesi hakkındaki bu konuşmanın nihayetinde yapay zeka yutturmacasını küçültmediği, aksine daha da büyüttüğüne dair odada bulunan başka bir tez.
Ne de olsa, çoğu insan için böylesine güçlü bir yapay zeka ile çalışabilmek muhtemelen oldukça heyecan verici. “Woo, ChatGPT matematik problemlerimi çözüyor” gibi ama aynı zamanda tüm dünyayı da ele geçirebilir. Yani bunu tamamen anlayabiliyorum, zaten teknik olarak süper büyüleyici buluyorum ve eğer içinde yapay zeka bilim kurgu da varsa.
Elbette, onunla oynamak istiyorsun. Bu istediğim bir ürün. Elbette, OpenAI yani ChatGPT ve GPT-4’ü yapanların başkanı Sam Altman mektubu imzalamadı, ancak teknolojisinin ne kadar tehlikeli olduğundan bahsetmeye devam ediyor. İlk başta bunun ters tepeceğini düşünebilirsiniz, ama sonunda bu oldukça akıllıca bir pazarlama, çünkü elbette potansiyel bir Skynet icat ettiğimi iddia ederseniz, ah, benim orada böyle bir sistemim var demekten daha fazla dikkat çekersiniz. metin girişini tamamlayan icat edildi.
Ancak tüm imzacıların konunun kendisiyle hiç ilgilenmediğini iddia etmek istemiyorum. Kesinlikle ciddi endişe duyanlar var. Ancak, gerçekte hangi tehlikelerin söz konusu olduğu konusunda bir ayrım yapmanız gerektiğini düşünüyorum. Yani yapay zekanın dünyayı ele geçirmesiyle ilgili bu varoluşsal tehlike, evet, muhtemelen henüz orada değiliz.
GPT-4 gibi büyük dil modellerinde AGI gibi bir şey yani Yapay Genel Zeka bazen yanıp sönebilir. Yani yapay genel zeka, yani bir insanla aynı entelektüel yeteneklere sahip. Ama bir de grup var, ben buna “Kill the Hype” diyeceğim, tüm bunların zekayla hiçbir ilgisi olmadığını, sadece stokastik papağanlarla ilgili olduğunu ve ardından hangi kelimenin geleceğini istatistiksel olarak hesapladığını söylüyor.
Örneğin, hesaplamalı dilbilimci Emily Bender. O, “stokastik papağan” terimini ilk olarak icat eden bilim adamlarından biridir. Ve evet, bu kadar büyük dil modelleri gerçekte böyle çalışır.
Sadece, sistemlerin aslında eğitim materyallerinden toplayamayacakları yetenekler sergilediğini söyleyen sesler her zaman vardır. Örneğin yazılım hiç resim görmediği halde unicorn nasıl çizilir diyebilirler. Yani tek boynuzlu at bir yana, herhangi bir resim.
Bu kiraz toplama mı şimdi? Bu gerçek zeka mı? Ayrıca, araştırmanın bu tür büyük dil modellerinin dahili olarak ne yaptığına dair pek çok şeyi henüz anlamadığı da çok açık bir şekilde söylenmelidir. Bu arada, açıklamada konuyla ilgili birkaç kaynak ve makaleye bağlantı verdim. Ama yine de, bu tür dil modellerinin aptalca mı yoksa zekice mi olduğunu tartışmak anlamsız.
Önemli olan tek şey, ChatGPT, Midjourney ve Stable Diffusion gibi ürünlerin şimdiden milyonlarca insan tarafından kullanılıyor olması ve bugün dünyayı şimdiden değiştirmeye başlaması. Örneğin, illüstratörlere ödeme yapmak yerine, şirketler grafiklerini yazılımla üretebilir veya kodlayıcılar, aksi takdirde saatler veya günler sürecek şeyleri saniyeler içinde ChatGPT programlayabilir.
Bu, yapay zekanın zamandan tasarruf sağladığı ve sonuç olarak işlerin kaybedilebileceği anlamına gelir. Bu arada OpenAI, Pennsylvania Üniversitesi ile birlikte bu konuda bir çalışma da yayınladı. Ve çalışma, büyük dil modellerinden kaç işin risk altında olduğunu göstermeyi amaçlıyor. Sonuç olarak, işlerin %19’unda görevlerin en az yarısı bir yapay zeka tarafından üstlenilebilir.
Ama tabii ki her şeye çok daha iyimser de bakabilirsiniz. Yani yapay zeka, insanların aynı işi yapmak için daha az şey yapmasını sağlıyor. Yani daha az işten daha fazla katma değer. Ve bu herkes için daha fazla refah anlamına gelebilir. Evet, olabilir, değil mi?
Ancak son 30 yılda dijitalleşme, verimlilikte bariz artışlar sağladı, ancak zaten asıl işi yapanlardan daha fazla sermayeye sahip olanlar bundan özellikle yararlandı.
Bu solcu bir propaganda falan değil, oldukça objektif bir şekilde kanıtlanabilir. İşte, bu Gini endeksidir. 0 tamamen eşit dağılım, 100 tamamen eşit olmayan dağılım anlamına gelir. Son birkaç on yılda basitçe arttı. Burada Almanya ve ABD için grafikleri görebilirsiniz.
Bu nedenle, “AI’lar hepimizi öldürecek” gelecek senaryolarıyla uğraşmak yerine bugüne baksak iyi olur. Bu arada, bu aynı zamanda açık AI mektubunun bir okumasıdır. Mevcut, gerçek AI sorunlarından uzaklaşmak için tasarlanmış dünyanın bu kadar kötü bir sonu senaryosu olabilir mi?
Dediğim gibi, düşünecek daha çok şey var. Yani sadece potansiyel olarak ortadan kaybolan işler hakkında değil, aynı zamanda AI şirketlerinin ürünlerini görseller, metinler, kitaplar gibi insan yapımı işlerle nasıl beslediği, yazarlara bile ödeme yapmadan çok para kazandığı hakkında.
Veya ayrıca, örneğin, resimler temelde sadece mevcut resimlerin remiksleri olduğunda gerçekte ne olduğu hakkında, çünkü artık pahalı fotoğraf prodüksiyonları yapmaya değmez, çünkü kolayca süper profesyonel görünümlü fotoğraflar oluşturabilirsiniz.
Ama sonra bir noktada yeni hiçbir şey ortaya çıkmayacak mı? O zaman yapay zekaların eski şeyleri tekrar tekrar karıştırmasına izin mi vereceğiz? Yani kültür temelde şimdi durdu mu? Evet, peki ya artık kimse gerçek resimlerden sahte resimleri ayırt edemezken gerçek ne olacak?
Ve insanları tam olarak manipüle etmek için kullanılabilecek kişiselleştirilmiş sahte haberler olacak mı? Bunlar tartışmamız gereken şeyler. Ve sonra belki daha sonra bir noktada AI dünya hakimiyeti hakkında. Veya? Bunu nasıl görüyorsunuz? Hoşçakal!
c’t 3003, c’t’in YouTube kanalıdır. c’t 3003’teki videolar bağımsız içeriktir ve c’t dergisindeki yazılardan bağımsızdır. Editörler Jan-Keno Janssen ve Lukas Rumpler ile video yapımcıları Şahin Erengil ve Pascal Schewe her hafta bir video yayınlıyor.
(jkj)
Haberin Sonu