AB, yapay zeka kaynaklı çocuk cinsel istismarını önlemeye çalışıyor!

Aynı zamanda çocuklara yönelik cinsel istismarın canlı yayınlanmasına ilişkin yeni bir cezai suç oluşturulmasını da öneriliyor. Plan kapsamında “Pedofil kılavuzlarının” bulundurulması ve takas edilmesi de suç sayılacak.

AB’nin bu alandaki 2011 yılına dayanan mevcut kurallarını güncelleme önerisi aynı zamanda suçların zorunlu olarak bildirilmesiyle ilgili değişiklikleri de içeriyor.

Mayıs 2022’de Komisyon, dijital platformlarda dolaşan mevcut veya yeni çocuk cinsel istismar materyallerini (CSAM) tespit etmek ve bildirmek için otomatik teknolojiler kullanmayı zorunlu kılacak bir çerçeve oluşturmayı amaçlayan ayrı bir CSA ile ilgili taslak yasal düzenleme sundu. Ayrıca, çocuklara yönelik hedeflenmiş kışkırtma faaliyetlerini tespit etmek ve bildirmek için de tasarlandı.

Yapay zeka eğitim veri setinde çocuk istismarı görüntüleri bulundu!

Yapay zeka eğitiminde kullanılan LAION-5B veri setinin, çocuk istismarı görüntülerine sahip olduğu tespit edildi. Stanford’un Internet Observatory programı, popüler yapay zeka eğitim veri setinin çocuk istismarı içeren materyaller içerdiğini belirledi.…

CSAM tarama planı son derece tartışmalı olduğunu kanıtladı ve parlamentodaki ve Konsey’deki yasama organlarını böldü, ayrıca Komisyon’un çocuk güvenliği teknolojisi lobileri ile bağlantıları hakkında şüpheler uyandırdı ve öneriyi teşvik etmek için hukuki olarak tartışmalı mikro hedefli reklamlara giriş yapmasıyla AB’nin yürütme organı için diğer sıkıntılı soruları gündeme getirdi.

Komisyonun CSA ile mücadele için dijital mesajlaşma platformlarını hedeflemeye öncelik verme kararı, bloğun milletvekillerinin karmaşık bir toplumsal sorunla mücadele için yanlış alana odaklandıkları yönünde birçok eleştiriyi çekti; bu da bunun takip edilmesi için bir miktar baskı yaratmış olabilir.

Bununla birlikte, tartışmalı özel mesaj tarama planının sunulmasından bu yana iki yıldan kısa bir süre içinde bile, teknolojinin CSAM üretmek için kötüye kullanıldığı endişeleri de dahil olmak üzere, deepfake ve yapay zeka tarafından oluşturulan görüntülerle ilgili risklere olan ilgide büyük bir artış yaşandı. Dolayısıyla, üretken yapay zekadaki viral patlama yasa yapıcılara kuralları tekrar gözden geçirmeleri konusunda açık bir teşvik verdi.

Komisyon bugün yaptığı basın açıklamasında “Hem çocukların çevrimiçi varlığının artması hem de teknolojik gelişmeler istismar için yeni olanaklar yaratıyor.” dedi. Ayrıca teklifin “çevrimiçi çocuk cinsel istismarı ve sömürüsünün yaygın cezasızlığını azaltmayı” amaçladığı da belirtiliyor.

Komisyonun teklifi sunmadan önce yaptığı etki değerlendirmesi, çocukların artan çevrimiçi varlığını ve “son teknolojik gelişmeleri” CSA’nın gerçekleşmesi için yeni fırsatlar yaratan alanlar olarak belirledi. Ayrıca üye devletlerin yasal çerçevelerindeki farklılıkların istismarla mücadele için harekete geçmeyi engellemesinden endişe duyduğunu ve CSA’yı önlemeye ve mağdurlara yardım etmeye yönelik mevcut “sınırlı” çabaları geliştirmek istediğini de belirtti.

İçişlerinden sorumlu komisyon üyesi Ylva Johansson, destekleyici bir beyanında şunları ekledi: “Hızla gelişen teknolojiler, çocukların çevrimiçi cinsel istismarı için yeni olanaklar yaratıyor ve kolluk kuvvetlerinin bu son derece ciddi ve yaygın suçu soruşturmasını zorlaştırıyor.” “Güçlü bir ceza hukuku şart ve bugün çocukları kurtarmak ve failleri adalet önüne çıkarmak için etkili yasal araçlara sahip olduğumuzdan emin olmak için önemli bir adım atıyoruz. Temmuz 2020’de sunulan Çocuklara yönelik cinsel istismara karşı daha etkili bir mücadele için AB Stratejisinde yer alan taahhütlerimizi yerine getiriyoruz.“

Online çocuk istismarını engellemek için ortak adım!

Çevrimiçi çocuk cinsel sömürüsü ve istismarı (CSEA) ile mücadele için yaklaşımlar ve politikalar geliştiren teknoloji şirketleri grubu The Tech Coalition, sosyal medya platformlarının istismar karşıtı politikalarını ihlal edebilecek faaliyetler ve…

Çocuklara yönelik çevrimiçi güvenlik riskleriyle ilgili olarak Komisyon’un teklifi, üye devletleri “farkındalık artırma” yatırımlarını artırmaya teşvik etmeyi amaçlıyor.

CSAM tarama planı gibi, son karar tasarıların nihai şeklini belirlemek için AB’nin yasama organı olan Parlamento ve Konsey’e düşecek. Ancak, bu yılın ilerleyen zamanlarında parlamento seçimleri ve komisyon üyelerinin yeniden görevlendirilmesi öncesinde görüşmeler için sınırlı zaman bulunmakta — yine de, bugünkü CSA ile mücadele önerilerinin mesaj tarama planından daha az bölücü olabileceği kanıtlanabilir. Bu nedenle, diğerinin tıkanık kaldığı bir sırada benimsenme şansı olabilir.

CSA ile mücadeleye ilişkin mevcut direktifin nasıl değiştirileceği konusunda bir anlaşma olması durumunda/olduğu takdirde, Komisyona göre bu direktif AB Resmi Gazetesinde yayınlandıktan 20 gün sonra yürürlüğe girecek.