Google Gemini, yeni güvenlik değerlendirmesinde çocuklar ve gençler için ‘yüksek riskli’ olarak nitelendirildi. Çocuk güvenliği odaklı, medya ve teknoloji derecelendirmeleri ve incelemeleri sunan kar amacı gütmeyen bir kuruluş olan Common Sense Media, Google’ın Gemini AI ürünlerine ilişkin risk değerlendirmesini yayınladı.
Gemini güvenlik konusunda sınıfta kaldı
Kuruluş, Google’ın yapay zekasının çocuklara açıkça bir arkadaş değil, bir bilgisayar olduğunu gösterdiğini tespit ederken, diğer birçok alanda iyileştirmeye açık alanlar olduğunu da belirtti.
Common Sense, Gemini’nin “13 Yaş Altı” ve “Genç Deneyimi” kategorilerinin, yalnızca bazı ek güvenlik özellikleri eklenmiş, Gemini’nin yetişkin versiyonları gibi göründüğünü belirtti. Kuruluş, yapay zeka ürünlerinin çocuklar için gerçekten daha güvenli olması için, baştan sona çocuk güvenliği düşünülerek üretilmesi gerektiğine inanıyor. Örneğin, Gemini’nin yaptığı analiz, çocuklarla cinsellik, uyuşturucu, alkol ve diğer güvenli olmayan ruh sağlığı tavsiyeleri gibi henüz hazır olmayabilecekleri “uygunsuz ve güvenli olmayan” materyalleri paylaşabileceğini ortaya koydu.
Yapay zekanın son aylarda bazı genç intiharlarında rol oynadığı bildirildiğinden, ikincisi ebeveynler için özellikle endişe verici olabilir. OpenAI, 16 yaşında bir çocuğun aylarca planları hakkında ChatGPT’ye danıştıktan sonra, chatbot’un güvenlik bariyerlerini başarıyla aşarak intihar etmesi üzerine ilk haksız ölüm davasıyla karşı karşıya. Daha önce, yapay zekalı oyun geliştiricisi Character.AI da bir genç kullanıcının intiharı nedeniyle dava edilmişti.
Ayrıca, analiz, Apple’ın gelecek yıl piyasaya sürülmesi beklenen yapay zeka destekli Siri’yi desteklemek için Gemini’yi LLM (geniş dil modeli) olarak değerlendirdiğini gösteren haber sızıntılarının ardından geldi. Apple, güvenlik endişelerini bir şekilde azaltmadığı takdirde, bu durum daha fazla genci risklere maruz bırakabilir. Common Sense ayrıca, Gemini’nin çocuk ve gençlere yönelik ürünlerinin, genç kullanıcıların yaşlılara göre farklı rehberlik ve bilgilere ihtiyaç duyduğunu göz ardı ettiğini belirtti. Sonuç olarak, güvenlik için eklenen filtrelere rağmen her ikisi de genel derecelendirmede “Yüksek Riskli” olarak etiketlendi.
