Yapay zekanın ağır topları, gelişmiş yapay zeka gelişimine ara verilmesi çağrısı yaptı!
Son zamanlarda yapay zeka teknolojileri hızla gelişmeye devam ediyor. Hatta bu teknolojiler insan hayatında önemli bir yer edinmeye başladı bile. Bununla birlikte yapay zeka teknolojileri hakkında dile getirilen endişeler de artıyor. Bu konuda açıklama yapmak isteyen bir grup araştırmacı açık mektup yayınladı.
Elon Musk, Steve Wozniak, Pinterest kurucu ortağı Evan Sharp ve Stability AI CEO’su Emad Mostaque, Future of Life Institute tarafından yayınlanan açık mektuba imzalarını eklediler.
Future of Life Institute kar amacı gütmeyen bir kuruluş. Güçlü teknolojilerden kaynaklanan varoluşsal riski azaltmak için çalışmalar yürütüyor.
Altı ay ara verin!
Mektup, OpenAI’nin GPT-4 gibi AI sistemlerinin toplum için potansiyel bir risk oluşturduğu konusuna dikkat çekiyor. Ek olarak, “genel görevlerde insanlarla rekabet edebilir” hale geldiği ibaresi de bulunuyor. Ayrıca, AI laboratuvarlarının GPT-4’ten güçlü teknolojilerin eğitimine altı ay boyunca ara vermeleri çağrısını da içeriyor.
“AI’nin vaftiz babalarından” biri olarak anılan sektör uzmanları Yoshua Bengio ve bilgisayar bilimcisi Stuart Russell da mektuba destek veren isimler arasında yer alıyor. Ayrıyeten mektup yayınlandığı sırada OpenAI’den hiçbir temsilci mektubu imzalamadı.
Yapay zeka teknolojisinin gelişimi konusunda ortaya çıkan endişeler, hükümetlerin de dikkatini çekmeye başladı. İngiltere hükümeti de son zamanlarda yapay zeka teknolojileri hakkında düzenlemeler yapılması gerektiğini belirten bir açıklama yaptı. Son…
Şirketlerin Gelişmiş Yapay Zeka Yarışı
Future of Life Institute, güçlü AI sistemlerinin medeniyet üzerindeki etkilerinin kontrolünü kaybetme olasılığını değerlendiriyor. Şirketlerin, yaratıcılarının bile “tahmin edemeyeceği veya kontrol edemeyeceği” kadar güçlü AI teknolojileri geliştirmek için yarıştıklarını öne sürüyor.
Mektupta şu ifadeler yer alıyor: “Uygarlığımızın kontrolünü kaybetme riskini göze almalı mıyız? Bu tür kararlar seçilmemiş teknoloji liderlerine devredilmemelidir.”
Mektupta, yapay zeka sistemlerinin bazı görevlerde “insanlarla rekabet eder” hale geldiği belirtiliyor. Ayrıca yanlış bilgilendirme ve işgücü otomasyonuna ilişkin endişeler de dile getiriliyor. Ek olarak: “Makinelerin bilgi kanallarımızı propaganda ve gerçek dışı bilgilerle doldurmasına izin vermeli miyiz? Tatmin edici olanlar da dahil olmak üzere tüm işleri otomatikleştirmeli miyiz?” gibi ifadeler de yer aldı.
Araştırmacılar, yapay zeka teknolojisinin gelişmesinin insanlar üzerindeki etkilerini daha iyi anlamak için daha fazla araştırma yapılmasını talep ediyor. Bununla birlikte, yapay zeka teknolojisinin geliştirilmesinde etik kurallara uygun davranılması gerektiği de belirtiliyor. Bu etik kuralların neler olduğu konusunda da araştırmacılar, uluslararası bir standart belirlemenin önemine dikkat çekti.
