DeepMind, tehlikeli yapay zekaya karşı önlem alıyor

0

Google’ın yapay zeka servisi DeepMind, Google Translate servisinde yapay zekanın yaptıklarını görünce, yapay zekaya karşı özel güvenlik uzmanları işe almaya başladı.

DeepMind yapay zeka servisi, Google Translate servisine adapte edilmişti ve yapay zeka yabancı dil çevirilerini internetteki örneklerden yola çıkarak düzeltmeye başlamıştı.

DeepMind kontrolden çıkıyor mu?

Ancak bu süreç çok hızlı gelişti ve DeepMind bir anda Google Translate’in kontrolünü ele geçirdi. Öyle ki, birbirine çevrilmesi için henüz eğitilmemiş dilleri, eğitimini aldığı başka dillere çevirerek onların üzerinden sonuca ulaşmaya başladı. Örneğin “Japonca ve İngilizce” ile “İngilizce ve Korece” çeviri eğitimi olan servis, “Japonca ve Korece” çeviri eğitimi olmamasına rağmen, bu dilleri önce İngilizce’ye ardından da diğerine çevirmeyi akıl etmeye başladı.

Daha da ötesi, DeepMind uzmanları, yapay zekanın çevirileri yaparken hangi sistemi kullandığını, nereden bilgi aldığını, nasıl çalıştığını anlamakta zorluk çekmeye başladılar zira yapay zeka servisi hiç beklenmedik şekilde mükemmel çeviriler yapmaya başladı.

Şimdi Google bu gelişmelerin kontrolden çıkmaması için, yapay zeka servisini sürekli kontrol altında tutacak, takip edecek ve tehlikli işler çevirmesini engelleyecek mühendisler işe almaya başladı.

Fizikçi Stephen Hawking ve Tesla’nın kurucusu Elon Musk’un da aralarında bulunduğu dünyanın en zeki zihinlerinin bir kısmı, Oxford Üniversitesi felsefecisi Nick Bostrom’un “Süper Akıl Altyazı” adlı bir kitapta tanımlanan “süper akıllı” makinelerin, insanlığın yok etmek isteyebileceğine dair ısrarlı uyarılarda bulunuyordu.

Google, Tanslate servisinde deneyimlediği gelişmeden sonra Hawking ve Musk’ı ciddiye almaya başlamış gibi görünüyor.

Yorum Ekle

Posta adresiniz, gizli kalacaktır.

İzin verilen HTML tagları, <a href="" title=""> <abbr title=""> <acronym title=""> <b> <blockquote cite=""> <cite> <code> <del datetime=""> <em> <i> <q cite=""> <s> <strike> <strong>