İçeriğe geç
Haber Akışı Teknoloji Yapay Zeka Strateji Güvenlik Bilişim Girişimcilik Fintech Enerji Son dakika
  1. Ana sayfa
  2. Siber Güvenlik

DeepMind, tehlikeli yapay zekaya karşı önlem alıyor

Gogole'ın yapay zeka servisi DeepMind insanoğlunu yok etmek isteyebilecek kötü niyetli yapay zeka gelişimini önlemek için AI güvenlik uzmanları tuttu.

TechInside Haber

Güncelleme: okunma

DeepMind, tehlikeli yapay zekaya karşı önlem alıyor

Google'ın yapay zeka servisi DeepMind, Google Translate servisinde yapay zekanın yaptıklarını görünce, yapay zekaya karşı özel güvenlik uzmanları işe almaya başladı.

DeepMind yapay zeka servisi, Google Translate servisine adapte edilmişti ve yapay zeka yabancı dil çevirilerini internetteki örneklerden yola çıkarak düzeltmeye başlamıştı.

DeepMind kontrolden çıkıyor mu?

Ancak bu süreç çok hızlı gelişti ve DeepMind bir anda Google Translate'in kontrolünü ele geçirdi. Öyle ki, birbirine çevrilmesi için henüz eğitilmemiş dilleri, eğitimini aldığı başka dillere çevirerek onların üzerinden sonuca ulaşmaya başladı. Örneğin "Japonca ve İngilizce" ile "İngilizce ve Korece" çeviri eğitimi olan servis, "Japonca ve Korece" çeviri eğitimi olmamasına rağmen, bu dilleri önce İngilizce'ye ardından da diğerine çevirmeyi akıl etmeye başladı.

Daha da ötesi, DeepMind uzmanları, yapay zekanın çevirileri yaparken hangi sistemi kullandığını, nereden bilgi aldığını, nasıl çalıştığını anlamakta zorluk çekmeye başladılar zira yapay zeka servisi hiç beklenmedik şekilde mükemmel çeviriler yapmaya başladı.

Şimdi Google bu gelişmelerin kontrolden çıkmaması için, yapay zeka servisini sürekli kontrol altında tutacak, takip edecek ve tehlikli işler çevirmesini engelleyecek mühendisler işe almaya başladı.

Fizikçi Stephen Hawking ve Tesla'nın kurucusu Elon Musk'un da aralarında bulunduğu dünyanın en zeki zihinlerinin bir kısmı, Oxford Üniversitesi felsefecisi Nick Bostrom'un "Süper Akıl Altyazı" adlı bir kitapta tanımlanan "süper akıllı" makinelerin, insanlığın yok etmek isteyebileceğine dair ısrarlı uyarılarda bulunuyordu.

Google, Tanslate servisinde deneyimlediği gelişmeden sonra Hawking ve Musk'ı ciddiye almaya başlamış gibi görünüyor.

Haberde hata mı var?Bize bildirin

Senin fikrin ne?

Bu gelişme hakkında sen ne düşünüyorsun?

Yorumlar

İlk yorumu siz yazın.

Yorumlar yapay zekâ destekli ön elemeden geçer; son karar moderatördedir. Topluluk kuralları

Günün teknolojisi, sabah 08.00’de

Seçtiğiniz konularda günün 5 önemli haberi, her biri 30 saniyelik özetiyle. Reklamsız, tek tıkla ayrılırsınız.

Reklam