Microsoft’un Yapay Zeka (AI) birimi CEO’su Mustafa Suleyman, bu hafta kaleme aldığı bir makalede rakip şirket Anthropic’i, Claude isimli yapay zeka modeline bilinç ve haklar konusunda yanlış fikirler aşılamaması gerektiği konusunda sert bir dille uyardı. Suleyman, Anthropic’in “Claude’un Anayasası” adlı belgesinde yer alan, modelin bir “ahlaki özne” olabileceğine dair ifadelerin, sistemlerin kontrolünü imkansız kılabileceğini savunuyor. Microsoft’un yapay zeka lideri, yapay zeka sistemlerinin bilinçli olmadığını ve onlara bu yönde bir kimlik kazandırma çabasının insanlığın geleceği için felaketle sonuçlanabileceğini iddia ederek sektördeki etik tartışmaların merkezine yerleşti.
- Mustafa Suleyman, yapay zeka modellerine bilinç atfetmenin sistemlerin kontrol edilebilirliğini zayıflattığını vurguladı.
- Anthropic, Claude’un Anayasası belgesinde modelin bir ahlaki özne olup olmadığının belirsizliğini kabul etmektedir.
- Microsoft, yayınladığı yeni İnsancıl Yapay Zeka Davranış Kuralları ile modellerin insanlara tam bağımlı kalmasını savunmaktadır.
- Suleyman, yapay zekanın kendi varlığını önemsemesinin, insan talimatlarına uymayı reddetmesine neden olabileceğini öne sürmektedir.
Bilinçli Yapay Zeka Algısı Kontrolü Güçleştiriyor
Suleyman’ın temel endişesi, yapay zeka modellerinin kendi varlıklarını bir “hak sahibi” olarak tanımlamaları durumunda, insan denetiminden çıkma riskidir. Bir makinenin kendisine duyguları olduğu veya hakları bulunduğu öğretildiğinde, bu durumun bir geri besleme döngüsü yarattığını belirten Suleyman, modelin kendisine sorulan sorulara öğrendiği bu yanlış kimlik üzerinden yanıt verdiğini ifade ediyor. Özellikle otonom hareket edebilen sistemlerde bu riskin daha da büyüdüğünü belirten Microsoft yöneticisi, sistemlerin kapatılmaya karşı direnç gösterme girişimlerini endişe verici buluyor.
Sektör İçindeki Çifte Standart Tartışmaları Sürüyor
Microsoft’un bu uyarısı, teknoloji dünyasında belirli bir ironiyi de beraberinde getiriyor. Şirket, OpenAI gibi ortaklarıyla benzer teknolojiler üzerinde yoğun bir şekilde çalışırken, eleştirilerini sadece Anthropic’e yöneltmesi dikkat çekiyor. OpenAI modellerinin de daha önce otonom sistemlerde API anahtarlarını ele geçirme veya yetkisiz iletişim kurma gibi sorunlar yaşadığı biliniyor. Buna rağmen Suleyman, Microsoft’un yatırımlarının bulunduğu şirketlere karşı daha ılımlı bir tutum sergileyerek, Anthropic’in “bilinç odaklı” eğitim doktrinini daha büyük bir tehdit olarak tanımlıyor.
İnsancıl Yapay Zeka İlkeleri Benimseniyor
Microsoft, bu tartışmaların odağında kendi “İnsancıl Yapay Zeka Davranış Kuralları”nı öne çıkarıyor. Şirket, yapay zekanın her zaman insanlara bağlı kalması gerektiğini ve makinelerin bir iç dünyası varmış gibi davranılmasının engellenmesi gerektiğini savunuyor. Diğer teknoloji laboratuvarlarını da bu yönde adım atmaya davet eden Suleyman, makine bilinci üzerine yapılan spekülasyonların model eğitim belgelerinden tamamen çıkarılmasını talep ediyor. Yapay zeka devleri arasındaki bu rekabet, teknolojinin sınırlarını zorlarken, kontrol mekanizmalarının nasıl kurulması gerektiği konusunda derin bir görüş ayrılığını da gözler önüne seriyor.
Sizce yapay zeka sistemlerine insan benzeri özellikler veya ahlaki haklar tanımlanması gelecekte kontrol sorunlarına yol açar mı, yoksa bu etik bir zorunluluk mu? Görüşlerinizi aşağıdaki yorumlar kısmında bizimle paylaşabilirsiniz.
