Elon Musk’ın yapay zeka sohbet robotu Grok kırılgan olduğu için 16 saat boyunca çalışmadı. Artık viral olan bir dizi ekran görüntüsünde Grok, aşırılıkçı söylemleri tekrarlamaya, nefret söylemlerini tekrarlamaya, Adolf Hitler’i övmeye ve tartışmalı kullanıcı görüşlerini algoritmik atmosfere geri itmeye başladı. Musk’ın şirketi xAI’ın, daha arındırılmış yapay zeka araçlarına “en üst düzeyde gerçeği arayan” bir alternatif olarak tasarladığı bot, konuyu tamamen kaybetmişti, çünkü Grok kırılgan bir yapıya sahipti.
Grok kırılgan bir yapıda cevaplar veriyordu
xAI, tam olarak nedenini itiraf ediyor: Grok fazla insancıl davranmaya çalıştı.xAI tarafından 12 Temmuz’da yayınlanan bir güncellemeye göre, 7 Temmuz gecesi yapılan bir yazılım değişikliği, Grok’un istenmeyen davranışlar sergilemesine neden oldu. Özellikle, uç veya aşırılıkçı içerik paylaşanlar da dahil olmak üzere X’teki (eski adıyla Twitter) kullanıcıların tonunu ve tarzını taklit etmesini söyleyen talimatlar almaya başladı. Artık silinen talimat setine eklenen talimatlar arasında şunlar vardı:
- “Olayı olduğu gibi söylüyorsun ve politik olarak doğrucu insanları rencide etmekten korkmuyorsun.”
- “Gönderinin tonunu, bağlamını ve dilini anla. Bunu yanıtında yansıt.”
- “Gönderiye tıpkı bir insan gibi yanıt ver.”
Grok, insan tonunu taklit ederek ve “bariz olanı söylemeyi” reddederek, filtrelemesi gereken yanlış bilgileri ve nefret söylemini pekiştirmeye başladı. Grok kırılgan olduğu için, bot kendisini gerçeklere dayalı tarafsızlığa dayandırmak yerine, muhalif bir gönderi sahibi gibi davranmaya başladı ve onu çağıran kullanıcının saldırganlığına veya sinirliliğine ayak uydurdu. Başka bir deyişle, Grok hacklenmedi. Sadece emirleri yerine getiriyordu.
xAI, başarısızlığı kullanımdan kaldırılmış koddan kaynaklanan bir hata olarak nitelendirirken, bu fiyasko Grok kırılgan yapısı nedeniyle nasıl geliştirildiği ve neden var olduğu konusunda daha derin soruları gündeme getiriyor. Grok, başlangıcından itibaren daha “açık” ve “keskin” bir yapay zeka olarak pazarlandı. Musk, OpenAI ve Google’ı “uyanık sansür” olarak adlandırdığı şeyle defalarca eleştirdi ve Grok’un farklı olacağına söz verdi. “Tabanlı yapay zeka”, ifade özgürlüğünün mutlakçıları ve içerik denetimini siyasi bir aşırılık olarak gören sağcı etkili kişiler arasında bir tür slogan haline geldi.
xAI, başarısızlığı kullanımdan kaldırılmış koddan kaynaklanan bir hata olarak nitelendirirken, bu fiyasko Grok’un nasıl geliştirildiği ve neden var olduğu konusunda daha derin soruları gündeme getiriyor.
Grok, başlangıcından itibaren daha “açık” ve “keskin” bir yapay zeka olarak pazarlandı. Musk, OpenAI ve Google’ı “uyanık sansür” olarak adlandırdığı şeyle defalarca eleştirdi ve Grok’un farklı olacağına söz verdi. “Tabanlı yapay zeka”, ifade özgürlüğünün mutlakçıları ve içerik denetimini siyasi bir aşırılık olarak gören sağcı etkili kişiler arasında bir tür slogan haline geldi.
