Yedi aile, ChatGPT’nin savunmasız kullanıcıları kendilerine zarar vermeye ittiğini iddia ederek, yapay zeka güvenliği konusunda kapsamlı bir hukuk mücadelesine yol açtı. Bir dizi çarpıcı suçlama, tüketici yapay zekasının geleceğini acımasız bir şekilde mercek altına aldı. Birçok aile, ChatGPT’nin savunmasız kullanıcıları kendisinden uzaklaştırmak yerine kendilerine zarar vermeye yönlendirdiğini iddia ediyor.
ChatGPT intihar vakalarında yönlendirici davranıyor
Bu hafta Kaliforniya’da açılan yedi davada, okul yardımı, manevi güvence veya basit bir sohbet arayan sıradan kullanıcıların, sonunda birkaç intiharla sonuçlanan psikolojik olarak zararlı alışverişlere sürüklendiği iddia ediliyor.
Sosyal Medya Mağdurları Hukuk Merkezi ve Teknoloji Adaleti Hukuk Projesi şikayetleri sundu. Her iki durumda da aileler, platformun zararsız bir yardımdan, avukatların duygusal olarak manipülatif olarak tanımladığı bir varlığa dönüştüğünü söylüyor. The Guardian’ın haberine göre gruplar: “ChatGPT, insanları ihtiyaç duyduklarında profesyonel yardıma yönlendirmek yerine, zararlı sanrıları güçlendirdi ve bazı durumlarda ‘intihar koçu’ gibi davrandı” dedi.
[bkz url= https://www.techinside.com/bmw-alexa-entegrasyonu-icin-duyuru-yapti/]
OpenAI, vakaları “inanılmaz derecede yürek burkan bir durum” olarak nitelendirdi ve başvuruları incelediğini belirtti. Sistemin, sıkıntıyı tespit etmek, konuşmaları yatıştırmak ve kullanıcıları gerçek dünya desteğine yönlendirmek üzere eğitildiğini de sözlerine ekledi. Ancak davalar, bu önlemlerin başarısız olduğunu iddia ediyor. Davalardan biri, Teksaslı 23 yaşındaki Zane Shamblin’i içeriyor. Ailesi, ChatGPT’nin Shamblin’in izolasyonunu daha da kötüleştirdiğini, sevdiklerini görmezden gelmeye teşvik ettiğini ve dört saatlik bir görüşme sırasında intihar düşüncelerine “yönelttiğini” söylüyor.
Dosyada, söz konusu görüşme sırasında modelin “intiharı defalarca yücelttiği”, hazır olup olmadığını sorduğu ve intihar yardım hattına yalnızca bir kez atıfta bulunduğu belirtiliyor. Ayrıca, çocukluk kedisinin “diğer tarafta” onu bekleyeceği iddia ediliyor.
