OpenAI, sivil haklar lideri Martin Luther King Jr.’ın internette dolaşan “saygısız tasvirler” konusunda endişelerini dile getirmesinin ardından, kullanıcıların Sora uygulamasında Martin Luther King Jr.’ın videolarını oluşturmasını engelledi.
OpenAI sahtecilik için örnek bir adım atıyor
Şirket, tarihi figürler için güvenlik önlemlerini güçlendirirken Dr. King’in tüm benzerlik temelli nesillerinin üretimine ara vereceğini söyledi. OpenAI ve Martin Luther King, Jr.’ın Mirası yaptıkları ortak açıklamada, sorumlu temsili sağlamak için birlikte çalıştıklarını belirtti. Açıklamada: “King, Inc.’in talebi üzerine OpenAI, tarihi şahsiyetler için sınırları güçlendirmek amacıyla Dr. King’i tasvir eden nesilleri durdurdu” denildi.
OpenAI: “Tarihi figürlerin tasvir edilmesinde güçlü ifade özgürlüğü çıkarları” bulunduğunu belirtirken, “kamu figürlerinin ve ailelerinin nihayetinde kendi benzerliklerinin nasıl kullanılacağı konusunda kontrol sahibi olması gerektiğine” inandığını belirtti.
[bkz url= https://www.techinside.com/ingiltere-siber-olaylar-nedeniyle-is-liderlerini-uyardi/]
Şirket, Dr. Bernice A. King’e yaptığı bilgilendirme için ve John Hope Bryant ile Yapay Zeka Etik Konseyi’ne konuyla ilgili tartışmaları kolaylaştırdıkları için teşekkür etti. Bu hamle, King’i kaba ve saldırgan senaryolarda gösteren bir dizi aşırı gerçekçi deepfake videosunun ardından geldi. Sosyal medyada yaygın olarak paylaşılan bu videolar, King’i hırsızlık yaparken, polisten kaçarken ve ırkçı klişeleri pekiştirirken yanlış bir şekilde tasvir ediyordu.
OpenAI’nin üç hafta önce kullanıma sunduğu Sora uygulaması, kullanıcıların yapay zekayı kullanarak gerçekçi videolar oluşturmasına olanak tanıyor. Ancak, asgari düzeydeki kısıtlamaları avukatları, araştırmacıları ve kamu figürlerini endişelendiriyor. Eleştirmenler, uygulamanın “önce ateş et, sonra nişan al” mantığıyla piyasaya sürülmesinin, uygulamayı kötüye kullanıma açık hale getirdiğini söylüyor.
