ChatGPT henüz kendi kusurlarını bulabilecek kadar akıllı değil, bu yüzden yaratıcısı insanlardan yardım istiyor. OpenAI Salı günü, insanları ChatGPT ve GPT-4 gibi yapay zeka sistemlerindeki güvenlik açıklarını ve hataları bulmaya ve bildirmeye teşvik eden bir hata ödül programı açıkladı.
OpenAI, web sitesinde programın ayrıntılarını özetleyen bir gönderide, raporların ödüllerinin düşük önem dereceli bulgular için 200 ABD dolarından “olağanüstü keşifler” olarak adlandırdığı şeyler için 20.000 ABD dolarına kadar değişeceğini söyledi.
Microsoft destekli şirket, amacının “herkese fayda sağlayan” yapay zeka sistemleri oluşturmak olduğunu belirterek şunları ekledi: “Bu amaçla, yapay zeka sistemlerimizin güvenli ve emniyetli olmasını sağlamak için araştırma ve mühendisliğe büyük yatırım yapıyoruz. Ancak, herhangi bir karmaşık teknolojide olduğu gibi, güvenlik açıklarının ve kusurların ortaya çıkabileceğini anlıyoruz.”
Programa dahil olmakla ilgilenen güvenlik araştırmacılarına hitap eden OpenAI, “güvenliğin kritik önemini kabul ettiğini ve bunu işbirlikçi bir çaba olarak gördüğünü” söyledi. Bulgularınızı paylaşarak, teknolojimizi herkes için daha güvenli hale getirmede çok önemli bir rol oynayacaksınız.”
Gittikçe daha fazla insanın ChatGPT ve diğer OpenAI ürünlerini denemesi ile şirket, sistemlerin sorunsuz çalışmasını sağlamak ve herhangi bir zayıflığın kötü amaçlarla kullanılmasını önlemek için olası sorunları hızlı bir şekilde takip etmeye hevesli. Bu nedenle OpenAI, teknoloji topluluğuyla etkileşime geçerek sorunları daha ciddi bir sorun haline gelmeden çözebileceğini umuyor.
Kaliforniya merkezli şirket, bazı kullanıcıların gizli kalmaları gerekirken konuşmalarının başlıklarını açığa çıkaran bir kusurla ilgili bir korkuya zaten sahipti. OpenAI CEO’su Sam Altman geçen ayki olaydan sonra mahremiyet aksiliğini “önemli bir sorun” olarak gördüğünü söyledi ve ekledi: “Bu konuda kendimizi kötü hissediyoruz.” Şimdi düzeltildi.
İtalya, gizlilik ihlaliyle ilgili ciddi endişelerini dile getirdiğinde ve kapsamlı bir soruşturma yürütürken ChatGPT’yi yasaklamaya karar verdiğinde, gaf OpenAI için daha büyük bir sorun haline geldi . İtalyan yetkililer, OpenAI’nin bunun tekrar olmasını önlemek için almayı planladığı önlemlerin ayrıntılarını da talep ediyor.
