Techinside Google News
Techinside Google News

Verilerin sohbet robotlarına sızdırılmasını engelleyen eklenti!

Verilerinizi bir sohbet robotuna girdiğinizde, bu veriler chatbot'a güç veren büyük dil modelini eğitmek için kullanılıyor olabilir mi?

Patented.ai, çalışanlar şirket verilerini bir sohbet robotuna girdiğinde, bu verilerin chatbot’a güç veren büyük dil modelini eğitmek için kullanılabileceğini söylüyor.

Hassas bilgi uyarısı

San Francisco merkezli girişim Patented.ai, bir şirketin çalışanlarını OpenAI’nin ChatGPT’si veya Google’ın Bard’ı gibi bir yapay zeka sohbet botuyla hassas veya özel bilgileri paylaşmak üzereyken uyarmak için tasarlanmış LLM Shield adlı bir eklenti yayınladı. Bir chatbot penceresi içinde çalışabilen eklenti, chatbot’un metin penceresine hassas bilgiler giren bir çalışana bir uyarı gösteriyor. Patented.ai, LLM Shield’in bugün kullanıma sunulduğunu ve bu yıl boyunca, kişisel kullanım için bir eklenti sürümü de dahil olmak üzere, yapay zeka modeli tarafından desteklenen yeni güvenlik ürünleri sunmayı planladığını söylüyor.

- Advertisement -

Üretken AI modelleri büyük olasılıkla büyük ve küçük işletmelerde birçok yararlı ve zaman kazandırıcı uygulama bulacaktır, ancak birçok şirket, iç işleyişi hala tam olarak anlaşılamayan modeller tarafından hassas veya özel bilgilerin nasıl kullanılabileceği konusunda giderek daha fazla endişe duymaktadır. Bank of America, Goldman Sachs, Citigroup Inc., Deutsche Bank AG ve Wells Fargo sızıntı olasılığını en aza indirmek için ChatGPT’yi yasakladı. Perşembe günü, danışmanlık firması Gartner’da analist olan Avivah Litan, “Çalışanlar, üretken yapay zeka chatbot çözümleriyle etkileşime girerken hassas ve tescilli kurumsal verileri kolayca açığa çıkarabilir” dedi. Litan sözlerine şöyle devam etti: “Kullanıcılar ve üretici yapay zeka temel modellerine ev sahipliği yapan şirketler arasındaki veri ve süreç akışlarını yönetmek için yeni bir yapay zeka güven, risk ve güvenlik yönetimi araçlarına acil ihtiyaç var.”

Şirket, çalışanlar şirket verilerini bir chatbot’a girdiğinde, bu verilerin sohbet robotuna güç veren büyük dil modelini (LLM) eğitmek için kullanılabileceğini söylüyor. Dahası, bu verilerin paylaşılmasının, eğitim veri setlerini oluşturanlara ağ üzerinde aynı yerde daha fazla veri aramaları için bir sinyal görevi görebileceğini söylüyor. Patented.ai’yi kuran seri girişimci ve yatırımcı Wayne Chang yaptığı açıklamada, “Yapay zeka inanılmaz derecede güçlü ve şirketler erişimi yasaklamak zorunda kalmamalı” dedi. “Görünürlük ve kontrol sayesinde, şirketler çalışanlarına ve onların LLM’leri kullanımına daha fazla güven duymalıdır.”

LLM Shield, ticari sırlar ve kişisel olarak tanımlanabilir bilgilerden HIPPA korumalı sağlık verilerine ve askeri sırlara kadar her türlü hassas veriyi tanımak için tasarlanmış bir yapay zeka modeli tarafından desteklenmektedir. Patented.ai sözcüsü, modelin çeşitli sektörlerdeki şirketlerin fikri mülkiyet haklarını korumak için çeşitli ürünlere güç sağlamak için kullanılacağını söyledi; kısmen Samsung gibi şirketlerdeki sızıntı hikayeleri nedeniyle ortaya çıkan son talep nedeniyle şirket, LLM Shield’in geliştirilmesini hızlandırdı.

Siz bu konu hakkında ne düşünüyorsunuz? Görüşlerinizi yorumlarda paylaşın!

SON VİDEO

TÜMÜ

CEVAP VER

Lütfen yorumunuzu giriniz!
Lütfen isminizi buraya giriniz

İlginizi çekebilir