En popüler üretken yapay zeka hizmetleri, kişisel veya işle ilgili verileriniz ve dosyalarınızla bir dereceye kadar çalışabilir. Bu, ister evde ister işte olsun, size zaman ve emek tasarrufu sağlayabilir. Ancak hassas veya gizli bilgilere erişim sayesinde, Claude AI veri bu verileri yanlış kişilerle paylaşması için kandırılabilir.
En son örnek, Anthropic’in Claude AI veri işlemesidir. Şirket, yapay zekasının artık Word belgeleri, Excel elektronik tabloları, PowerPoint slaytları ve PDF’leri doğrudan Claude web sitesinde ve Windows ve MacOS masaüstü uygulamalarında oluşturup düzenleyebileceğini duyurdu. Komut isteminde ne istediğinizi belirtmeniz yeterli; Claude umarız istediğiniz sonuçları sunar.
Claude AI veri gizliliği riskleri içeriyor iddiası
Şimdilik bu özellik yalnızca Claude Max, Team ve Enterprise aboneleri için mevcut. Ancak Anthropic, önümüzdeki haftalarda Pro kullanıcılarına da sunulacağını belirtti. Claude AI veri işleme sürecine erişmek için Ayarlar’a gidin ve “Deneysel” kategorisi altında “Yükseltilmiş dosya oluşturma ve analiz” seçeneğini belirleyin.
Şirket, bir destek sayfasında olası riskleri daha derinlemesine inceledi. Bir miktar güvenlik düşünülerek geliştirilen bu özellik, Claude’a sınırlı internet erişimi olan ve böylece işlem için JavaScript paketlerini indirip kullanabildiği bir sanal alan ortamı sağlıyor. Claude AI veri işleme sürecinde, bu sınırlı internet erişimiyle bile, bir saldırgan, Claude’u kötü amaçlı kod çalıştırmaya veya bağlı bir kaynaktan hassas verileri okumaya yönlendiren harici dosyalar veya web siteleri aracılığıyla hızlı enjeksiyon ve diğer hileleri kullanarak talimatlar ekleyebilir. Buradan, kod, korumalı ortamı kullanarak harici bir ağa bağlanıp veri sızdırmak üzere programlanabilir.
Kendinizi ve verilerinizi bu tür bir ihlalden nasıl koruyabilirsiniz? Anthropic’in tek tavsiyesi, dosya oluşturma özelliğiyle çalışırken Claude’u izlemenizdir. Verileri beklenmedik şekilde kullandığını veya eriştiğini fark ederseniz, uygulamayı durdurun. Ayrıca, “beğenmedim” seçeneğini kullanarak da sorunları bildirebilirsiniz. Tehditlere karşı koymak amacıyla Anthropic, Claude kullanıcıları için çeşitli özellikler sundu.
- Dosya oluşturma özelliği üzerinde tam kontrole sahip olduğunuzdan, istediğiniz zaman açıp kapatabilirsiniz.
- Özelliği kullanırken Claude’un gelişimini izleyebilir ve istediğiniz zaman eylemlerini durdurabilirsiniz.
- Claude’un sandbox ortamında gerçekleştirdiği eylemleri inceleyebilir ve denetleyebilirsiniz.
- Bu özellik sayesinde herhangi bir bilgi içeren konuşmaların herkese açık paylaşımını devre dışı bırakabilirsiniz.
- Claude tarafından gerçekleştirilen herhangi bir görevin süresini ve tek bir sanal alan konteynerine ayrılan süreyi sınırlayabilirsiniz. Bu, kötü amaçlı bir etkinliği gösterebilecek döngülerden kaçınmanıza yardımcı olabilir.
- Ağ, konteyner ve depolama kaynakları sınırlıdır.
- Hızlı enjeksiyon saldırılarını tespit etmek ve tespit edilirse durdurmak için kurallar veya filtreler belirleyebilirsiniz.
