Anthropic; Amazon.com, Microsoft ve Apple gibi büyük teknoloji şirketleriyle, ortakların yapay zeka girişiminin geliştirdiği siber güvenlik yeteneklerine sahip gelişmiş bir modeli önizlemesine olanak tanıyan bir girişim başlattığını duyurdu.
Anthropic siber güvenlik için teknoloji devleriyle çalışıyor
Anthropic, “Project Glasswing” kapsamında, seçilmiş kuruluşların, girişimin henüz piyasaya sürülmemiş ve genel amaçlı yapay zeka modeli “Claude Mythos Preview”ı savunma amaçlı siber güvenlik çalışmaları için kullanmalarına izin verileceğini belirtti. Diğer ortaklar arasında CrowdStrike, Palo Alto Networks, Google ve Nvidia yer alıyor. Bu duyuru, Anthropic’in Claude Mythos’u test ettiğini ve bunun güvenlik riskleri oluşturduğunu ve aynı zamanda gelişmiş yetenekler sunduğunu belirten geçen ayki Fortune raporunun ardından geldi ve Palo Alto Networks ve CrowdStrike gibi siber güvenlik firmalarının hisselerini sert bir şekilde düşürdü.
Bu yıl San Francisco’da düzenlenen RSA siber güvenlik konferansına da yapay zeka destekli siber saldırıların yükselişi ve geleneksel güvenlik araçlarının yeterli olup olmadığı konusu damgasını vurdu. Anthropic yayınladığı bir blog yazısında, Mythos Preview’ın işletim sistemlerinde, web tarayıcılarında ve diğer yazılımlarda “binlerce” büyük güvenlik açığı bulduğunu belirtti.
Girişim, lansman ortaklarının Mythos Preview’ı savunma güvenliği çalışmalarında kullanacağını ve Anthropic’in bulguları sektörle paylaşacağını söyledi. Anthropic ayrıca, kritik yazılım altyapısından sorumlu yaklaşık 40 ek kuruluşa erişimi genişlettiğini ve açık kaynak güvenlik gruplarına 100 milyon dolara kadar kullanım kredisi ve 4 milyon dolarlık bağış taahhüdünde bulunduğunu belirtti.
Yapay zeka girişimi, nihai hedeflerinin “kullanıcılarımızın Mythos sınıfı modelleri güvenli bir şekilde büyük ölçekte dağıtabilmeleri” olduğunu da ekledi. Girişim ayrıca, modelin yetenekleri hakkında ABD hükümetiyle devam eden görüşmelerde bulunduğunu söyledi.
Geçen yıl Anthropic, bilgisayar korsanlarının Claude AI’sindeki güvenlik açıklarından yararlanarak yaklaşık 30 küresel kuruluşa saldırdığını açıklamıştı. Dahası, IBM ve Palo Alto Networks tarafından yapılan bir araştırmada, ankete katılan 1.000 yöneticinin %67’si son bir yıl içinde yapay zeka saldırılarına maruz kaldıklarını belirtti.