Google DeepMind CEO’su Demis Hassabis bir yazısında, yeni nesil modellerin piyasaya sürülmesini denetleyecek yeni bir düzenleyici kurumun kurulması çağrısında bulundu. “Yeni Nesil Yapay Zeka İçin Bir Çerçeve ve Yeni Bir Çağın Başlangıcı” başlıklı yazıda, yeni nesil modelleri test edebilecek ve piyasaya sürülmeleri için en iyi uygulamaları geliştirebilecek, Finansal Sektör Düzenleme Kurumu (FINRA) modeline benzer bir “standartlar kurulu”nun kurulması öneriliyor.
Yapay zeka için bağımsız standartlar konusu stratejik önem içeriyor
Yazıda: “Başlangıçta Frontier Labs, piyasaya sürülmeden 30 gün öncesine kadar modelleri gönüllü olarak Standartlar Kurulu ile paylaşacaktır. Değerlendirme protokolünün etkili ve sağlam olduğu gösterildikten sonra, resmileştirme hızla gerçekleşebilir; bu da Frontier Models’ın ABD pazarında kullanılabilmesi için bu protokolden geçmesi gerektiği anlamına gelir. Labs ayrıca, piyasaya sürüldükten sonraki kritik güvenlik açıklarını ele almak için Standartlar Kurulu ile birlikte çalışacaktır” ifadeleri yer aldı.
Önerilen sistem, ABD hükümetinin Anthropic’in Mythos ve OpenAI’nin Sol modelleri üzerinde yaptığı geçici incelemelere dayanacaktır. Bu incelemeler, teknik uzmanlık eksikliği ve bir modelin ne zaman piyasaya sürülebileceğine dair şeffaf olmayan karar alma süreçleri nedeniyle önemli eleştiriler aldı. Hassabis’in önerdiği düzenleyici kurumda, bu kararlar ABD hükümeti tarafından desteklenen ancak yapay zeka endüstrisi tarafından finanse edilen ve bağımsız olarak faaliyet gösteren yeni bir kuruluşa devredilebilir.
Yapay zeka düzenlemesi olasılığı hem teknoloji endüstrisi hem de Trump yönetimi için tartışmalı olmaya devam ediyor. Son olarak, Beyaz Saray yapay zeka danışmanı ve a16z genel ortağı Sriram Krishnan, yürütme organı içinde bir yapay zeka düzenleyicisi olasılığını reddederek, “yapay zeka için bir FDA olmayacak” dedi.
Standartlar kuruluşunu FINRA gibi kendi kendini düzenleyen bir kuruluş olarak kurmak, bu endişeleri gidermenin bir yolu olabilir. Hassabis, düzenleyicinin açık kaynak temsilcileri ve endüstri içinden teknik uzmanlar tarafından yönetilmesini ve onları elde tutmak için gerekli olan yapay zeka laboratuvarlarından mali destek almasını öngörüyor. Hatta bazı değerlendirmeleri, belirli risklerde uzmanlaşabilecek, giderek büyüyen yapay zeka güvenlik grupları havuzuna dış kaynak olarak verebilirler.