Yoshua Bengio, kar amacı gütmeyen bir yapay zeka güvenlik laboratuvarı olan LawZero’yu başlattı. Turing Ödülü sahibi Yoshua Bengio, pazartesi günü Financial Times’a yaptığı açıklamada, daha güvenli yapay zeka sistemleri inşa etmek için LawZero adında kar amacı gütmeyen bir yapay zeka güvenlik laboratuvarı kurduğunu söyledi.
Yapay zeka güvenlik laboratuvarı kar amacı gütmüyor
LawZero, Skype kurucu mühendisi Jaan Tallinn, eski Google şefi Eric Schmidt, Open Philanthropy ve Future of Life Institute’un da aralarında bulunduğu kişilerden 30 milyon dolar hayırseverlik katkısı topladı. LawZero ismi, bir bilim kurgu kavramına gönderme yapıyor: Robotik Sıfırıncı Yasası, insanlığın korunmasını her şeyin üstünde tutuyor.
Modern AI patlamasının “vaftiz babalarından” biri olarak kabul edilen Bengio, AI güvenliği hareketinin en yüksek sesle savunucularından biri haline geldi. AI sistemlerinin felaket senaryolarına neden olmasını önlemeyi amaçlayan Kaliforniya’nın tartışmalı AI güvenliği tasarısı SB 1047’yi açıkça destekledi.
Financial Times’a verdiği röportajda Bengio, daha akıllı yapay zeka sistemlerine doğru yarışırken OpenAI ve Google’ın güvenliğe öncelik vereceğine pek inanmadığını söyledi.
Robotik Sıfırıncı Yasası, çeşitli şekillerde ifade edilmiştir:
- ‘Bir robot insanlığa zarar veremez veya eylemsiz kalarak insanlığın zarar görmesine izin veremez.’
- ‘İnsanlığın tamamı tek bir insanın kaderinin üzerine konuyor.’
- ‘Bir robot, insanlığın uzun vadeli çıkarları doğrultusunda hareket etmeli ve nihai iyilik için gerekli görüldüğünde diğer tüm yasaları geçersiz kılabilir.’