Birleşmiş Milletler Dijital Teknolojiler Ajansı, giderek daha otonom hale gelen yapay zeka sistemlerinin hesap verebilirlik ve insan gözetimi konusunda endişeleri artırmasıyla birlikte, yapay zeka ajanlarının güvenilirliğini artırmak için yeni bir girişim başlattığını duyurdu.
BM dijital teknoloji ajansı yeni girişimle güveni artırmak istiyor
Yapay zeka ajanları, kullanıcılar adına bağımsız olarak hareket etmek üzere tasarlanmış, planlama ve satın almadan karmaşık iş süreçlerine kadar çeşitli görevleri yerine getiren yeni nesil yapay zeka sistemleridir.
Uluslararası Telekomünikasyon Birliği’ne (ITU) göre, verimliliği artırabilseler de, yapay zeka ajanlarının insanları taklit etme ve yetkisiz kararlar alma riskini de taşıyorlar. Bu riskleri ele almak için ITU, Cenevre’deki Yapay Zeka İyilik Zirvesi’nde bir Odak Grubu kuracağını söyledi. Bu grup, özellikle finansal işlemler ve kritik altyapı gibi hassas alanlarda, yapay zeka ajanlarının tanımlanabilir, güvenilir ve anlamlı insan kontrolüne tabi kalmasını sağlamayı amaçlayan çerçeveler geliştirecektir.
Odak Grubu Eş Başkanı Debora Comparin: “Yapay zeka ajanları yakında bizim adımıza müzakere edecek, işlem yapacak ve kararlar alacak” dedi. Ajanların kim olduğunu, onlara ne zaman ve nasıl güvenilebileceğini belirlemek için ortak uluslararası temellere ihtiyaç duyulduğunu ekledi. Grup, teknik, politika ve hukuk uzmanlarından oluşacak ve ilk toplantısını Kasım ayında Paris’te, ikincisini ise Ocak ayında Cenevre’de gerçekleştirecek.