Gartner analistleri, Avustralya’da düzenlenen yıllık IT Symposium etkinliğinde, yapay zeka (AI) teknolojilerinin ve bu alandaki önde gelen tedarikçilerin kurumsal standartlara hazır olmadığını açıkladı. Başkan Yardımcıları Daryl Plummer ve Kristin Moyer, yapay zeka kullanımının artmasının, teknolojiyi kontrol etmeyi ve somut bir yatırım getirisi elde etmeyi zorlaştırdığını vurguladı. Uzmanlar, yapay zeka laboratuvarlarının kurumsal sorumluluk, süreklilik ve yasal yükümlülükler gibi temel kavramları anlamaktan uzak olduğunu belirtti. Kurumların, hızla değişen ve eski sürümleri desteklemeyen bu yapay zeka modelleri karşısında ciddi operasyonel risklerle karşı karşıya kaldığı ifade edildi.
- CIO’ların yüzde 86’sı, yapay zekanın yarattığı risklerin sağladığı değerden daha hızlı büyüdüğünü belirtmektedir.
- Kurumsal çalışanların yüzde 40’ı, yapay zeka kaynaklı hatalı içeriklerle karşılaşmaktadır.
- Gartner, yapay zeka kullanımını denetlemek için merkezi bir banka yapısının kurulmasını önermektedir.
Yapay Zeka Tedarikçilerine Güven Duyulmuyor
Daryl Plummer, yapay zeka geliştiricilerinin kurumsal dünyadaki gereklilikleri göz ardı ettiğini savundu. Model güncellemelerinin mevcut uygulamaları bozabileceğini dikkate almayan bu şirketler, yaklaşık altı aylık bir model ömrüyle çalışıyor. Plummer, ilk sürümde kalmak isteyen işletmelerin destekten mahrum bırakılmasının, bu tedarikçilerin kurumsal ciddiyetten uzak olduğunu kanıtladığını ifade etti. Ayrıca, satıcıların yapay zekayı ürünlerine zorla entegre ederek sadece token satışı üzerinden kazanç sağlamaya odaklandığına dikkat çekildi.
Kurumsal Verimsizlik ve Kontrolsüz Tüketim Artıyor
Kristin Moyer, işletmelerde yapay zeka kullanımının ‘dikkatsiz tüketim’ seviyesine ulaştığını dile getirdi. Çalışanların gereksiz yere yapay zeka araçlarını kullanması, IT departmanlarının yönetemeyeceği bir iş yükü oluşturuyor. Moyer, bu durumun yıllık bazda bin kişilik bir organizasyonda 9 milyon dolarlık iş gücü kaybına yol açabileceğini belirtti. İşletmelerin sahip oldukları ürünlerin içine gizlice giren yapay zeka ajanlarını tespit etmesi ise giderek zorlaşıyor.
Yapay Zeka Riskleri Nasıl Yönetilebilir?
Gartner, kontrolsüz yapay zeka kullanımını önlemek için ‘AI merkez bankası’ benzeri bir denetim mekanizması oluşturulmasını öneriyor. Bu yapının, organizasyon genelindeki yapay zeka faaliyetlerini izlemesi ve sistemik etkileri değerlendirmesi hedefleniyor. Ayrıca, ‘koruyucu ajanlar’ kullanılarak, hatalı davranan veya sınırlarını aşan yapay zeka modellerinin devre dışı bırakılması kritik bir savunma hattı olarak görülüyor. Plummer, bir felaket anında ‘AI yaptı’ demenin CIO’lar için bir savunma olamayacağını ve sorumluluğun tamamen yöneticilerde olduğunu hatırlattı.
Güvenli Bir Dijital Kanıt Sistemi Oluşturuluyor
Geleneksel ERP veya CRM sistemlerinin aksine yapay zeka, işlemlerin kim tarafından başlatıldığına dair net bir iz bırakmıyor. Bu durum, yasal sorumlulukların tayin edilmesini imkansız kılıyor. Şirketlerin dijital bir kanıt sistemi geliştirerek yapay zeka üzerindeki denetimlerini artırmaları gerekiyor. Güvenlik ve hesap verebilirlik ilkeleri, yapay zeka stratejilerinin merkezinde yer almalıdır.
Sizce kurumunuzdaki yapay zeka kullanımını yeterince kontrol altında tutabiliyor musunuz, yoksa şirketinizde de kontrolsüz bir yapay zeka tüketimi söz konusu mu? Görüşlerinizi aşağıdaki yorum bölümünde paylaşarak bu süreci nasıl yönettiğinizi bizimle tartışabilirsiniz.