Floemdata
Yapay Zekâ

AI Açıklanabilirliği: İşletme Niçin Önemsemeli?

İşletmede yapay zekâ çıktısına güvenmek için neye bakmalı? Doğrulama, açıklanabilirlik ve insan denetimi için pratik bir kontrol listesi veriyoruz.

Floemdata · · 3 dk okuma
Kökten tek bir yaprağa giden vurgulu yolu olan bir karar ağacı

Bu yazı hukuki ya da mali danışmanlık değildir. Bir yapay zekâ çıktısını rapora, teklife ya da karara taşımadan önce iki soru sorulur: buna güvenebilir miyim, ve neden bu sonucu verdiğini gösterebilir miyim? Birincisi güvenilirlik, ikincisi açıklanabilirliktir.

Güvenilirlik neye bağlı?

  • Ölçülmüş doğruluk: aracın doğruluğu satıcının anlatımına değil, sizin kendi örnekleriniz üzerindeki denemeye dayanmalı.
  • Tutarlılık: aynı girdi benzer çıktı veriyor mu?
  • Sınırların bilinmesi: araç hangi durumda yanılıyor? Bilmediği yerde bilmediğini söylüyor mu?
  • Hata türleri: yanlış alarm mı, kaçan olay mı daha pahalı? Eşiği ona göre seçin.

Açıklanabilirlik

Bir çıktıyı açıklayabilmek, hangi veriye ve hangi kurala dayandığını gösterebilmektir. İşletmede bunun karşılığı çoğu zaman yalındır: hangi ölçü, hangi filtre, hangi dönem kullanıldı? Bu üç bilgi bir rakamın yanında görünüyorsa bir kişi onu kontrol edebilir.

Bir çerçeve: NIST AI RMF

ABD'nin NIST kurumu Yapay Zekâ Risk Yönetimi Çerçevesi'ni (AI RMF 1.0) 26 Ocak 2023'te yayımladı. NIST'in sayfasına göre çerçeve gönüllü kullanım içindir ve güvenilirlik düşüncelerini yapay zekâ ürünlerinin tasarım, geliştirme, kullanım ve değerlendirmesine katmayı amaçlar. Çerçevenin ayrıntılı özellik listesini bu yazıda doğrulamadık; ilgilenenler belgenin kendisine bakmalı.

Pratik kontrol listesi

  • Kritik çıktıyı kaynakla karşılaştıran bir adım tanımlayın.
  • Rakamı modele değil, deterministik bir hesaba yaptırın.
  • Her çıktının yanında kullanılan veri ve kuralı gösterin.
  • Karar verecek kişiyi, yapay zekâ çıktısı olduğunu bilerek karar verir hâle getirin.
  • Hatalı çıktıları kaydedin ve ayda bir gözden geçirin.

Floemdata'da durum

Floemdata Analytics'in tasarım ilkesi şudur: yapay zekâ SQL yazmaz ve aritmetik yapmaz; rapor tanımı bir doğrulayıcıdan geçer ve hesap kodda yapılır. Bu bir tasarım kararıdır; yapay zekâ asistanı yol haritasındadır, henüz ürün özelliği değildir (doğrulanmadı).

Başlamak için bugün kullandığınız bir yapay zekâ çıktısını seçin ve rakamlarını elle yeniden hesaplayın. Kaynak: NIST, AI Risk Management Framework.

← Bütün rehberler