Sorumlu Yapay Zekâ Politikası

Bu sayfa, Lunixi'nin yapay zekâ ve makine öğrenmesi kullanımına ilişkin yazılı politikasıdır. Tedarikçi değerlendirmenizde, veri koruma etki değerlendirmenizde ve denetim dosyanızda kaynak olarak kullanabilirsiniz.

Kapsam — yapay zekâ platformda nerede çalışır

İlkeler

1. Kararın sahibi insandır. Bireyi etkileyen hiçbir karar, insan gözetimi olmadan yalnızca bir modelin çıktısıyla sonuçlandırılmaz.
2. Her karar açıklanabilir olmalıdır. Bir kararın neden verildiğini gösteremiyorsak o kararı otomatikleştirmeyiz.
3. Karar yolu öngörülebilir olmalıdır. Para ve uyum yolunda deterministik kural, olasılıksal çıktıya tercih edilir.
4. Model çıktısı ayrıcalıklı değildir. Bir modelin sonucu karara etki edecekse, insan yazımı bir kuralla aynı doğrulama ve yayın kapısından geçer.
5. Kişisel veri model sağlayıcısına gitmez. Dış model servislerine kart verisi, kimlik verisi veya biyometri gönderilmez.
6. Ölçmediğimizi iddia etmeyiz. Bir modelin daha iyi olduğunu, ancak yeterli örneklemle ve güven aralığıyla ölçtüysek söyleriz.
7. Geri alınabilirlik esastır. Yayına alınan her model davranışı, öğrenilmiş durum kaybedilmeden geri alınabilir olmalıdır.

İnsan gözetimi nasıl uygulanır

İlke düzeyinde bir taahhüt değil, sistemde uygulanan kapılardır.

Kimlik tespitinde otomatik onay kapalıdır

Düşük güvenceli otomatik onay bir yapılandırma tercihi değildir: bu ayar açıkken servis açılmaz. Kimlik tespiti servisi, otomatik onay bayrakları etkinken başlatılmayı reddeder. Belge ve kanıt kayıtları, kabul edeni ve reddedeni kimliğiyle birlikte taşır.

Yapay zekâ üretimi taslak, yayın değildir

Akış taslağı üretiminde üç kat kısıt uygulanır:

• Üretilen taslak hiçbir yere kaydedilmez ve yayınlanmaz; yanıt olarak döner ve devre dışı doğar.
• Modelin üretebileceği düğüm paletinden yan etkili düğümler çıkarılmıştır: kod çalıştıran, dış çağrı yapan, veritabanı sorgulayan ve olay yayan düğümler model tarafından üretilemez. Bu düğümleri operatör builder içinde eliyle ekler ve hedefini bilinçli olarak yazar.
• Taslak, motorun kendi doğrulayıcısından geçmezse hiç dönmez.

Canlıya çıkması için taslağı kaydetmeniz ve doğrulama → simülasyon → yayın kapısı zincirinden geçirmeniz gerekir. Model yapılandırılmamışsa sistem uydurma bir şablon üretmez; açık bir hata döner.

Model değişiklikleri kademeli ve elle açılır

Yönlendirme tarafında yeni bir model davranışı doğrudan tüm trafiğe uygulanmaz:

• Aday model önce gölgede koşar — karar üretir ama uygulanmaz.
• Ardından panelden elle belirlenen bir trafik yüzdesiyle açılır. Varsayılan sıfırdır; siz açana kadar hiçbir işlem etkilenmez.
• Kalıcı hale gelmesi ayrı ve elle verilen bir karardır.
• Aday modelin yeterli örnekleme ulaşmadan açılması sistem tarafından engellenir.

Nihai karar analistindir

Uyum yardımcılarının çıktısı analistin okuduğu bir açıklamadır. Denetimde savunulan şey modelin çıktısı değil, analistin kararı ve o kararın dayandığı kanıttır.

Açıklanabilirlik

Yönlendirme kararları

Her yönlendirme kararı, gerekçesiyle birlikte saklanır. Gerekçe, kazanan terminal ile ikinci sıradaki aday arasındaki skor farkını bileşenlere ayırır: maliyet, onay oranı tahmini, sağlayıcı sağlığı, gecikme, risk ve modelin öğrendiği kalite.

Skor doğrusal ağırlıklı bir toplam olduğu için bu ayrıştırma yaklaşık değil, kesindir: bileşen katkılarının toplamı, iki aday arasındaki farka birebir eşittir. Gerekçe dil içermez — kodlar ve sayılar olarak saklanır, cümle sunum katmanında kurulur. Böylece denetim verisi tek bir dile bağlanmaz.

Makine öğrenmesi skorları

Makine öğrenmesi platformunda üretilen her skor için özellik katkıları hesaplanır (TreeSHAP). Katkılar, hangi özelliğin skoru hangi yönde ve ne kadar etkilediğini gösterir ve karar zarfına açıklama faktörleri olarak eklenir.

Kural kararları

Her fraud karar kaydı, o kararın hangi akış sürümüyle verildiğini taşır. "Bu işlem neden bloklandı" sorusunun cevabı karardan yayın kaydına kadar izlenebilir. Bir koşul belirsiz kaldığında bu durum gerekçe metnine ayrıca yazılır; belirsizlik kararda görünür kalır.

Model izleme

Veri koruma

• Dış model servislerine kişisel veri gönderilmez. Akış taslağı üretiminde model servisine giden tek girdi, operatörün panelde yazdığı politika metnidir. Kart verisi, kimlik verisi, biyometri veya işlem kayıtları gönderilmez. Operatör metni modele güvenilmeyen girdi olarak çerçevelenir ve uzunluğu sınırlanır.
• Model girdileri türetilmiş sinyallerdir. Yönlendirme modeli, kart şeması ve taksit sayısı gibi işlem nitelikleriyle çalışır; kart numarası model girdisi değildir.
• Biyometri ve belge verisi depolamaya yazılmadan önce uygulama katmanında, kiracı başına ayrı anahtarla şifrelenir ve kendi saklama süresine tabidir. Ayrıntı: Güvenlik Kontrolleri ve KVKK.
• Denetim kaydı. Yapay zekâ üretimi taslaklarda kullanılan model ve istem sürümü, taslağın üzerinde denetim damgası olarak taşınır.

Otomatik karar ve itiraz

Fraud motoru, sizin yayınladığınız kurallara göre bir işlemi otomatik olarak bloklayabilir. Bu kararın veri sorumlusu kurumunuzdur; Lunixi veri işleyen sıfatıyla hareket eder. İlgili kişinin itiraz ve insan müdahalesi talebine ilişkin süreç kurumunuzun yükümlülüğündedir.

Platform bu yükümlülüğü yerine getirebilmeniz için gerekli araçları sağlar: karar gerekçesi ve gerekçe kodları, kararın dayandığı akış sürümü, vaka yönetimi ve analist geçersiz kılma yolu, ve yalnızca eklenebilir denetim kaydı.

Model gözden geçirmesi

İzleme süreklidir ve otomatiktir; gözden geçirme periyodiktir ve insan elindedir. İkisi birbirinin yerine geçmez — bir eşik izleyicisi, modelin hâlâ doğru işi yapıp yapmadığı sorusunu cevaplamaz.

Bu politikanın yürürlük tarihinden itibaren:

• Üç ayda bir model gözden geçirmesi yapılır.
• Yılda bir bu politika gözden geçirilir.
• Bir modelin karar yetkisi genişlediğinde veya yeni bir yapay zekâ yüzeyi eklendiğinde ayrıca olaya bağlı gözden geçirme yapılır.

Her gözden geçirme şunları kapsar:

Gözden geçirmenin nasıl yürütüldüğü — roller, yöntem, bulgu sınıfları ve eskalasyon — ayrı bir prosedürde tanımlıdır: Model Denetim Politikası. Takvim ve tamamlanan gözden geçirmeler ise Model Denetim Kayıtları sayfasında tutulur. Ayrıntılı kayıt, tedarikçi değerlendirmesi kapsamında gizlilik sözleşmesiyle paylaşılabilir.

Bulunduğumuz nokta

Politikanın dürüst olması için, henüz uygulamaya almadığımız kontrolleri de yazıyoruz.

İlgili sayfalar

• Karar Yönetişimi — kuralı kim yazar, nasıl yayınlanır, nasıl geri alınır
• Uyum Yapay Zekâsı — analist yardımcılarının sınırı
• Güvenlik Kontrolleri — şifreleme, erişim, denetim kaydı
• Güven — uyum durumu ve paylaşabildiğimiz belgeler

Sorularınız için

Bu politikaya ilişkin soru, tedarikçi değerlendirme formu veya veri koruma etki değerlendirmesi desteği için: [email protected]