Upstart telah menunjukkan bahwa pengecualian ini bukan fitur yang tak terhindarkan dari pemberian pinjaman yang bertanggung jawab, melainkan keterbatasan model usang.
Dengan memasukkan lebih dari 1.600 variabel, Upstart menghasilkan tingkat gagal bayar sekitar 75 persen lebih rendah dibandingkan tolok ukur tradisional sambil menyetujui lebih banyak peminjam dari demografi yang kurang terlayani.
Inklusi berbasis AI dan manajemen risiko yang sehat tidak bertentangan. Namun, inklusi tanpa kemampuan menjelaskan bukanlah kepercayaan, melainkan opasitas dengan hasil yang lebih baik.
Undang-Undang AI Uni Eropa dan kerangka tata kelola AI Korea yang baru mewajibkan keputusan kredit otomatis dapat dijelaskan dalam bahasa yang jelas dan dapat diaudit.
>>> Masa Depan AI di Keuangan: Membangun Kepercayaan Sebelum Penipuan Terjadi
Institusi harus berinvestasi dalam kerangka 'explainable AI' sebagai komitmen struktural, bukan sekadar kepatuhan.
Keamanan: Masalah Asimetri
AI telah mengubah lanskap keamanan, dan tidak secara simetris menguntungkan industri.
Kejahatan siber yang menargetkan lembaga keuangan diperkirakan menelan biaya $6 triliun secara global pada 2023, dan diproyeksikan mencapai $10,5 triliun pada 2025.
AI adversarial — deepfake, phishing yang dihasilkan AI, model poisoning — sudah melampaui kerangka pertahanan lama.
JPMorgan Chase merespons dengan investasi keamanan siber kumulatif lebih dari $15 miliar selama lima tahun, dengan AI memproses lebih dari 5 miliar data peristiwa setiap hari.
Mastercard's Decision Intelligence Pro, diluncurkan pada 2024, menerapkan AI generatif pada lebih dari 1 triliun titik data setiap tahun, mengurangi penolakan transaksi palsu hingga 85 persen sambil meningkatkan tingkat deteksi penipuan.
Argumen yang lebih dalam adalah bahwa keamanan bukanlah fungsi manajemen risiko, melainkan fondasi kepercayaan finansial itu sendiri.
