Auditing the Machine: Mitigasi Risiko Bias dan Error pada Model Credit Scoring Berbasis Artificial Intelligence
Auditing the Machine: Mitigasi Risiko Bias dan Error pada Model Credit Scoring Berbasis Artificial Intelligence
Description
Penggunaan Artificial Intelligence (AI) dan machine learning dalam proses credit scoring telah membawa perubahan signifikan dalam industri keuangan. Model berbasis AI mampu mengolah data dalam jumlah besar, mengidentifikasi pola yang kompleks, serta meningkatkan kecepatan dan akurasi dalam penilaian risiko kredit. Hal ini memungkinkan lembaga keuangan untuk memperluas akses pembiayaan sekaligus meningkatkan efisiensi operasional.
Namun, di balik manfaat tersebut, muncul risiko baru yang perlu dikelola secara serius, yaitu risiko bias (algorithmic bias), kesalahan model (model error), serta kurangnya transparansi (black box problem). Model AI yang dilatih dengan data historis berpotensi mewarisi bias yang ada dalam data tersebut, yang pada akhirnya dapat menghasilkan keputusan yang tidak adil atau diskriminatif. Selain itu, kesalahan dalam desain model, pemilihan variabel, maupun proses pelatihan dapat menurunkan akurasi dan meningkatkan risiko kredit secara keseluruhan.
Dalam konteks regulasi dan tata kelola, lembaga keuangan dituntut untuk memastikan bahwa penggunaan AI tetap sejalan dengan prinsip kehati-hatian, transparansi, dan akuntabilitas. Oleh karena itu, diperlukan pendekatan model auditing yang sistematis untuk mengidentifikasi, mengukur, dan memitigasi risiko yang melekat pada model credit scoring berbasis AI.
Objectives
- Meningkatkan pemahaman peserta mengenai risiko yang melekat pada model credit scoring berbasis AI.
- Membekali peserta dengan konsep dasar model risk management dan AI auditing.
- Mengembangkan kemampuan dalam mengidentifikasi dan mengukur bias dalam model.
- Meningkatkan keterampilan dalam mengevaluasi akurasi dan stabilitas model.
- Memperkuat pemahaman mengenai transparansi dan explainability model AI.
- Mendorong penerapan praktik tata kelola model (model governance) yang baik.
- Memastikan penggunaan AI yang etis, adil, dan sesuai regulasi dalam proses kredit.
Course outline
1. Pengantar AI dalam Credit Scoring
- Peran AI dan machine learning dalam kredit
- Jenis model (logistic regression, decision tree, ensemble, dll.)
- Perbandingan dengan model tradisional
2. Risiko dalam Model AI
- Algorithmic bias dan sumbernya
- Model error dan overfitting/underfitting
- Data leakage dan kualitas data
- Black box problem
3. Konsep Model Risk Management
- Definisi dan ruang lingkup
- Lifecycle model (development, validation, monitoring)
- Peran three lines of defense
4. Teknik Deteksi Bias
- Bias dalam data vs bias dalam model
- Fairness metrics (demographic parity, equal opportunity, dll.)
- Analisis segmentasi dan disparate impact
- Studi kasus bias dalam credit scoring
5. Evaluasi Performa Model
- Metrics evaluasi (accuracy, precision, recall, AUC, dll.)
- Stability dan robustness testing
- Backtesting dan out-of-sample testing
- Monitoring performa model
6. Explainability dan Transparansi
- Pentingnya interpretabilitas model
- Teknik explainability (SHAP, LIME, dll.)
- Komunikasi hasil model kepada stakeholder
- Dokumentasi model
7. Governance dan Kepatuhan
- Kebijakan dan prosedur model
- Audit dan validasi independen
- Kepatuhan terhadap regulasi
- Etika penggunaan AI
8. Mitigasi Risiko dan Best Practices
- Strategi mengurangi bias
- Model recalibration dan retraining
- Data governance
- Continuous monitoring
9. Studi Kasus dan Simulasi
- Audit model credit scoring sederhana
- Identifikasi bias dan error
- Penyusunan rekomendasi perbaikan
- Diskusi dan pembelajaran praktis
Participants
- Divisi Audit Internal
- Divisi Audit Internal IT
- Divisi Artificial Intelligence / Data Science
- Divisi Data Analytics / Risk Analytics
- Divisi Kredit
- Divisi Manajemen Risiko Kredit
- Divisi Risk Management
- Divisi Enterprise Risk Management (ERM)
- Divisi Governance, Risk & Compliance (GRC)
- Divisi Kepatuhan (Compliance)
- Divisi IT / Teknologi Informasi
- Divisi Model Risk Management (MRM)
Method
- Pre-test
- Presentation
- Discussion
- Case study
- Post-test
Facilities
- Ruang Meeting Representatif
- Sertifikat Pelatihan Resmi
- Instruktur Profesional & Berpengalaman
- Training Kit Eksklusif
- Souvenir
- Pick Up Participant (Yogyakarta)
