Implementing Secure AI: Tantangan dan Etika Penggunaan Machine Learning dalam Sistem Deteksi Fraud & Credit Scoring
Implementing Secure AI: Tantangan dan Etika Penggunaan Machine Learning dalam Sistem Deteksi Fraud & Credit Scoring
Description
Pemanfaatan Machine Learning (ML) dan kecerdasan buatan dalam sektor perbankan telah berkembang pesat, khususnya dalam area kritikal seperti deteksi fraud dan penilaian kredit (credit scoring). Teknologi ini memungkinkan analisis data dalam skala besar secara cepat dan akurat, membantu bank mengidentifikasi pola transaksi mencurigakan, meminimalkan risiko kredit, serta meningkatkan kualitas pengambilan keputusan.
Namun, di balik keunggulan tersebut, terdapat tantangan signifikan yang tidak dapat diabaikan. Model ML sering kali beroperasi sebagai black box, sehingga sulit untuk dijelaskan secara transparan kepada regulator maupun nasabah. Selain itu, risiko bias dalam data dapat menghasilkan keputusan yang tidak adil, terutama dalam konteks pemberian kredit. Kesalahan model juga dapat berdampak serius, baik dari sisi finansial maupun reputasi.
Dari perspektif keamanan, sistem berbasis AI juga menghadapi ancaman baru, seperti data poisoning, model evasion, dan adversarial attacks yang dapat dimanfaatkan oleh pelaku fraud untuk mengelabui sistem. Hal ini menjadikan kebutuhan akan Secure AI sebagai aspek krusial dalam pengembangan dan implementasi solusi berbasis ML di sektor perbankan.
Objectives
- Memahami konsep Machine Learning dalam konteks deteksi fraud dan credit scoring
- Mengidentifikasi risiko keamanan dalam sistem berbasis AI
- Memahami tantangan bias dan fairness dalam model ML
- Menerapkan prinsip Secure AI dalam pengembangan model
- Memahami konsep explainability dan transparency dalam AI
- Mengelola risiko etika dan kepatuhan dalam penggunaan AI
- Mengembangkan strategi mitigasi terhadap serangan pada model ML
- Memastikan implementasi AI yang bertanggung jawab dan berkelanjutan
Course outline
1. Pengenalan Machine Learning dalam Perbankan
- Konsep dasar Machine Learning
- Use case ML: fraud detection & credit scoring
- Jenis model (supervised, unsupervised, dll.)
- Studi kasus implementasi
2. Arsitektur Sistem AI untuk Fraud & Credit Scoring
- Data pipeline dan feature engineering
- Model training dan deployment
- Real-time vs batch processing
- Integrasi dengan sistem perbankan
3. Risiko Keamanan dalam AI
- Data poisoning
- Model evasion dan adversarial attack
- Model theft dan data leakage
- Vulnerability dalam pipeline ML
4. Prinsip Secure AI
- Secure development lifecycle untuk AI
- Data protection dan access control
- Monitoring dan model governance
- Audit dan logging
5. Bias, Fairness, dan Etika AI
- Sumber bias dalam data dan model
- Dampak bias pada keputusan kredit
- Teknik mitigasi bias
- Prinsip keadilan dan inklusivitas
6. Explainability dan Transparency
- Pentingnya explainable AI (XAI)
- Teknik interpretasi model (LIME, SHAP, dll.)
- Komunikasi hasil model kepada stakeholder
- Kepatuhan terhadap regulasi
7. Governance dan Compliance
- Regulasi terkait AI di sektor keuangan
- Model risk management
- Dokumentasi dan audit model
- AI governance framework
8. Studi Kasus dan Implementasi
- Analisis kasus fraud detection
- Simulasi identifikasi bias dalam model
- Workshop penyusunan AI governance
- Penyusunan action plan implementasi Secure AI
Participants
- Divisi Artificial Intelligence / Data Science
- Divisi Data Analytics / Business Intelligence
- Divisi Fraud Management / Anti Fraud
- Divisi Kredit / Credit Scoring
- Divisi Manajemen Risiko
- Divisi Enterprise Risk Management (ERM)
- Divisi Kepatuhan (Compliance)
- Divisi Governance, Risk & Compliance (GRC)
- Divisi IT / Teknologi Informasi
- Divisi Cyber Security
- Divisi Data Governance / Data Management
- Divisi Audit Internal
Method
- Pre-test
- Presentation
- Discussion
- Case study
- Post-test
Facilities
- Ruang Meeting Representatif
- Sertifikat Pelatihan Resmi
- Instruktur Profesional & Berpengalaman
- Training Kit Eksklusif
- Souvenir
- Pick Up Participant (Yogyakarta)
