Gen-AI Risk Governance: Mengidentifikasi dan Mengelola Risiko Penggunaan Kecerdasan Buatan dalam Operasional Layanan Finansial
Gen-AI Risk Governance: Mengidentifikasi dan Mengelola Risiko Penggunaan Kecerdasan Buatan dalam Operasional Layanan Finansial
Description
Pemanfaatan Generative Artificial Intelligence (Gen-AI) dalam industri jasa keuangan berkembang sangat cepat dan mulai digunakan dalam berbagai aktivitas operasional, seperti customer service automation, fraud detection, credit analysis, document processing, chatbot, hingga penyusunan laporan dan analisis bisnis. Teknologi ini memberikan peluang besar bagi bank untuk meningkatkan efisiensi, produktivitas, dan kualitas layanan secara signifikan.
Namun, di balik manfaat tersebut, penggunaan Gen-AI juga menghadirkan berbagai risiko baru yang kompleks, seperti bias algoritma, kesalahan output (hallucination), kebocoran data sensitif, ketidakjelasan akuntabilitas keputusan AI, hingga risiko kepatuhan terhadap regulasi perlindungan data dan tata kelola teknologi. Jika tidak dikelola dengan baik, implementasi Gen-AI justru dapat meningkatkan risiko operasional, reputasi, hukum, dan keamanan informasi bagi institusi keuangan.
Objectives
- Memahami konsep dasar Generative AI dan penerapannya di sektor finansial.
- Mengidentifikasi risiko utama penggunaan AI dalam operasional bank.
- Memahami prinsip AI governance dan responsible AI.
- Mengevaluasi potensi risiko bias, hallucination, dan model error.
- Memahami implikasi hukum, kepatuhan, dan perlindungan data terkait AI.
- Mengembangkan framework pengelolaan risiko AI di organisasi.
- Menyusun kontrol internal dan mekanisme monitoring penggunaan AI.
- Meningkatkan kesiapan organisasi dalam implementasi AI yang aman dan berkelanjutan.
Course outline
1. Transformasi AI dalam Industri Finansial
- Perkembangan Generative AI di sektor keuangan
- Use case AI dalam operasional bank
- Peluang dan tantangan implementasi AI
- AI sebagai strategic business enabler
2. Konsep Dasar Gen-AI dan AI Ecosystem
- Cara kerja Generative AI
- Machine learning dan large language models
- Data training dan AI lifecycle
- Integrasi AI dalam sistem operasional bank
3. Risiko Penggunaan AI di Layanan Finansial
- Risiko bias algoritma
- Hallucination dan inaccurate output
- Risiko keamanan data dan privasi
- Risiko reputasi dan legal exposure
4. AI Governance dan Responsible AI
- Prinsip tata kelola AI
- Explainability dan transparency AI
- Human oversight dalam penggunaan AI
- Accountability dan governance structure
5. Regulatory & Compliance Perspective
- Regulasi terkait AI dan data privacy
- Kepatuhan terhadap UU PDP dan regulasi sektor keuangan
- AI ethics dan governance standards
- Auditability dan dokumentasi model AI
6. Framework Pengelolaan Risiko AI
- AI risk assessment methodology
- Risk classification dan materiality assessment
- Control framework untuk AI systems
- AI monitoring dan incident management
7. Pengendalian Internal dan Cybersecurity AI
- Access control dan data protection
- Third-party AI risk management
- Model validation dan testing
- Continuous monitoring AI performance
8.. Best Practice dan Studi Kasus
- Studi kasus kegagalan implementasi AI
- Best practice AI governance global
- Lessons learned sektor finansial
- Strategi implementasi AI governance roadmap
Participants
- Divisi Risk Management
- Divisi Enterprise Risk Management
- Divisi Artificial Intelligence & Automation
- Divisi Information Technology
- Divisi Digital Banking
- Divisi Governance, Risk & Compliance
- Divisi Operational Risk
- Divisi Model Risk Management
- Divisi Cyber Security
- Divisi Compliance & AML
- Divisi Data Governance
- Divisi Data Privacy & Protection
- Divisi Internal Audit
- Divisi Legal & Compliance
- Divisi Technology Risk Management
Method
- Pre-test
- Presentation
- Discussion
- Case study
- Post-test
Facilities
- Ruang Meeting Representatif
- Sertifikat Pelatihan Resmi
- Instruktur Profesional & Berpengalaman
- Training Kit Eksklusif
- Souvenir
- Pick Up Participant (Yogyakarta)
