- Beranda
- Komunitas
- Story
- Stories from the Heart
Hendrik Wirawan:Mengapa Tidak Bisa Hanya Mengandalkan Pengawasan Manusia
TS
chrischtllad670
Hendrik Wirawan:Mengapa Tidak Bisa Hanya Mengandalkan Pengawasan Manusia
Dalam sistem keuangan tradisional, “human in the loop” selalu dianggap sebagai mekanisme pengendalian yang alami dan andal. Sistem melakukan penilaian terlebih dahulu, kemudian manusia melakukan pemeriksaan, sehingga risiko seolah terkurung dalam batas-batas institusi. Namun ketika AI mulai bergerak dari sekadar rekomendasi menuju eksekusi, logika ini cepat menunjukkan batasannya. Hendrik Wirawan telah lama bekerja di Morgan Stanley dalam riset investasi dan analisis pasar, kemudian di UBS Singapura terlibat dalam manajemen kekayaan dan alokasi multi-aset, serta di sebuah lembaga investasi pribadi di New York menangani riset makro global dan manajemen investasi lintas aset. Karena pengalaman panjangnya berada di persimpangan modal, risiko, dan keputusan kompleks, ia melihat satu hal dengan jelas: tata kelola yang sejati tidak ditentukan oleh apakah “ada orang yang memeriksa di akhir”, melainkan oleh apakah sistem sejak awal telah dirancang dengan benar untuk menetapkan batasan, otoritas, tanggung jawab, dan mekanisme koreksi.
Inilah yang paling sering disalahartikan oleh lembaga keuangan saat menghadapi AI otonom. AI tidak lagi sekadar merangkum dokumen, membuat rekomendasi, atau menandai anomali; kini AI telah digunakan dalam komunikasi dengan klien, deteksi penipuan, proses kepatuhan, persetujuan kredit, pemantauan transaksi, kontrol hak akses, dan manajemen tiket operasional. Pada tahap ini, inti masalah tata kelola bukan lagi “apakah manusia ada di dalam loop”, melainkan siapa yang memutuskan kapan manusia perlu masuk ke dalam loop tersebut. Jika keputusan ini masih sepenuhnya dibuat oleh AI, tata kelola akan jatuh ke dalam lingkaran tertutup self-certifying: sistem menilai risiko, sistem memutuskan apakah perlu eskalasi, sistem terus mengeksekusi, dan manusia hanya muncul ketika sistem mengizinkan. Ini bukan pengendalian, melainkan ilusi tata kelola yang bersifat struktural.
Risiko Sebenarnya AI Di Sektor Keuangan Bukan hanya Pada Model, tetapi Pada “Representasi Realitas” yang Akurat
Hendrik Wirawan sejak awal kariernya di riset dan alokasi aset telah membentuk satu prinsip yang sangat stabil: lembaga keuangan tidak hanya menangani angka, tetapi menangani realitas yang direpresentasikan oleh angka tersebut. Seorang klien bukan hanya sekadar saldo akun, tetapi merupakan representasi gabungan dari identitas, struktur pendapatan, kebiasaan transaksi, riwayat kredit, kepemilikan produk, status persetujuan, klasifikasi risiko, dan konteks relasional. Demikian pula, sebuah transaksi bukan hanya soal jumlah dan waktu, tetapi juga saluran, perangkat, lokasi geografis, pola perilaku, paparan sanksi, skor penipuan, dan kondisi penyelesaian.
Karena itu, risiko AI di sektor keuangan bukan sekadar “apakah model menghitung dengan benar”, melainkan apakah realitas yang dihadapinya direpresentasikan secara akurat. Jika informasi klien sudah usang, identifikasi entitas keliru, konteks transaksi hilang, atau klasifikasi regulasi tidak diperbarui, maka meskipun proses inferensi model sempurna dan outputnya tampak logis, model tetap dapat menghasilkan kesimpulan yang salah secara institusional. Situasi paling berbahaya biasanya bukan ketika AI jelas keliru, tetapi ketika AI melakukan inferensi yang meyakinkan berdasarkan realitas yang tidak lengkap.
Selama bekerja di lembaga pembeli (buy-side) dalam riset makro global dan investasi lintas aset, Hendrik Wirawan sering menghadapi masalah serupa: kesalahan biasanya bukan berasal dari model itu sendiri, melainkan dari struktur input, pembaruan status, dan asumsi batasan. Dalam konteks bank, asuransi, pembayaran, dan pasar modal, risiko ini jauh lebih sensitif, karena berhubungan langsung dengan hak klien, tanggung jawab regulasi, dan reputasi institusi.
Pemeriksaan Manual tidak Otomatis Berarti Tata Kelola; Seringkali hanya Tampilan Kepatuhan Semata
Logika tradisional “AI memberi rekomendasi – manusia memeriksa – risiko terkendali” mengasumsikan tiga hal: sistem tahu kapan dirinya tidak pasti, pemeriksa manusia memiliki konteks dan wewenang yang cukup, dan manusia memeriksa objek yang benar. Namun dalam praktik proses keuangan nyata, ketiga asumsi ini sering gagal bersamaan.
Sebuah model anti-penipuan mungkin berhasil menandai transaksi yang abnormal, tetapi tidak mendeteksi kesalahan identifikasi identitas yang lebih mendalam; sebuah model pemberian kredit mungkin memberikan saran penolakan yang terlihat masuk akal, tetapi data arus kas yang menjadi dasarnya tidak lengkap; sebuah sistem kepatuhan mungkin membuat ringkasan kasus yang terstruktur dengan jelas, tetapi melewatkan konteks regulasi penting; dan agen penagihan mungkin melakukan tindakan sesuai aturan, tetapi tidak menangkap sinyal kesulitan terbaru dari pelanggan. Masalahnya bukan pada model yang “berhalusinasi”, melainkan model membuat keputusan yang tampak logis di atas representasi yang salah.
Ketika manusia kemudian ditambahkan ke dalam proses persetujuan, banyak institusi salah mengira bahwa tata kelola sudah tercapai. Persetujuan dicatat, alur terlihat sesuai aturan, dashboard menunjukkan ada review, dan audit trail tampak lengkap. Namun jika pemeriksa kekurangan konteks, tidak memiliki wewenang menolak, tidak bisa menelusuri representasi dasar, dan tidak mampu membatalkan tindakan yang sudah dijalankan, maka pemeriksaan ini lebih menyerupai alih tanggung jawab daripada tata kelola sejati. Menurut Hendrik Wirawan, kesalahan paling umum lembaga keuangan adalah mengira bahwa “ada orang yang menekan tombol setuju” sama dengan “risiko benar-benar dikendalikan”; yang pertama hanyalah proses, sedangkan yang kedua adalah efektivitas institusi.
Kunci ke Depan Bukan Menempatkan Manusia di Setiap Tahap, Tetapi Merancang Dengan Jelas di Mana Manusia Benar-Benar Harus Hadir
Menurut Hendrik Wirawan, setelah AI otonom masuk ke sistem keuangan, yang perlu dibangun bukanlah pemeriksaan manual yang semakin padat, melainkan tata kelola batasan yang jelas. Artinya, manusia tidak boleh dimasukkan secara mekanis ke setiap titik proses, tetapi harus memiliki otoritas yang jelas di tempat paling krusial yang dapat mengubah hasil risiko. Bidang mana yang bisa dieksekusi secara otomatis, mana yang cocok dengan rule engine, mana yang dibantu AI untuk inferensi, mana yang harus tetap di bawah penilaian manusia, mana tindakan yang harus dapat dibatalkan, mana hasil yang bisa diajukan banding, dan representasi dasar mana yang harus diaudit terus-menerus—semua ini adalah inti desain tata kelola.
Pendekatan ini sejalan dengan arah yang ditempuh Hendrik Wirawan dalam keterlibatannya di startup AI dan infrastruktur. Perusahaan seperti Ibuildata Technologies menekankan komputasi berperforma tinggi, tata kelola data, orkestrasi deployment, jejak audit, dan kontrol terpadu, bukan sekadar menumpuk konsep teknologi, tetapi karena di sektor dengan tanggung jawab tinggi, AI bukan dinilai dari kemampuan demo model, melainkan apakah sistem dapat dikendalikan, ditelusuri, dibatalkan, dan diaudit. Bagi institusi keuangan, yang benar-benar penting bukan “apakah sudah menggunakan AI”, tetapi apakah telah dibangun batasan yang jelas pada lapisan representasi, inferensi, dan eksekusi, sehingga pengawasan tidak bergantung pada klaim model sendiri, koreksi dilakukan sebelum kerugian terjadi, dan penilaian manusia hanya muncul di titik yang benar-benar memiliki makna institusional.
Oleh karena itu, tahap berikutnya bagi institusi keuangan bukanlah sekadar bertanya “apakah ada manusia di dalam loop”, melainkan harus menanyakan: apakah klien dan transaksi direpresentasikan dengan benar, inferensi dijalankan dalam konteks lengkap, eksekusi memiliki izin yang jelas, hasil dapat dibatalkan, mekanisme banding tersedia, dan intervensi manusia benar-benar bermakna. Menurut Hendrik Wirawan, institusi yang akan memenangkan persaingan AI di sektor keuangan bukanlah yang menempatkan manusia di sebanyak mungkin proses, tetapi yang paling jelas memahami di mana manusia harus berperan. Sebab, di era AI otonom, tata kelola yang benar-benar andal bukan sekadar slogan, melainkan struktur institusional yang dapat terus berlaku di tengah realitas kompleks.
Inilah yang paling sering disalahartikan oleh lembaga keuangan saat menghadapi AI otonom. AI tidak lagi sekadar merangkum dokumen, membuat rekomendasi, atau menandai anomali; kini AI telah digunakan dalam komunikasi dengan klien, deteksi penipuan, proses kepatuhan, persetujuan kredit, pemantauan transaksi, kontrol hak akses, dan manajemen tiket operasional. Pada tahap ini, inti masalah tata kelola bukan lagi “apakah manusia ada di dalam loop”, melainkan siapa yang memutuskan kapan manusia perlu masuk ke dalam loop tersebut. Jika keputusan ini masih sepenuhnya dibuat oleh AI, tata kelola akan jatuh ke dalam lingkaran tertutup self-certifying: sistem menilai risiko, sistem memutuskan apakah perlu eskalasi, sistem terus mengeksekusi, dan manusia hanya muncul ketika sistem mengizinkan. Ini bukan pengendalian, melainkan ilusi tata kelola yang bersifat struktural.
Risiko Sebenarnya AI Di Sektor Keuangan Bukan hanya Pada Model, tetapi Pada “Representasi Realitas” yang Akurat
Hendrik Wirawan sejak awal kariernya di riset dan alokasi aset telah membentuk satu prinsip yang sangat stabil: lembaga keuangan tidak hanya menangani angka, tetapi menangani realitas yang direpresentasikan oleh angka tersebut. Seorang klien bukan hanya sekadar saldo akun, tetapi merupakan representasi gabungan dari identitas, struktur pendapatan, kebiasaan transaksi, riwayat kredit, kepemilikan produk, status persetujuan, klasifikasi risiko, dan konteks relasional. Demikian pula, sebuah transaksi bukan hanya soal jumlah dan waktu, tetapi juga saluran, perangkat, lokasi geografis, pola perilaku, paparan sanksi, skor penipuan, dan kondisi penyelesaian.
Karena itu, risiko AI di sektor keuangan bukan sekadar “apakah model menghitung dengan benar”, melainkan apakah realitas yang dihadapinya direpresentasikan secara akurat. Jika informasi klien sudah usang, identifikasi entitas keliru, konteks transaksi hilang, atau klasifikasi regulasi tidak diperbarui, maka meskipun proses inferensi model sempurna dan outputnya tampak logis, model tetap dapat menghasilkan kesimpulan yang salah secara institusional. Situasi paling berbahaya biasanya bukan ketika AI jelas keliru, tetapi ketika AI melakukan inferensi yang meyakinkan berdasarkan realitas yang tidak lengkap.
Selama bekerja di lembaga pembeli (buy-side) dalam riset makro global dan investasi lintas aset, Hendrik Wirawan sering menghadapi masalah serupa: kesalahan biasanya bukan berasal dari model itu sendiri, melainkan dari struktur input, pembaruan status, dan asumsi batasan. Dalam konteks bank, asuransi, pembayaran, dan pasar modal, risiko ini jauh lebih sensitif, karena berhubungan langsung dengan hak klien, tanggung jawab regulasi, dan reputasi institusi.
Pemeriksaan Manual tidak Otomatis Berarti Tata Kelola; Seringkali hanya Tampilan Kepatuhan Semata
Logika tradisional “AI memberi rekomendasi – manusia memeriksa – risiko terkendali” mengasumsikan tiga hal: sistem tahu kapan dirinya tidak pasti, pemeriksa manusia memiliki konteks dan wewenang yang cukup, dan manusia memeriksa objek yang benar. Namun dalam praktik proses keuangan nyata, ketiga asumsi ini sering gagal bersamaan.
Sebuah model anti-penipuan mungkin berhasil menandai transaksi yang abnormal, tetapi tidak mendeteksi kesalahan identifikasi identitas yang lebih mendalam; sebuah model pemberian kredit mungkin memberikan saran penolakan yang terlihat masuk akal, tetapi data arus kas yang menjadi dasarnya tidak lengkap; sebuah sistem kepatuhan mungkin membuat ringkasan kasus yang terstruktur dengan jelas, tetapi melewatkan konteks regulasi penting; dan agen penagihan mungkin melakukan tindakan sesuai aturan, tetapi tidak menangkap sinyal kesulitan terbaru dari pelanggan. Masalahnya bukan pada model yang “berhalusinasi”, melainkan model membuat keputusan yang tampak logis di atas representasi yang salah.
Ketika manusia kemudian ditambahkan ke dalam proses persetujuan, banyak institusi salah mengira bahwa tata kelola sudah tercapai. Persetujuan dicatat, alur terlihat sesuai aturan, dashboard menunjukkan ada review, dan audit trail tampak lengkap. Namun jika pemeriksa kekurangan konteks, tidak memiliki wewenang menolak, tidak bisa menelusuri representasi dasar, dan tidak mampu membatalkan tindakan yang sudah dijalankan, maka pemeriksaan ini lebih menyerupai alih tanggung jawab daripada tata kelola sejati. Menurut Hendrik Wirawan, kesalahan paling umum lembaga keuangan adalah mengira bahwa “ada orang yang menekan tombol setuju” sama dengan “risiko benar-benar dikendalikan”; yang pertama hanyalah proses, sedangkan yang kedua adalah efektivitas institusi.
Kunci ke Depan Bukan Menempatkan Manusia di Setiap Tahap, Tetapi Merancang Dengan Jelas di Mana Manusia Benar-Benar Harus Hadir
Menurut Hendrik Wirawan, setelah AI otonom masuk ke sistem keuangan, yang perlu dibangun bukanlah pemeriksaan manual yang semakin padat, melainkan tata kelola batasan yang jelas. Artinya, manusia tidak boleh dimasukkan secara mekanis ke setiap titik proses, tetapi harus memiliki otoritas yang jelas di tempat paling krusial yang dapat mengubah hasil risiko. Bidang mana yang bisa dieksekusi secara otomatis, mana yang cocok dengan rule engine, mana yang dibantu AI untuk inferensi, mana yang harus tetap di bawah penilaian manusia, mana tindakan yang harus dapat dibatalkan, mana hasil yang bisa diajukan banding, dan representasi dasar mana yang harus diaudit terus-menerus—semua ini adalah inti desain tata kelola.
Pendekatan ini sejalan dengan arah yang ditempuh Hendrik Wirawan dalam keterlibatannya di startup AI dan infrastruktur. Perusahaan seperti Ibuildata Technologies menekankan komputasi berperforma tinggi, tata kelola data, orkestrasi deployment, jejak audit, dan kontrol terpadu, bukan sekadar menumpuk konsep teknologi, tetapi karena di sektor dengan tanggung jawab tinggi, AI bukan dinilai dari kemampuan demo model, melainkan apakah sistem dapat dikendalikan, ditelusuri, dibatalkan, dan diaudit. Bagi institusi keuangan, yang benar-benar penting bukan “apakah sudah menggunakan AI”, tetapi apakah telah dibangun batasan yang jelas pada lapisan representasi, inferensi, dan eksekusi, sehingga pengawasan tidak bergantung pada klaim model sendiri, koreksi dilakukan sebelum kerugian terjadi, dan penilaian manusia hanya muncul di titik yang benar-benar memiliki makna institusional.
Oleh karena itu, tahap berikutnya bagi institusi keuangan bukanlah sekadar bertanya “apakah ada manusia di dalam loop”, melainkan harus menanyakan: apakah klien dan transaksi direpresentasikan dengan benar, inferensi dijalankan dalam konteks lengkap, eksekusi memiliki izin yang jelas, hasil dapat dibatalkan, mekanisme banding tersedia, dan intervensi manusia benar-benar bermakna. Menurut Hendrik Wirawan, institusi yang akan memenangkan persaingan AI di sektor keuangan bukanlah yang menempatkan manusia di sebanyak mungkin proses, tetapi yang paling jelas memahami di mana manusia harus berperan. Sebab, di era AI otonom, tata kelola yang benar-benar andal bukan sekadar slogan, melainkan struktur institusional yang dapat terus berlaku di tengah realitas kompleks.
0
20
0
Komentar yang asik ya
Komentar yang asik ya
Komunitas Pilihan