AI dalam Kepatuhan Bukanlah Kotak Hitam — Ini adalah Ujian Akuntabilitas: Wawancara dengan Roman Eloshvili

Roman Eloshvili adalah pendiri ComplyControl, sebuah startup deteksi kepatuhan dan penipuan berbasis AI untuk lembaga keuangan.

Temukan berita dan acara fintech teratas!

Berlangganan newsletter FinTech Weekly

Dibaca oleh eksekutif di JP Morgan, Coinbase, Blackrock, Klarna dan lainnya

Apa yang sebenarnya diuji AI dalam Kepatuhan: Teknologi, atau Kita?

Dalam layanan keuangan, kepatuhan tidak lagi sekadar fungsi. Ini adalah titik tekanan aktif—tempat regulasi, risiko, dan operasi bertabrakan. Seiring diperkenalkannya teknologi AI ke dalam ruang ini, satu pertanyaan terus muncul: seberapa banyak yang benar-benar bisa kita otomatisasi, dan siapa yang tetap bertanggung jawab ketika terjadi kesalahan?

Daya tarik AI dalam deteksi penipuan dan kepatuhan mudah dipahami. Lembaga keuangan menghadapi harapan yang semakin tinggi untuk memproses data dalam jumlah besar, merespons ancaman yang berkembang, dan mematuhi regulasi yang berubah—semua tanpa mengorbankan kecepatan atau akurasi. Otomatisasi, terutama yang didorong oleh pembelajaran mesin, menawarkan cara untuk mengurangi beban operasional. Tapi ini juga menimbulkan kekhawatiran yang lebih dalam tentang tata kelola, keterbukaan, dan kendali.

Ketegangan ini bukanlah teori. Mereka sedang berlangsung secara nyata, saat perusahaan keuangan menerapkan model AI ke peran yang secara tradisional diisi oleh analis manusia. Di balik layar, risiko baru muncul: positif palsu, titik buta audit, dan keputusan algoritmik yang tetap tidak transparan bagi pengguna maupun regulator.

Pada saat yang sama, profesional kepatuhan diminta untuk mengubah peran mereka. Alih-alih memeriksa setiap transaksi secara manual, mereka sekarang mengawasi alat yang melakukannya. Reframing ini—dari pelaksana menjadi evaluator—memerlukan tidak hanya keterampilan teknis baru, tetapi juga rasa tanggung jawab etis dan prosedural yang lebih kuat. AI dapat memperluas analisis data. Ia dapat menandai inkonsistensi. Tapi ia tidak dapat sepenuhnya menjelaskan niat, menafsirkan konteks, atau menanggung kesalahan.

Memahami batasan ini sangat penting. Dan sedikit orang yang lebih tepat untuk mengeksplorasi hal ini daripada Roman Eloshvili, pendiri perusahaan teknologi kepatuhan berbasis di Inggris, ComplyControl. Karyanya berada tepat di persimpangan risiko, otomatisasi, dan pengawasan—di mana efisiensi algoritmik bertemu dengan pengawasan regulasi.

Dengan pengalaman lebih dari satu dekade di bidang ini, Roman telah melihat secara langsung bagaimana tim kepatuhan berkembang dan bagaimana AI mengubah alur kerja serta tanggung jawab mereka. Ia berpendapat bahwa janji AI tidak terletak pada menghilangkan peran manusia, tetapi dalam membentuk ulangnya—memberikan kejelasan baru tentang apa yang harus ditangani mesin, dan apa yang harus tetap dimiliki manusia.

Perubahan ini menuntut lebih dari sekadar peningkatan teknis. Ia menuntut penyesuaian budaya terkait akuntabilitas. Sistem transparan, proses yang dapat diaudit, dan tanggung jawab manusia yang jelas bukan lagi sekadar fitur—mereka adalah standar minimum. Ketika AI diperkenalkan ke infrastruktur kritis, ia tidak hanya menyelesaikan masalah. Ia memperkenalkan kategori keputusan baru yang memerlukan pengelolaan aktif dan strategis.

Dalam wawancara ini untuk FinTech Weekly, Roman menawarkan pandangan yang berlandaskan realitas tentang apa yang diperlukan untuk mengintegrasikan AI secara bertanggung jawab ke dalam kepatuhan dan pencegahan penipuan. Perspektifnya tidak memandang otomatisasi sebagai takdir, tetapi sebagai pilihan—yang membutuhkan penilaian manusia yang berkelanjutan, kejelasan operasional, dan keberanian untuk mengajukan pertanyaan sulit tentang di mana kepercayaan benar-benar berada.

Kami senang membagikan wawasan beliau di saat banyak pelaku fintech bertanya bukan tentang apakah akan mengadopsi AI—tetapi bagaimana melakukannya tanpa kehilangan standar yang membuat sistem keuangan berfungsi sejak awal.

1. Anda telah membangun karier di persimpangan antara kepatuhan dan teknologi. Bisakah Anda mengingat momen ketika Anda menyadari bahwa AI bisa secara fundamental mengubah cara manajemen risiko dilakukan?

Saya tidak akan mengatakan itu hanya satu momen spesifik yang mengubah segalanya. Lebih tepatnya, itu adalah proses yang tersebar. Saya menghabiskan sebagian besar karier saya bekerja dengan bank-bank Eropa yang sudah mapan, dan satu hal yang terus saya perhatikan adalah banyak dari mereka tertinggal dalam hal solusi perbankan digital. Kontrasnya sangat jelas dibandingkan dengan pusat fintech yang lebih maju.

Beberapa tahun lalu, ketika topik pengembangan AI mulai kembali memanas, saya secara alami menjadi penasaran dan mulai menelitinya. Dan saat saya mempelajari teknologi dan cara kerjanya, saya menyadari bahwa kecerdasan buatan memiliki potensi untuk secara drastis mengubah cara bank mengelola kepatuhan mereka, membuat mereka lebih sejajar dengan pemain fintech modern yang lebih gesit.

Itulah yang mendorong saya untuk meluncurkan perusahaan saya pada 2023. Kompleksitas kepatuhan dan manajemen risiko terus berkembang dari tahun ke tahun. Menghadapi kenyataan ini, misi kami sederhana: membawa solusi berbasis AI ke perusahaan keuangan dan membantu mereka menghadapi tantangan yang semakin besar ini dengan cara yang lebih efektif.

2. Dari sudut pandang profesional Anda, bagaimana peran spesialis manusia berkembang seiring AI menjadi lebih canggih dalam kepatuhan dan deteksi penipuan?

Sebelum saya mengungkapkan hal lain, izinkan saya langsung mengatasi satu hal. Ada kekhawatiran umum di banyak bidang apakah AI akan menggantikan pekerja manusia. Dan sejauh menyangkut profesional kepatuhan dan risiko, jawaban saya adalah tidak—setidaknya, tidak dalam waktu dekat.

Meskipun kecerdasan buatan sudah mengubah industri kita, ia jauh dari sempurna. Jadi, keterlibatan manusia tetap menjadi faktor penting. Regulasi kepatuhan selalu berubah, dan seseorang harus mampu bertanggung jawab ketika sistem gagal mengikuti atau membuat kesalahan. Pada tingkat perkembangan saat ini, AI masih kesulitan menjelaskan keputusannya secara jelas, jadi ia belum siap untuk dibiarkan sendiri. Apalagi di bidang di mana kepercayaan dan transparansi sangat penting.

Namun demikian, AI secara aktif mempermudah proses kepatuhan. Misalnya, tergantung konfigurasi, sistem AI kini dapat menandai transaksi mencurigakan atau bahkan memblokirnya sementara sambil meminta verifikasi lebih lanjut. Tidak perlu manusia nyata memeriksa setiap detail secara manual, kecuali ada sesuatu yang benar-benar mencurigakan. Dan seiring evolusi sistem ini, mereka akan terus mengurangi kebutuhan kerja manual, memungkinkan tim lebih fokus pada tugas-tugas bernuansa yang benar-benar membutuhkan sentuhan manusia.

Saya percaya kita akan melihat munculnya model hibrida, di mana para ahli kepatuhan juga akan semakin mahir menggunakan alat AI. Mereka akan menjadi yang mengimplementasikan dan memelihara sistem AI sementara AI sendiri akan menyederhanakan pekerjaan mereka dengan memahami data kompleks dan memberikan rekomendasi. Keputusan akhir, bagaimanapun, akan tetap di tangan manusia.

3. Saat bekerja dengan AI di bidang sensitif seperti kepatuhan keuangan, bagaimana Anda secara pribadi mendekati tantangan menjaga kepercayaan dan akuntabilitas dalam pengambilan keputusan?

Tentu. Seperti yang sudah saya sebutkan, saat menggunakan AI dalam kepatuhan, kepercayaan sangat penting.

Itulah sebabnya kami membangun sistem AI kami agar sepenuhnya transparan. Mereka tidak beroperasi seperti “kotak hitam”—setiap rekomendasi yang dibuat sistem didasarkan pada aturan dan data yang dapat dilacak. Kami menyimpan jejak audit lengkap tentang bagaimana setiap keputusan dibuat, sehingga dapat sepenuhnya dijelaskan. Praktik ini sudah terbukti sangat berharga saat berurusan dengan regulator.

Keputusan akhir selalu berada di tangan petugas kepatuhan. AI hanya menawarkan saran yang didasarkan alasan yang dapat dipertanggungjawabkan, yang kemudian dapat dengan mudah diperiksa manusia dan diputuskan apakah akan disetujui atau ditolak.

4. Pengalaman Anda lebih dari 10 tahun. Bagaimana pola pikir Anda tentang otomatisasi dan pengawasan manusia telah berubah selama karier Anda, terutama sekarang dengan AI yang menjadi lebih otonom?

Pasti. Secara umum, tentang adopsi AI, semakin maju teknologi ini, semakin kita memberi otonomi secara bertahap—selama pengujian dilakukan secara menyeluruh dan terus membuktikan keandalannya.

Tapi yang bahkan lebih berubah adalah peran spesialis manusia dalam ekosistem ini. Alih-alih mengelola setiap kasus secara mikro, petugas kepatuhan kini semakin berperan sebagai pengawas strategis. Mereka dapat meninjau seluruh batch kasus serupa dalam waktu singkat, memvalidasi kinerja sistem, dan menyesuaikan model berdasarkan hasil.

Dengan kata lain, peran de facto petugas kepatuhan beralih dari melakukan pekerjaan secara manual menuju mengelola sistem AI yang melakukannya untuk mereka.

5. Bekerja di bidang manajemen risiko berbasis AI berarti menavigasi pertanyaan etika yang kompleks. Bagaimana Anda secara pribadi mengembangkan kerangka kerja untuk membuat pilihan yang bertanggung jawab saat merancang atau menerapkan solusi berbasis AI?

Kami membangun pendekatan kami berdasarkan dua ide utama: pengawasan yang jelas dan prinsip AI Bertanggung Jawab. Setiap model yang kami gunakan memiliki orang yang ditugaskan bertanggung jawab atasnya. Penilaian risiko, tinjauan kinerja, dan pemeriksaan kepatuhan dilakukan secara rutin.

Kami juga memastikan sistem kami dapat diaudit. Jika algoritma membuat keputusan, proses tersebut dapat ditinjau dan diverifikasi. Transparansi ini adalah bagian inti dari komitmen kami terhadap pengembangan AI yang bertanggung jawab.

6. Dalam perjalanan Anda, apa pelajaran profesional tersulit yang Anda pelajari tentang batasan—atau risiko—mengandalkan otomatisasi secara berlebihan di bidang kritis seperti pencegahan penipuan?

Salah satu pelajaran yang pasti harus diingat adalah bahwa bahkan model yang dilatih dengan baik pun bisa “mengalami halusinasi”—membuat kesalahan secara halus namun serius.

AI bisa melewatkan skema penipuan yang kompleks, atau memicu terlalu banyak peringatan palsu. Itulah mengapa menggabungkan AI dengan keahlian manusia sangat penting—manusia membawa penilaian yang fleksibel dan lebih baik dalam menilai etika serta konteks secara keseluruhan yang tidak mampu dilakukan AI.

Keseimbangan antara keduanya menjanjikan hasil yang lebih baik dan lebih dapat diandalkan. AI dapat digunakan untuk menangani volume tugas yang besar dan menyederhanakan kompleksitasnya, sementara manusia tetap menjaga tingkat akurasi dan kepercayaan yang sesuai.

7. Untuk profesional muda yang memasuki bidang kepatuhan, manajemen risiko, atau pengembangan AI saat ini, prinsip pribadi atau kebiasaan apa yang akan Anda sarankan agar mereka kembangkan untuk sukses dan beradaptasi dalam lingkungan yang sangat cepat berubah ini?

Pertama dan utama: jangan pernah berhenti belajar. Kemajuan teknologi tidak punya tombol “pause,” dan Anda harus terus mengikuti atau tertinggal. Tidak ada jalan tengah di sini.

Kedua, berpikirlah secara luas. Dengan kemajuan AI, garis antara peran semakin kabur—teknologi, keuangan, dan regulasi menjadi satu paket. Saya yakin memiliki keahlian yang luas dan pikiran terbuka akan menjadi ciri utama profesional masa depan di bidang ini.

Ketiga—dan ini adalah kelanjutan alami dari dua poin sebelumnya—bersikaplah adaptif. Perubahan adalah konstan, dan kemampuan untuk menyesuaikan diri dengan cepat akan menjadi keunggulan besar.

Dan terakhir, kembangkan keterampilan komunikasi yang kuat dan belajar menjadi pemain tim. Seperti yang sudah kita bahas, kepatuhan berada di persimpangan bisnis, teknologi, dan hukum. Oleh karena itu, mampu beradaptasi dan berbicara dengan orang dari berbagai dunia ini akan menjadi keterampilan berharga yang harus dimiliki.