Jakarta – Perkembangan kecerdasan buatan yang kian mampu bekerja secara mandiri membuat persoalan etika tidak lagi dapat ditempatkan sebagai pelengkap. Pemerintah menilai prinsip-prinsip etis harus hadir sejak teknologi tersebut mulai dirancang, bukan setelah produk digunakan masyarakat.
Wakil Menteri Komunikasi dan Digital Nezar Patria menegaskan pengembangan kecerdasan buatan atau artificial intelligence (AI) perlu mengadopsi pendekatan ethics by design. Pendekatan tersebut menempatkan transparansi, akuntabilitas, keamanan, serta mitigasi risiko sebagai bagian yang melekat sejak tahap awal pengembangan sistem AI. Pernyataan itu disampaikan dalam Indonesia Ethical AI Summit 2026 di Jakarta, Rabu (17/6).
Menurut Nezar, dunia saat ini mengalami perubahan cara pandang terhadap etika AI. Jika sebelumnya penerapan prinsip etika lebih banyak bersifat sukarela, kini komunitas global mulai menuntut adanya bukti nyata bahwa prinsip-prinsip tersebut benar-benar diterapkan dalam produk dan layanan yang digunakan publik.
“ Saya kira sudah saatnya para pengembang AI dan juga komunitas yang mengadopsi AI tidak lagi hanya bicara soal prinsip-prinsip yang diikuti secara sukarela. Sekarang secara global ada pergeseran yang kita sebut sebagai ethical drift, di mana prinsip-prinsip itu harus dihadirkan sebagai bukti-bukti,” ujar Nezar Patria dalam Indonesia Ethical AI Summit 2026 di Jakarta, Rabu (17/6/26).
Perhatian terhadap etika semakin mengemuka seiring munculnya teknologi agentic AI, yaitu sistem kecerdasan buatan yang mampu menjalankan tugas secara mandiri dan berinteraksi dengan sistem lain tanpa campur tangan manusia secara langsung.
Teknologi tersebut mulai digunakan dalam berbagai layanan, mulai dari sektor keuangan hingga sistem pemesanan tiket. AI dapat berkomunikasi dengan AI lainnya untuk menyelesaikan proses tertentu secara otomatis. Kemampuan tersebut menjanjikan efisiensi yang lebih tinggi, tetapi sekaligus menghadirkan tantangan baru terkait tanggung jawab dan pengawasan.
Nezar menilai delegasi kewenangan kepada mesin harus diikuti dengan mekanisme akuntabilitas yang jelas. Tanpa pengaturan sejak awal, sistem yang dirancang untuk membantu manusia justru dapat memunculkan risiko yang tidak diinginkan.
Ia mencontohkan simulasi penggunaan agentic AI di Kanada untuk menangani penumpang pesawat yang terdampak pembatalan dan penundaan penerbangan akibat cuaca buruk. Dalam simulasi itu, AI mampu memangkas waktu pemindahan penumpang dari delapan hingga sepuluh jam menjadi kurang dari dua jam.
Namun, efisiensi tersebut ternyata tidak sepenuhnya bebas dari kesalahan. Pada salah satu simulasi, sekitar 1.200 penumpang justru ditempatkan pada penerbangan yang tidak sesuai.
“Jadi shifting left berarti kita mau mengecek kembali dari awal. Dari awal harus dipastikan bahwa semua regulasi-regulasi mengenai etis yang mengatur artificial intelligence itu harus diadopsi oleh pengembang AI atau mereka yang mengadopsi teknologi AI,” kata Nezar Patria saat Indonesia Ethical AI Summit 2026 di Jakarta, Rabu (17/6/26).
Pendekatan yang disebut shifting left itu menitikberatkan pada pengawasan sejak fase desain. Dengan demikian, aspek tata kelola, pengujian risiko, hingga kepatuhan terhadap regulasi sudah menjadi bagian dari proses pengembangan, bukan sekadar tambahan ketika produk telah beredar.
Perkembangan AI saat ini menjadi isu penting bagi Indonesia yang tengah mempercepat transformasi digital di berbagai sektor. Pemanfaatan teknologi kecerdasan buatan tidak hanya menyentuh industri teknologi, tetapi juga pendidikan, layanan publik, kesehatan, keuangan, hingga sektor transportasi.
Bagi masyarakat, penerapan etika AI memiliki dampak langsung terhadap keamanan dan kepercayaan pengguna. Sistem yang transparan dan dapat dipertanggungjawabkan akan mengurangi risiko kesalahan keputusan otomatis yang berpotensi merugikan banyak orang.
Di sisi lain, pengembangan AI yang bertanggung jawab juga membuka peluang lahirnya inovasi yang lebih aman dan berkelanjutan. Kepercayaan publik menjadi faktor penting agar teknologi tersebut benar-benar dapat memberikan manfaat luas bagi kehidupan manusia.
Perkembangan kecerdasan buatan yang semakin otonom menunjukkan bahwa kecepatan inovasi perlu berjalan seiring dengan tanggung jawab. Di tengah persaingan teknologi global, kemampuan membangun sistem AI yang aman dan etis akan menjadi fondasi penting bagi masa depan transformasi digital Indonesia.