MASAKINI.CO – Perkembangan kecerdasan artifisial (Artificial Intelligence/AI) yang semakin pesat memicu munculnya ancaman baru di ruang digital. Teknologi deepfake yang mampu memanipulasi suara, gambar, dan video kini dinilai menjadi salah satu faktor yang mendorong meningkatnya kasus penipuan digital di masyarakat.
Wakil Menteri Komunikasi dan Digital, Nezar Patria, mengatakan kemajuan AI telah membuat konten manipulatif semakin sulit dibedakan dari kondisi sebenarnya. Teknologi tersebut memungkinkan pelaku kejahatan digital meniru identitas seseorang melalui rekayasa suara maupun video yang tampak autentik.
“Sekarang suara kita bisa ditiru, gambar wajah kita bisa ditiru, dan tampil dalam bentuk deepfake video yang dihasilkan oleh AI dengan sangat mulus,” ujarnya mengutip Infpublik.id, Jumat (19/6/2026).
Ia menjelaskan bahwa perkembangan AI saat ini telah bergerak melampaui generative AI dan memasuki era agentic AI, yaitu sistem yang memiliki kemampuan lebih mandiri dalam menganalisis informasi dan mengambil keputusan.
Di tengah pesatnya perkembangan tersebut, risiko penyalahgunaan teknologi juga meningkat. Salah satu yang paling menonjol adalah penggunaan AI untuk menciptakan konten palsu yang dimanfaatkan dalam berbagai modus penipuan daring.
Nezar menilai rendahnya pemahaman masyarakat terhadap perkembangan teknologi AI membuat banyak orang rentan menjadi korban. Kondisi ini diperparah dengan munculnya konsep synthetic reality atau realitas sintetik yang membuat hasil manipulasi digital semakin sulit dikenali.
“Awamnya masyarakat kita tentang perkembangan AI ini membuat banyak yang terkecoh. Itu sebabnya scam saat ini luar biasa,” katanya.
Untuk mengurangi risiko penyalahgunaan AI, Nezar menekankan pentingnya pengawasan manusia dalam setiap proses pengambilan keputusan yang melibatkan teknologi AI. Pendekatan tersebut dikenal dengan prinsip human in the loop, di mana keputusan strategis tetap berada di bawah kendali manusia.
Selain itu, ia menilai aspek etika harus menjadi bagian dari proses pengembangan teknologi sejak awal. Transparansi, akuntabilitas, dan keamanan dinilai perlu diterapkan secara menyeluruh agar inovasi AI tidak menimbulkan dampak negatif bagi masyarakat.
Menurutnya, tantangan yang muncul akibat perkembangan AI tidak dapat diselesaikan oleh satu pihak saja. Diperlukan kolaborasi antara pemerintah, pengembang teknologi, akademisi, industri, dan komunitas digital untuk memperkuat tata kelola serta mitigasi risiko penyalahgunaan teknologi.
Discussion about this post