From deepfakes to grooming: UN warns of escalating AI threats to children

Dari Deepfake hingga Grooming: PBB Waspadai Ancaman AI yang Mengkhawatirkan bagi Anak

New York – Sistem Perserikatan Bangsa-Bangsa (PBB) mengeluarkan peringatan serius tentang meningkatnya ancaman terhadap anak-anak di dunia maya akibat penggunaan teknologi kecerdasan buatan (AI). PBB mendesak tindakan kolektif untuk melindungi anak-anak dari pelecehan, eksploitasi, dan trauma mental yang dipicu oleh konten AI berbahaya.

Peringatan ini muncul menyusul laporan yang mengungkap peningkatan jumlah konten AI yang merugikan anak-anak, mulai dari deepfake – konten video yang palsu dan meyakinkan – hingga penggunaan AI untuk grooming, yaitu proses manipulasi online untuk membangun hubungan yang tidak pantas dengan anak-anak.

“Transformasi teknologi cepat menciptakan peluang baru, tetapi juga risiko baru,” kata Wakil Jenderal Sekretaris Jenderal PBB, Amina Mohammed, dalam konferensi pers. “Kenologi AI memiliki potensi besar untuk kebaikan, namun kita harus waspada terhadap bahaya yang dapat merugikan, khususnya bagi anak-anak yang paling rentan.”

Deepfakes dapat digunakan untuk menampilkan anak-anak dalam situasi yang tidak pantas atau membuat konten pornografis palsu yang melibatkan mereka. Hal ini dapat memiliki dampak traumatis jangka panjang bagi anak-anak, merusak reputasi mereka, dan membuat mereka rentan terhadap tindak kejahatan lainnya.

Grooming online menggunakan kecerdasan buatan untuk lebih meyakinkan dan menipu anak-anak. Chatbot AI yang dirancang untuk meniru perilaku manusia dapat membangun hubungan palsu dengan anak-anak, meyakinkan mereka untuk berbagi informasi pribadi, atau bahkan membujuk mereka untuk bertemu secara fisik.

“Perlindungan anak-anak dari bahaya AI menjadi prioritas utama bagi Sekretariat PBB,” ujar dan melanjutkan, “Kita membutuhkan strategi globbal yang komprehensif untuk mengatasi masalah ini.”

Peringatan PBB mendorong tindakan cepat dari berbagai pihak, termasuk pemerintah, perusahaan teknologi, LSM, dan orang tua, untuk:

Meningkatkan kesadaran   tentang ancaman AI bagi anak-anak.
Membangun kerangka hukum yang kuat   untuk mengatur penggunaan AI yang merugikan anak-anak.
Mengembangkan teknologi mitigasi   yang dapat membantu mengidentifikasi dan menghapus konten AI berbahaya.
Mempromosikan pendidikan digital   untuk anak-anak dan orang tua.
Meningkatkan kolaborasi   antar pihak terkait untuk berbagi informasi dan strategi penanggulangan.

Pinafian PBB menekankan pentingnya segera bertindak untuk melindungi anak-anak dari bahaya AI yang semakin meluas. Kegagalan dalam mengambil tindakan yang tepat dapat mengakibatkan dampak negatif yang jauh lebih besar bagi generasi mendatang.