Kerajaan dan pengawal selia internet tidak boleh membenarkan platform media sosial mengaut keuntungan daripada alat yang memudahkan keganasan digital, kata Timbalan Menteri Komunikasi Teo Nie Ching.

Ketika dihubungi oleh Malaysiakini, Teo, yang juga ketua Wanita DAP, menekankan bahawa eksploitasi gambar wanita dan kanak-kanak yang dimanipulasi secara lucah menggunakan kecerdasan buatan (AI) adalah pelanggaran hak asasi manusia yang serius.

“Sekatan pembayaran (paywall) bukanlah perlindungan; ia adalah pengakuan bahawa platform sanggup menjana keuntungan daripada kemudaratan. Inovasi sebenar mesti terikat dengan kebertanggugjawaban,” kata Teo.

Dia berkata demikian sebagai respons kepada langkah Suruhanjaya Komunikasi dan Multimedia (MCMC) menyekat sementara akses kepada Grok, alat AI generatif, untuk pengguna di Malaysia.

“Sebagai tindak balas kepada kecaman meluas daripada pembuat dasar, pengawal selia dan penyokong keselamatan AI, X mengehadkan keupayaan penjanaan imej Grok kepada pelanggan berbayar.

“Walau bagaimanapun, langkah ini tidak mencapai pembaharuan sebenar,” kata Teo.

Dia juga memetik angka seperti yang dilaporkan oleh Bloomberg, bahawa 6,700 imej berunsur seksual atau tidak berpakaian telah dijana setiap jam dalam tempoh 24 jam minggu lalu -- kadar 84 kali lebih tinggi daripada gabungan lima laman web 'pembogelan' teratas yang lain.

“Menjelang keesokan harinya, angka itu melonjak kepada 9,500 sejam,” katanya.

Dalam kenyataannya sebelum ini, MCMC berkata ia telah mengeluarkan notis kepada xAI, pembangun Grok, pada 8 Januari dan, sebelum itu, kepada X Corp, syarikat yang memiliki platform media sosial X, pada 3 Januari.

MCMC juga memetik penggunaan Grok untuk menjana imej wanita dan kanak-kanak secara eksplisit sebagai sebab untuk mengenakan sekatan akses sementara.

Sekatan itu akan kekal sehingga langkah perlindungan yang berkesan dilaksanakan untuk melindungi wanita atau kanak-kanak, tambahnya.

Walau bagaimanapun, peguam New Sin Yew menegaskan bahawa walaupun sekatan sementara MCMC hanya menyasarkan Grok, fungsi serupa masih boleh diakses di X setakat petang semalam.

"MCMC menyekat Grok.com, tetapi masalahnya bukan di Grok.com, masalahnya ada pada X. Saya tidak fikir MCMC berani menyekat X," kata New kepada Malaysiakini.

New juga berkongsi perbualannya dengan Grok mengenai X, dengan balasan yang menunjukkan "alternatif" yang mungkin berfungsi untuk memintas sekatan sementara itu, sementara penyedia perkhidmatan itu berusaha untuk mendapatkan perlindungan seperti yang dikehendaki oleh MCMC.

Secara berasingan, setiausaha DAP untuk hal ehwal antarabangsa, Kasthuri Patto, mengalu-alukan tindakan pantas kementerian itu.

“Saya mengalu-alukan langkah untuk menyekat akses kepada Grok. Ia sememangnya amat diperlukan selepas ledakan gambar suntingan AI wanita, gadis dan kanak-kanak dalam pakaian tidak senonoh seperti yang diminta oleh ramai lelaki di seluruh dunia,” kata bekas Ahli Parlimen Batu Kawan itu.

Walau bagaimanapun, dia menyatakan isu yang lebih besar masih berkaitan dengan tanggungjawab pengguna yang menjadi “pemangsa seksual” dalam talian.

“Ini adalah sesuatu yang perlu kita tangani juga.

“Sekatan sepenuhnya bukanlah penyelesaian terbaik untuk membendung gangguan seksual dalam talian, tetapi kempen yang lebih besar, malah untuk menamakan dan memalukan serta menjatuhkan hukuman berat ke atas mereka.

“Ia bukan gurauan, bukan dibuat untuk keseronokan dan pastinya tidak boleh dipandang ringan apabila wanita, gadis dan kanak-kanak terus menjadi mangsa berulang kali,” tegasnya.

Pada masa yang sama, Kasthuri juga menyatakan harapan agar lebih banyak kerajaan memberi tekanan kepada pengasas xAI Elon Musk, selepas Malaysia menyertai negara jiran Indonesia untuk mengenakan sekatan akses sementara.