Anda merakam satu nota suara ringkas melalui sebuah aplikasi bahasa. Seminggu kemudian, muncul pula iklan dalam talian menggunakan suara yang hampir sama – nada sama, lenggok pun serupa. Bezanya, anda tidak pernah memberi kebenaran untuk suara itu digunakan.

Ini bukan kisah fiksyen, ia sudah berlaku. Daripada nota suara dan swafoto hinggalah perbualan santai dengan chatbot, aplikasi berasaskan AI semakin banyak belajar daripada setiap interaksi kita.

Dalam sesetengah keadaan, data ini digunakan untuk menghasilkan kandungan baharu yang menyerupai wajah atau suara pengguna sendiri.

Dalam ekosistem digital Malaysia yang sentiasa berkembang, kita mungkin tanpa sedar berkongsi lebih banyak maklumat peribadi daripada yang kita sangkakan. Ini menimbulkan satu persoalan penting: “Adakah perkongsian data kita dengan AI telah melampaui batas?”

Bagaimana AI belajar daripada anda – selalunya tanpa meminta izin

AI kini menjadi sebahagian rutin harian. Sama ada berbual dengan chatbot bank, menatal tawaran di Shopee atau mencuba penapis di TikTok, ada teknologi AI yang memerhati, menyesuaikan dan mempelajari tabiat kita di belakang tabir.

“Ramai tidak sedar bahawa AI bukan perkara baharu,” kata Prof Dr Selvakumar Manickam, Pengarah Pusat Penyelidikan Keselamatan Siber, Universiti Sains Malaysia.

“Ia telah lama digunakan dalam automasi, diagnostik dan sektor kewangan. Yang berubah ialah kemunculan AI Generatif – teknologi yang boleh menghasilkan kandungan baharu berdasarkan data latihan, termasuk data pengguna.”

Beliau menjelaskan bahawa sistem seperti ChatGPT tidak memiliki pemahaman sebenar.“Ia tidak memahami. Ia hanya membuat ramalan berdasarkan pola. Model ini dilatih menggunakan sejumlah besar data dari seluruh internet – ada yang tepat, ada yang tidak.”

Dengan kadar penembusan internet yang tinggi, rakyat Malaysia menghabiskan purata lebih lapan jam sehari dalam talian. Namun jarang sekali kita bertanya: “Ke mana perginya data yang saya baru berikan kepada aplikasi ini?”

Adakah AI mendorong kita berkongsi terlalu banyak maklumat?

Banyak teknologi AI kini direka dengan pengalaman pengguna yang mesra dan bersifat peribadi, namun ciri ini turut membawa risiko.Kita sering berinteraksi dengan bot seperti berbual dengan rakan, memuat naik swafoto sekadar mencuba filter, dan merakam nota suara tanpa pertimbangan mendalam – semuanya dilakukan tanpa meneliti terma dan syarat.

“Rakyat Malaysia, khususnya golongan muda, ialah warga digital,” kata Selvakumar. “Kehidupan dalam talian dan luar talian mereka sangat bertaut. Perkongsian swafoto, pendapat peribadi atau nota suara telah menjadi norma budaya dan sebahagian daripada keperluan mendapatkan pengesahan sosial.”

Menurut laporan tahun 2024, rakyat Malaysia menghabiskan lebih lapan jam sehari dalam talian – antara purata tertinggi di dunia. “Kita sering diingatkan bahawa apabila sesuatu dimuat naik ke internet, ia tidak mudah dipadam,” katanya. Dan ini semakin tepat apabila data anda digunakan untuk melatih model AI.

Keselesaan ini menjadi asas kepada banyak aplikasi AI, namun dibayar dengan sesuatu yang kurang ketara: maklumat peribadi anda.

Apabila data peribadi anda menjadi bahan orang lain

Alat AI hari ini mampu meniru suara, menyalin wajah dan menghasilkan mesej dalam gaya pertuturan anda – ia hanya memerlukan beberapa sampel.

Di Malaysia, penipuan digital kini memanfaatkan teknologi ini. Dalam satu kes di Selangor, seorang wanita kerugian RM5,000 selepas menerima panggilan daripada individu yang menyamar sebagai majikannya. Suara itu hampir tidak dapat dibezakan – rupa-rupanya dijana oleh AI menggunakan rakaman yang mudah diperoleh.

Pihak berkuasa turut mengesan peningkatan video deepfake menggunakan wajah tokoh negara, termasuk Perdana Menteri Anwar Ibrahim dan Yang di-Pertuan Agong, bagi mempromosikan pelaburan palsu.

Senario ini membuktikan betapa mudahnya data wajah dan suara disalahgunakan – dan bagaimana teknologi dapat mengaburkan garis antara yang tulen dan yang direka.

“Ramai menganggap menekan butang ‘setuju’ itu hanya untuk fungsi asas aplikasi,” kata Selvakumar. “Namun syarat penggunaan sering menyelitkan frasa samar seperti ‘data digunakan untuk penambahbaikan perkhidmatan’. Itu boleh membawa pelbagai maksud, termasuk melatih sistem AI generasi seterusnya.”

Beliau turut mengingatkan: “Tidak wujud aplikasi yang percuma. Jika anda tidak membayar dengan wang, besar kemungkinan data anda menjadi bayarannya.”

Isu etika: Di mana sempadannya?

Walaupun Akta Perlindungan Data Peribadi (PDPA) menyediakan asas perlindungan, ia belum merangkumi isu seperti tiruan suara, pengecaman wajah ataupun pemindahan data ke luar negara untuk melatih model AI. Banyak aplikasi popular pula beroperasi dari luar Malaysia, menjadikan penguatkuasaan lebih rumit.

Menurut Selvakumar, cara kita mendapatkan persetujuan hari ini adalah melalui terma yang panjang dan sukar difahami.

“Ini sebenarnya tidak beretika. Persetujuan sepatutnya jelas, khusus dan bersifat pilihan,” katanya.

Beliau menegaskan bahawa amalan AI yang beretika perlu melangkaui sekadar mematuhi undang-undang, antaranya:

• Persetujuan yang terperinci dan berasaskan pilihan untuk setiap jenis data

• AI yang boleh diterangkan (XAI), supaya pengguna tahu bagaimana sesuatu keputusan dihasilkan

• Pengumpulan data yang minimum – aplikasi hanya mengambil maklumat yang diperlukan

• Hak untuk dipadamkan, iaitu pengguna boleh meminta data mereka dipadam sepenuhnya

• Audit oleh pihak ketiga untuk memastikan piawaian privasi dan keselamatan dipatuhi

“Hanya dengan ketelusan, tanggungjawab yang jelas dan pilihan sebenar untuk pengguna, barulah kepercayaan terhadap AI boleh dibina,” katanya.

Artis yang telah tiada, klon AI dan keresahan budaya

Di luar isu privasi individu, muncul pula satu kebimbangan budaya: penggunaan AI untuk “menghidupkan” semula suara artis yang telah meninggal dunia.

Lagu baharu yang meniru suara Elvis Presley, Michael Jackson dan Allahyarham P Ramlee kini mudah ditemui dalam talian. Ada yang menganggapnya penghormatan, namun ada yang melihatnya sebagai melangkaui batas moral.

“Fenomena penghasilan lagu melalui suara artis yang telah tiada ini merupakan isu yang sangat kompleks dan menjadi perdebatan,” ujar Selvakumar. 

“Dari perspektif teknologi, pencapaian ini memang mengagumkan. Namun dari sudut etika, garis panduannya jauh lebih kabur. Mereka tidak dapat memberikan kebenaran, dan suara tersebut boleh disalahgunakan tanpa persetujuan mereka – sama ada untuk kepentingan politik, komersial atau artistik.”

Beliau merujuk kepada satu kes di India di mana runut bunyi yang dijana AI menggunakan suara penyanyi yang telah meninggal dunia. Walaupun keluarga mereka dimaklumkan, penggunaan itu tetap mencetuskan perdebatan awam.

Selvakumar menyokong pelabelan wajib bagi kandungan yang dijana AI, seperti yang sudah dilaksanakan di China. “Jika suara atau wajah itu dijana oleh AI, orang ramai berhak untuk mengetahuinya,” katanya.

Apa yang rakyat Malaysia boleh lakukan sekarang

Sementara proses menggubal peraturan masih berjalan, pengguna masih boleh melindungi diri dengan beberapa langkah mudah:

• Berhenti sejenak sebelum berkongsi apa-apa: AI bukan ahli terapi dan bukan rakan anda.

• Hadkan akses aplikasi: Jangan benarkan kamera, mikrofon atau senarai kenalan diakses kecuali diperlukan.

• Pilih platform yang boleh dipercayai, yang mempunyai dasar privasi yang jelas serta pilihan untuk menarik diri (opt-out).

• Elakkan berkongsi maklumat sensitif seperti nombor kad pengenalan atau butiran bank dengan chatbot atau penapis digital.

• Didik orang sekeliling – terutamanya remaja dan warga emas – tentang penyalahgunaan AI, penipuan digital dan deepfake.

“Literasi media ialah pertahanan terbaik kita,” kata Selvakumar. “Teknologi akan terus berubah, tetapi jika pengguna lebih peka dan bermaklumat, mereka mampu mendesak standard yang lebih baik.”

AI bukan musuh, tetapi kepercayaan membuta tuli itu bahaya

AI tidak berniat mencederakan sesiapa; ia hanya bertindak berdasarkan data dan arahan yang diterimanya. Namun apabila proses pembelajaran ini berlaku tanpa pengetahuan atau persetujuan jelas daripada pengguna, risiko penyalahgunaan menjadi lebih besar.

Ketika Malaysia mara lebih jauh dalam era digital, tahap kesedaran mesti meningkat seiring. AI membawa banyak manfaat, tetapi hanya jika ia dibangunkan berasaskan kepercayaan, ketelusan dan penghormatan terhadap hak individu.

Suara, wajah, dan tabiat anda – semuanya bukan sekadar data. Nilainya jauh lebih besar daripada yang anda sangkakan, jadi jangan menyerahkannya sewenang-wenangnya. Sebelum berkongsi dengan aplikasi atau chatbot, tanyakan pada diri: Adakah saya benar-benar tahu ke mana data ini akan pergi?

Tidak semua aplikasi layak menerima akses sedemikian, dan tidak semua risiko wajar diambil demi sedikit keselesaan.

Siri S.A.F.E. Internet ini adalah hasil kerjasama dengan CelcomDigi.

Pandangan yang dinyatakan di sini adalah pandangan penulis/penyumbang dan tidak semestinya mewakili pandangan Malaysiakini.