IMDA kenakan amaran ke atas X dan TikTok

Dua platform media sosial, X dan TikTok, telah menerima Surat Amaran daripada Penguasa Pembangunan Infokom Media (IMDA) berikutan penemuan kelemahan serius dalam sistem mereka untuk mengesan dan memadamkan bahan eksploitasi seksual kanak-kanak (CSEM) serta kandungan berkaitan pengganasan.

Dengan itu, dua wadah media sosial itu kini diletakkan di bawah pengawasan dipertingkat yang memerlukan mereka melaksanakan langkah pembetulan dan memberi kemas kini secara kerap kepada IMDA.

Di X, IMDA menemui 73 kes CSEM pada 2025 yang menyasar atau berasal daripada akaun pengguna di Singapura – naik 120 peratus daripada 33 kes yang ditemui pada 2024.

Kes tersebut melibatkan perkongsian kandungan atau pautan kepada CSEM, dan CSEM yang dihasilkan sendiri, iaitu merujuk kepada pengguna akaun berusia bawah 18 tahun yang memuat naik gambar lucah diri mereka sendiri.

Lebih membimbangkan, IMDA berkata kesemua 73 kes itu hanya dipadamkan oleh X setelah pihak mereka memaklumkannya kepada X, walaupun kandungan tersebut jelas melanggar dasar platform itu sendiri.

Di TikTok pula, pihak berkuasa mengesan 17 kes kandungan berkaitan pengganasan yang dikongsi oleh akaun berpangkalan di Singapura buat kali pertama pada 2025.

Kandungan tersebut melibatkan video dengan suntingan rakaman atau audio berkaitan organisasi pengganas rentas negara.

Walaupun pengguna telah membuat laporan melalui mekanisme dalam aplikasi, TikTok gagal menilai kandungan tersebut dengan tepat dan mendapati ia tidak melanggar garis panduan mereka.

IMDA berkata kedua-dua X dan TikTok telah menerima hasil penemuan IMDA itu.

“...(Mereka) komited melaksanakan langkah-langkah khusus bagi memperbaiki kelemahan serius tersebut, terutama dengan mempertingkatkan sistem pengesanan automatik mereka melalui penggunaan AI (kecerdasan buatan) serta menyepadukan isyarat tambahan bagi menambah baik pengesanan proaktif masing-masing terhadap kandungan CSEM dan pengganasan,” kata IMDA.

Penemuan tersebut merupakan antara dapatan yang dikongsi dalam Laporan Penilaian Keselamatan Dalam Talian 2025 yang dikeluarkan IMDA pada 31 Mac.

Laporan itu menilai sama ada enam khidmat media sosial yang ditetapkan di bawah Tataamalan bagi Keselamatan Dalam Talian – Khidmat Sosial Media – dilaksanakan sejak 2023 – telah melaksanakan langkah menyeluruh dan berkesan untuk mengurangkan risiko daripada kandungan berbahaya.

Enam khidmat media sosial yang ditetapkan itu adalah Facebook, HardwareZone, Instagram, TikTok, X dan YouTube.

Laporan pertama yang diterbitkan pada 2025 telah menilai bahawa enam khidmat media sosial itu telah melaksanakan langkah keselamatan asas dalam talian.

Di bawah pengawasan dipertingkat yang dikenakan kepada X dan TikTok, dua wadah media sosial itu perlu melaksanakan langkah pembetulan dengan segera, dan memberi kemas kini secara kerap kepada IMDA mengenai kemajuan pelaksanaan sehingga pihak berkuasa berpuas hati isu tersebut telah diselesaikan sepenuhnya.

“Langkah-langkah pembetulan termasuk meminta syarikat mempertingkatkan sistem pengesanan dengan penggunaan AI, dan mengambil kira kata kod dan taktik khusus yang telah digunakan oleh pelaku jahat untuk menyasar pengguna Singapura.

“Mereka juga telah bersetuju untuk melatih pengulas manusia (human reviewers) bagi mengenal pasti kandungan CSEM dan pengganasan yang berkaitan dengan Singapura dengan lebih baik, dan menambah baik perkongsian maklumat dengan masyarakat dan pengawal selia teknologi,” kata IMDA.

Wadah X dan TikTok juga perlu menyediakan data sokongan dan maklumat untuk membuktikan keberkesanan langkah tersebut dalam laporan tahunan akan datang pada 30 Jun 2026.

IMDA menegaskan ia tidak akan teragak-agak untuk mengambil tindakan lanjut, termasuk tindakan kawal selia di bawah Akta Penyiaran, sekiranya X dan TikTok gagal menunjukkan peningkatan yang memuaskan.

Laporan tersebut turut mendedahkan tahap keberkesanan perlindungan kanak-kanak yang berbeza-beza mengikut platform.

Instagram dan TikTok dinilai mempunyai langkah keselamatan untuk kanak-kanak yang paling menyeluruh, manakala wadah seperti HardwareZone dan X hanya memenuhi tahap asas sahaja.

Secara keseluruhan, kebanyakan khidmat media sosial yang ditetapkan itu menunjukkan peningkatan dalam keberkesanan mengambil tindakan terhadap laporan pengguna mengenai kandungan berbahaya, kecuali TikTok.

Kadar pengambilan tindakan oleh TikTok terhadap laporan pengguna mengenai kandungan berbahaya merosot daripada 39 peratus pada 2024 kepada 25 peratus pada 2025.

Sebagai langkah masa depan, IMDA merancang meluaskan keperluan pengesahan usia kepada semua platform media sosial yang ditetapkan bagi memastikan kanak-kanak tidak terdedah kepada kandungan yang tidak sesuai dengan usia mereka.

“Matlamat utama kami tetap untuk memastikan keselamatan pengguna Singapura, terutama kanak-kanak, dalam ruang dalam talian,” tambah IMDA.