Indonesia haramkan platform Grok kerana kandungan lucah

JAKARTA: Daripada menjadi salah seorang pelaksana kerjasama teknologi yang paling didambakan, jutawan Elon Musk telah tidak lagi mendapat perhatian pemerintah apabila Indonesia menjadi negara pertama yang mengharamkan akses kepada platform kecerdasan buatannya (AI), Grok, berhubung deepfake yang bersifat seksual.

Skandal seputar platform itu juga telah memperbaharui tumpuan kepada peraturan keselamatan internet Indonesia, dengan penganalisis menyeru undang-undang dan sekatan lebih ketat serta ketelusan yang lebih tinggi daripada firma teknologi.

Grok, yang dibangunkan oleh syarikat pemula Encik Musk, xAI, dan disepadukan ke dalam X, telah dikecam sejak seminggu lalu selepas pengguna internet menggunakan platform itu untuk menjana kandungan pornografi daripada foto yang disiarkan di platform media sosial, yang juga dimiliki oleh Musk, selalunya tanpa persetujuan pemuat naik.

Kemarahan dan kekecewaan bergema di seluruh dunia apabila pengguna menuntut akauntabiliti apabila beribu-ribu wanita dan kanak-kanak telah dilucutkan pakaiannya secara digital melalui gesaan seperti “Tanggalkan pakaiannya” dan “Pakaikan bikininya”.

Menjawab isu tersebut, Indonesia, yang mempunyai pangkalan pengguna internet keempat terbesar di dunia, mengumumkan langkah menyekat akses kepada Grok pada 10 Januari.

Ini menjadikan Indonesia sebagai negara pertama yang berbuat demikian.

Menteri Komunikasi dan Digital Cik Meutya Hafid menyifatkan langkah itu sebagai usaha untuk melindungi wanita dan kanak-kanak.

Dalam satu kenyataan, menteri itu mengecam trend menanggalkan pakaian secara digital sebagai “pelanggaran serius terhadap hak asasi manusia, maruah dan keselamatan” pengguna internet.

Kementerian komunikasi juga memanggil X untuk memberikan penjelasan lanjut mengenai alat kecerdasan buatannya (AI) itu.

Pada 13 Januari, ketua pengarah pemantauan ruang digital Kementerian Komunikasi dan Digital, Encik Alexander Sabar, berkata dalam pertemuan dengan wakil X, mereka menegaskan semula komitmennya untuk mematuhi peraturan negara.

“X menegaskan semula bahawa ia akan memastikan ciri Grok tidak boleh digunakan untuk menghasilkan kandungan pornografi, dan melancarkan penguatkuasaan terhadap akaun yang didapati melanggar peraturan,” kata Encik Alexander.

Beliau menambah kementerian akan memantau dan menilai komitmen X untuk memastikan perlindungan sebenar dan mampan dalam ruang digital.

Suruhanjaya Komunikasi dan Multimedia Malaysia mengumumkan pada 11 Januari mengenai penggantungan terhadap platform AI susulan “penyalahgunaan berulang untuk menghasilkan imej lucah, seksual eksplisit, tidak senonoh, sangat menyinggung perasaan dan dimanipulasi tanpa persetujuan”.

Beberapa negara lain, termasuk United Kingdom, juga telah mula melancarkan siasatan serupa terhadap Grok.

Encik Musk, belum membuat sebarang kenyataan mengenai penggantungan terhadap Grok di Indonesia dan Malaysia. - Agensi berita