Skim pertama S’pura iktiraf penguji sistem AI dilancar

Satu skim baru untuk mengiktiraf syarikat penguji sistem kecerdasan buatan (AI), dikatakan yang pertama di Asia, akan dilancarkan di Singapura menjelang suku ketiga 2026.

Program Pentauliahan Penguji AI (AI TAP), oleh badan tidak meraih keuntungan, Yayasan Pengesahan AI, akan membantu syarikat mengupah penguji luar menguji daya tahan sistem produk AI mereka dan mengenal pasti kelemahan sebelum pelaksanaan.

Program itu diumumkan oleh Menteri Penerangan dan Pembangunan Digital, Cik Josephine Teo, pada 18 Mei di Pertukaran Saintifik Antarabangsa mengenai Keselamatan AI 2026.

Yayasan itu, yang merupakan subsidiari Penguasa Pembangunan Infokom Media (IMDA), berkata program tersebut bertujuan membangunkan rangkaian firma pengujian yang mampu menilai sistem AI secara terperinci dalam sektor termasuk penjagaan kesihatan, kewangan, pengambilan pekerja dan perkhidmatan awam.

Yayasan itu berkata firma perlu memastikan sistem AI mereka boleh dipercayai dan beroperasi seperti yang diperlukan.

Namun, ketiadaan piawaian jelas bagi firma pengujian AI yang berkelayakan menyukarkan syarikat mengenal pasti penyedia yang benar-benar berkebolehan.

Menurut yayasan itu, jurang tersebut amat ketara dalam pengujian teknikal yang memerlukan kepakaran khusus dan masih kekurangan tenaga mahir, membuka peluang menetapkan piawaian pengujian bermutu tinggi.

Bercakap pada majlis itu, Cik Teo berkata sedang Singapura berusaha untuk menjadi hab AI, ia akan memberi tumpuan kepada mewujudkan persekitaran amanah, di mana teknologi digunakan secara bertanggungjawab, risiko difahami dengan baik, dan perlindungan yang berkesan dilaksanakan dengan teliti.

“Ini penting terutamanya kerana AI bergerak melangkaui (teknologi) chatbots dan alat carian.

“Kami melihat, malah di Singapura, sistem AI kian bertambah digunakan dalam bidang yang mempengaruhi kehidupan orang ramai secara langsung: penjagaan kesihatan, kewangan, pengangkutan, perkhidmatan awam, pendidikan, keselamatan siber dan infrastruktur kritikal,” katanya, sambil menambah bahawa ekosistem AI yang dipercayai akhirnya mungkin menjadi lebih menarik daripada yang bergerak pantas semata-mata.

Beliau menyatakan bahawa Singapura telah memperkenalkan inisiatif seperti AI Verify untuk menggalakkan ujian dan ketelusan AI yang bertanggungjawab dan program baharu untuk mengiktiraf penguji AI pihak ketiga akan memberi keyakinan tambahan kepada pelaksana.

Firma mengupah penilai AI untuk menguji cara pihak berniat jahat memperdaya sistem AI supaya melanggar peraturan keselamatannya sebelum produk dilancarkan kepada umum.

Antara cubaan yang dilakukan termasuk memaksa ‘chatbot’ menjana kod bahaya, mendedahkan maklumat sulit atau memberi nasihat berbahaya yang sepatutnya disekat.

Kaedah lazim termasuk menggunakan ‘prompt’ atau arahan khas untuk membuat sistem AI mengabaikan arahan asal dan kawalan keselamatannya, menyembunyikan arahan berniat jahat dalam fail atau laman web, serta menyamar sebagai pengguna dengan hak pentadbiran lebih tinggi.

Di bawah skim baru itu, syarikat pengujian AI akan dinilai berdasarkan garis panduan seperti Kit permulaan IMDA. untuk menguji aplikasi berasaskan model bahasa besar (Large Language Model) bagi keselamatan dan kebolehpercayaan.

Diterbitkan pada Januari, garis panduan itu menetapkan lima risiko utama dalam LLM, jenis ujian yang perlu dijalankan serta kaedah menilai dan mentafsir keputusan.

Penguji juga akan dinilai dari segi kedudukan syarikat, kemampanan kewangan dan kesediaan operasi.

Tiada yuran permohonan atau akreditasi akan dikenakan.

Syarikat seperti Advai, AIDX, Ernst & Young, Knovel Engineering, PwC, Resaro dan Vulcan telah menyatakan minat awal.

Pengasas bersama Vulcan, Encik Alex Leung berkata pentauliahan itu akan membantu mewujudkan piawaian lebih jelas bagi pengujian bermutu.

Beliau berkata ramai penguji kini hanya menggunakan set data penanda aras sumber terbuka atau arahan ‘jailbreak’ yang memperdaya AI untuk menguji sistem AI pelanggan.

“Itu mungkin berguna sebagai permulaan, tetapi tidak mencukupi. Pengujian AI yang betul perlu disesuaikan dengan aplikasi, kes penggunaan, alat yang disambungkan, aliran data dan ancaman dunia sebenar yang dihadapi,” kata Encik Leung.

Ketua Pegawai Eksekutif (CEO) Knovel Engineering, Encik Seah Hee Chuan, banyak pertubuhan hari ini mendakwa mempunyai kaedah pengujian AI yang ketat, namun tahap kedalaman dan keluasan setiap pertubuhan berbeza-beza.

Akreditasi atau pentauliahan membantu mewujudkan tahap kemahiran asas, tadbir urus dan kaedah yang lebih seragam, tambah Encik Seah.