Beijing memandang risiko kecerdasan buatan tingkat lanjut yang melampaui kemampuan pemantauan efektif manusia sebagai masalah serius yang membutuhkan kesiapan.
Pandangan itu muncul di tengah persaingan Amerika Serikat dan Tiongkok sebagai dua penggerak utama pengembangan teknologi AI canggih dan penerapannya secara global.
Isu kebijakan AI dan praktik industri masing-masing negara diperkirakan menjadi inti pembicaraan bilateral yang akan berlangsung pada akhir September.
Kerangka hukum dan pernyataan pejabat Tiongkok menunjukkan Beijing tidak menganggap enteng risiko AI canggih yang melampaui pengawasan manusia.
Peringatan Menteri Keamanan Negara
Pada 13 September, Menteri Keamanan Negara Tiongkok Chen Yixin menulis di situs web sebuah kantor berita pemerintah Tiongkok bahwa model canggih AS dapat menimbulkan risiko serius bagi infrastruktur informasi penting Tiongkok.
Ia menyebut contoh Mythos milik Anthropic dan GPT-5.5-Cyber milik OpenAI, lalu menyerukan penguatan komprehensif terhadap langkah-langkah keamanan AI.
Peringatan itu sejalan dengan kekhawatiran para peneliti di perusahaan pengembangan AI Amerika, Anthropic, tentang risiko model yang semakin canggih dapat lepas kendali dari manusia.
Para pembuat kebijakan di sana juga telah mulai mengembangkan kerangka kerja dan langkah-langkah untuk mengatasi risiko serupa.
Model Berbobot Terbuka dan Risikonya
Pengembang AI Tiongkok baru-baru ini mempromosikan penggunaan model berbobot terbuka, sebagian karena tim keamanan siber dapat menguji, memodifikasi, dan menerapkan model tersebut untuk tujuan pertahanan.
Platform penyedia model Hugging Face mengatakan mereka menggunakan GLM-5.2, model berbobot sumber terbuka yang dikembangkan perusahaan Tiongkok Z.
AI, untuk menganalisis intrusi bulan Juli yang melibatkan agen AI "di luar kendali" dari OpenAI.
Keputusan itu diambil setelah model-model AS yang lebih terkontrol terbukti kurang efektif dalam forensik digital.
Namun, para ahli juga memperingatkan potensi risiko model berbobot terbuka karena dapat dimodifikasi dan didistribusikan ulang tanpa pengawasan yang memadai.
