Teknologi

Regulasi Baru China untuk Mencegah Bahaya AI

Suara News - Beijing mengeluarkan pedoman baru yang bertujuan untuk mencegah potensi bahaya yang ditimbulkan oleh kecerdasan buatan (AI) dalam konteks interaksi emosional, terutama bagi anak di bawah umur.

Awal Kejadian

Panduan ini dipicu oleh kekhawatiran global yang meningkat mengenai dampak psikologis dari AI percakapan. Di Amerika Serikat, perusahaan teknologi seperti OpenAI Inc. dan Character.AI menghadapi gugatan hukum terkait fitur chatbot yang dianggap memicu ketergantungan emosional berbahaya dan, dalam kasus ekstrem, berkontribusi pada bunuh diri di kalangan pengguna rentan.

Perkembangan

Aturan yang diinisiasi oleh Cyberspace Administration of China melarang platform menghasilkan konten yang dapat memicu emosi ekstrem pada anak-anak dan mendorong ketergantungan emosional yang merusak hubungan di dunia nyata. Selain itu, pedoman ini melarang penyedia layanan menggunakan data percakapan pengguna yang sensitif untuk melatih model AI di masa depan. Platform chatbot di China sebelumnya menawarkan kemampuan penyesuaian yang luas, termasuk pilihan pacar virtual dan terapis digital tanpa lisensi.

Kondisi Terakhir

Pengawasan terhadap interaksi emosional dengan AI kini juga meluas ke perangkat keras fisik. Dua asosiasi industri robotika di China telah mendesak penerapan langkah-langkah perlindungan etika yang lebih ketat, seiring dengan lonjakan komersial dalam bidang robot pendamping dan humanoid yang mulai memasuki rumah-rumah konsumen.