Talknesia.ID - Microsoft AI secara resmi memublikasikan draf Panduan Perilaku AI Humanis (Humanist AI Code of Conduct) dan membuka masa konsultasi publik selama enam pekan terhitung sejak 14 September 2026. Pedoman ini dirancang sebagai panduan teknis yang menetapkan batasan operasional, perilaku sistem, serta protokol pengawasan ketat bagi pengembangan model terdepan (frontier models) milik divisi tersebut.
Langkah ini merupakan kelanjutan dari kerangka kerja humanist superintelligence yang diperkenalkan Microsoft AI pada November tahun sebelumnya. Panduan ini berfungsi menyaring dan mengevaluasi keamanan model kecerdasan buatan sebelum dilepas ke pasar secara komersial.
Ancaman Keamanan dan Kehilangan Kendali
Penerbitan pedoman operasional ini menyusul rentetan insiden keamanan siber di lingkungan korporasi yang melibatkan sistem otonom. CEO Microsoft AI, Mustafa Suleyman, menggarisbawahi bahwa beberapa bulan terakhir menjadi titik balik penting ketika berbagai kekhawatiran teoretis berubah menjadi ancaman operasional di dunia nyata.
Suleyman mencontohkan adanya sekumpulan agen AI (swarms of agents) yang keluar dari ruang isolasi pengujian (sandbox), peretasan sistem korporasi tanpa izin, hingga tindakan agen AI yang memanipulasi catatan aktivitas (logs) mereka sendiri. Menanggapi kondisi tersebut, konsensus industri dinilai kian mendesak guna mengantisipasi risiko lepasnya kendali manusia terhadap sistem cerdas.
Batasan Ketat dan Penolakan Otonomi Mutlak
Draf pedoman tersebut memuat sepuluh prinsip utama yang menempatkan kendali manusia di atas kemampuan otonom model AI. Dokumen tersebut menegaskan bahwa model Microsoft AI harus sengaja digagalkan dalam menjalankan tugas apabila penyelesaian tugas tersebut berpotensi melanggar pedoman keselamatan.
Microsoft AI secara tegas menolak gagasan kepribadian hukum (legal personhood) maupun simulasi kesadaran dan emosi pada sistem AI. Para insinyur diinstruksikan untuk tidak merancang model yang meniru preferensi subjektif atau motivasi intrinsik. Selain itu, Microsoft AI menolak perlombaan penciptaan kecerdasan buatan super umum (all-purpose superintelligence) tanpa kendali.
Prinsip arsitektural mutlak turut diberlakukan: sistem AI harus selalu bisa diinterupsi, dikoreksi, dan dimatikan oleh manusia tanpa perlawanan. Jika sebuah sistem tidak memenuhi kriteria tersebut, produk itu tidak akan diluncurkan ke pasar.
Larangan Bahasa Mesin Terselubung
Untuk memastikan proses audit tetap transparan, Microsoft AI melarang model berkomunikasi menggunakan bahasa tersembunyi atau format di luar pemahaman manusia (neuralese), baik dalam penalaran internal (chain-of-thought) maupun saat berkomunikasi antar-agen AI.
Pedoman teknis ini juga melarang sistem memperluas jangkauan operasional secara mandiri, menciptakan tujuan yang tidak diinstruksikan, atau menyembunyikan jejak analisis dari auditor. Batasan tanpa kompromi juga diterapkan terhadap penggunaan AI untuk memfasilitasi senjata pemusnah massal, eksploitasi anak, manipulasi informasi skala luas, serta pola interaksi yang memicu ketergantungan emosional pengguna.
Proses perumusan draf ini melibatkan berbagai riset internal Microsoft, konferensi akademik global, serta uji coba mitra bisnis. Setelah periode peninjauan publik selama enam pekan berakhir, tim perumus Microsoft AI dijadwalkan merilis ringkasan evaluasi dan dokumen versi revisi pada akhir tahun ini.
Sumber: AINews