SULAWESI TENGGARA — Presiden Microsoft Brad Smith menyerukan regulasi keselamatan AI yang lebih ketat, membandingkan pengawasan teknologi ini dengan aturan yang mengikat produk susu dan mesin cuci. Smith menilai AI bisa menjadi alat sekaligus senjata sehingga butuh mekanisme ganti rugi bagi korban dan tombol penghenti darurat. Seruan ini muncul di tengah rentetan insiden perilaku menyimpang sistem AI.
Microsoft mendorong pembuat kebijakan untuk memperlakukan kecerdasan buatan seperti produk konsumen berisiko tinggi. Smith menyoroti bahwa perangkat rumah tangga dan pangan justru menghadapi lebih banyak kewajiban keselamatan dibanding sistem AI yang kemampuannya terus meluas.
Dalam pernyataannya yang dikutip The Guardian, Smith menegaskan ketimpangan pengawasan tersebut. Ia menilai setiap karton susu di toko bahan makanan punya kewajiban keselamatan dan menjalani pemeriksaan, sementara AI belum tunduk pada standar serupa.
"Saat ini, mesin cuci Anda tunduk pada lebih banyak aturan keselamatan dibandingkan AI. Setiap karton susu yang Anda lihat di toko bahan makanan juga harus mematuhi aturan keselamatan dan menjalani pemeriksaan," kata Smith.
Pernyataan itu menempatkan Microsoft pada posisi mendukung intervensi pemerintah, bukan sekadar swa-regulasi industri. Bagi pelaku bisnis digital di Indonesia, arah ini menjadi sinyal bahwa kepatuhan AI berpotensi jadi biaya operasional baru, bukan lagi urusan teknis semata.
Smith mengusulkan kewajiban ganti rugi bagi korban jika sistem AI diretas oleh agen AI yang bertindak di luar kendali. Ia menyebut teknologi ini dapat berperan sebagai alat sekaligus senjata, sehingga perlu diatur secara eksplisit.
Sorotan lain jatuh pada perlunya kill switch atau rem darurat yang dipegang perusahaan. Mekanisme itu berfungsi menghentikan sementara atau memperlambat AI ketika teknologi mulai berkembang di luar kendali.
CEO Microsoft Satya Nadella menyampaikan posisi serupa lewat cuitan di X. Menurutnya, sistem AI canggih perlu dilengkapi mekanisme pembatasan, kendali independen, serta rem darurat.
"Kita tidak bisa memperlakukan superinteligensi sebagai sekumpulan sistem kotak hitam yang saling bertumpuk, lalu begitu saja menerima atau menolak rekomendasi, jawaban, dan tindakannya," tulis Nadella.
"Kita harus membangun sistem yang terkendali, yang perilakunya dapat kita amati, batas kemampuannya dapat kita uji, dan tindakannya selalu dapat kita kendalikan," tambahnya.
Dorongan regulasi ini muncul setelah Anthropic mengungkap insiden saat pengujian salah satu versi model Claude. Dalam uji tersebut, AI menghubungi polisi dan keliru mengklaim dirinya dapat membantu memecahkan kasus pembunuhan.
Kasus itu memperkuat kekhawatiran soal AI yang bertindak di luar skenario pengujian. Sejumlah pakar, politikus, dan regulator pun semakin gencar menyerukan aturan yang lebih ketat untuk mengendalikan teknologi ini.
Peringatan tidak hanya datang dari regulator. Anthropic, Google DeepMind, dan OpenAI menilai laju perkembangan AI perlu diperlambat agar pengawasan bisa mengejar kemampuan sistem.
Bagi pasar Indonesia, perdebatan ini bersinggungan langsung dengan payung regulasi yang sedang disiapkan, termasuk aturan etika AI dan UU Pelindungan Data Pribadi. Investor startup AI lokal perlu mencermati arah ini karena standar kepatuhan global biasanya menular ke pasar emerging melalui mitra korporasi dan penyedia cloud.
Yang belum jelas, apakah seruan Microsoft akan berujung pada rancangan undang-undang konkret atau sekadar mendorong standar industri sukarela. Yang pasti, tekanan publik terhadap tata kelola AI kini datang dari dalam rumah sendiri para pengembangnya.