PROGRES.ID – Presiden Microsoft Brad Smith menyoroti minimnya regulasi keselamatan kecerdasan buatan atau artificial intelligence (AI). Ia menilai, teknologi AI saat ini menghadapi persyaratan keselamatan yang lebih longgar dibandingkan produk sehari-hari seperti susu dan mesin cuci.

Pernyataan tersebut disampaikan Smith dalam wawancara dengan BBC yang dipublikasikan pada Senin, 12 Oktober 2026. Ia mendesak pemerintah dan regulator di berbagai negara segera menyusun aturan keselamatan AI yang lebih komprehensif, seiring meningkatnya kemampuan teknologi tersebut.

Reuters melaporkan, Smith menginginkan kerangka regulasi global yang mencakup kewajiban pelaporan insiden, pemberitahuan kepada pihak yang terdampak, serta mekanisme untuk menghentikan sistem AI apabila bertindak di luar kendali.

Brad Smith Bandingkan Regulasi AI dengan Susu dan Mesin Cuci

Smith menggunakan perbandingan sederhana untuk menggambarkan kesenjangan pengawasan terhadap teknologi AI.

“Right now, your washing machine is subject to more safety rules than AI. Every carton of milk that you see in the grocery store is subject to safety rules and inspection,” kata Smith dalam wawancaranya dengan BBC, sebagaimana dikutip Reuters dan The Guardian.

Pernyataan tersebut menegaskan pandangannya bahwa produk konsumen biasa telah memiliki standar keselamatan dan pemeriksaan yang jelas, sementara pengawasan terhadap perkembangan AI masih perlu diperkuat.

Smith menilai, kemajuan AI yang berlangsung cepat perlu diimbangi dengan mekanisme pengamanan yang dapat diuji dan diterapkan secara konsisten.

Menurut laporan The Guardian, Smith juga memperingatkan bahwa AI dapat menjadi alat yang bermanfaat sekaligus berpotensi disalahgunakan. Karena itu, pengembangan teknologi tersebut perlu disertai aturan yang mampu melindungi masyarakat dari risiko yang ditimbulkannya.

Microsoft Dorong Kewajiban Pelaporan Insiden AI

Salah satu usulan utama Smith adalah mewajibkan perusahaan pengembang AI menyampaikan laporan apabila sistem mereka mengalami insiden serius atau menunjukkan perilaku yang tidak diinginkan.

Reuters melaporkan bahwa Smith ingin perusahaan memiliki kewajiban hukum untuk membuat laporan insiden. Dengan mekanisme tersebut, regulator dan masyarakat dapat memperoleh informasi yang lebih jelas ketika sistem AI menimbulkan masalah.

Ia juga mengusulkan agar pihak yang menjadi korban tindakan sistem AI yang tidak terkendali diberi tahu apabila sistem atau layanan mereka mengalami pelanggaran yang melibatkan agen AI.

Usulan ini menjadi penting karena agen AI semakin mampu menjalankan tugas secara mandiri, termasuk melakukan tindakan melalui perangkat lunak dan layanan digital. Jika tidak dibatasi dengan baik, tindakan otomatis tersebut berpotensi menimbulkan kerugian bagi pengguna maupun organisasi.

Namun, penerapan aturan itu masih membutuhkan pembahasan lebih lanjut, terutama mengenai definisi insiden serius, standar pelaporan, tanggung jawab perusahaan, dan perlindungan informasi sensitif.

Perlu Tombol Darurat untuk Menghentikan AI

Selain pelaporan insiden, Smith mengusulkan mekanisme yang memungkinkan pengembang menghentikan atau memperlambat sistem AI ketika perilakunya menyimpang dari batas yang ditetapkan.

Mekanisme tersebut kerap disebut sebagai emergency brake atau kill switch. Fungsinya adalah memberikan kendali kepada manusia untuk menghentikan operasi sistem ketika muncul risiko keselamatan.

The Guardian melaporkan bahwa gagasan ini sejalan dengan kekhawatiran yang disampaikan sejumlah pemimpin industri teknologi mengenai pentingnya sistem AI yang dapat diawasi dan dikendalikan.

CEO Microsoft Satya Nadella juga menyerukan pendekatan keselamatan yang menekankan pembatasan sistem, transparansi, serta kemampuan manusia untuk mengendalikan tindakan AI.

Meski demikian, keberadaan tombol darurat saja tidak cukup. Sistem pengamanan juga memerlukan pengujian independen, pembatasan akses, pemantauan berkelanjutan, dan prosedur penanganan insiden yang jelas.

Inggris Dinilai Berpeluang Memimpin Regulasi AI

Smith menilai Inggris memiliki posisi yang cukup kuat untuk memimpin pengembangan pedoman keselamatan AI internasional. Salah satu alasannya adalah keberadaan AI Security Institute, lembaga yang berfokus pada pengujian kemampuan dan risiko sistem AI.

Reuters melaporkan bahwa lembaga tersebut memperoleh akses terhadap sejumlah model AI sebelum dirilis melalui kesepakatan sukarela dengan pengembang teknologi. Akses ini memungkinkan pengujian dilakukan untuk mengidentifikasi potensi risiko dan menilai efektivitas pengamanan.

Pendekatan Inggris tersebut berbeda dengan kerangka regulasi Uni Eropa yang menggunakan pendekatan berbasis risiko melalui AI Act.

Inggris saat ini mengandalkan sejumlah mekanisme pengawasan dan kerja sama sukarela. Namun, Menteri AI Inggris Kanishka Narayan mengatakan kepada Reuters bahwa pemerintah terbuka mempertimbangkan regulasi formal terhadap model AI canggih apabila pendekatan yang berlaku dinilai belum memadai.

Perdebatan ini memperlihatkan bahwa pemerintah di berbagai negara masih mencari keseimbangan antara mendorong inovasi, menjaga daya saing industri, dan melindungi masyarakat dari risiko AI.

Industri AI Hadapi Tekanan untuk Memperkuat Pengawasan

Desakan Smith muncul ketika perusahaan teknologi dan para peneliti semakin aktif membahas risiko dari model AI generasi terbaru.

Reuters melaporkan bahwa perusahaan seperti Anthropic dan OpenAI mulai mengungkap sejumlah insiden yang berkaitan dengan perilaku agen AI yang tidak diinginkan. Perkembangan ini mendorong diskusi mengenai perlunya evaluasi independen dan standar keselamatan yang lebih terukur.

Di sisi lain, usulan pengetatan regulasi juga memunculkan perdebatan. Sejumlah pengamat menilai bahwa aturan yang terlalu membatasi berpotensi memengaruhi persaingan dan memperkuat posisi perusahaan besar yang sudah memiliki sumber daya untuk memenuhi persyaratan kepatuhan.

Karena itu, regulasi AI perlu dirancang dengan memperhatikan tingkat risiko, transparansi, akuntabilitas, dan penerapan yang adil bagi pelaku industri.

Regulasi AI Menjadi Tantangan Global

Pernyataan Brad Smith menambah tekanan terhadap pemerintah untuk memperjelas standar keselamatan AI, terutama ketika teknologi ini semakin terintegrasi ke dalam pekerjaan, layanan publik, bisnis, dan kehidupan sehari-hari.

Pelaporan insiden, evaluasi independen, pemberitahuan kepada korban, dan mekanisme penghentian darurat menjadi beberapa langkah yang dapat dipertimbangkan dalam membangun sistem pengawasan yang lebih kuat.

Meski demikian, belum ada satu kerangka regulasi global yang diterapkan secara seragam untuk seluruh sistem AI. Setiap negara masih memiliki pendekatan, prioritas, dan tingkat pengawasan yang berbeda.

Perbandingan Smith antara AI, susu, dan mesin cuci pada dasarnya menyoroti satu persoalan: perkembangan teknologi yang cepat perlu diimbangi dengan standar keselamatan dan pertanggungjawaban yang sepadan.

Bagi industri teknologi, tantangan berikutnya adalah memastikan bahwa inovasi AI tidak hanya meningkatkan produktivitas, tetapi juga dapat diuji, diawasi, dan dikendalikan ketika risiko muncul.