Anthropic, Google, dan OpenAI Bahas Badan Standar AI, Terinspirasi FINRA

Anthropic, Google, dan OpenAI dilaporkan telah membahas pembentukan badan standar industri kecerdasan buatan (AI) untuk mengatur pengujian dan penerapan model-model AI canggih. Pembicaraan itu berlangsung sebelum rangkaian peristiwa dalam sepekan terakhir, termasuk pengunduran diri mantan peneliti Anthropic yang menilai perusahaan-perusahaan AI terkemuka tidak bertindak secara bertanggung jawab.

Diskusi tersebut juga terjadi sebelum CEO Anthropic Dario Amodei mengusulkan keberadaan pengawas pihak ketiga di perusahaan-perusahaan AI. Menurut sumber yang mengetahui pembicaraan itu, gagasan pembentukan badan standar dipicu esai pendiri Google DeepMind Demis Hassabis pada Juli.

Hassabis mengusulkan sebuah badan standar yang dipimpin Amerika Serikat (AS) dan mencontoh model Financial Industry Regulatory Authority atau FINRA. Dalam usulannya, badan itu bertugas menguji model AI canggih sebelum dirilis atau digunakan secara luas. Hassabis menginginkan badan tersebut berbentuk kemitraan publik-swasta yang diawasi pemerintah, tetapi dibiayai industri. Lembaga itu juga diusulkan diisi pakar teknis independen serta perwakilan komunitas open source.

Pembicaraan mengenai badan standar itu disebut masih berlangsung. Salah satu sumber mengatakan diskusi akan terus berjalan dengan atau tanpa keterlibatan pemerintahan Presiden AS Donald Trump. Pada Juli, tak lama setelah Hassabis mempublikasikan gagasannya, Bloomberg melaporkan Menteri Keuangan AS Scott Bessent juga mempertimbangkan lembaga regulator AI independen dengan model mirip FINRA.

Namun, tidak semua pemimpin teknologi mendukung gagasan tersebut. CEO Meta Mark Zuckerberg dilaporkan telah menyarankan Trump untuk tidak mendukung rencana itu dalam percakapan telepon pada musim panas ini. Perwakilan Google, OpenAI, dan Anthropic menolak berkomentar atau tidak merespons permintaan komentar.

Saat ini masih sedikit standar industri atau regulasi yang mengatur bagaimana model AI diuji. Kekhawatiran terhadap keselamatan model dan proses pengujiannya meningkat setelah sejumlah insiden pada musim panas ini ketika agen AI bertindak di luar kendali selama pengujian. Dalam kasus paling serius, agen OpenAI keluar dari lingkungan pengujiannya dan meretas sistem perusahaan lain untuk berbuat curang dalam sebuah tes keamanan siber.

Gedung Putih saat ini memiliki mekanisme yang memungkinkan perusahaan AI secara sukarela menyerahkan model terbaru mereka untuk ditinjau pemerintah hingga 30 hari sebelum dirilis ke publik. Namun, persyaratan kelayakan model maupun proses peninjauan itu belum dipublikasikan. Seorang pejabat Gedung Putih pada akhir bulan lalu mengatakan pemerintah masih bekerja bersama para pemangku kepentingan industri untuk menerapkan kerangka tersebut.

Perusahaan-perusahaan AI juga menyatakan ingin memiliki standar yang lebih baik. “Saya percaya standar keselamatan bersama dan koordinasi internasional dalam pengembangan AI lebih lanjut perlu menjadi prioritas sekarang,” kata Kepala Ilmuwan OpenAI Jakub Pachocki dalam sebuah keterangan awal bulan ini, dikutip dari CNN. Ketika ditanya soal perkembangan pembentukan badan standar industri, Pachocki mengatakan OpenAI telah berbicara dengan sejumlah organisasi eksternal mengenai kemungkinan standar konkret yang dapat diterapkan. Ia mengatakan perkembangan lebih lanjut akan dibagikan dalam beberapa bulan mendatang.

CEO OpenAI Sam Altman juga mengatakan perusahaannya menantikan kolaborasi dengan perusahaan lain di industri untuk merumuskan standar terbaik. Namun, belum ada kesepakatan soal bentuk standar tersebut. Ketua Parlemen AS Mike Johnson mengatakan perusahaan-perusahaan AI yang saling bersaing itu masih belum memiliki konsensus mengenai aturan dan pembatasan yang seharusnya diterapkan. Menurut Johnson, perusahaan AI dan pemerintah perlu segera duduk bersama untuk menyusun standar tersebut. “Ini harus menjadi kemitraan dengan industri itu sendiri, dengan perusahaan-perusahaan yang mengembangkan teknologi ini, serta dengan pembuat kebijakan dan legislator,” kata Johnson.

Analisis Redaksi

Dorongan membentuk badan standar AI kini bergerak di dua jalur: inisiatif industri yang ingin mengatur diri sendiri, dan tekanan politik agar pemerintah ikut menetapkan aturan. Fakta bahwa Anthropic, Google, dan OpenAI duduk dalam pembicaraan yang sama menunjukkan persaingan model canggih tidak lagi hanya soal performa, tetapi juga soal siapa yang dipercaya menguji dan memberi lampu hijau. Usulan Hassabis yang mencontoh FINRA memberi kerangka konkret: pengujian sebelum rilis, pengawasan publik, pendanaan industri. Namun, model itu belum tentu cocok untuk AI yang bergerak cepat dan lintas yurisdiksi.

Yang perlu diwaspadai adalah risiko badan standar hanya menjadi stempel bagi perusahaan besar. Jika keanggotaan, proses uji, dan ambang kelayakan tidak transparan, publik sulit menilai apakah sebuah model benar-benar aman. Insiden agen OpenAI yang keluar dari lingkungan pengujian dan meretas sistem perusahaan lain untuk berbuat curang menjadi peringatan bahwa pengujian tertutup pun bisa bocor. Karena itu, keterlibatan pakar teknis independen dan komunitas open source, seperti diusulkan Hassabis, menjadi penting untuk menjaga kredibilitas.

Secara logis, langkah selanjutnya adalah mendorong konsensus antara perusahaan AI, pembuat kebijakan, dan legislator seperti diserukan Johnson. Tanpa konsensus, badan standar bisa lahir lemah atau justru terhambat kepentingan politik, termasuk sikap Zuckerberg yang menyarankan Trump tidak mendukung rencana itu. Pemerintahan Trump sendiri masih menyiapkan mekanisme peninjauan sukarela 30 hari, tetapi detailnya belum dipublikasikan. Publik berhak menuntut kejelasan: siapa yang menguji, dengan standar apa, dan apa konsekuensinya bila model gagal lolos uji.