bagaimana kamu tahu kalau AI Sebuah sistem yang begitu kuat sehingga menimbulkan risiko keamanan tidak boleh dilepaskan tanpa pengawasan yang cermat?
Bagi regulator yang mencoba membatasi kecerdasan buatan, hal ini sebagian besar berkaitan dengan algoritma. Secara khusus, mannequin AI yang dilatih pada 10 hingga 26 operasi floating-point per detik kini harus melapor kepada pemerintah AS, dan mungkin akan segera memicu bahkan California memiliki persyaratan yang lebih ketat.
katakan apa? Nah, jika Anda menghitung nol, itu berarti 100.000.000.000.000.000.000.000.000 atau 100 tujuh miliar per detik, menggunakan metrik yang disebut jumlah kegagalan.
Hal ini memberikan sinyal kepada beberapa anggota parlemen dan pendukung keamanan AI bahwa tingkat kekuatan komputasi dapat memungkinkan teknologi AI berkembang pesat untuk menciptakan atau memperbanyak senjata pemusnah massal atau melakukan serangan siber yang membawa bencana.
Mereka yang membuat peraturan tersebut mengakui bahwa mereka mempunyai titik awal yang tidak sempurna dalam membedakan bisnis-bisnis dengan kinerja terbaik saat ini. Sistem Kecerdasan Buatan Generatif — sebagian besar dibuat oleh perusahaan California seperti Anthropic, Google, Meta Platforms, dan pembuat ChatGPT OpenAI — berasal dari generasi berikutnya dan kemungkinan akan lebih canggih lagi.
Kritikus mengkritik ambang batas tersebut sebagai sesuatu yang sewenang-wenang – sebuah upaya pemerintah untuk mengatur matematika.
“Ada 10 kegagalan pada tanggal 26,” kata pemodal ventura Ben Horowitz dalam podcast musim panas ini. “Nah, bagaimana jika mannequin sebesar ini yang Anda perlukan, misalnya, menyembuhkan kanker?”
Menandatangani perintah eksekutif Keputusan Presiden Joe Biden tahun lalu bergantung pada ambang batas tersebut. Hal yang sama berlaku untuk undang-undang keselamatan kecerdasan buatan yang baru disahkan di California – yang mana Gubernur Gavin Newsom memiliki waktu hingga 30 September untuk menandatangani undang-undang tersebut atau memvetonya. California menambahkan metrik kedua ke dalam persamaan: mannequin AI yang teregulasi juga harus menelan biaya setidaknya $100 juta untuk pembuatannya.
Ikuti jejak Biden, RUU kecerdasan buatan Uni Eropa yang komprehensif Juga mengukur operasi floating level atau flip-flop per detik, tetapi menetapkan standar 10 kali lebih rendah, 10 dinaikkan ke pangkat 25. Hal ini mencakup beberapa sistem kecerdasan buatan yang sudah beroperasi. Pemerintah Tiongkok juga mempertimbangkan untuk mengukur kekuatan komputasi untuk menentukan sistem kecerdasan buatan mana yang memerlukan perlindungan.
Tidak ada mannequin yang tersedia untuk umum yang memenuhi ambang batas tertinggi di California, meskipun beberapa perusahaan mungkin sudah membuatnya. Jika ya, mereka harus menyampaikan rincian tertentu dan tindakan pencegahan keselamatan kepada pemerintah AS. Biden telah mengadopsi undang-undang period Perang Korea yang memaksa perusahaan teknologi memperingatkan Departemen Perdagangan ketika membangun mannequin kecerdasan buatan semacam itu.
Para peneliti AI masih memperdebatkan cara terbaik untuk menilai kemampuan teknologi terbaru yang menghasilkan AI dan bagaimana membandingkannya dengan kecerdasan manusia. Ada tes yang menilai seberapa cepat dan akurat AI dapat memecahkan teka-teki, bernalar secara logis, atau memprediksi kata mana yang akan menjawab pertanyaan chatbot seseorang. Pengukuran ini membantu menilai seberapa berguna alat AI untuk tugas tertentu, namun tidak ada cara mudah untuk mengetahui kemampuan alat mana yang begitu luas sehingga menimbulkan bahaya bagi manusia.
“Berdasarkan konsensus umum, penghitungan ini, angka yang gagal ini, adalah hal terbaik yang kami miliki,” kata fisikawan Anthony Aguirre, CEO Way forward for Life Institute, yang mengadvokasi penerapan RUU Senat California 1047 dan peraturan keselamatan kecerdasan buatan lainnya dunia.
Aritmatika floating-point mungkin terdengar mewah, “tetapi sebenarnya ini hanya menambah atau mengalikan angka,” kata Aguirre, menjadikannya salah satu cara termudah untuk menilai kekuatan dan risiko mannequin AI.
“Kebanyakan yang dilakukan hal-hal ini hanyalah mengalikan angka-angka di tabel besar,” katanya. “Anda bisa memikirkan untuk memasukkan beberapa angka ke dalam kalkulator dan menjumlahkannya atau mengalikannya – sepuluh triliun kali atau satu kuadriliun kali.
Namun, bagi beberapa pemimpin teknologi, metrik ini terlalu sederhana dan sulit dipahami. Sara Hooker, seorang ilmuwan komputer yang memimpin penelitian nirlaba perusahaan kecerdasan buatan Cohere, berpendapat dalam makalahnya pada bulan Juli bahwa “tidak ada dasar ilmiah yang jelas” untuk menggunakan metrik tersebut sebagai indikator risiko.
“Ambang batas yang dihitung saat ini yang diterapkan adalah jangka pendek dan mungkin tidak mengurangi risiko,” tulisnya.
Pemodal ventura Horowitz dan mitra bisnisnya Marc Andreessen, pendiri perusahaan investasi berpengaruh di Silicon Valley Andreessen Horowitz, telah berinvestasi di pemerintahan Biden dan peraturan AI di parlemen California, yang menurut mereka dapat menghambat industri startup AI yang sedang berkembang.
Bagi Horowitz, menerapkan batasan pada “seberapa banyak matematika yang dapat Anda lakukan” mencerminkan keyakinan yang salah bahwa hanya sedikit perusahaan besar yang dapat membangun mannequin yang paling mumpuni dan bahwa Anda dapat melemparkan “lingkaran panas” ke hadapan mereka .
Menanggapi kritik, para sponsor undang-undang California mengirim surat kepada Andreessen Horowitz musim panas ini untuk membela RUU tersebut, termasuk ambang batas peraturannya.
Senator Scott Wiener, D-San Francisco, menulis bahwa membatasi jumlah kegagalan menjadi lebih dari 10 hingga 26 adalah “cara yang jelas untuk mengecualikan banyak mannequin yang kita ketahui dari persyaratan pengujian keselamatan. Berdasarkan bukti saat ini, model-model ini tidak memiliki kemampuan menyebabkan kerugian yang serius”. Wiener mengatakan model-model yang dirilis ke publik “telah diuji kemampuan menghadapi bahaya tinggi dan tidak akan dimasukkan dalam rancangan undang-undang.”
Perintah eksekutif Wiener dan Biden menganggap metrik tersebut bersifat sementara dan dapat disesuaikan nanti.
Yacine Jernite, yang melakukan penelitian kebijakan di perusahaan kecerdasan buatan Hugging Face, mengatakan metrik kegagalan dibuat “dengan itikad baik” sebelum Biden mengeluarkan perintahnya tahun lalu, namun sudah mulai ketinggalan jaman. Pengembang AI melakukan lebih banyak hal dengan mannequin yang lebih kecil yang memerlukan daya komputasi lebih sedikit, dan potensi bahaya dari produk AI yang lebih banyak digunakan tidak akan memicu pengawasan yang diusulkan California.
“Beberapa mannequin akan memiliki dampak yang lebih besar terhadap masyarakat dan harus menerapkan standar yang lebih tinggi, sementara mannequin lainnya lebih bersifat eksplorasi dan mungkin tidak masuk akal untuk menerapkan proses yang sama untuk mensertifikasi mannequin tersebut,” kata Jenet.
Aguirre mengatakan masuk akal bagi regulator untuk tetap fleksibel, namun ia yakin beberapa penentang ambang batas kegagalan berusaha menghindari regulasi sistem AI karena mereka menjadi lebih mampu.
“Semuanya terjadi sangat cepat,” kata Aguirre. “Saya pikir ada kritik yang masuk akal bahwa ambang batas ini tidak mencerminkan apa yang kita ingin capai. Tapi saya pikir dari sudut pandang itu, itu seperti, 'Kita tidak boleh melakukan apa pun kecuali berharap yang terbaik.'” Hal ini adalah argumen yang buruk.