Google, Microsoft, OpenAI, dan Anthropic bersatu untuk mengatasi potensi risiko dan tantangan "model AI terdepan".
Poin Penting
- Google, Microsoft, OpenAI, dan Anthropic bersatu untuk mengatasi tantangan dan potensi risiko yang ditimbulkan oleh "model AI frontier" melalui pembentukan Forum Model Frontier.
- Model Frontier lebih maju dibandingkan model AI yang sudah ada dan dapat melakukan berbagai macam tugas, sehingga meningkatkan kekhawatiran akan keselarasan model tersebut dengan nilai-nilai kemanusiaan dan kepentingan publik.
- Tujuan utama Forum ini mencakup pengembangan praktik terbaik, berbagi informasi, memajukan penelitian keamanan AI, dan berkolaborasi dengan para pemangku kepentingan untuk membangun konsensus mengenai isu-isu pengembangan AI. Keanggotaan tersedia untuk organisasi yang berkomitmen terhadap pengembangan AI yang bertanggung jawab.
Sejarah memberi tahu kita bahwa ketika perusahaan, meskipun mereka adalah pesaing, mempunyai kepentingan bersama dalam mengatasi tantangan, mereka bekerja sama untuk mengatasinya. Dan bagi Google, Microsoft, OpenAI, dan Anthropic, permasalahan umum yang menyatukan mereka adalah tantangan dan potensi risiko yang disebut oleh perusahaan-perusahaan ini sebagai "model AI terdepan". Dalam pernyataan bersama, Google, Microsoft, OpenAI, dan Anthropic mengumumkan "Frontier Model Forum", sebuah badan industri baru yang mempromosikan model AI frontier yang aman dan bertanggung jawab.
Chatbots dan layanan AI sejenisnya ObrolanGPT, Obrolan Bing, Dan Penyair berspesialisasi dalam melakukan tugas-tugas tertentu dan belum memperoleh kecerdasan tingkat manusia. Namun ada kekhawatiran yang semakin besar bahwa hal ini akan segera mendapatkan kesadaran dan akan berpotensi bertindak melawan kepentingan publik yang lebih besar. Seperti yang dijelaskan pada joint penyataan, model frontier adalah model pembelajaran mesin berskala besar yang jauh lebih maju daripada kemampuan model yang ada dan, oleh karena itu, dapat melakukan berbagai macam tugas. Dan mengingat risiko yang ada, Forum ingin menerapkan mekanisme yang kuat untuk memastikan model-model ini lebih selaras dengan nilai-nilai kemanusiaan dan berupaya untuk melayani kepentingan terbaik masyarakat.
Tujuan utama Forum ini adalah mengidentifikasi praktik terbaik untuk mengembangkan dan menerapkan AI model, memfasilitasi pertukaran informasi antara perusahaan dan pemerintah, dan memajukan keselamatan AI riset. Bagian dari penelitian keamanan AI akan mencakup pengujian dan membandingkan berbagai model AI dan mempublikasikan tolok ukurnya di perpustakaan umum agar setiap pelaku industri utama dapat memahami potensi risiko dan mengambil tindakan untuk menghilangkannya mereka.
Frontier Model Forum akan membentuk Dewan Penasihat yang terdiri dari para pemain dari berbagai latar belakang dan perspektif berbeda untuk menyusun strategi dan prioritas. Selain itu, perusahaan pendiri juga akan membentuk pengaturan kelembagaan bagi seluruh pemangku kepentingan untuk berkolaborasi membangun konsensus mengenai isu-isu terkait pengembangan AI. Forum ini juga akan memanfaatkan pengetahuan dan sumber daya yang telah dikemukakan oleh kelompok masyarakat sipil, peneliti, dan pihak lain. Ini akan mempelajari dan mendukung inisiatif AI yang ada, seperti Kemitraan AI dan MLCommons, untuk implementasi praktis dari pedoman yang ditetapkannya.
Frontier Model Forum juga menawarkan keanggotaan kepada organisasi-organisasi yang berkomitmen kuat untuk mematuhi peraturan dalam mengembangkan dan menerapkan model AI frontier yang bertanggung jawab.