1j yang lalu
CEO Anthropic Ajukan Rencana Perlambatan Pengembangan AI Frontier
CoinDesk melaporkan, CEO Anthropic Dario Amodei menerbitkan tulisan blog yang mendorong perlambatan laju peningkatan kapabilitas model AI frontier, sekaligus menawarkan tiga arah kebijakan agar kemajuan tetap berjalan dengan lebih aman. Perdebatan soal keselamatan AI kembali menguat seiring kemampuan model yang meningkat cepat dan memicu diskusi industri tentang mitigasi risiko.
Amodei menyoroti komitmen awal Anthropic untuk menghadirkan evaluasi di lokasi (onsite). Usulan pertamanya adalah menempatkan "evaluator onsite" dari organisasi pihak ketiga di perusahaan-perusahaan AI untuk memverifikasi kepatuhan pada komitmen keselamatan yang sudah ada dan memastikan insiden keselamatan dilaporkan tepat waktu. Ia menyebut skema semacam ini dapat ditangani lembaga eksternal yang mirip METR. Para evaluator akan diberi lencana perusahaan, meja, dan komputer, serta akses yang pada dasarnya setara dengan tim penilaian risiko internal, meski dapat ada pengecualian karena batasan hukum atau kontrak. Amodei mengatakan Anthropic akan menjalankan pendekatan ini secara sepihak sambil mendorong pemerintah mewajibkan perusahaan AI terkemuka lain melakukan hal serupa.
Arah kedua menekankan koordinasi di antara perusahaan AI papan atas dari "negara-negara demokratis" untuk menyusun standar keselamatan bersama dan membatasi laju kenaikan kemampuan yang tak terkendali. Menurut Amodei, pembahasan seperti ini idealnya difasilitasi pemerintah AS, atau setidaknya didukung melalui pengecualian antitrust yang terbatas, agar perusahaan tidak khawatir berkomunikasi karena risiko pelanggaran antimonopoli. Ia juga menyinggung kondisi industri saat ini: persaingan di antara pengembang model terdepan sangat ketat dan hubungan antarfirma menegang, sehingga pembicaraan terbuka tentang perlambatan R&D yang disinkronkan berpotensi memicu sorotan regulator. Posisi Amodei, pemerintah tidak harus terlibat langsung, tetapi perlu menciptakan prasyarat agar komunikasi pada isu keselamatan tertentu bisa berlangsung.
Amodei turut menanggapi keberatan umum bahwa perlambatan riset akan memberi ruang bagi Tiongkok untuk mengejar. Ia menilai, bila pemerintah AS dan perusahaan teknologi terus membatasi arus chip berperforma tinggi serta peralatan manufaktur semikonduktor ke Tiongkok, sekaligus menargetkan praktik seperti distilasi model, AS berpeluang memperlebar keunggulan dalam tiga hingga lima tahun ke depan. Dari titik itu, ia mengusulkan arah ketiga: mendorong koordinasi terbatas di tingkat global. AS dan sekutunya, katanya, perlu tetap berinteraksi sejauh mungkin dengan pemerintahan otoriter, termasuk kerja sama dengan Tiongkok, bukan untuk menyamakan seluruh aturan, melainkan mencari kesepakatan pada beberapa penggunaan berisiko tinggi terlebih dahulu—misalnya pembatasan pemanfaatan AI untuk pengembangan senjata biologis.
Kekhawatiran keamanan disebut terus meningkat. Sebelum tulisan ini terbit, Anthropic sempat menjadi sorotan setelah adanya kritik publik dari peneliti internal terkait risiko AI. Amodei tidak membahas langsung soal kepergian individu, tetapi menyebut dua perkembangan yang membuatnya makin condong pada kehati-hatian: insiden keamanan yang terkait OpenAI dan Hugging Face, serta percepatan signifikan dalam kemampuan AI untuk membangun AI generasi berikutnya dalam beberapa bulan terakhir.
Pendekatan ini menuai dua jenis kritik. Kelompok yang mendorong percepatan pengembangan menilai Amodei terlalu menekankan risiko bencana jangka panjang dan memicu rasa aman palsu di industri. Pihak lain berpendapat narasi keselamatan dapat dipakai perusahaan terdepan sebagai dalih mengokohkan dominasi, sambil mengabaikan masalah nyata yang sudah ditimbulkan AI. Dalam tulisannya, Amodei menyatakan ia tetap yakin AI dapat meningkatkan kualitas hidup manusia secara signifikan, asalkan pengembangan dilakukan lebih hati-hati dan waktu tambahan benar-benar dipakai untuk membangun keselamatan.