ซีอีโอ Anthropic เสนอแผนชะลอความเร็วการพัฒนา AI ระดับแนวหน้า

CoinDesk รายงานว่า Dario Amodei ซีอีโอของ Anthropic เผยแพร่บล็อกโพสต์ฉบับใหม่ เสนอให้ชะลออัตราความก้าวหน้าของความสามารถในโมเดล AI ระดับแนวหน้า พร้อมระบุ 3 แนวทางที่ควรผลักดันต่อไป ท่ามกลางกระแสถกเถียงด้านความปลอดภัย AI ที่กลับมาร้อนแรงอีกครั้ง หลังความสามารถของโมเดลพัฒนาเร็วขึ้นและทำให้อุตสาหกรรมพูดถึงการลดความเสี่ยงมากขึ้น มาตรการแรกที่ Amodei เสนอคือให้หน่วยงานอิสระส่ง "ผู้ประเมินในสถานที่" (onsite evaluators) เข้าไปประจำในบริษัท AI เพื่อตรวจสอบว่าบริษัทปฏิบัติตามคำมั่นด้านความปลอดภัยที่มีอยู่หรือไม่ และติดตามว่ามีการรายงานเหตุการณ์ด้านความปลอดภัยอย่างทันท่วงทีหรือไม่ เขาระบุว่ากลไกนี้สามารถให้หน่วยงานภายนอกลักษณะใกล้เคียงกับ METR เป็นผู้ดำเนินการ โดยผู้ประเมินจะได้รับบัตรพนักงาน โต๊ะทำงาน และคอมพิวเตอร์ ระดับการเข้าถึงข้อมูลโดยรวมใกล้เคียงกับทีมประเมินความเสี่ยงภายใน แม้อาจมีข้อยกเว้นจากข้อจำกัดทางกฎหมายหรือสัญญา Amodei ระบุว่า Anthropic จะเดินหน้าทำแนวทางนี้เอง และเรียกร้องให้ภาครัฐกำหนดให้บริษัท AI ชั้นนำรายอื่นทำตาม แนวทางที่สองคือการประสานงานระหว่างบริษัท AI ชั้นนำจาก "ประเทศประชาธิปไตย" เพื่อกำหนดมาตรฐานความปลอดภัยร่วม และจำกัดจังหวะการเพิ่มขีดความสามารถแบบไร้การควบคุม Amodei เห็นว่าการหารือดังกล่าวควรมีรัฐบาลสหรัฐเป็นผู้เอื้ออำนวย หรืออย่างน้อยควรสนับสนุนด้วยการยกเว้นข้อจำกัดด้านกฎหมายแข่งขันทางการค้า (antitrust) แบบจำกัด เพื่อบรรเทาความกังวลของบริษัทที่อาจไม่กล้าสื่อสารเพราะเสี่ยงต่อประเด็น antitrust เขายอมรับด้วยว่าในความเป็นจริงการแข่งขันระหว่างผู้พัฒนาโมเดลชั้นนำเข้มข้น และความสัมพันธ์ระหว่างบริษัทตึงเครียด การพูดคุยเรื่องชะลอ R&D แบบพร้อมกันโดยตรงอาจถูกเพ่งเล็งจากหน่วยงานกำกับดูแล มุมมองของเขาคือรัฐไม่จำเป็นต้องเข้ามามีบทบาทโดยตรงเสมอไป แต่ควรสร้างเงื่อนไขให้มีการสื่อสารในประเด็นความปลอดภัยที่เฉพาะเจาะจงได้ Amodei ยังตอบข้อโต้แย้งที่มักถูกหยิบยกว่าการชะลอ R&D จะเปิดทางให้จีนไล่ทัน เขามองว่าหากรัฐบาลสหรัฐและบริษัทเทคโนโลยียังคงจำกัดการไหลเข้าไปของชิปประสิทธิภาพสูงและอุปกรณ์การผลิตเซมิคอนดักเตอร์สู่จีน พร้อมมุ่งเป้าไปที่แนวปฏิบัติอย่างการกลั่นแบบจำลอง (model distillation) สหรัฐมีโอกาสขยายความเป็นผู้นำต่อได้อีกในช่วง 3-5 ปีข้างหน้า จากฐานคิดนี้ เขาเสนอแนวทางที่สามคือการผลักดันความร่วมมือแบบจำกัดในระดับโลก โดยระบุว่าสหรัฐและพันธมิตรควรพยายามมีปฏิสัมพันธ์กับรัฐบาลเผด็จการให้มากที่สุด รวมถึงความร่วมมือกับจีน ไม่ได้ตั้งเป้าให้สอดคล้องกันทุกเรื่อง แต่ให้เริ่มจากฉันทามติในบางการใช้งานที่มีความเสี่ยงสูงก่อน เช่น การจำกัดการใช้ AI ในการพัฒนาอาวุธชีวภาพ ความกังวลด้านความปลอดภัยยังเพิ่มขึ้นอย่างต่อเนื่อง ก่อนบทความนี้เผยแพร่ Anthropic เคยเป็นที่จับตาจากกรณีที่นักวิจัยภายในออกมาวิจารณ์ความเสี่ยงของ AI ต่อสาธารณะ Amodei ไม่ได้กล่าวถึงการลาออกเป็นรายกรณี แต่ชี้ว่ามี 2 ปัจจัยที่ทำให้เขาโน้มเอียงไปทางความระมัดระวังมากขึ้น ได้แก่ เหตุการณ์ด้านความปลอดภัยที่เกี่ยวข้องกับ OpenAI และ Hugging Face และความก้าวหน้าที่เร่งตัวอย่างมีนัยสำคัญในช่วงไม่กี่เดือนที่ผ่านมาในความสามารถของ AI ในการสร้าง AI รุ่นถัดไป แนวทางนี้ยังเผชิญเสียงวิจารณ์สองด้าน ฝ่ายที่สนับสนุนการเร่งพัฒนามองว่า Amodei ให้น้ำหนักกับความเสี่ยงหายนะระยะยาวมากเกินไป จนทำให้อุตสาหกรรมผ่อนคลายต่อปัญหาอีกด้าน ขณะที่อีกกลุ่มเห็นว่าการอ้างความปลอดภัยอาจถูกใช้เป็นข้ออ้างเพื่อเสริมความได้เปรียบของบริษัทชั้นนำ โดยละเลยปัญหาเชิงปฏิบัติที่ AI ได้ก่อขึ้นแล้วในโลกจริง Amodei ระบุว่าเขายังเชื่อว่า AI สามารถยกระดับคุณภาพชีวิตของมนุษย์ได้อย่างมาก หากการพัฒนาเดินหน้าอย่างรอบคอบขึ้น และเวลาที่ได้เพิ่มมาถูกนำไปใช้สร้างความปลอดภัยอย่างแท้จริง