1 giờ trước
CEO Anthropic đề xuất làm chậm tốc độ phát triển AI tuyến đầu
Theo CoinDesk, CEO Anthropic Dario Amodei vừa đăng một bài viết trên blog kêu gọi giảm tốc đà tiến bộ của các mô hình AI "tuyến đầu", đồng thời đưa ra ba hướng đi để tiếp tục phát triển theo cách thận trọng hơn. Tranh luận về an toàn AI gần đây lại nóng lên khi năng lực mô hình tăng nhanh, kéo theo yêu cầu cấp thiết về giảm thiểu rủi ro.
Đề xuất thứ nhất của Amodei là triển khai cơ chế "đánh giá tại chỗ" do bên thứ ba thực hiện. Theo đó, các tổ chức độc lập sẽ cử "giám sát viên tại chỗ" vào làm việc trực tiếp trong các công ty AI nhằm xác minh việc tuân thủ các cam kết an toàn hiện có và theo dõi liệu sự cố an toàn có được báo cáo kịp thời hay không. Ông cho biết mô hình này có thể do các tổ chức bên ngoài tương tự METR đảm trách. Nhân sự đánh giá sẽ được cấp thẻ ra vào, bàn làm việc và máy tính; mức quyền truy cập nhìn chung tương đương các nhóm đánh giá rủi ro nội bộ, dù có thể bị giới hạn vì ràng buộc pháp lý hoặc hợp đồng. Amodei nói Anthropic sẽ chủ động triển khai trước, đồng thời kêu gọi chính phủ yêu cầu các hãng AI hàng đầu khác áp dụng.
Hướng đi thứ hai là các công ty AI dẫn đầu từ các "quốc gia dân chủ" phối hợp thiết lập chuẩn an toàn chung, qua đó kiềm chế tốc độ tăng năng lực ngoài kiểm soát. Amodei cho rằng Chính phủ Mỹ phù hợp nhất để đứng ra thúc đẩy, hoặc tối thiểu hỗ trợ bằng các miễn trừ chống độc quyền ở mức hạn chế, nhằm giảm lo ngại của doanh nghiệp khi trao đổi do rủi ro vi phạm quy định cạnh tranh. Ông cũng thừa nhận thực tế ngành: cạnh tranh giữa các hãng mô hình lớn đang rất căng thẳng, quan hệ giữa các bên dễ rạn nứt; việc bàn về giảm tốc R&D theo kiểu đồng bộ có thể khiến họ bị soi xét về pháp lý. Theo Amodei, chính phủ không nhất thiết phải can dự trực tiếp, nhưng cần tạo điều kiện để doanh nghiệp có thể trao đổi tập trung vào các vấn đề an toàn cụ thể.
Ở hướng thứ ba, Amodei phản hồi lập luận phổ biến rằng giảm tốc sẽ tạo cơ hội để Trung Quốc bắt kịp. Ông cho rằng nếu Chính phủ Mỹ và các công ty công nghệ tiếp tục siết dòng chảy chip hiệu năng cao và thiết bị sản xuất bán dẫn sang Trung Quốc, đồng thời nhắm tới các thực hành như "chưng cất mô hình", Mỹ có thể kéo dài thêm lợi thế trong 3 đến 5 năm tới. Trên nền tảng đó, ông đề xuất thúc đẩy phối hợp giới hạn ở cấp độ toàn cầu: Mỹ và các đồng minh nên tăng cường tiếp xúc với các chính phủ chuyên chế, gồm cả hợp tác với Trung Quốc, không nhằm đồng thuận toàn diện mà ưu tiên thống nhất trước về một số ứng dụng rủi ro cao, chẳng hạn hạn chế sử dụng AI trong phát triển vũ khí sinh học.
Lo ngại an ninh tiếp tục gia tăng. Trước khi bài viết được công bố, Anthropic đã thu hút chú ý khi một số nhà nghiên cứu nội bộ công khai chỉ trích rủi ro AI. Amodei không trực tiếp đề cập các trường hợp rời công ty, nhưng nói có hai diễn biến khiến ông nghiêng hơn về cách tiếp cận thận trọng: các sự cố an ninh liên quan đến OpenAI và Hugging Face, cùng việc năng lực AI trong việc xây dựng thế hệ AI tiếp theo đã tăng tốc đáng kể trong vài tháng qua.
Dù vậy, đề xuất này cũng vấp hai luồng chỉ trích. Nhóm ủng hộ tăng tốc phát triển cho rằng Amodei quá nhấn mạnh rủi ro thảm hoạ dài hạn, có thể làm ngành tự mãn. Ở chiều ngược lại, một số ý kiến lo ngại các tuyên bố về an toàn có thể trở thành cái cớ để các công ty dẫn đầu củng cố vị thế, trong khi phớt lờ những vấn đề thực tế mà AI đã gây ra. Trong bài viết, Amodei khẳng định ông vẫn tin AI có thể cải thiện mạnh chất lượng cuộc sống, với điều kiện tiến trình được kiểm soát chặt chẽ hơn và khoảng thời gian giành được thực sự được dùng để xây dựng an toàn.