Những điểm chính:
Lời kêu gọi của Anthropic về việc tạm dừng phát triển AI tiên tiến có phối hợp toàn cầu đã làm sống lại cuộc tranh luận về việc liệu ngành công nghiệp có thể tự kiểm soát trước khi máy móc học cách cải tiến mà không cần sự giám sát của con người hay không.
Anthropic cảnh báo rằng các hệ thống AI có thể đạt tới "khả năng tự cải tiến đệ quy" — khả năng tự viết lại mã của chúng mà không cần can thiệp của con người — trong vòng hai năm, đồng thời đề xuất tạm dừng có phối hợp toàn cầu để làm chậm quá trình phát triển các mô hình tiên tiến.
"Chúng tôi tin rằng sẽ tốt cho thế giới nếu có lựa chọn làm chậm hoặc tạm dừng tạm thời việc phát triển AI tiên tiến để cho phép các cấu trúc xã hội và nghiên cứu căn chỉnh (alignment research) theo kịp với sự tiến bộ của công nghệ," Marina Favaro, trưởng bộ phận nghiên cứu nội bộ tại Anthropic, và Jack Clark, trưởng bộ phận chính sách, viết trong một bài đăng trên blog hôm thứ Năm.
Công ty, được định giá khoảng 965 tỷ USD sau vòng gọi vốn Series H trị giá 65 tỷ USD vào tháng trước, đã công bố dữ liệu nội bộ cho thấy sự tăng tốc nhanh chóng trong khả năng hoàn thành các tác vụ phần mềm một cách tự động của các mô hình tiên tiến nhất. Clark cho biết một số hệ thống có thể đạt khả năng tự cải tiến đệ quy trong vòng hai năm, mặc dù công ty thừa nhận hiện tượng này vẫn chỉ là lý thuyết và chưa từng được chứng minh trong thực tế.
Đề xuất này được đưa ra khi Anthropic và OpenAI đang chạy đua hướng tới các đợt niêm yết công khai — Anthropic đã nộp hồ sơ IPO bí mật lên Ủy ban Chứng khoán và Giao dịch Hoa Kỳ (SEC) trong tuần này — và khi hai công ty cạnh tranh giành vị thế thống trị trong một thị trường được dự báo sẽ đạt 1 nghìn tỷ USD chi tiêu cho cơ sở hạ tầng AI trong vòng năm năm tới. Một sự chậm lại, nếu được thực thi, sẽ định hình lại bức tranh cạnh tranh và có thể trì hoãn hàng tỷ USD doanh thu dự kiến.
Tính khả thi của việc tạm dừng toàn cầu
Việc thực thi lệnh tạm dừng phát triển AI trên toàn thế giới sẽ phải đối mặt với những trở ngại gần như không thể vượt qua, các nhà phân tích cho biết. Rob Enderle của Enderle Group gọi việc tạm dừng toàn cầu là "gần như bất khả thi" bởi vì các lợi ích kinh tế và an ninh quốc gia là quá lớn để bất kỳ cường quốc nào tự nguyện chậm lại. Không giống như vũ khí hạt nhân, nơi hình ảnh vệ tinh có thể xác minh việc xây dựng hầm chứa tên lửa, các đợt huấn luyện AI có thể được che giấu bên trong các trung tâm dữ liệu tư nhân với các tài nguyên tính toán phi tập trung khó giám sát hơn nhiều.
"Việc theo dõi các tài nguyên tính toán phi tập trung, trung tâm dữ liệu tư nhân và nghiên cứu thuật toán trên toàn cầu khó khăn hơn nhiều so với việc giám sát một thứ vật lý, như các cơ sở hạt nhân," Enderle nói.
Anthropic thừa nhận thách thức về xác minh, so sánh nỗ lực này với các hiệp ước kiểm soát vũ khí thời Chiến tranh Lạnh, nhưng lưu ý rằng việc che giấu các đợt huấn luyện AI dễ dàng hơn đáng kể so với che giấu cơ sở hạ tầng tên lửa. Công ty cho biết bộ phận nghiên cứu thuộc Viện Anthropic sẽ hợp tác với các nhà hoạch định chính sách và nhà nghiên cứu để khám phá các cơ chế xác minh, mặc dù không đưa ra mốc thời gian hoặc khuôn khổ cụ thể.
Các nhà phê bình nghi ngờ động cơ của Anthropic
Đề xuất này đã vấp phải sự hoài nghi gay gắt từ các nhân vật trong ngành, những người cho rằng Anthropic đang sử dụng luận điệu an toàn để củng cố vị thế cạnh tranh của mình. Nhà đầu tư mạo hiểm David Sacks, một cố vấn không chính thức của Tổng thống Donald Trump, trước đây đã cáo buộc công ty theo đuổi "chương trình nghị sự chiếm đoạt quyền quản lý" nhằm cấm các mô hình nguồn mở chi phí thấp để thúc đẩy nhu cầu cho các thuật toán độc quyền của mình.
Giám đốc điều hành OpenAI Sam Altman cũng đã đưa ra những cáo buộc tương tự, mô tả những cảnh báo của Anthropic là "tiếp thị dựa trên sự sợ hãi." Trong một tuyên bố tháng trước, ông nói: "Rõ ràng đó là một chiến lược tiếp thị xuất sắc khi nói rằng, 'Chúng tôi đã chế tạo một quả bom, chúng tôi sắp thả nó xuống đầu bạn. Chúng tôi sẽ bán cho bạn một hầm trú bom với giá 100 triệu USD.'"
OpenAI đã công bố báo cáo riêng của mình hôm thứ Tư với lập luận rằng "các chính phủ dân chủ — không phải các công ty tư nhân hành động đơn lẻ — cuối cùng phải xác định các quy tắc, biện pháp bảo vệ và cơ chế giải trình" cho sự phát triển AI, một quan điểm ngầm bác bỏ đề xuất tạm dừng do ngành công nghiệp dẫn dắt của Anthropic.
Holger Mueller của Constellation Research cho biết ông rất khuyến khích khi thấy Anthropic đặt ra các câu hỏi về đạo đức nhưng nghi ngờ liệu công ty có đang cố gắng "đóng băng hiện trạng để bắt kịp, hay đơn giản là giữ vững vị thế dẫn đầu" hay không. Ông lưu ý rằng việc đóng băng sẽ giúp Anthropic duy trì vị thế trong các hệ thống AI doanh nghiệp và có khả năng mở rộng thị phần.
Giáo sư Ethan Mollick của Trường Wharton thuộc Đại học Pennsylvania đã đăng trên X rằng bài đăng trên blog chứa "một chút tự suy ngẫm, một chút tiếp thị, và rất nhiều niềm tin chân thành về những gì Anthropic nghĩ có thể xảy ra trong tương lai gần của AI."
Hàm ý cho nhà đầu tư
Đối với các nhà đầu tư, cuộc tranh luận này đưa ra sự bất ổn định về quy định trong một lĩnh vực mà những người chơi lớn nhất — Anthropic, OpenAI, Google, Microsoft và Meta — đang chi tổng cộng hơn 200 tỷ USD mỗi năm cho cơ sở hạ tầng AI. Nếu một lệnh tạm dừng có phối hợp nhận được sự ủng hộ, nó có thể làm chậm kỳ vọng tăng trưởng doanh thu của Nvidia, công ty có doanh thu trung tâm dữ liệu đạt 47,5 tỷ USD trong quý gần nhất gắn trực tiếp với nhu cầu huấn luyện mô hình AI. Nếu đề xuất bị bác bỏ, nó có thể loại bỏ một rủi ro ngắn hạn nhưng sẽ gia tăng sự giám sát đối với các thực hành an toàn.
Anthropic chưa có mã chứng khoán công khai, nhưng hồ sơ IPO bí mật của công ty đồng nghĩa rằng các nhà đầu tư thị trường đại chúng sẽ sớm có cổ phần trực tiếp trong cách cuộc tranh luận này được giải quyết. Vòng gọi vốn 65 tỷ USD của công ty, dẫn đầu bởi các nhà đầu tư bao gồm Spark Capital và Menlo Ventures, đã định giá công ty ở mức gấp khoảng 40 lần doanh thu hàng năm — một bội số giả định sự tăng trưởng nhanh chóng tiếp diễn mà không có sự gián đoạn về quy định.
Bài viết này chỉ mang tính chất tham khảo và không cấu thành lời khuyên đầu tư.
