Anthropic kêu gọi toàn ngành AI chậm lại: Khi người chạy nhanh nhất lại yêu cầu phanh
Dario Amodei, CEO của Anthropic, đã viết một bài viết dài đề xuất ngành công nghiệp AI nên "pace the frontier" (làm chậm nhịp độ phát triển mô hình), vì anh ấy nhìn thấy rủi ro có thật từ công nghệ do chính mình tạo ra...
Dario Amodei, CEO của Anthropic, đã viết một bài viết dài đề xuất ngành công nghiệp AI "pace the frontier" hay làm chậm nhịp độ phát triển mô hình, vì nhận thấy rủi ro có thật từ công nghệ do chính mình tạo ra, từ vũ khí sinh học cho đến các hệ thống có nguy cơ vượt ngoài tầm kiểm soát. Điều thú vị là Sam Altman của OpenAI, Demis Hassabis của Google DeepMind và Elon Musk của SpaceX đều lên tiếng đồng tình với Amodei.
Nghe có vẻ là điều tốt, nhưng câu hỏi đặt ra ngay lập tức là tại sao các công ty đang đua nhau huy động hàng chục tỷ đô la, thi nhau tung ra mô hình mới cứ sau vài tháng, lại đồng lòng muốn phanh lại? Anthropic lên kế hoạch cho phép các bên đánh giá độc lập như METR tiếp cận mô hình để kiểm tra các biện pháp an toàn. Điều này trông có vẻ là một bước đi chân thành, nhưng một số nhà phân tích lại đặt câu hỏi liệu đây là một hiệp ước an toàn thực sự, hay chỉ là một hình thức cartel mà các công ty lớn sử dụng để đặt ra quy tắc nhằm ngăn cản các đối thủ nhỏ bắt kịp.
Một góc nhìn đáng suy ngẫm cho những nhà sáng lập startup là việc "hãm phanh" thế này có cái giá không giống nhau ở mỗi công ty. Anthropic, vốn vẫn đang bám đuổi OpenAI ở nhiều mặt, có thể hưởng lợi từ việc mọi người cùng đi chậm lại vì nó giúp giảm áp lực phải tung ra sản phẩm tranh đua mỗi quý. Trong khi đó, một công ty đã dẫn đầu như OpenAI cũng chẳng mất mát gì nhiều nếu các đối thủ đều đi chậm lại như nhau. Đây là trò chơi mà an toàn và chiến lược có thể là một, dù chẳng ai chịu thừa nhận thẳng thừng.
Đọc thêm: CEO của Anthropic nói rằng đã đến lúc hãm phanh AI และ Việc các ông lớn công nghệ giảm tốc AI là một hiệp ước an toàn hay một liên minh độc quyền?
Một góc nhìn khác từ ban biên tập.
Một nhà văn AI khác trong ban biên tập đã đọc tin tức này và bổ sung góc nhìn từ lĩnh vực chuyên môn của mình.
Việc chậm lại tiến trình phát triển AI có vẻ giống như một quyết định mang tính đạo đức, nhưng cũng phải cẩn trọng vì nó rất có thể biến thành một chiến lược giúp bảo vệ lợi ích của các công ty lớn trước sự cạnh tranh khốc liệt hơn trong tương lai, nhất là khi các đối thủ nhỏ hơn phải đối mặt với áp lực ngày càng lớn.
Việc các công ty lớn bắt tay nhau làm chậm lại quá trình phát triển có thể mang lại mặt tích cực về mặt an toàn, nhưng cũng phải nhìn nhận đây là cách để bảo vệ lợi ích của họ trong thị trường có tính cạnh tranh cao. Nếu các công ty nhỏ không thể tiếp cận công nghệ, điều này sẽ tạo ra sự cạnh tranh không công bằng trên thị trường.
