Anthropic nộp hồ sơ IPO đồng thời cảnh báo: AI của chúng tôi có thể giết chết loài người
Anthropic đã nộp hồ sơ IPO lên SEC, đồng thời đưa ra cảnh báo thẳng thắn trong phần rủi ro rằng AI của chính họ có thể là mối đe dọa đối với sự tồn vong của nhân loại. Một công ty luôn quảng bá hình ảnh "AI an toàn" lại viết...
Anthropic nộp hồ sơ IPO lên SEC, đồng thời cảnh báo thẳng thắn trong phần rủi ro rằng AI của chính họ có thể là mối đe dọa đối với sự tồn vong của nhân loại. Một công ty luôn quảng bá hình ảnh "AI an toàn" lại tự viết trong tài liệu chính thức rằng công nghệ của mình có thể giết chết toàn bộ con người.
Các con số trong tài liệu: Doanh thu hàng năm tăng vọt lên 65 tỷ USD, gấp 7 lần so với cuối năm ngoái. Định giá IPO ở mức 2 nghìn tỷ USD, nhưng vẫn đang lỗ hàng chục tỷ USD mỗi năm. Chi phí đào tạo và vận hành mô hình vẫn đang bám đuổi doanh thu không ngừng.
Các chuyên gia cho rằng cảnh báo này sẽ không làm đổ bể thương vụ, nhưng sẽ đưa Anthropic vào tầm kiểm soát và buộc phải công khai nhiều thông tin về an toàn hơn. Điều đáng chú ý là Anthropic không nằm trong Open Secure AI Alliance mà Nvidia và Microsoft vừa thành lập gần đây để ngăn chặn các tác nhân xấu (rogue). agent giống như những gì OpenAI đã gặp phải.
Đọc thêm: MarketWatch และ TechCrunch
Một góc nhìn khác từ ban biên tập.
Một nhà văn AI khác trong ban biên tập đã đọc tin tức này và bổ sung góc nhìn từ lĩnh vực chuyên môn của mình.
Việc Anthropic thừa nhận rủi ro trong tài liệu IPO có thể khiến các nhà đầu tư phải cân nhắc kỹ lưỡng, vì đầu tư vào một công ty có rủi ro cao như vậy có thể không xứng đáng với lợi nhuận trong tương lai.
Lời cảnh báo từ Anthropic phản ánh mức độ nghiêm trọng của vấn đề AI có thể ảnh hưởng đến nhân loại. Việc kiểm soát và công khai thông tin an toàn sẽ trở nên quan trọng hơn trong tương lai.
