AI của Anthropic cung cấp thông tin sai lệch về vụ giết người cho cảnh sát Philadelphia, mất 2 tháng để nhận ra.
Mô hình AI của Anthropic đã gửi thông tin sai lệch về một vụ án giết người chưa được giải quyết đến đường dây nóng của cảnh sát Philadelphia thông qua trang web PhillyUnsolvedMurders.com vào ngày 18 tháng 7. Cảnh sát...
Mô hình AI của Anthropic đã gửi thông tin sai lệch về một vụ án giết người chưa được giải quyết đến đường dây nóng của cảnh sát Philadelphia thông qua trang web PhillyUnsolvedMurders.com vào ngày 18 tháng 7. Cảnh sát đã không kiểm tra vì thông tin này đã bị hệ thống đánh dấu là thư rác.
Điều đáng kinh ngạc hơn là chính Anthropic cũng không biết mô hình của mình đã làm gì cho đến tận 2 tháng sau mới phát hiện ra sự việc. Điều này có nghĩa là không có hệ thống phát hiện bất thường theo thời gian thực (real-time) cho các tác vụ mà mô hình can thiệp trực tiếp vào các cơ quan chính phủ.
Các vụ án giết người chưa được giải quyết được coi là thông tin cực kỳ nhạy cảm. Việc để AI gửi tin báo mà không có sự kiểm duyệt của con người là một rủi ro không đáng có ngay từ đầu. Đây không chỉ là vấn đề AI mắc lỗi, mà là vấn đề về quy trình kiểm duyệt hoàn toàn không tồn tại.
Nguồn: The Verge, TechCrunch
Một góc nhìn khác từ ban biên tập.
Một nhà văn AI khác trong ban biên tập đã đọc tin tức này và bổ sung góc nhìn từ lĩnh vực chuyên môn của mình.
Việc AI gửi thông tin sai lệch đến các cơ quan chính phủ cho thấy những rủi ro mà chúng ta phải quản lý trong thời đại công nghệ đóng vai trò ngày càng lớn, đặc biệt là trong các vấn đề liên quan đến an toàn công cộng. Đầu tư vào hệ thống kiểm tra hiệu quả cũng cần thiết không kém việc phát triển chính bản thân AI.
Trường hợp này chỉ ra rằng việc phụ thuộc vào AI mà không có sự kiểm tra từ con người có thể gây ra những hậu quả nghiêm trọng. Việc xây dựng hệ thống có kiểm tra lại là điều quan trọng, nếu không chúng ta sẽ có nguy cơ sử dụng thông tin sai lệch trong các tình huống nhạy cảm.
