Ngành công nghiệp AI chưa chú trọng đúng mức đến rủi ro an ninh

Ngành công nghiệp AI chưa chú trọng đúng mức đến rủi ro an ninh.

Bảng xếp hạng do 7 chuyên gia quản trị và nhà nghiên cứu lập ra dựa trên dữ liệu công khai và thông tin do chính các công ty cung cấp. Tiêu chí đánh giá bao gồm 6 hạng mục: đánh giá rủi ro, tác hại hiện tại, khuôn khổ an toàn, an toàn hiện sinh, quản trị và trách nhiệm giải trình, cùng với chia sẻ thông tin. Đáng chú ý, không công ty nào đạt điểm "A" ở bất kỳ hạng mục nào, trong khi mức điểm tổng thể cao nhất thuộc về Anthropic cũng chỉ dừng ở mức "C+".

Về thứ hạng, Meta đã tăng 2 bậc để vươn lên vị trí thứ 4. Trái lại, xAI của tỷ phú Elon Musk tụt 3 bậc xuống vị trí thứ 7. Nhóm các nhà phát triển đến từ Trung Quốc đều nằm ở nửa dưới bảng xếp hạng, lần lượt là DeepSeek (thứ 5), Alibaba Cloud (thứ 6) và Z.ai (thứ 8). Xếp cuối cùng là tân binh lần đầu lọt vào danh sách - công ty công nghệ Mistral của Pháp.

Theo ông Max Tegmark, Giáo sư tại Viện Công nghệ Massachusetts (MIT) kiêm Chủ tịch Future of Life, kết quả của Mistral gây thất vọng lớn bởi châu Âu vốn luôn được coi là khu vực tiên phong về an toàn AI. Dù viện đã nhiều lần liên hệ, Mistral không phản hồi các bảng khảo sát, tương tự như trường hợp của Alibaba, xAI và DeepSeek.

Đi sâu vào chi tiết, báo cáo chỉ ra nhiều hoạt động đáng quan ngại. Một số công ty từng cấm ứng dụng công nghệ của mình vào mục đích quân sự nay lại đang dần đảo ngược chính sách. Điển hình như Anthropic bị chỉ trích vì có các hoạt động quân sự thiếu minh bạch. Công nghệ của hãng được cho là đã hỗ trợ quân đội Mỹ trong năm qua, dù hiện tại Anthropic đang bị Lầu Năm Góc cấm sử dụng do bất đồng về an toàn AI.

Ở cấp độ vĩ mô, toàn bộ 9 công ty đều bị đánh giá là đang thất bại trong việc ngăn chặn các mối đe dọa mang tính sinh tử, đặc biệt là trong cuộc đua tạo ra "trí tuệ nhân tạo tổng quát" (AGI - mô hình có trí thông minh ngang ngửa con người). Báo cáo nhấn mạnh rằng dù các công ty đã có một số nỗ lực mang tính xây dựng, nhưng nhìn chung các biện pháp hiện tại hoàn toàn chưa đủ.

Ngoài ra, báo cáo đặc biệt nhấn mạnh rủi ro lạm dụng mô hình để tiến hành tấn công mạng hoặc thực hiện các nhiệm vụ gây hại cho con người. Ví dụ điển hình là việc Anthropic tung ra mô hình mạnh nhất của họ mang tên Mythos đã làm dấy lên những lo ngại sâu sắc về an ninh mạng. Ngày 12/6, lo ngại khả năng mô hình này tiếp tay cho kẻ xấu khai thác lỗ hổng mạng lưới, Chính quyền Tổng thống Mỹ Donald Trump đã cấm Anthropic cung cấp Mythos cho người nước ngoài vì lý do an ninh quốc gia. Lệnh cấm sau đó được dỡ bỏ vào ngày 30/6.