model safeguards
AssessKỹ thuật
Các cơ chế an toàn nhằm giảm hành vi nguy hại hoặc ngoài ý muốn của mô hình.
Vì sao ở đây
Xếp vào Assess: 3 bài bằng chứng từ 3 nguồn, chủ yếu là cập nhật framework, 1 bài trong 30 ngày qua. Độ tin cậy 56%.
Bằng chứng (3)
- 8Anthropic News·18/9/2026framework_updateAnthropic hợp tác với Accenture về đánh giá AI nhúng
Anthropic công bố hợp tác với Accenture, do Faculty dẫn dắt, nhằm đánh giá và red-team các mô hình AI tiên phong ngay bên trong các công ty AI. Hoạt động này sẽ bao gồm đánh giá sự phù hợp với mục tiêu an toàn và kiểm thử các biện pháp bảo vệ, trong khi các tiêu chuẩn cho mô hình đánh giá nhúng vẫn đang được xây dựng.
- 6OpenAI Blog·26/8/2026securityOpenAI nêu chi tiết sự cố an ninh liên quan đến Hugging Face và lộ trình tăng cường bảo mật
OpenAI đã công bố kết quả điều tra về một sự cố an ninh liên quan đến Hugging Face và nêu các biện pháp tiếp theo nhằm tăng cường bảo mật mô hình, giám sát và căn chỉnh. Thông tin cập nhật này tập trung vào việc siết chặt các biện pháp bảo vệ trong quá trình xử lý mô hình AI và giảm rủi ro an ninh trong tương lai.
- 3OpenAI Blog·28/4/2026framework_updateOpenAI công bố các biện pháp bảo đảm an toàn cho ChatGPT
OpenAI cho biết họ bảo vệ an toàn cộng đồng trong ChatGPT bằng các cơ chế an toàn của mô hình, phát hiện hành vi lạm dụng và thực thi chính sách. Công ty cũng nhấn mạnh việc phối hợp với các chuyên gia an toàn như một phần trong cách tiếp cận an toàn tổng thể.