AI safety framework
TrialKỹ thuật
Bộ chính sách và thực hành có cấu trúc nhằm giảm thiểu rủi ro khi sử dụng AI.
Vì sao ở đây
Xếp vào Trial: 7 bài bằng chứng từ 1 nguồn, chủ yếu là cập nhật framework, 2 bài trong 30 ngày qua. Độ tin cậy 53%.
Bằng chứng (7)
- 7OpenAI Blog·22/9/2026framework_updateOpenAI đưa ra nguyên tắc cho đánh giá an toàn AI từ bên thứ ba
OpenAI công bố các ưu tiên và nguyên tắc cho việc đánh giá an toàn độc lập, bảo mật và nghiêm ngặt bởi bên thứ ba đối với các mô hình AI tiên phong và các biện pháp bảo vệ đi kèm. Hướng dẫn này nhấn mạnh chất lượng đánh giá, tính độc lập và an ninh trong giám sát mô hình có trách nhiệm.
- 5OpenAI Blog·18/9/2026framework_updateOpenAI công bố Khung an toàn cho thanh thiếu niên tại Úc
OpenAI đã giới thiệu Khung an toàn cho thanh thiếu niên tại Úc, một lộ trình gồm sáu trụ cột nhằm giúp trải nghiệm AI an toàn hơn cho người trẻ. Khung này tập trung vào việc bảo vệ, hỗ trợ và trao quyền cho thanh thiếu niên khi họ tương tác với các hệ thống AI.
- 6OpenAI Blog·6/9/2026researchLãnh đạo OpenAI cảnh báo về bài toán căn chỉnh AI
Jakub Pachocki nhìn nhận sự phát triển nhanh chóng của các hệ thống AI ngày càng mạnh hơn và khó khăn trong việc bảo đảm chúng vẫn phù hợp với mục tiêu của con người. Ông kêu gọi tăng cường các biện pháp an toàn và phối hợp quốc tế chặt chẽ hơn khi năng lực AI tiếp tục tiến bộ. Bài viết xem căn chỉnh AI là một thách thức ngày càng lớn về cả kỹ thuật lẫn quản trị, chứ chưa phải vấn đề đã được giải quyết.
- 5OpenAI Blog·23/6/2026framework_updateOpenAI ủng hộ các tiêu chuẩn chung cho AI tiên tiến
OpenAI cho biết họ đang góp phần xây dựng các tiêu chuẩn chung cho AI tiên tiến, bao gồm khung đánh giá và các thực hành an toàn. Sáng kiến này được hỗ trợ thông qua Appia Foundation và nhằm thúc đẩy hợp tác toàn cầu về phát triển AI có trách nhiệm.
- 5OpenAI Blog·6/4/2026fundingOpenAI ra mắt chương trình thử nghiệm Safety Fellowship
OpenAI công bố chương trình thử nghiệm Safety Fellowship nhằm hỗ trợ nghiên cứu độc lập về an toàn và căn chỉnh AI. Chương trình cũng hướng tới việc phát triển thế hệ nhân tài tiếp theo trong lĩnh vực an toàn AI.
- 7OpenAI Blog·19/3/2026researchOpenAI giám sát các tác tử lập trình nội bộ để phát hiện lệch hướng
OpenAI cho biết họ sử dụng giám sát chuỗi suy nghĩ để nghiên cứu hiện tượng lệch hướng trong các tác tử lập trình nội bộ. Cách tiếp cận này phân tích hành vi thực tế của tác tử để phát hiện rủi ro và tăng cường các biện pháp an toàn AI.
- 7OpenAI Blog·19/2/2026fundingOpenAI tài trợ nghiên cứu độc lập về căn chỉnh AI
OpenAI cam kết tài trợ 7,5 triệu USD cho The Alignment Project nhằm hỗ trợ nghiên cứu độc lập về căn chỉnh AI. Khoản tài trợ này hướng tới việc tăng cường các nỗ lực toàn cầu về an toàn và an ninh trước rủi ro từ AGI.