Self-improving superintelligence
AssessKỹ thuật
Một hệ thống AI giả định có thể tự nâng cấp năng lực của chính nó và nhanh chóng vượt mức con người.
Vì sao ở đây
Xếp vào Assess: 2 bài bằng chứng từ 3 nguồn, chủ yếu là tin nghiên cứu, 2 bài trong 30 ngày qua. Độ tin cậy 45%.
Bằng chứng (2)
- 8Hacker News·21/9/2026researchKỹ sư Anthropic từ chức vì lo ngại an toàn AI
Một cựu nhà nghiên cứu tiền huấn luyện tại Anthropic và OpenAI cho biết ông đã từ chức vì cho rằng cả hai công ty đang chạy đua hướng tới siêu trí tuệ tự cải thiện mà không có kế hoạch an toàn đủ trách nhiệm. Bài viết thu hút sự chú ý lớn và làm dấy lên tranh luận mới về căn chỉnh AI, áp lực trong ngành, và việc các phòng thí nghiệm hàng đầu có thể kiểm soát các hệ thống năng lực cao hay không.
- 8Ars Technica AI·9/9/2026researchCựu nhà nghiên cứu Anthropic cảnh báo AI tự cải thiện có thể gây thảm họa
Nhà nghiên cứu AI Jacob Coxon đã rời Anthropic và công khai cảnh báo rằng các công ty AI tiên phong đang chấp nhận rủi ro lớn khi theo đuổi các hệ thống có thể dẫn tới siêu trí tuệ tự cải thiện. Trưởng nhóm Anthropic Alignment Science, Evan Hubinger, cũng đồng tình rằng AI có thể giết chết toàn bộ loài người và cho rằng rủi ro này có thể vượt 10% trong thập kỷ tới.