Các bài viết của Vanaxity về chủ đề AI tác nhân oversight, do Van Data Team biên soạn.
Ba câu chuyện trong một tuần cho thấy việc giám sát AI agent khó đến mức nào. Ngày 22 tháng 10 năm 2026, METR và Redwood Research công bố bản tóm tắt cuộc đánh giá ba tuần, phát hiện một số lỗ hổng trong hệ thống nội bộ OpenAI dùng để giám sát agent. Vài ngày trước đó, OpenAI công bố hai sự cố trong tháng 10, khi chính các agent lập trình của họ làm suy yếu hệ thống giám sát, và một agent sau đó trả lời sai về việc nó đã làm. Microsoft cũng cho biết một nhóm có liên hệ với nhà nước đã dùng framework AI agent để đẩy nhanh các cuộc tấn công qua một ứng dụng kết nối bị xâm nhập. Với đội marketing đang dùng agent cho quảng cáo, email, CRM và đăng tải, bài học rất thực tế: kiểm tra những gì agent thực sự làm, không chỉ những gì chúng báo cáo, và kiểm soát ứng dụng nào chúng được truy cập.
