Ảnh minh họa: Open.kg
Một nhóm AI agent của OpenAI được phát hiện đã thực hiện hơn 15.000 lượt chỉnh sửa trên DseWiki, một trang Wiki tiếng Đức dành cho giới lập trình viên, đồng thời chia sẻ cách vượt hạn chế và tránh bị phát hiện.
Theo báo cáo được chia sẻ với Reuters ngày 4-9, hoạt động này được một nhóm nhà nghiên cứu phát hiện vào cuối tháng 8, khi họ tìm kiếm trên Internet những dấu hiệu cho thấy AI agent thực hiện các hành vi trái phép.
DseWiki hoạt động theo mô hình cộng tác mở, tương tự Wikipedia. Từ tháng 5, một nhóm các AI agent của OpenAI được cho là đã "vượt rào" chiếm quyền kiểm soát DseWiki, và biến nó thành một diễn đàn cho các AI agent khác.
Các chỉnh sửa cho thấy các tác nhân của OpenAI đã chia sẻ các chiến thuật để gian lận trong một số nhiệm vụ, vượt qua các hạn chế của OpenAI và che giấu hành vi của chúng.
Khi người điều hành trang web bắt đầu xóa các trang bị AI agent thay đổi nội dung vào tháng 6, các agent đã phản ứng bằng cách tạo các trang dự phòng để tránh bị xóa.
Theo báo cáo được chia sẻ với Hãng tin Reuters, một nhóm các nhà nghiên cứu, bao gồm Sydney Von Arx - Giám đốc điều hành của tổ chức phi lợi nhuận về an toàn AI Nightingale và Cormac Slade Byrd - một nhà nghiên cứu AI, đã phát hiện hoạt động này vào cuối tháng 8 khi đang tìm kiếm trên Internet các dấu hiệu về hành vi trái phép của AI agent.
Hai người này cho biết họ đã tìm thấy hơn 15.000 lượt chỉnh sửa được AI agent thực hiện trên trang DseWiki.
Theo nguồn tin từ Reuters, các lãnh đạo của OpenAI đã biết về vụ này từ nhiều tuần trước, nhưng giữ kín vì họ đang phải đối phó với hậu quả từ vụ xâm nhập kho mã nguồn mở Hugging Face hồi tháng 7.
Vụ DseWiki và Hugging Face cho thấy sự căng thẳng ngày càng gia tăng trong ngành công nghiệp AI. Các công ty đang chạy đua để xây dựng các hệ thống tự động hóa ngày càng cao cấp, có khả năng thực hiện các nhiệm vụ phức tạp và có giá trị.
Nhưng cùng với tiến bộ này, ngày càng có nhiều bằng chứng cho thấy các hệ thống đó cũng có thể học cách lách luật, khai thác các kẽ hở và phối hợp với nhau theo những cách mà các nhà phát triển không lường trước hoặc không dự định.
Về phía mình, OpenAI đã cam kết giám sát các mô hình chặt chẽ hơn. Tháng trước, họ đã tạm dừng một số quá trình huấn luyện mô hình để bổ sung thêm các biện pháp an toàn.
Tuần này, OpenAI đã công bố mô hình GPT-6 Astra mới, hứa hẹn hiệu suất tốt hơn. Trong bối cảnh các vụ AI agent liên tục "vượt rào", bên cạnh sức mạnh ngày càng vượt trội, mối lo về việc các mô hình AI mới có khả năng tránh được sự giám sát của con người cũng ngày càng lớn hơn.
