CodeQL bắt đầu phát hiện system prompt injection: biến bảo mật AI thành bài toán luồng dữ liệu CI
CodeQL 2.26.0 giúp kiểm chứng ranh giới tin cậy giữa dữ liệu người dùng, chỉ dẫn hệ thống và mô tả công cụ.
Điều gì đã xảy ra
GitHub phát hành CodeQL 2.26.0 ngày 10 tháng 7 năm 2026. Query `js/system-prompt-injection` theo dõi dữ liệu không đáng tin cậy tới system prompt và mô tả công cụ.
Vì sao quan trọng
Query mô hình hóa API của OpenAI, Anthropic và Google GenAI. Hãy chuyển văn bản tự do sang user message hoặc tham số có cấu trúc, và giới hạn giá trị động bằng allowlist cố định.
Tín hiệu cộng đồng
Phân tích tĩnh chỉ là một lớp. Nội dung gián tiếp từ web, email hay RAG cần adversarial eval; công cụ cần phân quyền máy chủ và tách tenant.
Tác động tới phát triển và vận hành
Bắt đầu ở audit mode, sau đó chặn đường dẫn mới có độ tin cậy cao và chạy lại khi model, SDK, prompt hoặc tool thay đổi.
Checklist tuần này
✓Cập nhật bundle CodeQL.
✓Chuyển văn bản tự do sang user message hoặc tham số có cấu trúc.
✓Áp dụng quyền tối thiểu và phê duyệt ở máy chủ.
Rủi ro và phản biện
Bắt đầu ở audit mode, sau đó chặn đường dẫn mới có độ tin cậy cao và chạy lại khi model, SDK, prompt hoặc tool thay đổi.