CodeQL เริ่มตรวจจับ system prompt injection: เปลี่ยนความปลอดภัย AI ให้เป็นปัญหา data flow ใน CI
CodeQL 2.26.0 ทำให้ขอบเขตความเชื่อถือระหว่างอินพุตผู้ใช้ system instruction และคำอธิบายเครื่องมือตรวจสอบได้
เกิดอะไรขึ้น
GitHub เปิดตัว CodeQL 2.26.0 เมื่อ 10 กรกฎาคม 2026 โดย query `js/system-prompt-injection` ติดตามค่าที่ไม่น่าเชื่อถือไปยัง system prompt และคำอธิบายเครื่องมือ
ทำไมจึงสำคัญ
Query รองรับรูปแบบ API ของ OpenAI, Anthropic และ Google GenAI ควรย้ายข้อความอิสระไปเป็น user message หรือพารามิเตอร์แบบมีโครงสร้าง และจำกัดค่าไดนามิกด้วย allowlist
สัญญาณจากชุมชน
Static analysis เป็นเพียงชั้นหนึ่ง เนื้อหาจากเว็บ อีเมล หรือ RAG ต้องมี adversarial eval ส่วนการเรียก tool ต้องตรวจสิทธิ์และ tenant ที่เซิร์ฟเวอร์
ผลต่อการพัฒนาและปฏิบัติการ
เริ่มด้วย audit mode จากนั้นบล็อกเส้นทางใหม่ที่มีความมั่นใจสูง และรันใหม่เมื่อ model, SDK, prompt หรือ tool เปลี่ยน
เช็กลิสต์สัปดาห์นี้
✓อัปเดต CodeQL bundle
✓ย้ายข้อความอิสระไปยัง user message หรือพารามิเตอร์แบบมีโครงสร้าง
✓บังคับสิทธิ์ขั้นต่ำและการอนุมัติที่ฝั่งเซิร์ฟเวอร์
ความเสี่ยงและข้อโต้แย้ง
เริ่มด้วย audit mode จากนั้นบล็อกเส้นทางใหม่ที่มีความมั่นใจสูง และรันใหม่เมื่อ model, SDK, prompt หรือ tool เปลี่ยน