CodeQL kini mendeteksi system prompt injection: jadikan keamanan AI masalah aliran data CI
CodeQL 2.26.0 membuat batas kepercayaan antara input pengguna, instruksi sistem, dan deskripsi tool dapat diuji.
Apa yang terjadi
GitHub merilis CodeQL 2.26.0 pada 10 Juli 2026. Query `js/system-prompt-injection` melacak nilai tak tepercaya menuju system prompt dan deskripsi tool.
Mengapa penting
Query ini memodelkan API OpenAI, Anthropic, dan Google GenAI. Pindahkan teks bebas ke pesan pengguna atau parameter terstruktur, dan batasi nilai instruksi dinamis dengan allowlist tetap.
Sinyal komunitas
Analisis statis hanyalah satu lapisan. Konten web, email, atau RAG memerlukan evaluasi adversarial; tool tetap membutuhkan otorisasi server dan pembatasan tenant.
Dampak pengembangan dan operasi
Mulai dalam mode audit, lalu jadikan jalur baru dengan confidence tinggi sebagai gate dan ulangi setelah model, SDK, prompt, atau tool berubah.
Checklist minggu ini
✓Perbarui bundle CodeQL.
✓Pindahkan teks bebas ke pesan pengguna atau parameter tool terstruktur.
✓Terapkan hak minimum dan persetujuan di server.
Risiko dan sanggahan
Mulai dalam mode audit, lalu jadikan jalur baru dengan confidence tinggi sebagai gate dan ulangi setelah model, SDK, prompt, atau tool berubah.