Plugin berjalan sebelum permintaan dikirim ke model. Gunakan untuk mengurangi token, menyamarkan data sensitif, dan menyimpan log tim di storage milik Anda.
Tambahkan kontrol biaya, privasi, dan audit tanpa mengubah alur API kompatibel.
Posisi
Sebelum permintaan
Berjalan sebelum payload akhir dikirim.
Tujuan
Kontrol lebih baik
Mengurangi token sia-sia dan data yang terkirim tanpa sengaja.
Status
Sebagian tersedia
Kompresi sudah tersedia; masking dan audit sedang disiapkan.
Ringkas prompt panjang tanpa menghilangkan maksud utama.
Mengurangi instruksi berulang dan konteks panjang untuk menekan biaya token.
Use cases
Sesi agent panjang
Dokumen RAG yang terlalu panjang
Guardrails
Bandingkan hasil asli dan terkompresi untuk alur berisiko tinggi.
Contoh
Sebelum
SYSTEM: Follow the company policy below... [2,000 tokens of repeated governance text] USER: Summarize the latest incident report and propose three next actions.
Sesudah
SYSTEM: Apply the approved governance rules, privacy posture, and escalation policy from profile A. USER: Summarize the latest incident report and propose three next actions.
Samarkan data sensitif sebelum mencapai model.
Mengganti kata sandi, kunci API, dan identitas pribadi dengan placeholder stabil.
Use cases
Tiket dukungan
Analisis log dan konfigurasi
Guardrails
Tidak menggantikan program klasifikasi data lengkap.
Contoh
Sebelum
User says their password is hunter2, API key sk-live-abc123, and Personal ID CN-556677 before requesting account recovery guidance.
Sesudah
User says their password is [Password], API key [APIKEY], and Personal ID [Personal ID] before requesting account recovery guidance.
Simpan log LLM di S3 atau OSS milik tim.
Menulis permintaan dan respons ke storage tim dan memberi tampilan audit kepada admin berwenang.
Use cases
Audit internal
Tinjauan keamanan
Guardrails
Tim mengelola storage dan izin akses.
Contoh
Sebelum
Request is forwarded to the upstream model. The response is returned to the caller. No message content is stored anywhere by LingCoreX.
Sesudah
Before the response is returned the full request and response payload is written to the team's S3 / OSS bucket. Admins can then open the audit tool to inspect prompt content and raw logs per team member.
Lapisan plugin dapat diperluas dengan aturan permintaan baru.