ปลั๊กอินทำงานก่อนส่งคำขอไปยังโมเดล ช่วยลด token ปกปิดข้อมูลสำคัญ และเก็บบันทึกทีมใน storage ของคุณ
เพิ่มการควบคุมต้นทุน ความเป็นส่วนตัว และ audit โดยไม่เปลี่ยน API ที่เข้ากันได้
ตำแหน่ง
ก่อนส่งคำขอ
ทำงานก่อนส่ง payload สุดท้าย
เป้าหมาย
ควบคุมมากขึ้น
ลด token ที่ไม่จำเป็นและข้อมูลที่ส่งโดยไม่ตั้งใจ
สถานะ
พร้อมใช้บางส่วน
การบีบอัดพร้อมใช้ ส่วน masking และ audit กำลังพัฒนา
ย่อ prompt ยาวโดยรักษาความหมายหลัก
ลดคำสั่งซ้ำและ context ยาวเพื่อลดค่า token
Use cases
เซสชัน agent ยาว
เอกสาร RAG ที่ยาวเกินไป
Guardrails
งานความเสี่ยงสูงควรเปรียบเทียบผลก่อนและหลังบีบอัด
ตัวอย่าง
ก่อน
SYSTEM: Follow the company policy below... [2,000 tokens of repeated governance text] USER: Summarize the latest incident report and propose three next actions.
หลัง
SYSTEM: Apply the approved governance rules, privacy posture, and escalation policy from profile A. USER: Summarize the latest incident report and propose three next actions.
ปกปิดข้อมูลสำคัญก่อนถึงโมเดล
แทนรหัสผ่าน คีย์ API และข้อมูลส่วนบุคคลด้วย placeholder ที่คงที่
Use cases
งานฝ่ายสนับสนุน
วิเคราะห์ log และ config
Guardrails
ไม่แทนระบบจำแนกข้อมูลแบบเต็มรูปแบบ
ตัวอย่าง
ก่อน
User says their password is hunter2, API key sk-live-abc123, and Personal ID CN-556677 before requesting account recovery guidance.
หลัง
User says their password is [Password], API key [APIKEY], and Personal ID [Personal ID] before requesting account recovery guidance.
เก็บ log LLM ใน S3 หรือ OSS ของทีม
เขียนคำขอและคำตอบลง storage ของทีมและให้ผู้ดูแลที่ได้รับอนุญาตตรวจสอบ
Use cases
ตรวจสอบภายใน
ทบทวนความปลอดภัย
Guardrails
ทีมเป็นผู้จัดการ storage และสิทธิ์เข้าถึง
ตัวอย่าง
ก่อน
Request is forwarded to the upstream model. The response is returned to the caller. No message content is stored anywhere by LingCoreX.
หลัง
Before the response is returned the full request and response payload is written to the team's S3 / OSS bucket. Admins can then open the audit tool to inspect prompt content and raw logs per team member.
ชั้นปลั๊กอินสามารถเพิ่มกฎจัดการคำขอใหม่ได้