Плагины выполняются до отправки запроса модели. Они помогают сократить токены, скрыть чувствительные данные и сохранить журнал команды в собственном хранилище.
Добавляйте контроль стоимости, приватности и аудита, не меняя совместимый API.
Этап
До запроса
Работают до отправки финального payload.
Цель
Больше контроля
Сокращают лишние токены и случайную передачу данных.
Статус
Частично доступно
Сжатие доступно; маскирование и аудит разрабатываются.
Сокращает длинные запросы, сохраняя смысл.
Удаляет повторяющиеся инструкции и сокращает длинный контекст, снижая расход токенов.
Use cases
Длинные агентные сессии
Объемные RAG-документы
Guardrails
Для критичных задач сравнивайте исходный и сжатый результат.
Пример
До
SYSTEM: Follow the company policy below... [2,000 tokens of repeated governance text] USER: Summarize the latest incident report and propose three next actions.
После
SYSTEM: Apply the approved governance rules, privacy posture, and escalation policy from profile A. USER: Summarize the latest incident report and propose three next actions.
Скрывает чувствительные данные до отправки модели.
Заменяет пароли, API-ключи и личные идентификаторы устойчивыми масками.
Use cases
Обращения поддержки
Анализ логов и конфигураций
Guardrails
Не заменяет полноценную классификацию данных.
Пример
До
User says their password is hunter2, API key sk-live-abc123, and Personal ID CN-556677 before requesting account recovery guidance.
После
User says their password is [Password], API key [APIKEY], and Personal ID [Personal ID] before requesting account recovery guidance.
Хранит LLM-журналы в вашем S3 или OSS.
Записывает запросы и ответы в хранилище команды и дает аудит авторизованным администраторам.
Use cases
Внутренний аудит
Проверка безопасности
Guardrails
Команда управляет хранилищем и правами доступа.
Пример
До
Request is forwarded to the upstream model. The response is returned to the caller. No message content is stored anywhere by LingCoreX.
После
Before the response is returned the full request and response payload is written to the team's S3 / OSS bucket. Admins can then open the audit tool to inspect prompt content and raw logs per team member.
Слой плагинов можно расширять новыми правилами обработки запросов.