Оптимизация сообщений

Как работает

Когда сумма токенов больше окна модели, из середины промпта убираются или обрезаются сообщения, пока всё не влезет. Начало и конец диалога остаются: модели хуже помнят середину.

Иногда упираются не в токены, а в число сообщений. У Claude лимит — 1000. Тогда остаётся половина с начала и половина с конца.

Если сжатие выключено и промпт всё равно длиннее контекста — запрос вернёт ошибку.

Работает в /chat/completions, /responses и /messages для моделей из каталога. На прямых маршрутах отдельных провайдеров сжатие не применяется.

Как выключить

В теле запроса:

{
  "plugins": [{ "id": "context-compression", "enabled": false }]
}

curl https://api.daaj.ru/v1/chat/completions \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer sk-VTOP Ai-xxx" \
  -d '{
    "model": "claude-sonnet-4.6",
    "plugins": [{ "id": "context-compression", "enabled": false }],
    "messages": [
      { "role": "user", "content": "Скажи интересный факт" }
    ]
  }'

Выключайте, если важна полная история: длинный агентный прогон, точный разбор прошлого хода, любой случай, где потеря середины диалога недопустима.

Другой плагин в том же массиве plugins — file-parser для PDF.