Кэширование

Кэширование может уменьшать стоимость повторяющегося ввода. Поддержка, срок хранения и цены зависят от выбранного провайдера. Ниже описано правило только для Chat-маршрутов с тарифами записи на 20 и 120 минут.

Для Chat-маршрута с ценами записи кэша на 20 и 120 минут можно передать число cache_ttl в JSON или один числовой заголовок X-Cache-TTL. Оба значения пересылаются выбранному провайдеру без изменения.

Без параметра действует 20 минут. Если хотя бы одно значение составляет 120 или больше, применяется тариф 120 минут; иначе — тариф 20 минут. Это правило действует и при противоречии между JSON и заголовком.

Для такого маршрута некорректное или повторяющееся значение заголовка, а также нечисловой cache_ttl возвращает 400 до обращения к провайдеру.

В тарифе Vokis выбранная цена записи применяется ко всем входным токенам, не прочитанным из кэша, включая новый фрагмент после кэшированного префикса. Цена чтения применяется к токенам, прочитанным из кэша. Списание по тарифу записи не означает, что провайдер подтвердил создание записи кэша.

Другие маршруты сохраняют свои правила кэширования и тарификации; проверьте цены выбранного провайдера в каталоге моделей.