Запис у кеш

Запис у кеш зберігає відповідь на потім. Він бере відповідь моделі вище себе і зберігає її під ключем, який Пошук у кеші шукав і не знайшов.

Що робить вузол

Коли виконання доходить до вузла, він зберігає останню відповідь вузла AI-модель на шляху на час, заданий у налаштуванні, і виходить через Типовий. На наступний запит із тим самим ключем пошук відповідає з кешу.

Вузол нічого не зберігає, а виконання однаково йде далі, коли:

• жоден пошук вище не дав промаху в цьому виконанні з ключем, який можна використати, — пошук влучив, його ключ нічого не казав про запит або пошуку немає;

• відповідь не закінчилася чисто: модель зупинилася з іншої причини, ніж кінець відповіді, або відповідь порожня;

• відповідь більша, ніж приймає кеш, — за замовчуванням 256 КБ;

• сховище кешу недоступне.

Коли використовувати

Ставте його після AI-модель на гілці Промах вузла Пошук у кеші. Один пошук і один запис складають пару: пошук питає, запис відповідає на питання, на яке пошук відповісти не зміг.

Налаштування

У конструкторі налаштування — Зберігати (секунди). Новий вузол зберігає відповідь 3600 секунд, годину; вузол без значення зберігає її стільки, скільки налаштовано в сервісі, — за замовчуванням годину.

Порти

Вузол має один порт, Типовий, і він обов’язковий. Флоу, в якому він нікуди не веде, не публікується.

Вихід

Вузол не залишає виходу. Наступний вузол читає відповідь моделі з виходу вузла AI-модель.

Помилки

Помилок вузол не кидає. Коли він нічого не зберігає, подія warning у трасуванні каже чому. Ось попередження, які пише вузол:

[
  { "type": "warning", "node_key": "store", "payload": { "code": "cache_write_without_lookup" } },
  { "type": "warning", "node_key": "store", "payload": { "code": "cache_write_unfinished_answer" } },
  { "type": "warning", "node_key": "store", "payload": { "code": "cache_write_empty_answer" } },
  { "type": "warning", "node_key": "store", "payload": { "code": "cache_value_refused" } },
  { "type": "warning", "node_key": "store", "payload": { "code": "cache_store_unavailable" } }
]

Вузол, вище якого на жодному шляху немає Пошук у кеші, отримує попередження перевірки під час публікації cache_write_without_lookup; флоу однаково публікується. Налаштування перевіряється під час перевірки флоу та під час його публікації.

Приклад

При промаху відповідає модель, вузол зберігає відповідь, і Повернути відповідь відповідає нею тому, хто викликає. Такий самий запит після цього — влучання.

Див. також

• Пошук у кеші — ключ і те, хто ділить відповідь.

• Як побудовано флоу — усі вузли конструктора.

• AI-модель — виклик, відповідь якого зберігає кеш.