Не знаю как давно это появилось в песочнице OpenAI Assistants, но теперь в лога…
👁 838💬 2
Очень удобно для тестирования.
Иногда бывает, что загружаешь слишком большую инструкцию и из-за этого каждый запрос тратит большое количество токенов, так как инструкции тоже участвуют в обработке и генерации ответа.
Я ранее смотрел количество использованных токенов проваливаясь внутрь JSON ответа и запроса, а сейчас увидел что вынесли наружу и стало гораздо удобнее анализировать и обучать собственных ассистентов.
5
Кирилл Гаврилов
Подписаться