Пару раз неприятно удивлялся списанию после длинных запросов, пока не начал нормально смотреть, что именно отправляю в модель. Оказалось, лишний контекст и флагманская нейронка могут заметно раздувать расход. Теперь перед большой задачей чищу вводные и не беру мощную модель автоматически. Иногда вариант попроще делает ровно то же самое, но без лишней переплаты.
Научился контролировать расходы на нейронки - Отзывы о SpeShu.AI
отзыв
Комментарии к отзыву