GPT-6.1 Terra: рахуйте вартість прийнятої задачі
Як відокремити ціну токенів від вартості результату: налаштування міркування, кеш, повторні спроби та критерій приймання під час переходу на Terra.
Нижча ціна токенів ще не визначає, скільки коштуватиме готова задача. Переходячи на GPT-6.1 Terra, команді варто порівнювати не лише тариф, а й кількість спроб до результату, який проходить її перевірку. Це розрахунок для власного робочого процесу, а не висновок із місця моделі в рейтингу.
У довіднику моделі OpenAI вказує ідентифікатор gpt-6.1-terra, типовий рівень міркування medium та вимогу використовувати Responses API для викликів інструментів. Запишіть ці налаштування до першого порівняння. Інакше зміна моделі одночасно зі зміною режиму або інструментів не покаже, звідки взялася різниця.
Стандартні тарифи API, перевірені 28 жовтня, становлять $1 за мільйон вхідних токенів, $0,05 за мільйон кешованих вхідних і $5 за мільйон вихідних. Це різні складові рахунку. Ставку читання кешу не слід застосовувати до всього запиту; записи кешу, довгий контекст, інший режим обробки та інструменти можуть змінити розрахунок. Для фактичного запуску звіряйте тариф і використання, а не лише назву моделі.
Для вихідної частини використайте оплачуваний обсяг із відповіді API, а не довжину видимого тексту. За посібником OpenAI, токени міркування також оплачуються як вихідні. Якщо загальне значення вже включає їх, не додавайте цю складову вдруге.
Суто умовний приклад: 10 000 некешованих вхідних і 2 000 оплачуваних вихідних токенів за цими стандартними ставками коштували б $0,02. Це не вимірювання Terra і не оцінка повного рахунку: тут немає інструментів, запису кешу чи інших доплат. Дві однакові за використанням спроби дали б $0,04. Якщо лише друга пройшла перевірку, на один прийнятий результат припадає сума обох спроб.
Перед тестом визначте критерій приймання: наприклад, правильні поля рахунку й відсутність пропущених позицій, а не «відповідь виглядає переконливо». Для обох моделей використайте той самий набір прикладів. Збережіть налаштування, використання, вартість усіх спроб і кількість прийнятих результатів; окремо виміряйте час ручних виправлень. Так дешевша відповідь не сховає дорожче доопрацювання.
Simon Willison описав 26 жовтня візуальні приклади за різних рівнів міркування. Це досвід одного автора, а не перевірка вашої задачі. NODVIEW не виконував платних викликів Terra: наведена арифметика пояснює спосіб порівняння, а не обіцяє економію після переходу.