Alibaba Cloud додала модель для рішень через System One: що відомо про decision-model-preview
У Model Studio з’явилася модель для класифікації та оцінювання з імовірностями у відповіді. Документація показує протокол System One, але не порівнює її з Jev.
У каталозі Alibaba Cloud Model Studio з’явилася модель decision-model-preview для задач, де програмі потрібне рішення, а не текстова відповідь: вибрати категорію, оцінити терміновість або дати ймовірність відповіді «так». Список нових моделей датує її появу 24 вересня; того ж дня Yicai повідомило, що доступ до API відкрили. Сторінку моделі оновили 28 вересня — це дата документації, а не окремий анонс нової версії.
У прикладі API один запит передає опис звернення клієнта та три запитання: якій команді його передати, чи викликати чергового і наскільки серйозна проблема. Відповідь містить вибір або оцінку разом з імовірностями. Модель не генерує довільного тексту. Наведені в документації 52,9 мс — значення з прикладу відповіді, а не результат незалежного тесту швидкості.
Alibaba називає цей спосіб виклику протоколом TypeSafe System One і показує приклад із typesafe-sdk. TypeSafe представила Jev 15 вересня для схожого типу структурованих рішень. Спільний формат запиту допомагає зрозуміти, як викликати обидва сервіси, але сама документація не доводить, що вони мають однакову модель усередині чи однакову якість відповідей.
Для доступу до decision-model-preview документація вимагає ключ Alibaba Cloud і наводить адреси API для Сінгапуру та Пекіна. Заявлено контекст до 65 536 токенів; для одного запиту рекомендовано не більше 16 запитань, бо зі збільшенням їх кількості затримка зростає. На сторінці моделі зараз вказано тимчасовий безплатний доступ у цих регіонах, але немає сталої ціни, за якою можна порівняти витрати з Jev.
На документацію звернув увагу допис u/pneuny на Reddit. Автор назвав модель поспіхом створеним конкурентом Jev. Це його трактування: опубліковані матеріали Alibaba не повідомляють, скільки тривала розробка, а відкритих порівняльних тестів цих двох моделей ми не знайшли. Якщо вибирати сервіс для маршрутизації заявок, доведеться перевірити обидва API на однакових зверненнях: 52,9 мс із прикладу Alibaba не є результатом такого порівняння.