Три види checkpoint у Tinker: що перевірити для Inkling 2

Новини
Подія: Опубліковано:
Пошта

Відновити навчання, отримати відповідь моделі й забрати ваги — різні задачі. Як читати документацію Tinker перед донавчанням Inkling 2 Small.

Перш ніж донавчати Inkling 2 Small, визначте, який результат вам потрібен після завершення роботи: продовжити навчання, користуватися моделлю в Tinker чи розгорнути її поза сервісом. В анонсі від 5 листопада Thinking Machines Lab повідомила про доступ до навчання й генерації через Tinker, але пов’язала можливість завантажувати checkpoint із майбутнім випуском ваг. Apache 2.0 там названа наміром після зовнішніх перевірок безпеки, а не підтвердженням уже отриманого вами артефакту. Перевірена картка моделі у полі ліцензії вказує Tinker Terms of Use.

У довіднику checkpoint є три різні операції. save_state зберігає стан навчання, включно з моментами оптимізатора Adam; save_weights_for_sampler — ваги для отримання відповідей у сервісі, без стану градієнтів і оптимізатора; save_weights_external — ваги для використання поза Tinker. Відповідні шляхи містять weights, sampler_weights та external_weights. Наявність адреси tinker:// сама по собі не пояснює, що саме збережено й чи можна продовжити навчання з того самого стану.

Окремо перевірте різницю між публікацією й завантаженням. За тим самим довідником, публікація checkpoint дає іншим користувачам Tinker змогу завантажити його в сервісі за шляхом; виконувати цю дію може власник навчального запуску. Це інша операція, ніж отримання файлів для зовнішнього розгортання. Для методу get_external_weights_urls документація вимагає шлях external_weights і повертає підписані посилання з часом завершення дії. Загальний опис цього методу не скасовує окремих умов доступності конкретної моделі.

Для LoRA є ще одна залежність: базова модель. Посібник зі злиття пояснює, як додати зміни адаптера до тієї самої базової моделі, на якій його навчали, й отримати самостійний каталог Hugging Face. Приклад використовує Qwen, тому його не варто читати як доказ готового експорту Inkling 2. Потрібні не лише збережені зміни, а й правильна база та доступний шлях її отримання. Це вимога описаного методу, а не результат нашого запуску.

Перед оплачуваним навчанням запишіть назву й версію бази, потрібний тип checkpoint, умови експорту та строк зберігання. У Tinker можна задати TTL; без нього, за документацією, checkpoint зберігається до видалення. Для передавання роботи іншій команді додайте ідентифікатор запуску та спосіб перевірити отримані файли, коли вони справді доступні. NODVIEW звірив анонс, картку моделі й довідники: навчання, експорт та локальний запуск ми не виконували. Такий запис допомагає перевірити, чи ваш план перенесення спирається на доступний артефакт, чи поки лише на майбутню можливість.