Перейти к содержанию
modelium.
Начать с задачи
←
Абстрактная композиция: осколки полупрозрачного материала в сиреневых тонах.

Hemmingway-1 для Splash: 4-битная конверсия для Apple Silicon

25 сентября независимый автор SiliconSpecies выпустил 4-битный пакет Hemmingway-1 для локального движка Splash на Apple Silicon. Веса исходной модели переквантованы; DFlash 2 и vision-компонент заимствованы у Qwen3.8-27B. Пакет не совместим напрямую с MLX, Transformers или llama.cpp. Применение Hemmingway-1 ограничено некоммерческими сценариями по CC BY-NC 4.0; оценки скорости и качества приводит только автор конверсии.

Что вышло

25 сентября 2026 года SiliconSpecies опубликовал Hemmingway-1-Splash — неофициальную 4-битную конверсию уже существующей текстовой модели Altworld/Hemmingway-1 для движка Splash на Apple Silicon. Это не новая базовая модель и не выпуск Altworld либо разработчика Splash, Inco AI. Репозиторий создан в 10:07 UTC, завершённый пакет описан коммитом 10:48 UTC; проверена закреплённая ревизия 8efb94c9ae4030023d46121e95adb72c020ad28c s1 s2.

Файлы target/ — переквантованные веса Hemmingway-1 на базе Qwen3.8-27B: равномерные 4 бита с группой 64 в формате splash-packed-q4. Пакет также содержит DFlash 2 в draft/, vision-компонент и токенизатор. Автор указывает, что draft и vision перенесены без изменений из пакета Inco AI для исходной Qwen3.8-27B, а не обучены специально для Hemmingway-1. Манифест перечисляет 78 рабочих артефактов; HF-дерево подтверждает их наличие. Все файлы репозитория занимают около 17,4 ГБ на диске: это размер загрузки, не требование к RAM или VRAM. Поле model: Qwen3.8-27B в манифесте отражает совместимую архитектурную раскладку; происхождение target зафиксировано в upstream.target как Altworld/Hemmingway-1, ревизия b987f18 s1 s3.

Кому полезно и как запустить

Hemmingway-1 ориентирована на написание повседневных английских сообщений и писем. Теперь её можно обслуживать локально через веб-страницу Splash и OpenAI-совместимый API. Это именно пакет Splash, не самостоятельный GGUF и не файл для прямой загрузки в Transformers или MLX. Для другого движка понадобится исходный чекпойнт или отдельная совместимая конверсия s1 s4 s5.

На подходящем Mac автор предлагает установить движок и запустить:

brew install incoai/tap/splash
splash serve --model SiliconSpecies/Hemmingway-1-Splash

После сообщения Ready открыть http://127.0.0.1:8000. В API указывать модель SiliconSpecies/Hemmingway-1-Splash и, если нужен стиль автора модели, передавать temperature: 1.0, top_p: 0.95, top_k: 20: при пропуске этих параметров API Splash по карточке пакета выбирает greedy. Движок в документации версии 1.0.2 указывает Apple M3 или новее, macOS 26.4+ и 36 ГБ объединённой памяти (48 ГБ рекомендует). Это требования, заявленные разработчиком Splash для его пакетов; Modelium не измерял нижний порог именно для этой конверсии. На первом запуске движок сам проверяет доступную память. При доступе к серверу за пределами своего Mac отдельно настройте API-ключ: по умолчанию сервер привязан к 127.0.0.1, а аутентификация выключена s1 s4.

Что говорят испытания автора

Автор конверсии сообщает результат 95/95 на собственном наборе коротких задач; он же отмечает насыщение теста: такой результат не доказывает паритета с исходной BF16-моделью и ничего не говорит о качестве писем. Сравнение распределений токенов с BF16 в карточке даёт KL 0,027 на web-корпусе и 0,031 на WikiText-2, при ограниченном наборе 15 фрагментов по 2048 токенов на корпус. По замеру того же автора на M5 Max (40-ядерный GPU, 128 ГБ, питание от сети, Splash 1.0.2, greedy, ответы по 1024 токена) скорость декодирования составила 68–71 токен/с; это авторские, а не независимые тесты Modelium, и их нельзя переносить на другой Mac или настройки генерации. Автор отмечает снижение доли принятия draft-предсказаний до 0,36 из-за различия стиля Hemmingway-1 и исходной Qwen3.8 s1.

Vision-блок заимствован у Qwen3.8, но сам Hemmingway-1 опубликован как текстовая модель: автор конверсии прямо называет работу с изображениями унаследованной и непроверенной. Проверять её в своём сценарии нужно отдельно s1 s5.

Лицензия и ограничения

Веса доступны для скачивания, но пакет наследует CC BY-NC 4.0 исходного Hemmingway-1. Автор пакета прямо запрещает коммерческое применение без отдельного соглашения с Altworld. Наличие компонентов под Apache 2.0 и открытого кода Splash не отменяет некоммерческого условия для производных весов Hemmingway-1. Для оплачиваемого сервиса или бизнес-процесса необходимо сначала согласовать права с правообладателем. Это не выпуск open-source-модели с безусловным коммерческим разрешением s1 s5 s6.

Источники

  1. SiliconSpecies: карточка Hemmingway-1-Splash, ревизия 8efb94c9 — Состав, команды, оговорки vision и авторские испытания/условия измерения.. Получено 25.09.2026.
  2. Hugging Face: история коммитов Hemmingway-1-Splash — Создан 25.09 10:07 UTC, ревизия с полным пакетом — 10:48 UTC.. Получено 25.09.2026.
  3. Манифест и файлы пакета Splash на закреплённой ревизии — 78 артефактов, всего 17 375 539 761 байт файлов репозитория по HF tree API; upstream.target — Altworld/Hemmingway-1@b987f18.. Получено 25.09.2026.
  4. Inco AI: документация движка Splash версии 1.0.2 — Поддержка произвольного owner/repo Splash-пакета, локальный API, системные требования и безопасность сервера.. Получено 25.09.2026.
  5. Altworld: исходная модель Hemmingway-1 и условия применения — Текстовая английская модель, исходные веса и заявление автора о CC BY-NC 4.0.. Получено 25.09.2026.
  6. SiliconSpecies: LICENSE производного пакета Hemmingway-1 — CC BY-NC 4.0, коммерческое использование требует отдельного соглашения с Altworld; Apache 2.0 компоненты выделены в NOTICE.. Получено 25.09.2026.