Liquid AI выпустила d1 для Mac: пять MLX-версий для текста, фото и аудио

12 октября Liquid AI опубликовала версии своих моделей d1 для Mac с процессором Apple Silicon. Они нужны не для обычной беседы, а для выбора ответа из вариантов, заданных человеком: например, определить, относится ли письмо к возврату денег. d1-3B принимает текст и изображения, d1-omni-600M — также аудиозаписи. Это пример возможной задачи, а не результат проверки на письмах редакции. s1 s4 s8

Что теперь доступно на Mac

В Hugging Face появились пять официальных репозиториев Liquid AI: d1-3B в форматах MLX float16, 8-bit и 4-bit, а также d1-omni-600M в float16 и 8-bit. MLX — библиотека для вычислений на чипах Apple; здесь так называют подготовленные для неё веса. В каждом репозитории есть файлы весов модели и лицензия; у float16-версии 3B веса разбиты на два файла. Это новые варианты запуска уже вышедших моделей, не новое обучение семейства d1. s1 s2 s3 s4 s5

Модель получает текст, фото или звук и оценивает заданные вами ответы. Если спросить: «Куда направить обращение: в поддержку оплаты или техники?», она вернёт выбор и оценку уверенности, а не напишет произвольное письмо. Для omni авторы показывают отдельную возможность классифицировать короткий аудиофрагмент. Точность для русского языка и вашего сценария проверять на своих примерах; модель может ошибиться, а высокая вероятность не гарантирует верного решения. s1 s4

Какую версию выбрать

Liquid AI рекомендует float16 как наиболее близкий вариант к исходному контрольному запуску: размер файлов весов d1-3B — 6,25 ГБ, d1-omni — 1,17 ГБ по карточкам. Есть более компактные 8-битные версии: 3,72 и 0,73 ГБ соответственно. Это объём файлов, не минимальная оперативная память Mac; официального минимума для этих конверсий карточки не задают. s1 s2 s4 s5

Четырёхбитная d1-3B занимает 2,37 ГБ по данным автора, но сильнее меняет оценки вероятностей. В сравнении Liquid AI с исходной моделью float32 на 104 текстовых и 41 визуальном ответе самый вероятный ответ совпал в 142 случаях из 145 для 4-bit, в 144 из 145 для 8-bit и во всех 145 для float16. Для omni сравнение отдельно включает ещё 30 аудиоответов — это другой набор из 175 проверок. Это авторская проверка совпадения результатов после преобразования весов, а не независимый тест точности на пользовательских данных; Modelium модели не запускал. s1 s2 s3 s4 s5

Можно ли пользоваться прямо сейчас

Поддержка d1 и d1-omni присутствует в коде mlx-vlm, но, по карточкам Liquid AI, появилась после последнего стабильного выпуска 0.7.6. Пока авторы предлагают устанавливать mlx-vlm из GitHub и вызывать его через Python или командную строку: это путь для человека, знакомого с разработкой, а не приложение для первого запуска в интерфейсе. Полный путь на Mac редакция не воспроизводила и требований к памяти не измеряла. Для сценария со звуком берите именно d1-omni; обычная d1-3B ограничена текстом и фото. s1 s4 s7

Веса опубликованы под LFM Open License 1.0, а не под универсальной лицензией MIT или Apache. Её текст ограничивает коммерческое применение для организации с годовой выручкой от 10 млн долларов; перед использованием в компании прочитайте условия самостоятельно. Следующий шаг — разобраться, чем семейство d1 отличается от обычного чат-бота и затем выбрать подходящий формат данных. s6