Superfluid 0.1.2: один локальный сервер для нескольких ИИ-программ

Что меняется при локальном запуске

Superfluid ставит общий сервер перед программами, которые непосредственно запускают модель: llama.cpp для файлов GGUF, MLX на Mac с Apple Silicon и отдельным движком baseRT. Клиенты могут обращаться к локальному адресу через совместимые интерфейсы OpenAI, Anthropic или Ollama. Здесь «интерфейс» означает способ отправить запрос программе, а не облачный вызов: при настройке на 127.0.0.1 запрос направляется на собственный компьютер. Сам Superfluid не включает веса моделей и при первом использовании загружает нужную программу запуска и выбранную модель; подготовка требует сети. s2 s3

Разработчики заявляют две полезные функции: короткий запрос чата получает приоритет перед фоновой работой агентов, а незавершённый сеанс можно продолжить после перезапуска рабочего процесса. В опубликованных авторских испытаниях на Mac с Apple M5 Pro и моделью Qwen3-4B время до первого слова ответа чата за восемью агентами составило 0,79 секунды для Superfluid и 64–120 секунд для некоторых сравниваемых серверов. Это замеры Base Compute для указанного сценария, не независимый тест и не обещание такой скорости на другом компьютере. Отдельные замеры общей скорости выполнялись на другом Mac с M1 Max; смешивать эти наборы нельзя. s2 s4

Стоит ли устанавливать сейчас

Если вы просто беседуете с одной моделью, дополнительный сервер усложнит схему без доказанной пользы для вашего случая. Если несколько локальных программ одновременно обращаются к модели, имеет смысл изучить документацию проекта и проверить поведение на собственных запросах. Это ранняя версия до 1.0: разработчики предупреждают, что параметры и формат данных могут измениться. Установочные пакеты 0.1.2 доступны для macOS на Apple Silicon и Linux x86-64/arm64; для других платформ документация предлагает сборку из исходников. Это новость, а не проверенный Modelium рецепт установки. s1 s2 s3

Есть и актуальный риск совместимости: открытые 15 октября запросы на исправление описывают изменение структуры llama.cpp в сборке b11642 и изменение формата временных данных в mlx-lm 0.32.0, с которыми адаптеры Superfluid ещё согласуют работу. Эти сообщения разработчиков не доказывают, что любая установка 0.1.2 непременно сломается, но перед переходом стоит проверить версию загружаемого движка и дождаться подтверждённого исправления, если ваша конфигурация затронута. s7 s8

Где проходят границы приватности и лицензии

Локальный сервер по умолчанию слушает только собственный компьютер, но при выборе модели из Hugging Face скачивание идёт через интернет. Запросы и ответы сохраняются в журнале сеансов открытым текстом на диске пользователя. Не открывайте сервер в сеть без отдельной настройки доступа. Описания соединения двух машин противоречивы: README называет связь зашифрованной, а раздел безопасности той же версии прямо говорит об открытом TCP-трафике между узлами. До разъяснения считайте такой канал незащищённым и не передавайте через него личные данные. s2 s5

Код Superfluid распространяется под Apache-2.0, но это не лицензия для автоматически скачиваемых весов, llama.cpp, MLX или движка baseRT: их права нужно проверять отдельно. В NOTICE проекта прямо указано, что движок baseRT не входит в этот репозиторий и имеет собственные условия. s2 s6

Следующий шаг: откройте документацию Superfluid 0.1.2 и сначала сопоставьте свою ОС, модель и программу запуска с матрицей установки; не переносите авторские цифры скорости на своё железо без собственного измерения. s3 s4