Заметки о разработке Aiban и локальном inference-стеке.
- vllm — запуск моделей
- vLLM — отдельная заметка о сервере моделей
- Локальный ИИ — зачем и как он встроен в хоумлаб
- mrgnl_nixos — рабочая NixOS-конфигурация
- Модели — список используемых моделей
- Aiban — главная страница проекта