Это мой домашний AI-проект: ассистент, локальные модели и эксперименты с inference.

Навигация

Основной inference-сервер работает через vLLM.

в этой папке 3 элемента