Llama — репозиторий Meta с кодом вывода для ранних моделей Llama и ссылками на современные репозитории семейства.
Open Source: #llm
Проекты каталога, отмеченные тегом #llm. Теги работают как отдельные посадочные страницы, чтобы похожие инструменты было проще находить и связывать между собой.
В подборке 55 проектов с суммарным рейтингом 4,548,466 звёзд на GitHub. Основные языки: Python, TypeScript, Go.
Про LLM-инструменты
Большие языковые модели перестали быть магией исследовательских лабораторий — теперь их запускают локально, дообучают на своих данных и встраивают в продукты. Open source экосистема вокруг LLM развивается быстрее любой другой: новые инструменты появляются буквально каждую неделю.
В этой подборке — движки инференса, фреймворки для RAG и агентов, обёртки над API моделей и интерфейсы для локального запуска. Если собираете что-то на основе языковых моделей, начните отсюда: это проверенные проекты с активной разработкой.
Репозитории
nanochat — учебный проект Andrej Karpathy для прохождения основных этапов обучения небольшой языковой модели и запуска простого чата.
MiniMind — учебный PyTorch-проект для полного воспроизведения маленькой языковой модели: данные, предобучение, донастройка и эксперименты.
LiteLLM — Python SDK и прокси для работы с разными LLM-провайдерами через единый интерфейс.
LlamaIndex — фреймворк для соединения LLM-приложений с внешними данными, индексами и инструментами.
TextGen — настольное приложение и веб-интерфейс для локальных LLM: чат, генерация, работа с изображениями, вызов инструментов и совместимые API.
LocalAI — открытый ИИ-движок для запуска LLM, vision, voice, image и video моделей через совместимые API на своем оборудовании.
Cherry Studio — настольный ИИ-клиент для разных LLM-провайдеров, ассистентов, документов, MCP и локальных моделей.
Dive into LLMs — практический учебный курс по большим языковым моделям.