Open Source: #llm

Проекты каталога, отмеченные тегом #llm. Теги работают как отдельные посадочные страницы, чтобы похожие инструменты было проще находить и связывать между собой.

В подборке 55 проектов с суммарным рейтингом 4,548,466 звёзд на GitHub. Основные языки: Python, TypeScript, Go.

Про LLM-инструменты

Большие языковые модели перестали быть магией исследовательских лабораторий — теперь их запускают локально, дообучают на своих данных и встраивают в продукты. Open source экосистема вокруг LLM развивается быстрее любой другой: новые инструменты появляются буквально каждую неделю.

В этой подборке — движки инференса, фреймворки для RAG и агентов, обёртки над API моделей и интерфейсы для локального запуска. Если собираете что-то на основе языковых моделей, начните отсюда: это проверенные проекты с активной разработкой.

Фильтры

Языки

Репозитории

Найдено: 55
meta-llama/llama
Llama

Llama — репозиторий Meta с кодом вывода для ранних моделей Llama и ссылками на современные репозитории семейства.

Звёзды 59,472 Форки 9,792 Автор meta-llama Язык Python Лицензия NOASSERTION
Открыть
karpathy/nanochat
nanochat

nanochat — учебный проект Andrej Karpathy для прохождения основных этапов обучения небольшой языковой модели и запуска простого чата.

Звёзды 55,484 Форки 7,632 Автор karpathy Язык Python Лицензия Не указано
Открыть
jingyaogong/minimind
MiniMind

MiniMind — учебный PyTorch-проект для полного воспроизведения маленькой языковой модели: данные, предобучение, донастройка и эксперименты.

Звёзды 52,236 Форки 6,726 Автор jingyaogong Язык Python Лицензия Не указано
Открыть
BerriAI/litellm
LiteLLM

LiteLLM — Python SDK и прокси для работы с разными LLM-провайдерами через единый интерфейс.

Звёзды 51,738 Форки 9,225 Автор BerriAI Язык Python Лицензия NOASSERTION
Открыть
run-llama/llama_index
LlamaIndex

LlamaIndex — фреймворк для соединения LLM-приложений с внешними данными, индексами и инструментами.

Звёзды 50,442 Форки 7,642 Автор run-llama Язык Python Лицензия MIT
Открыть
oobabooga/textgen
TextGen

TextGen — настольное приложение и веб-интерфейс для локальных LLM: чат, генерация, работа с изображениями, вызов инструментов и совместимые API.

Звёзды 47,281 Форки 5,977 Автор oobabooga Язык Python Лицензия AGPL-3.0
Открыть
mudler/LocalAI
LocalAI

LocalAI — открытый ИИ-движок для запуска LLM, vision, voice, image и video моделей через совместимые API на своем оборудовании.

Звёзды 47,172 Форки 4,174 Автор mudler Язык Go Лицензия Не указано
Открыть
CherryHQ/cherry-studio
Cherry Studio

Cherry Studio — настольный ИИ-клиент для разных LLM-провайдеров, ассистентов, документов, MCP и локальных моделей.

Звёзды 47,170 Форки 4,475 Автор CherryHQ Язык TypeScript Лицензия AGPL-3.0
Открыть
janhq/jan
Jan

Jan — настольное приложение с открытым кодом для локального общения с LLM.

Звёзды 43,251 Форки 2,871 Автор janhq Язык TypeScript Лицензия NOASSERTION
Открыть