Проекты каталога, отмеченные тегом #llm. Теги работают как отдельные посадочные страницы, чтобы похожие инструменты было проще находить и связывать между собой.
В подборке 55 проектов с суммарным рейтингом 4,548,466 звёзд на GitHub. Основные языки: Python, TypeScript, Go.
Большие языковые модели перестали быть магией исследовательских лабораторий — теперь их запускают локально, дообучают на своих данных и встраивают в продукты. Open source экосистема вокруг LLM развивается быстрее любой другой: новые инструменты появляются буквально каждую неделю.
В этой подборке — движки инференса, фреймворки для RAG и агентов, обёртки над API моделей и интерфейсы для локального запуска. Если собираете что-то на основе языковых моделей, начните отсюда: это проверенные проекты с активной разработкой.
LLM Course — учебная карта по большим языковым моделям: основы, настройка моделей, квантизация, оценка, учебные тетради и инженерные сценарии.
LobeHub — платформа для работы с ИИ-агентами, знаниями и совместной организацией задач вокруг больших языковых моделей.
GPT4All — проект для локального запуска больших языковых моделей на обычных компьютерах и в приложениях.
OpenHands — открытый ИИ-агент для разработки: CLI, локальный интерфейс, SDK и сценарии работы с кодом.
Prompt Engineering Guide — открытый учебник по промптам, RAG, агентам и практикам работы с большими языковыми моделями.
LLaMA-Factory — Python-инструмент для настройки и обучения LLM/VLM с CLI, веб-интерфейсом и поддержкой популярных моделей.
GPT Academic — китайскоязычный интерфейс для LLM, ориентированный на чтение, перевод, правку и разбор научных материалов.
Unsloth — инструменты и Studio для запуска и дообучения открытых моделей локально, с упором на скорость, память и практические сценарии LLM.
RTK — Rust-прокси для команд разработки, который уменьшает расход токенов при работе с языковыми моделями.
Open Interpreter — легкий кодовый агент для запуска команд, работы с файлами и локальных моделей.
AnythingLLM — приложение для работы с документами, агентами и разными LLM-провайдерами в одном интерфейсе.
Mem0 — слой памяти для ИИ-агентов и приложений, которым нужно запоминать и искать пользовательский контекст.
