vLLM — высокопроизводительный движок для инференса и обслуживания LLM с API, совместимым с OpenAI, пакетной обработкой запросов и эффективным управлением памятью.
Open Source: #ai
Проекты каталога, отмеченные тегом #ai. Теги работают как отдельные посадочные страницы, чтобы похожие инструменты было проще находить и связывать между собой.
В подборке 142 проектов с суммарным рейтингом 11,881,711 звёзд на GitHub. Основные языки: Python, TypeScript, Rust.
Про AI-проекты в каталоге
Искусственный интеллект — самая быстрорастущая часть open source: за последние пару лет на GitHub появились тысячи инструментов вокруг нейросетей, от готовых ассистентов до низкоуровневых движков инференса. Здесь собраны проекты, которые реально стоит открыть: с живым сообществом, понятной документацией и применимостью на практике.
Внутри подборки — фреймворки для работы с языковыми моделями, агентные системы, инструменты для локального запуска моделей и обучающие материалы. У каждого проекта — звёзды, лицензия и описание на русском, чтобы быстро понять, подходит ли он под задачу.
Репозитории
RAGFlow — RAG-платформа с открытым кодом для поиска по документам, разбиения текста, цитирования источников и агентных сценариев вокруг LLM.
PaddleOCR — OCR-инструментарий для распознавания текста и структуры документов, включая PDF, изображения, многоязычный OCR и разбор документов для LLM-сценариев.
claude-mem — система постоянной памяти для AI-агентов, которая сохраняет контекст сессий и возвращает релевантные фрагменты в будущие запуски.
LLM Course — учебная карта по большим языковым моделям: основы, настройка моделей, квантизация, оценка, учебные тетради и инженерные сценарии.
LobeHub — платформа для работы с ИИ-агентами, знаниями и совместной организацией задач вокруг больших языковых моделей.
GPT4All — проект для локального запуска больших языковых моделей на обычных компьютерах и в приложениях.
OpenHands — открытый ИИ-агент для разработки: CLI, локальный интерфейс, SDK и сценарии работы с кодом.
Prompt Engineering Guide — открытый учебник по промптам, RAG, агентам и практикам работы с большими языковыми моделями.
Odysseus — ИИ-рабочее пространство, которое можно развернуть у себя: чат, агенты, документы, почта, заметки и календарь в одной системе.
OpenAI Cookbook — официальная коллекция примеров и руководств по использованию OpenAI API в прикладных задачах.
Stable Diffusion — репозиторий латентной diffusion-модели для генерации и изменения изображений по текстовому условию.