vLLM — высокопроизводительный движок для инференса и обслуживания LLM с API, совместимым с OpenAI, пакетной обработкой запросов и эффективным управлением памятью.
Open Source каталог
Каталог полезных open source проектов с GitHub. Каждая страница хранит текущие звёзды, автора, теги, язык, лицензию и описание на выбранном языке.
Репозитории
RAGFlow — RAG-платформа с открытым кодом для поиска по документам, разбиения текста, цитирования источников и агентных сценариев вокруг LLM.
CS Video Courses — открытый список университетских и профессиональных курсов по информатике с видеолекциями и материалами.
PaddleOCR — OCR-инструментарий для распознавания текста и структуры документов, включая PDF, изображения, многоязычный OCR и разбор документов для LLM-сценариев.
Fira Code — моноширинный шрифт для программирования с лигатурами, которые делают операторные последовательности визуально чище.
claude-mem — система постоянной памяти для AI-агентов, которая сохраняет контекст сессий и возвращает релевантные фрагменты в будущие запуски.
Vite — современный сборщик и сервер разработки для веб-проектов с быстрым стартом, HMR, API плагинов и поддержкой популярных фреймворков.
funNLP — большой китайский каталог NLP-ресурсов: словари, датасеты, модели, инструменты, курсы и проекты для обработки языка.
fzf — быстрый консольный инструмент нечеткого поиска для поиска и выбора файлов, команд, веток Git, процессов и любых строк текста.
Spring Boot — фреймворк для создания готовых к эксплуатации Spring-приложений и сервисов с минимальной ручной конфигурацией.
Stirling PDF — приложение для работы с PDF: редактирование, подпись, редактирование чувствительных данных, конвертация и автоматизация через браузер или свой сервер.
LLM Course — учебная карта по большим языковым моделям: основы, настройка моделей, квантизация, оценка, учебные тетради и инженерные сценарии.