lm-sys/FastChat
FastChat
FastChat — платформа для обучения, запуска и оценки больших языковых моделей.
Open Source: #llm
Проекты каталога, отмеченные тегом #llm. Теги работают как отдельные посадочные страницы, чтобы похожие инструменты было проще находить и связывать между собой.
В подборке 55 проектов с суммарным рейтингом 4,548,466 звёзд на GitHub. Основные языки: Python, TypeScript, Go.
Про LLM-инструменты
Большие языковые модели перестали быть магией исследовательских лабораторий — теперь их запускают локально, дообучают на своих данных и встраивают в продукты. Open source экосистема вокруг LLM развивается быстрее любой другой: новые инструменты появляются буквально каждую неделю.
В этой подборке — движки инференса, фреймворки для RAG и агентов, обёртки над API моделей и интерфейсы для локального запуска. Если собираете что-то на основе языковых моделей, начните отсюда: это проверенные проекты с активной разработкой.
Репозитории
Найдено: 55
LAION-AI/Open-Assistant
Open Assistant
Open Assistant — открытый проект чат-ассистента и данных вокруг диалоговых AI-систем.
HKUDS/LightRAG
LightRAG
LightRAG — Python-проект для простого и быстрого Retrieval-Augmented Generation.
google/langextract
LangExtract
LangExtract — Python-библиотека Google для извлечения структурированных данных из неструктурированного текста.
langchain-ai/langgraph
LangGraph
LangGraph — библиотека для построения устойчивых LLM-агентов как графов состояний.
stanfordnlp/dspy
DSPy
DSPy — фреймворк Stanford NLP для программирования LLM-систем вместо ручного подбора запросов.
songquanpeng/one-api
one-api
one-api — система для управления ключами и единым доступом к разным LLM-провайдерам.