Open Source: #local-ai

Проекты каталога, отмеченные тегом #local-ai. Теги работают как отдельные посадочные страницы, чтобы похожие инструменты было проще находить и связывать между собой.

В подборке 4 проектов с суммарным рейтингом 305,157 звёзд на GitHub. Основные языки: C++, Python.

Фильтры

Языки

Репозитории

Найдено: 4
ggml-org/llama.cpp
llama.cpp

llama.cpp запускает большие языковые модели локально: от командной строки до совместимого с OpenAI API сервера.

Звёзды 115,212 Форки 19,283 Автор ggml-org Язык C++ Лицензия MIT
#ai #llm #cplusplus #inference #cli #local-ai
Открыть
nomic-ai/gpt4all
GPT4All

GPT4All — проект для локального запуска больших языковых моделей на обычных компьютерах и в приложениях.

Звёзды 77,357 Форки 8,323 Автор nomic-ai Язык C++ Лицензия MIT
#llm #ai #local-ai #python #c-plus-plus #desktop
Открыть
unslothai/unsloth
Unsloth

Unsloth — инструменты и Studio для запуска и дообучения открытых моделей локально, с упором на скорость, память и практические сценарии LLM.

Звёзды 66,929 Форки 6,012 Автор unslothai Язык Python Лицензия Apache-2.0
#llm #fine-tuning #python #models #local-ai
Открыть
exo-explore/exo
exo

exo — инструмент для локального запуска AI-моделей на нескольких устройствах.

Звёзды 45,659 Форки 3,280 Автор exo-explore Язык Python Лицензия Apache-2.0
#ai #local-ai #python #distributed-computing
Открыть