auto-cpufreq - автоматический оптимизатор скорости и мощности CPU для Linux.

Активно отслеживает состояние батареи ноутбука, использование CPU, температуру CPU и загрузку системы, в конечном итоге позволяя вам увеличить срок службы батареи без каких-либо компромиссов.

https://github.com/AdnanHodzic/auto-cpufreq

опубликовано в @gitgate

#cpu #speed #battery #linux

s-tui - утилита коммандной строки (CLI) отслеживает температуру, частоту, мощность и загрузку процессора в псевдо графическом виде через терминал.

Особенности:
- мониторинг температуры/загрузки/частоты/мощности вашего процессора
- демонстрирует падение производительности, вызванное тепловым тротлингом
- не требует X-сервера
- встроенные опции для нагрузочного тестирования процессора (stress/stress-ng/FIRESTARTER)

https://github.com/amanusk/s-tui

опубликовано в @gitgate

#cli #tui #cpu #stresstest

Undervolt Go - утилита для снижения напряжения на процессорах Intel в системах Linux.

Снижение напряжения может помочь уменьшить температуру процессора, снизить энергопотребление и потенциально повысить стабильность и срок службы системы. Undervolt Go позволяет запускать приложение без необходимости установки каких-либо зависимостей, а также имеет удобную графическую версию.

Возможности:
- графический интерфейс пользователя: Взаимодействуйте с Undervolt Go через удобный графический интерфейс.
- регулировка смещения напряжения: Примените пользовательские смещения напряжения к компонентам процессора для оптимизации производительности и тепловых характеристик.
- переопределение целевого значения температуры: установите пользовательское целевое значение температуры для регулирования производительности процессора при питании от сети переменного тока или от батареи.
- настройка ограничения мощности: отрегулируйте ограничения мощности процессора для контроля производительности и энергопотребления.
- настройка Intel Turbo: включите или отключите Intel Turbo для оптимальной производительности.
- управление профилями: сохраняйте и применяйте профили для быстрого изменения конфигурации.
- автоматическое переключение профилей: автоматическое переключение на соответствующий профиль в зависимости от питания от сети или от батареи.
- мониторинг температуры: отслеживание и отображение текущей температуры процессора.
- мониторинг вентилятора: отслеживание и отображение текущей скорости вращения вентилятора процессора.

https://github.com/Softorage/undervolt-go

Опубликовано в @gitgate

#cpu #gui

Saku Overclock - превратит ваш ноутбук с процессором AMD Ryzen в высокопроизводительную машину.

Разработанный для энтузиастов, которые предъявляют к своему оборудованию более высокие требования, наш продвинутый пакет для разгона обеспечивает профессиональный контроль при простой и удобной для пользователя конфигурации.

Возможности:
- полный доступ к разгону с рекомендациями.
- мониторинг системы в режиме реального времени
- предварительное переключение
- кастомизация
- огромный список поддерживаемого оборудования

https://github.com/Erruar/Saku-Overclock

Опубликовано в @gitgate

#cpu #amd #ryzen #tools #overclock

vLLM - простой, быстрый и недорогой сервис LLM для всех.

vLLM обеспечивает бесперебойную поддержку более 200 архитектур моделей на платформе HuggingFace, включая:
- LLM-ы, работающие только с декодером (например, Llama, Qwen, Gemma)
- Mixture-of-Expert LLMs (например, Mixtral, DeepSeek-V3, Qwen-MoE, GPT-OSS).
- гибридные модели (например, Mamba, Qwen3.5)
- мультимодальные модели (например, LLaVA, Qwen-VL, Pixtral)
- модели встраивания и поиска (например, E5-Mistral, GTE, ColBERT)
- reward модели и модели классификации (например, Qwen-Math)

Возможности:
- бесшовная интеграция с популярными моделями Hugging Face.
- высокопроизводительное обслуживание с использованием различных алгоритмов декодирования, включая параллельную выборку, поиск по лучу и другие.
- параллельная обработка тензоров, конвейеров, данных, экспертов и контекста для распределенного вывода
- потоковые выходы
- генерация структурированных выходных данных с использованием xgrammar или guidance
- парсеры вызова инструментов и логических рассуждений
- сервер API, совместимый с OpenAI, а также поддержка Anthropic Messages API и gRPC.
- эффективная поддержка нескольких LoRA для плотных и MoE-слоев.
- поддержка графических процессоров NVIDIA, AMD и процессоров x86/ARM/PowerPC. Кроме того, поддерживаются различные аппаратные плагины, такие как Google TPU, Intel Gaudi, IBM Spyre, Huawei Ascend, Rebellions NPU, Apple Silicon, MetaX GPU и другие.

https://github.com/vllm-project/vllm

Опубликоввано в @gitgate

#ai #llm #api #openai #grpc #nvidia #amd #cpu

LocalAI - движок искусственного интеллекта с открытым исходным кодом.

Запускайте любые модели - LLM, компьютерное зрение, речь, изображения, видео - на любом оборудовании. Графический процессор не требуется.

Возможности:
- небольшое ядро, а не пакет. Каждый бэкенд использует лучший в своем классе движок (llama.cpp, vLLM, whisper.cpp, stable-diffusion, MLX...) в собственном образе, который загружается только тогда, когда это необходимо модели.

- по своей конструкции это модульная система: бэкэнды разделены и загружаются по запросу, поэтому вы устанавливаете только то, что необходимо вашей модели.
- открытый и расширяемый: загружайте любые модели или создавайте собственный бэкэнд на любом языке, используя открытый интерфейс.
- совместимость с API без дополнительных настроек: API OpenAI, Anthropic и ElevenLabs доступны во всех бэкэндах.
- любая модель, любой формат: LLM, зрение, голос, изображение и видео - все это доступно через один API.
- любое оборудование: NVIDIA, AMD, Intel, Apple Silicon, Vulkan или только процессор.
- поддержка многопользовательского режима: аутентификация по API-ключу, квоты для пользователей, доступ на основе ролей.
- встроенные агенты ИИ: автономные агенты с использованием инструментов, RAG, MCP и навыков.
- конфиденциальность превыше всего: ваши данные никогда не покидают вашу инфраструктуру.

https://github.com/mudler/LocalAI

Опубликовано в @gitgate

#ai #llm #cpu #llama #vllm #rag #mcp