在您的应用中本地部署LLM/VLM/TTS模型的跨平台框架。
支持Flutter、React-Native和Kotlin多平台。
支持您在Huggingface上找到的任何GGUF模型;Qwen、Gemma、Llama、DeepSeek等。
运行LLM、VLM、嵌入模型、TTS模型等。
支持从FP32到低至2位量化模型,提高效率并减少设备负担。
支持Jinja2的聊天模板和令牌流。
https://github.com/cactus-compute/cactus
支持Flutter、React-Native和Kotlin多平台。
支持您在Huggingface上找到的任何GGUF模型;Qwen、Gemma、Llama、DeepSeek等。
运行LLM、VLM、嵌入模型、TTS模型等。
支持从FP32到低至2位量化模型,提高效率并减少设备负担。
支持Jinja2的聊天模板和令牌流。
https://github.com/cactus-compute/cactus
GitHub
GitHub - cactus-compute/cactus: Cross-platform framework for deploying LLM/VLM/TTS models locally on smartphones.
Cross-platform framework for deploying LLM/VLM/TTS models locally on smartphones. - cactus-compute/cactus
😁3
💧 #小众软件
Proxmox VE 9.0 正式发布:基于 Debian 13,内核更前沿,快来体验极客级虚拟化环境
https://www.appinn.com/proxmox-ve-9-0-released/
Proxmox VE 9.0 正式发布:基于 Debian 13,内核更前沿,快来体验极客级虚拟化环境
https://www.appinn.com/proxmox-ve-9-0-released/
小众软件
Proxmox VE 9.0 正式发布:基于 Debian 13,内核更前沿,快来体验极客级虚拟化环境 - 小众软件
Proxmox VE 9.0 在昨天晚上正式发布(北京时间2025年8月5日晚9点),基于 Debian 13 Trixie 打造,使用很新的 Linux 内核 6.14.8-2 作为稳定默认版本。重要软件也都紧跟主流,QEMU 升级到 10.0.2、LXC 用上 6.0.4、ZFS 2.3.3,还有 Ceph