Ollama 是一个本地运行的大语言模型(LLM)平台,可以启动并运行 Llama 3.3、DeepSeek-R1、Phi-4、Gemma 2 和其他大型语言模...
vLLM 是一个开源的、高效的大型语言模型(LLM)推理和服务的框架,由加州大学伯克利分校的研究团队开发。它旨在优化大模型的推理性能,尤其是在高吞吐量和低延迟的...
CherryStudio 是一款集多模型对话、知识库管理、AI 绘画、翻译等功能于一体的全能 AI 助手平台。 CherryStudio的高度自定义的设计、强大...