本地部署开源大模型工具

综合介绍 Hyperspace是一个创新的生成式浏览器（aiOS），基于全球最大的对等AI网络，旨在为用户提供深度研究与分析的强大工具。通过集成多种AI模型和数据源，Hyperspace允许用户快速生...

综合介绍 LiteLLM是一个由BerriAI开发的Python SDK和代理服务器，旨在简化和统一对多种大型语言模型（LLM）API的调用和管理。它支持超过100种大模型API，包括OpenAI...

综合介绍 RWKV-Runner 是一个专为 RWKV 模型设计的管理和启动工具，旨在提供一个易于使用的RWKV管理和启动工具。它完全自动化、体积小巧，仅有8MB大小，同时提供与OpenAI API兼...

综合介绍 AIStarter是一款旨在简化人工智能项目管理的免费平台，支持在Windows、Mac或Linux上轻松下载、安装及分享各类热门AI开源项目。它提供开箱即用、打包和分享功能，并拥有强大的社...

综合介绍 KoboldCpp 是一款易于使用的 AI 文本生成软件，适用于 GGML 和 GGUF 模型，灵感来源于原始的 KoboldAI。它是由 Concedo 提供的单个自包含的可分发版本，基于...

GPT4All 综合介绍 GPT-4All 是由 Nomic 开发的一个开源项目，旨在让用户在本地设备上运行大型语言模型（LLMs）。该项目强调隐私保护，无需互联网连接即可使用，适用于个人和企业用户...

综合介绍 GaiaNet-AI/gaianet-node是一个开源项目，允许用户在Mac、Linux或Windows WSL上通过一条命令快速安装默认的节点软件栈。用户可以初始化节点，自定义配置，下载...

Pinokio 综合介绍 Pinokio是一款创新的AI开源项目部署工具，让用户可以轻松地一键安装、运行以及编程式控制各种大模型相关应用程序。它支持跨多个平台，并提供一个社区脚本库，涵盖绝大多数热门A...

Ollama 综合介绍 ollama是一个轻量级的本地语言模型运行框架，让用户能够容易地搭建和运行大型语言模型。它提供多种快速开始和安装选项，支持Docker，包含了丰富的库供用户选择。它的使用方法简...