Installation locale des modèles DeepSeek-R1 sur les téléphones portables, pour les modèles IOS et Android Premium

Nouvelles de l'IAMise à jour il y a 5 mois Sharenet.ai
1.1K 0
吐司AI

本教程初衷是让大家在手机端确保离线私密且便携的情况下使用 Profondeur de l'eau-R1 模型,好用与否仁者见仁。呕心沥血10天...不对...10分钟为大家带来手机本地安装DeepSeek-R1教程。

手机使用 DeepSeek-R1 三个方案

在安装前,为读者普及手机上使用 DeepSeek-R1 模型的常用方案:

方案1,在线使用:téléchargement DeepSeek 官方APP,或下载支持 DeepSeek-R1 模型的第三方APP,例如:元宝,纳米AI搜索、讯飞星火、Skyworks AI...等等,需要联网使用。

方案2,AI聊天工具接入API:不适合新人使用,例如从 DeepSeek 官网 、Flux à base de silicium ,火山引擎,申请API后,接入手机中可使用的本地AI聊天套壳工具,例如:BotGem,Chatbox,GPT Mobile,NextChat(网页部署)、Page Assist(浏览器插件)...等等。

方案3,手机本地部署:就是本次教学说明,同时不仅限于手机安装 DeepSeek-R1 ,其他很多模型都可以安装。

 

手机安装 DeepSeek-R1 说明

手机里自带的端侧模型与自行部署模型的区别

其实手机安装大模型并不是很新鲜的话题,例如专注端侧小尺寸模型的 ModelBest(面壁智能),或阿里的 MNN-LLM-Android:MNN 项目,都可以在手机中安装大模型,但他们过于专业化,一直以来还处在实验摸索阶段,随着2024年开始年诸多厂商将端侧模型商业化,手机本地安装大模型的应用也多了起来。比如近期很火的新闻:L'IA des téléphones portables inaugure l'ère du "corps intelligent" : le Samsung S25 s'associe au Smart Spectrum pour ouvrir une nouvelle ère d'appels audio et vidéo.,就利用了为手机设备定制的端侧模型。

但是专为手机端侧开发的模型和手机自己本地部署的大模型在擅长领域会有不同:

专为手机设备定制的端侧模型更强调“手机助手”概念,擅长执行手机厂商设计的特定的任务,同时执行任务类型较为丰富。

自行在手机本地安装的大模型一般是真正大模型的“压缩版”、某方面能力的“增强版”,总的来说“通识”能力较强,但不能执行手机常规的自动化操作,比如让他打开手机通讯录自然不行。

 

手机本地安装大模型注意事项

安装设备:IOS/安卓

存储空间:2~4G

应用范围:文案、段子、角色扮演、快速总结、翻译

 

支持手机本地安装 DeepSeek-R1 模型的APP

口袋AI——安卓

口袋AI(PocketPal AI 中文版)是一款强大的离线AI助手,旨在让用户随时随地与AI进行对话。该项目基于小型语言模型(SLMs),无需联网即可在手机上运行,特别适配中文用户体验。口袋AI支持多种小型语言模型,包括DeepSeek、Danube等,具备智能内存管理、实时性能显示等功能。该项目目前支持安卓设备,iOS版本正在开发中。

手机本地安装 DeepSeek-R1 模型说明,适用IOS和安卓高配机型

 

 

PocketPal AI——IOS/安卓,需登录官方应用商店

PocketPal AI 是一款开源的移动应用,旨在将小型语言模型(Small Language Models, SLMs)直接引入到你的手机中,无论是iOS还是Android用户都可以使用。它提供了一种不依赖网络的AI聊天体验,确保用户隐私,并且支持自动内存管理和丰富的模型选择。这个程序由Asghar Ghorbani开发,集成了Hugging Face模型库,用户可以通过应用直接下载和使用各种模型,满足不同需求的聊天和问题解决。

手机本地安装 DeepSeek-R1 模型说明,适用IOS和安卓高配机型

 

Apollo AI——IOS

Open Intelligence是一家致力于提供开源AI解决方案的公司,其主打产品Apollo允许用户通过手机直接与私人AI后端进行互动。该平台不仅支持个人用户自主管理其AI后端,还提供了多种AI应用场景的支持,如聊天、数据处理等。Apollo的设计理念在于简化用户与AI的交互,提高AI在日常生活和工作中的应用效率。Open Intelligence通过其开放的体系架构,力求为用户提供更灵活、更私密的AI体验。

提供Llama 3.1,Qwen,DeepSeek R1系列多个尺寸的蒸馏版本。

手机本地安装 DeepSeek-R1 模型说明,适用IOS和安卓高配机型

 

Fullmoon——IOS

Fullmoon是一款专为iOS设备设计的应用程序,旨在提供与本地大语言模型进行私密聊天的功能。该应用优化了Apple Silicon,支持在iPhone、iPad和Mac上运行。用户的聊天记录会被本地保存,并且可以自定义应用的外观。Fullmoon利用了Apple的MLX Swift框架,这是一个用于在Apple Silicon上进行机器学习研究的数组框架。该应用支持多种语言模型,包括Llama 3.2 1B、Llama 3.2 3B和DeepSeek-R1-Distill-Qwen-1.5B-4bit。

手机本地安装 DeepSeek-R1 模型说明,适用IOS和安卓高配机型

 

Enchanted——macOS/IOS

Enchanted是一款开源的iOS、macOS和visionOS应用,专为与私有模型(如Llama 2、Mistral、Vicuna和Starling等)进行多模态聊天而设计。该应用兼容Ollama,提供安全、私密且多模式的体验,用户可以在iOS生态系统中的所有设备上使用。Enchanted的目标是提供一个允许用户在私密环境中进行无过滤、多模态交互的产品。

手机本地安装 DeepSeek-R1 模型说明,适用IOS和安卓高配机型

 

Tifa-Deepsex-14b-CoT——安卓APK直接下载

Tifa-Deepsex-14b-CoT 是一个基于 Deepseek-R1-14B 深度优化的大模型,专注于角色扮演、小说文本生成以及思维链(Chain of Thought, CoT)推理能力的提升。该模型通过多阶段训练和优化,解决了原始模型在长文本生成连贯性不足和角色扮演能力较弱的问题,特别适合需要长程上下文关联的创作场景。模型通过融合高质量数据集和增量预训练,显著增强了上下文关联能力,减少答非所问的情况,并消除了中英混杂现象,增加了特定领域的词汇量,使其在角色扮演和小说生成中表现更出色。此外,模型支持128k超长上下文,适用于需要深度对话和复杂创作的场景。

这是一个针对长篇小说和角色扮演场景深度优化的 Deepseek-R1-14B 版本,并且拥有一个简单的安卓客户端提供下载。

手机本地安装 DeepSeek-R1 模型说明,适用IOS和安卓高配机型

 

手机本地安装 其他 模型软件

Ai2 OLMoE——IOS

Ai2 OLMoE是由Allen Institute for AI(简称Ai2,艾伦人工智能研究所)开发的一款开源iOS应用,旨在提供完全在设备上运行的AI模型。该应用利用了Ai2的开源OLMoE模型,能够在没有云连接的情况下离线运行,确保用户的隐私和数据安全。Ai2 OLMoE不仅适用于研究人员探索如何改进本地AI模型,还为开发者提供了快速原型设计新AI体验的工具。

手机本地安装 DeepSeek-R1 模型说明,适用IOS和安卓高配机型

 

Llamao——IOS/安卓

Llamao est un chatbot Llama AI privé et hors ligne conçu pour fournir aux utilisateurs un service d'assistant intelligent sans connexion internet. Contrairement à ChatGPT, Llamao fonctionne entièrement sur l'appareil de l'utilisateur, garantissant une confidentialité et une sécurité absolues des données de l'utilisateur. Qu'il s'agisse d'écrire, de réfléchir ou de résoudre des problèmes, Llamao aide les utilisateurs à accomplir leurs tâches efficacement tout en évitant le risque de fuite de données. Sans frais d'abonnement, Llamao donne aux utilisateurs la liberté d'utiliser ses puissantes fonctions d'IA et de profiter de la commodité de ne pas avoir de restrictions de réseau.

手机本地安装 DeepSeek-R1 模型说明,适用IOS和安卓高配机型
© déclaration de droits d'auteur
AiPPT

Articles connexes

Pas de commentaires

aucun
Pas de commentaires...