Installation et configuration d'Ollama - Systèmes Linux

吐司AI

bref

Cette section explique comment compléter le Ollama l'installation et la configuration, ainsi que les mises à jour d'Ollama, l'installation de versions spécifiques, la consultation des journaux et la désinstallation.

I. Installation rapide

Ollama Télécharger : https://ollama.com/download

Page d'accueil officielle d'Ollama : https://ollama.com

Dépôt officiel du code source d'Ollama sur GitHub : https://github.com/ollama/ollama/

Le site officiel propose une installation rapide en ligne de commande.

Ollama 安装与配置 - Linux 系统篇
curl -fsSL https://ollama.com/install.sh | sh
Ollama 安装与配置 - Linux 系统篇

Cette commande téléchargera automatiquement la dernière version d'Ollama et terminera l'installation. Les commandes suivantes sont couramment utilisées par Ollama :

ollama serve         #启动ollama
ollama create        #从模型文件创建模型
ollama show          #显示模型信息
ollama run           #运行模型
ollama pull          #从注册表中拉取模型
ollama push          #将模型推送到注册表
ollama list          #列出模型
ollama cp            #复制模型
ollama rm            #删除模型
ollama help          #获取有关任何命令的帮助信息
  • Vérifier que l'installation est terminée, dans l'onglet Exec Entrer à :
ollama -h

La sortie est la suivante : cela signifie que l'installation est réussie🎉.

Ollama 安装与配置 - Linux 系统篇
  • Activation et utilisation d'Ollama

Tout d'abord, ouvrez Ollama dans le terminal et suspendez-le en arrière-plan

ollama serve
Ollama 安装与配置 - Linux 系统篇

bibliothèque (ollama.com)Voici la bibliothèque de modèles d'Ollama, cherchez le modèle que vous voulez, ouvrez un nouveau terminal et commencez !

ollama run llama3

La vitesse de téléchargement dépend de votre bande passante et est prête à être utilisée. control + D Exit Chat

Ollama 安装与配置 - Linux 系统篇

II. installation manuelle

Note : Si une ancienne version d'ollama a été installée précédemment, vous devrez procéder à une désinstallation manuelle.sudo rm -rf /usr/lib/ollama Plus d'exigences 👉Référencessite officiel

2.1 Téléchargez et extrayez le paquet d'installation correspondant à votre système d'exploitation.

curl -L https://ollama.com/download/ollama-linux-amd64.tgz -o ollama-linux-amd64.tgz
sudo tar -C /usr -xzf ollama-linux-amd64.tgz

GPU AMDTélécharger :

curl -L https://ollama.com/download/ollama-linux-amd64-rocm.tgz -o ollama-linux-amd64-rocm.tgz
sudo tar -C /usr -xzf ollama-linux-amd64-rocm.tgz

ARM 64Télécharger :

curl -L https://ollama.com/download/ollama-linux-arm64.tgz -o ollama-linux-arm64.tgz
sudo tar -C /usr -xzf ollama-linux-arm64.tgz

2.2 Démarrer Ollama et vérifier

Entrez la commande suivante pour démarrer Ollama :

ollama serve

Vérifiez que ollama fonctionne correctement en ouvrant un autre terminal et en entrant la commande suivante

ollama -v

2.3 Ajouter Ollama en tant que service autonome (recommandé)

Tout d'abord, créez des utilisateurs et des groupes pour Ollama :

sudo useradd -r -s /bin/false -U -m -d /usr/share/ollama ollama
sudo usermod -a -G ollama $(whoami)

Ensuite, dans cette position :/etc/systemd/system/ollama.service Création d'un fichier de service

[Unit]
Description=Ollama Service
After=network-online.target
[Service]
ExecStart=/usr/bin/ollama serve
User=ollama
Group=ollama
Restart=always
RestartSec=3
Environment="PATH=$PATH"
[Install]
WantedBy=default.target

Enfin, lancez le service :

sudo systemctl daemon-reload
sudo systemctl enable ollama

III. mises à jour

Exécutez à nouveau l'instruction d'installation précédente pour mettre à jour Ollama :

curl -fsSL https://ollama.com/install.sh | sh

Ou téléchargez à nouveau la dernière version d'Ollama :

curl -L https://ollama.com/download/ollama-linux-amd64.tgz -o ollama-linux-amd64.tgz
sudo tar -C /usr -xzf ollama-linux-amd64.tgz

IV. installation de versions spécifiques

mettre en place OLLAMA_VERSIONFields,, vous pouvez installer la version correspondante

curl -fsSL https://ollama.com/install.sh | OLLAMA_VERSION=0.5.7 sh

V. Visualisation du journal

Affichez les journaux d'Ollama qui s'exécute en tant que service de démarrage :

journalctl -e -u ollama

VI. désinstallation

  • Supprimer le service Ollama :
sudo systemctl stop ollama
sudo systemctl disable ollama
sudo rm /etc/systemd/system/ollama.service
  • Supprimer les binaires Ollama du répertoire bin : /usr/local/bin ,/usr/bin ,/bin
sudo rm $(which ollama)
  • Supprimer les modèles téléchargés et les utilisateurs et groupes de services Ollama :
sudo rm -r /usr/share/ollama
sudo userdel ollama
sudo groupdel ollama
  • Supprimer les fichiers de bibliothèque téléchargés
sudo rm -rf /usr/local/lib/ollama
© déclaration de droits d'auteur
AiPPT

Articles connexes

Pas de commentaires

aucun
Pas de commentaires...