Locais de armazenamento de modelos personalizados da Ollama

Tutoriais práticos de IAPublicado há 3 meses Sharenet.ai

465 0

Tomando o sistema Windows como exemplo, os modelos extraídos pelo Ollama são armazenados na unidade C por padrão. Se você precisar extrair mais de um modelo, a unidade C ficará cheia, o que afeta o espaço de armazenamento da unidade C.

Portanto, esta seção descreve como você pode personalizar o Ollama Onde o modelo está armazenado.

Windows (computador)

Ao fazer o download do Ollama, se nenhuma ação adicional for tomada, o modelo será baixado por padrão para o diretório C:\Users\<用户名>\.ollama\models
Se não quisermos colocá-lo na unidade C, neste momento criaremos a pasta onde o modelo personalizado será baixado e copiaremos o caminho, por exemplo D:\Ollama\Models
Observação: os caminhos devem ser criados antecipadamente e não devem conter caracteres chineses ou espaços.
Para diferentes situações, as seguintes estratégias podem ser adotadas 👀

Antes de instalar o Ollama pela primeira vez, defina manualmente o caminho de download do modelo.

II Modificar as variáveis de ambiente do sistema (recomendado)

III. migração de documentos de modelos existentes

I. Definir manualmente o caminho de download do modelo ao instalar o Ollama pela primeira vez.

Caminho de instalação personalizado (na primeira instalação)

.\OllamaSetup.exe /DIR="D:\Ollama\Models"

strike (no teclado) InstallDepois disso, você poderá ver que o software está instalado na pasta de caminho personalizado, e o modelo será baixado para a pasta personalizada por padrão.

II Modificar as variáveis de ambiente do sistema (recomendado)

Cenário: é recomendável alterar o local de armazenamento do modelo diretamente após a conclusão da instalação do Ollama ou se você quiser que o modelo recém-baixado seja armazenado diretamente no novo local.

Definição de variáveis de ambiente

Win + S → Entre em "Environment Variables" → Selecione "Edit System Environment Variables" → Clique no botão "Environment Variables".
variável do sistema → recém-construído → Entrada:
nome da variável ::OLLAMA_MODELS
valor da variável Caminhos personalizados (por exemplo D:\Ollama\Models)

reabrir Ollama entrar em vigor

Reinicie o serviço Ollama (clique com o botão direito do mouse no ícone na barra de tarefas → Quit Ollama(e depois reiniciar)

III. migração de documentos de modelos existentes

Os modelos baixados precisam ser movidos para um novo local

cessação Ollama curso
Localizando a ID do processo
```
tasklist | findstr ollama
```
Encerramento de processos
```
taskkill /F /IM ollama.exe
```
Arquivos de modelo de migração

comandante-em-chefe (militar) C:\Users\<用户名>\.ollama\models para um novo local (por exemplo, a pasta D:\Ollama\Models) e liberar espaço de armazenamento
❗ Dados de backup Recomendamos fazer backup antes da migração C:\Users\<用户名>\.ollama arquivo (papel)

Criação de variáveis de ambiente
- Configuração pelo método 2 OLLAMA_MODELS Aponta para um novo caminho (por exemplo D:\Ollama\Models)
reabrir Ollama entrar em vigor
Verifique a lista de modelos; se ela mostrar os modelos que foram baixados, então a migração do modelo foi bem-sucedida 🎉.
```
ollama list
```

Linux

Nos sistemas Linux, os modelos extraídos pelo Ollama são armazenados por padrão na pasta .ollama/models no diretório home do usuário, geralmente em ~/.ollama/models. Se quiser armazenar os modelos em um local diferente, você pode fazer isso de várias maneiras.

I. Definir manualmente o caminho de download do modelo

Cenário: ao instalar pela primeira vez

Nos sistemas Linux, o Ollama geralmente é instalado por meio de um gerenciador de pacotes ou de um script. Se você precisar especificar o caminho de armazenamento do modelo durante a instalação, poderá fazê-lo definindo uma variável de ambiente.

Definição de variáveis de ambiente: Antes de instalar o Ollama, defina as variáveis de ambiente OLLAMA_MODELS que especifica o caminho de armazenamento do modelo. Abra um terminal e digite o seguinte comando:

export OLLAMA_MODELS=/path/to/your/custom/models

comandante-em-chefe (militar) /path/to/your/custom/models Substitua o caminho pelo que você deseja, por exemplo /home/username/Ollama/Models.

Instalação do Ollama: Siga o procedimento normal de instalação do Ollama. Quando a instalação for concluída, o modelo será baixado automaticamente para o caminho personalizado especificado.

II Modificar as variáveis de ambiente do sistema (recomendado)

Cenário: depois de instalar o Ollama, você deseja alterar o local de armazenamento do modelo diretamente ou deseja armazenar o modelo recém-baixado em um novo local.

Definição de variáveis de ambiente Editar ~/.bashrc talvez ~/.zshrc (dependendo do shell que estiver usando), adicione o seguinte:

export OLLAMA_MODELS=/path/to/your/custom/models

Substitua /path/to/your/custom/models pelo caminho desejado, por exemplo, /home/username/Ollama/Models.

Salve o arquivo e recarregue a configuração:

source ~/.bashrc

talvez

source ~/.zshrc

Reiniciar o serviço Ollama

Se o Ollama já estiver iniciado, o serviço poderá ser reiniciado com o seguinte comando:

ollama quit
ollama start

III. migração de documentos de modelos existentes

Cenário: os modelos baixados precisam ser movidos para um novo local.

Fechar Ollama
Arquivos de modelagem de migração: a serem ~/.ollama/models para um novo local (por exemplo, a pasta /home/username/Ollama/Models) e liberar espaço de armazenamento:

mv ~/.ollama/models /path/to/your/custom/models

comandante-em-chefe (militar) /path/to/your/custom/models Substitua-o por seu caminho de destino.

Backup dos dados: Recomenda-se fazer backup da pasta ~/.ollama antes da migração.

Configuração de variáveis de ambiente: siga o método 2 OLLAMA_MODELS Apontando para novos caminhos.
Reiniciar o serviço Ollama: Inicie o Ollama e verifique a lista de modelos para confirmar que a migração do modelo foi bem-sucedida:

ollama start
ollama list

Usando o método acima, você pode personalizar com flexibilidade o local de armazenamento dos modelos Ollama nos sistemas Linux para evitar ocupar muito espaço de armazenamento padrão.

MacOS

O local padrão do modelo de download do Ollama em sistemas Mac é ~/.ollama/models/blobs (conforme mostrado abaixo). Assim como no Windows e no Linux, os sistemas Mac também são configurados definindo o parâmetro OLLAMA_MODELS para controlar o caminho de download do modelo, podemos definir o caminho de download de duas maneiras.

I. Alteração temporária do caminho de download

fazer uso de launchctl setenv configurar OLLAMA_MODELS O efeito desse comando é temporário, ou seja, ele é perdido depois que o computador é reiniciado ou a conta é desconectada.

launchctl setenv OLLAMA_MODELS "/Users/lta/Desktop/models"

Após definir a variável de ambiente, você pode definir a variável de ambiente usando o comandolaunchctl getenv OLLAMA_MODELSExibir as variáveis de ambiente atuais.

Alteração de variáveis de ambiente

Teste após alterar as variáveis de ambiente

Quando você quiser cancelar uma variável definida anteriormente, poderá fazê-lo usando o botão launchctl unsetenv OLLAMA_MODELS para reiniciar.

II. Altere o caminho de download permanentemente

aprovar (um projeto de lei ou inspeção etc.) nano ~/.zshrc Editor de comandos ~/.zshrc papéis
Adicionar ao arquivo export OLLAMA_MODELS="/Users/lta/Desktop/models" .
Depois de salvar e sair do editor, execute source ~/.zshrc para que funcione.