LM Studio: um aplicativo de desktop para executar localmente modelos de linguagem natural em grande escala

Introdução geral ao LM Studio

O LM Studio é um aplicativo de desktop projetado para executar e gerenciar modelos de idiomas grandes (LLMs) localmente. Os usuários podem executar modelos como Llama, Mistral, Phi, etc. diretamente em seus próprios computadores, sem conexão com a Internet. O aplicativo é compatível com uma ampla gama de sistemas operacionais, incluindo macOS, Windows e Linux, e oferece um rico conjunto de recursos, como bate-papo com documentos locais, download e gerenciamento de modelos, entre outros.

Ele pode pesquisar e baixar LLMs do Hugging Face, uma interface de usuário de bate-papo integrada e um tempo de execução para um servidor local compatível com a API do OpenAI.O LM Studio não é de código aberto, mas usa a popular biblioteca llama.cpp. Ele suporta uma variedade de modelos compatíveis com a biblioteca de tensores ggml do projeto llama.cpp e requer 16 GB de RAM. O LM Studio é fácil de usar e está disponível para Windows e Mac, com uma versão para Linux em desenvolvimento.

Lista de recursos do LM Studio

• Executando o LLM localmenteSuporte para execução de modelos como Llama, Mistral, Phi etc. em computadores locais para garantir a privacidade dos dados.
• Ferramentas de diálogo:Uso de modelos via interface de bate-papo no aplicativo ou servidores locais compatíveis com OpenAI
• Chat de documentosOs usuários podem interagir com documentos locais para obter as informações de que precisam.
• Download e gerenciamento de modelosPor meio de uma página de descoberta no aplicativo, os usuários podem baixar e gerenciar vários arquivos de modelo.
• Compatível com vários sistemas operacionaisSuporte para sistemas macOS (M1/M2/M3), Windows e Linux.
• operação off-linePode ser usado sem conexão com a Internet, garantindo a segurança dos dados.
• Servidores compatíveis com OpenAIEndpoint do servidor local: fornece um endpoint de servidor local semelhante ao OpenAI para facilitar a integração.

Ajuda do LM Studio

Etapas de instalação

1. Baixar aplicativosVisite o site oficial do LM Studio e selecione o pacote de instalação apropriado para download, de acordo com seu sistema operacional.
2. Instalação de aplicativos::
   • macOSSe o download for concluído, abra o pacote de instalação e siga as instruções para instalá-lo.
   • Windows (computador)Se o download for concluído, execute o instalador e siga as instruções para concluir a instalação.
   • LinuxObservação: Quando o download estiver concluído, descompacte o pacote de instalação e siga as instruções da documentação.

Guia do Usuário do LM Studio

1. iniciar um aplicativo: Após a conclusão da instalação, abra o aplicativo LM Studio.
2. Modelos para download::
   • Vá para a página "Discover" (Descobrir) no aplicativo, navegue e selecione o modelo desejado.
   • Clique no botão de download e aguarde o término do download do modelo.
3. modelo operacional::
   • Selecione o modelo baixado no aplicativo e clique no botão Run (Executar).
   • Os usuários podem interagir com o modelo por meio da interface de bate-papo integrada ou integrá-lo por meio de um endpoint de servidor local.
4. Chat de documentos::
   • Faça upload de documentos locais dentro do aplicativo.
   • Use a interface de bate-papo para interagir com o conteúdo do documento e obter as informações de que você precisa.
5. modelo de gerenciamento::
   • Com os recursos de gerenciamento no aplicativo, os usuários podem visualizar, atualizar ou excluir modelos baixados.
   • Suporta vários formatos de modelo, como GGUF, MLX, etc.

problemas comuns

• O LM Studio coleta dados? Não. O LM Studio foi projetado para proteger a privacidade do usuário e todos os dados são armazenados localmente.
• Quais são os requisitos mínimos de hardware? Requer um processador compatível com o conjunto de instruções AVX2, o macOS requer um chip M1/M2/M3 e o Windows e o Linux requerem arquiteturas x64/ARM64.
• Ele é compatível com o uso comercial? Gratuito para uso pessoal; para uso comercial, entre em contato com o responsável para obter uma licença.

Download do LM Studio

Download do LM Studio para Windows

Download do LM Studio MAC

Download do LM Studio Linux Edition