Execute uma cópia do ChatGPT localmente e gratuitamente no Windows com GPT4All

Existem muitos chatbots de IA disponíveis para usuários offline, com soluções novas, versáteis e cada vez mais aprimoradas surgindo quase todos os dias. Entre todas as opções disponíveis, o GPT4All pode ser considerado um dos melhores.

Há muitos motivos para experimentá-lo, como o fato de o GPT4All permitir que você converse com seus documentos. Não há necessidade de "treiná-lo", usar servidores caros para armazenar seus dados ou mergulhar na programação Python. Você pode simplesmente "adicionar seus documentos" ao GPT4All, pois visa "expandir sua base de conhecimento" com seus dados. Verificar Como criar uma instância ChatGPT personalizada com seus dados privados.

Vamos ver como você pode instalar e usar o GPT4All no seu computador com Windows.

Quais são alguns dos recursos do GPT4All?

Existem muitas razões para escolher o GPT4All em vez de qualquer outro modelo, incluindo o ChatGPT.

1. Você só pode executar o GPT4All usando a CPU integrada do seu computador. Não há necessidade de uma GPU poderosa (e cara) com mais de dez GB de VRAM (embora possa ajudar para uma melhor experiência).
2. O GPT4All é uma solução totalmente offline, por isso está disponível mesmo quando você não tem acesso à internet.
3. Estar offline e rodar como um "aplicativo nativo" também significa que todos os dados que você compartilha com ele permanecem no seu computador - seus criadores não "espreitarão suas conversas".
4. Como depende apenas do seu computador, ele não ficará mais lento, não parará de responder ou ignorará seus prompts, como o ChatGPT quando seus servidores estiverem sobrecarregados.
5. O GPT4All permite que você adicione facilmente seus documentos ao seu Knowledge Pool. Ele pode fornecer informações a partir dele em suas respostas, transformando-o em um verdadeiro assistente pessoal que "conhece suas coisas" em vez de um chatbot genérico.

Isso é o mesmo que instalar o ChatGPT localmente?

Esteja você discutindo com um chatbot ou usando um serviço como o Copilot para ajudá-lo a escrever código sem esforço, você está interagindo com um modelo de linguagem grande (LLM). Se você não está familiarizado com o termo, consulte nosso artigo sobre O que são LLMs e como eles funcionam?.

O modelo GPT usado no ChatGPT é considerado um dos mais avançados do mundo... mas também é grande, exige muitos recursos e é totalmente proprietário. Portanto, você não pode “instalar o ChatGPT no seu computador” pelos seguintes motivos:

1. Por ser uma solução de código fechado, apenas a empresa que a criou, a OpenAI, pode acessar seus "componentes internos" e executá-la em seus servidores.
2. É tão grande e exige muitos recursos que é impossível executá-lo em um computador de nível de consumidor.

No entanto, você pode instalar e usar outros LLMs por meio do GPT4All em seu computador, desde que eles não exijam muita CPU ou possam caber em sua GPU VRAM limitada.

Perceber: O ecossistema de aceleração de hardware AI da Nvidia é geralmente considerado mais maduro. Como resultado, há mais aplicativos focados na Nvidia para tarefas aceleradas por GPU, como codificação de vídeo e, agora, aprendizado de máquina. O GPT4All está entre as ferramentas que "funcionam melhor" com GPUs Nvidia. Verificar Qual é a diferença entre Nvidia GTX e Nvidia RTX?

Como instalar o GPT4All

GPT4All está disponível para Windows, macOS e Ubuntu. Neste artigo, usaremos a versão do Windows.

• Baixe o assistente de instalação do Windows aqui Site oficial do GPT4All.

• Execute o aplicativo baixado e siga as etapas do assistente para instalar o GPT4All em seu computador.

• O instalador do GPT4All precisa baixar dados adicionais para que o aplicativo funcione. Portanto, se o instalador falhar, tente reiniciá-lo após conceder acesso por meio do firewall.

• Quando você finalmente estiver olhando para a interface GPT4All, também terá que baixar o idioma de exemplo para usá-lo. GPT4All apresentará uma lista de modelos disponíveis. Verifique seu tamanho (ao lado de seu nome) e especificações operacionais para garantir que você tenha RAM ou VRAM suficiente. Ao selecionar um formulário, clique no botão Baixar Para baixar e instalar o GPT4All.

• Se mudar de ideia, clique no botão إلغاء para parar o download ativo e você pode escolher outro modelo.

• Para economizar tempo, se você quiser experimentar vários modelos, pode baixar GPT4All em paralelo. No entanto, observe que muitos gigabytes podem ser consumidos em breve, portanto, você precisa garantir espaço de armazenamento suficiente para todos os modelos selecionados.

Conheça o GPT4All

Com o GPT4All instalado e alguns LLMs de amostra baixados, agora você pode começar a conversar com seu chatbot AI.

• Use o menu suspenso na parte superior da janela GPT4All para selecionar o modelo de idioma ativo.

• Use o ícone do menu no topo para chegar Painel de Controle GPT4All.

• As primeiras opções no painel GPT4All permitem que você crie um novo chat, renomeie o chat atual ou elimine-o.

• O botão Atualizações permite atualizar o aplicativo e adicionar ou remover componentes.

• O botão Downloads dá acesso ao painel Language Samples.

• Você pode usar o painel Language Samples para instalar novos LLMs, remover modelos instalados e alterar seu caminho de download.

• O bate-papo com o modelo LLM no GPT4All é semelhante à versão online do ChatGPT. Digite algo no campo de entrada na parte inferior da janela GPT4All e, após pressionar Entrar , você verá seu prompt na visualização principal do GPT4All. A resposta do modelo de idioma selecionado aparecerá abaixo do prompt.

• Assim como no ChatGPT, se você não gostar da resposta LLM gerada na tela, clique no botão parar a geração para interromper o processo.

• Da mesma forma, se você não gostar de uma resposta que já foi gerada e quiser ver uma resposta alternativa, clique no botão Recriar resposta, que aparece no mesmo local.

• Observe que o GPT4All também permite que você acesse o que é conhecido como formulários de idioma irrestrito. que não vem com restrições artificiais. Essa "liberdade" supostamente o "liberta" e "permite" que ele seja mais criativo e dê respostas mais realistas. No entanto, isso também significa que pode produzir saída ofensiva.

• Os dois primeiros botões na parte superior do aplicativo permitem redefinir uma conversa ou copiá-la para a área de transferência para colá-la em outro lugar.

• O terceiro botão (com um ícone de engrenagem) permite acessar as configurações do GPT4All.

• A guia Construir nas configurações do GPT4All permite configurar os parâmetros do modelo de idioma ativo. Ao alterar variáveis ​​como temperatura e frequência, você pode modificar sua criatividade, precisão, etc.

• A guia Aplicativo permite que você escolha um modelo padrão para GPT4All, especifique o caminho de download para o modelo de idioma, defina um número específico de núcleos de CPU para o aplicativo usar, salve automaticamente cada conversa localmente e habilite seu próprio servidor web interno para acesso com seu navegador preferido.

Converse com seus documentos com GPT4All

No entanto, o melhor recurso do GPT4All é a facilidade de adicionar seu documento ao modelo de idioma escolhido. Como vimos, é possível fazer o mesmo com o ChatGPT e criar um ChatGPT personalizado com seus próprios dados. No entanto, o processo é muito mais fácil com o GPT4All e não tem custos de utilização API ChatGPT da OpenAI.

• Coloque alguns de seus documentos em uma pasta. Certifique-se de que esteja em um formato de arquivo amplamente compatível, como TXT, MD (para Markdown), Doc etc.

• No painel de configurações do GPT4All, vá para a página da guia LocalDocs Plugin (Beta). Clique no botão Procurar e aponte o aplicativo para a pasta onde você colocou seus documentos. Em seguida, clique em "Adicionar" para incluí-lo na lista de documentos externos GPT4All.

• Você verá uma entrada para sua pasta Documentos na lista de Documentos do plug-in LocalDocs do GPT4All. Se você decidir remover uma pasta Documentos, selecione-a aqui e clique no botão Remover à direita dela.

• No mesmo local, você pode ajustar o tamanho do trecho de documento e os trechos de documento a serem processados ​​para cada valor de prompt na parte inferior esquerda do painel. Aumentá-lo melhorará a capacidade do modelo de idioma fornecido para “entender” seus documentos e fornecer respostas mais relevantes. No entanto, ele também desacelerará gravemente o GPT4All, pois precisa analisar seus documentos após cada prompt.

• Você pode gerenciar seus documentos externos através do botão GPT4All Collections.

• Você pode adicionar várias coleções de documentos ao GPT4All. É melhor, porém, que em vez de ativá-los o tempo todo, o que pode afetar negativamente o desempenho do GPT4All, você pode controlar qual grupo de documentos ("coleção") deseja ativar no painel Coleções.

• Depois de adicionar alguns documentos e ativar sua coleta, o GPT4All informará que está processando-os após um prompt.

• Sempre que o GPT4All fornecer uma resposta que extrai dados de seus documentos, ele fornecerá uma lista de referências e links de contexto na resposta.

• Ao clicar no link de contexto, GPT4All mostrará um trecho de texto de seus documentos que você usou em sua resposta.

Versão ChatGPT no Windows

O GPT4All e os modelos de idioma que você pode usar com ele podem não ser uma correspondência absoluta para o ChatGPT convencional, mas ainda são úteis.

Os usuários criativos encontraram várias maneiras engenhosas de melhorar esses modelos que, mesmo que dependam de conjuntos de dados menores ou hardware mais lento do que o ChatGPT usa, eles ainda podem se aproximar ou, em alguns casos, excedê-lo.

Em vez de entrar em detalhes sobre os prós e contras de cada modelo disponível, por que não experimentá-lo? GPT4All facilita. Você pode ver agora Prefiro os prompts do ChatGPT para eliminar as distrações digitais.