Leitura: ~9 min | Atualizado: July 2026
IA Local no Linux com 2 GB de RAM: Guia Completo - Novo esquema
TL;DR - Resumo Executivo
- Conteudo preservado com expansao contextual sobre o tema original.
- Verificacoes praticas adicionadas para reduzir retrabalho.
- Fontes registradas nos metadados para rastreabilidade.
IA Local no Linux com 2 GB de RAM: Guia Completo - Novo esquema - ponto de partida
Abertura direta ao problema: muitos comecam pelo obvio e repetem o erro ja documentado no backup. Este guia modernizado preserva a base original do @CanalQb e adiciona verificacao pratica.
Se seu foco for aplicar este roteiro rapido, mantenha este conteudo como base e compare endpoints, duvidas ou datas com fontes atuais. O que realmente importa e o metodo, nao apenas a documentacao.
Linux Leve + IA Local no PC com 2 GB de RAM
Voc� tem um Pentium N3700 com 2 GB de RAM e quer rodar intelig�ncia artificial local ? texto, imagem, an�lise visual ? tudo offline, tudo no seu hardware, sem pagar nada? Testei isso na pr�tica, errei, corrigi, e aqui est� o que realmente funciona.
Este guia cobre desde a instala�?o do antiX Linux at� rodar modelos de linguagem com Ollama, gerar imagens com Stable Diffusion em CPU, analisar imagens com Moondream2, e ainda criar uma Web UI pr�pria com chat, mem�ria e agentes ? tudo rodando no mesmo PC modesto.
? Testado no Pentium N3700 � 2 GB RAM � antiX 23.1 � Ollama � SD.cpp � Moondream2
- Escolhendo a distro certa ? comparativo real
- Instalando o antiX Linux passo a passo
- Criando o SWAP de 8 GB (obrigat�rio para IA)
- Instalando o Ollama e rodando o TinyLlama
- Stable Diffusion em CPU ? gera�?o de imagens corrigido
- Moondream2 ? an�lise de imagens com IA
- Acessar o Ollama de outra m�quina na rede local novo
- Templates personalizados com Modelfile novo
- Web UI com Flask: chat, mem�ria e personas novo
- Agentes com internet e leitura de arquivos novo
Por que isso vale a pena mesmo sendo hardware antigo
100% offline, zero nuvem
Nenhuma prompt sua sai do computador. Sem conta, sem API key, sem limite de uso. Para quem usa IA para escrever c�digo, rascunhar textos ou analisar documentos, isso � um diferencial enorme ? especialmente com dados sens�veis.
Sem mensalidade, sem limites
Depois de instalar, voc� usa � vontade. O modelo fica no seu disco e funciona sem internet. Comparado aos R$ 100-200/m�s de APIs cloud, o investimento aqui � zero ? s� o hardware que voc� j� tem.
Entenda LLMs de verdade
Quando voc� v� a RAM enchendo token por token durante o carregamento, voc� entende na pr�tica o que "par�metros", "quantiza�?o" e "contexto" significam. Isso vale mais do que qualquer curso te�rico.
PC antigo com fun�?o nova
O N3700 foi lan�ado em 2015. Em vez de acumular poeira, ele vira um servidor de IA dom�stico funcional. Lento comparado a uma RTX 4090, mas completamente funcional para uso pessoal e aprendizado.
Texto, imagem e vis?o no mesmo PC
Com o setup completo deste guia voc� roda tr�s tipos de IA: TinyLlama para texto, Stable Diffusion 1.5 para imagens e Moondream2 para an�lise visual. Tudo no mesmo hardware com 2 GB.
Seu ChatGPT local com Flask
Al�m dos modelos, este guia ensina a criar uma interface web com chat, hist�rico, personas e agentes com acesso � internet ? tudo rodando no antiX, acess�vel por qualquer dispositivo da sua rede local.
Como o setup completo funciona
Instalar o antiX Linux como base m�nima do sistema
O antiX consome apenas ~200 MB de RAM em repouso ? esse � o segredo de tudo. Com Windows voc� perde 2 GB s� pra abrir o desktop. Com Ubuntu, ~1,1 GB. Com antiX, voc� tem quase 1,8 GB livres para os modelos de IA antes de qualquer coisa. A escolha do Linux n?o � detalhe ? � o que decide se o setup funciona ou trava.
Criar SWAP generoso e configurar o ambiente de ferramentas
Com 2 GB f�sicos, o SWAP � o que impede os processos de morrer quando a RAM encher. Um arquivo de 8 GB no disco funciona como "RAM lenta de emerg�ncia". Al�m disso, voc� instala corretamente o Python3, pip3 e os compiladores C++ necess�rios ? e sim, tem truques espec�ficos para o antiX que este guia cobre com comandos exatos.
Instalar cada ferramenta de IA separadamente e expandir com sua Web UI
Ollama para texto, stable-diffusion.cpp para imagens e Moondream2 para vis?o ? cada um tem sua instala�?o independente. Depois, voc� constr�i uma Web UI com Flask para ter chat com mem�ria, templates personalizados e agentes aut�nomos rodando localmente. Voc� n?o precisa de tudo ao mesmo tempo ? instale conforme a necessidade.
Para quem � este guia
??? Donos de netbooks e mini-PCs antigos com processadores Intel Atom, Celeron N3xxx, Pentium N4xxx ou similares ? que querem usar IA sem comprar hardware novo e sem pagar por servi�os cloud.
?? Estudantes e entusiastas de Linux que querem aprender como LLMs, gera�?o de imagem e RAG funcionam na pr�tica, com hardware real e sem gastar nada com servidor, API ou assinatura paga.
?? T�cnicos em inform�tica e recicladores de hardware que querem mostrar para clientes que um PC velho ainda tem utilidade real em 2025 ? e sair com um argumento t�cnico concreto nas m?os.
?? Curiosos que j� tentaram instalar IA e travaram o PC ? este guia explica exatamente por que travou, mostra os erros reais encontrados durante os testes e como evit�-los da pr�xima vez com os comandos corretos.
Parte 1 ? Escolhendo a distro certa para rodar IA
Antes de instalar qualquer modelo de IA, preciso ser direto com voc�: a escolha do Linux � mais importante do que a escolha do modelo. Aprendi isso da forma mais dolorosa poss�vel ? instalei o Ubuntu 24.04 no N3700, abriu o sistema usando 1,1 GB em repouso, mal consegui abrir o terminal e j� estava no limite. Com o antiX, s?o 200 MB. Essa diferen�a de 900 MB � literalmente o que decide se o TinyLlama vai carregar ou travar.
Testei ou analisei todas as distros abaixo antes de fechar esta recomenda�?o:
| Distro | Base | Ambiente | RAM em repouso | RAM livre para IA | Recomenda�?o |
|---|---|---|---|---|---|
| antiX 23.1 ? | Debian Stable | IceWM / Fluxbox | ~200 MB | ~1,8 GB | Melhor escolha |
| Puppy Linux | Variada | JWM | ~100 MB | ~1,9 GB | Funciona, mas setup dif�cil |
| Lubuntu 24.04 | Ubuntu | LXQt | ~450 MB | ~1,5 GB | Funciona com limita�?es |
| Linux Lite 7 | Ubuntu | Xfce | ~550 MB | ~1,4 GB | Apertado |
| Zorin OS Lite | Ubuntu | Xfce | ~600 MB | ~1,3 GB | N?o recomendado |
| Ubuntu 24.04 | Ubuntu | GNOME | ~1,1 GB | ~0,9 GB | ? Impratic�vel |
| Windows 10 | ? | Explorer | ~2,0 GB | ~0 GB | ? Imposs�vel |
A recomenda�?o deste guia � o antiX 23.1 de 64 bits. Os motivos pr�ticos: � baseado no Debian Stable com suporte de longo prazo, tem drivers excelentes para chipsets Intel Atom/Pentium N, acesso completo ao reposit�rio Debian, e o IceWM consome mem�ria ridiculamente pouca. O Puppy seria ainda mais leve, mas instalar Ollama, compiladores C++ e Flask nele � trabalho manual demais para quem est� come�ando.
Parte 2 ? Instalando o antiX Linux passo a passo
2.1 ? Baixando a ISO correta
Acesse o site oficial e baixe a vers?o full 64-bit. N?o baixe a vers?o "base" ? ela n?o inclui gerenciador de pacotes gr�fico nem bibliotecas b�sicas que vamos precisar. A vers?o "full" inclui tudo que voc� vai usar neste guia.
Arquivo esperado: antiX-23.1_x64-full.iso
? aproximadamente 1,5 GB. Verifique o SHA256 informado na p�gina de download antes de gravar,
especialmente se a ISO vai vir de um espelho (mirror).
2.2 ? Criando o pendrive boot�vel
Use o Balena Etcher (mais simples) ou o Ventoy (mais vers�til ? permite ter v�rias ISOs no mesmo pendrive). Aqui vou com o Etcher por ser mais direto para quem est� come�ando.
Com Balena Etcher (Windows / Linux / macOS):
- Baixe o Etcher em etcher.balena.io
- Abra o programa e clique em "Flash from file"
- Selecione a ISO do antiX que voc� baixou
- Escolha seu pendrive em "Select target" ? m�nimo 4 GB
- Clique em "Flash!" e aguarde cerca de 5 minutos
2.3 ? Configurando a BIOS para bootar pelo pendrive
Ligue o computador e pressione repetidamente a tecla de boot ? geralmente F2, F12, Del ou Esc dependendo do fabricante. Procure a aba "Boot" ou "Boot Priority" e coloque o USB primeiro na lista. Salve com F10 e reinicie.
2.4 ? Processo de instala�?o
O antiX inicia direto em modo Live ? voc� pode testar tudo antes de instalar. O desktop vai parecer diferente do Windows, mas clique com o bot?o direito para ver o menu de aplicativos. Quando decidir instalar:
- Clique duas vezes no �cone "Install antiX" no desktop
- Selecione o idioma Portugu�s do Brasil
- Na etapa de parti�?o:
- "Use entire disk" ? se for o �nico sistema na m�quina
- "Manual" ? se quiser dual-boot com outro SO
- Defina nome de usu�rio e senha. Anote ? sem senha root o acesso administrativo complica
- Aguarde a c�pia dos arquivos (10 a 20 minutos dependendo do disco)
- Quando solicitado, reinicie e retire o pendrive
2.5 ? Primeira atualiza�?o do sistema
Abra o terminal ? atalho Ctrl+Alt+T ou clique direito no desktop e escolha Terminal. Execute:
Isso atualiza todos os pacotes do sistema. Na primeira vez pode demorar de 5 a 15 minutos. Aguarde finalizar completamente antes de prosseguir para as pr�ximas etapas.
Parte 3 ? Criando o SWAP de 8 GB (obrigat�rio para IA)
O SWAP � um espa�o no disco que o Linux usa como mem�ria de emerg�ncia. Quando a RAM f�sica enche, o sistema come�a a mover dados menos usados para o disco. � mais lento ? muito mais lento ? mas impede que o processo seja encerrado pelo kernel. Para rodar modelos de IA com 2 GB de RAM, sem SWAP o processo simplesmente � morto pelo OOM killer (Out Of Memory) antes de terminar de responder.
Antes de criar, verifique se j� existe SWAP ativo no sistema:
Se a linha Swap:
mostrar 0B,
voc� n?o tem SWAP. Se mostrar algum valor, ainda assim recomendo criar um arquivo maior.
Execute os comandos abaixo um de cada vez:
Passo 1 ? Criar o arquivo de 8 GB:
Passo 2 ? Definir permiss?es corretas (obrigat�rio por seguran�a):
Passo 3 ? Formatar como �rea de SWAP:
Passo 4 ? Ativar imediatamente:
Passo 5 ? Tornar permanente ap�s reinicializa�?o:
Passo 6 ? Confirmar que funcionou:
A sa�da deve mostrar Swap: 8,0G na linha correspondente. Se aparecer, o SWAP est� ativo e ser� reativado automaticamente toda vez que o sistema ligar.
Passo extra ? Ajustar o swappiness (muito recomendado):
Por padr?o, o Linux come�a a usar SWAP quando a RAM chega a 40% de uso. Para um setup dedicado a IA com 2 GB, � muito melhor deixar ele usar a RAM ao m�ximo antes de recorrer ao disco. O valor 10 significa "use SWAP s� quando realmente precisar":
Parte 4 ? Instalando o Ollama e rodando modelos de texto
O Ollama � a ferramenta mais pr�tica para rodar LLMs localmente no Linux. Ele funciona como um gerenciador completo: voc� instala uma vez e depois baixa, troca e remove modelos com um �nico comando. N?o precisa compilar nada, n?o precisa configurar CUDA, n?o precisa resolver depend�ncias manualmente. Para hardware modesto como o N3700, � a escolha certa ? leve, direto e funcional.
4.1 ? Instalando depend�ncias b�sicas
Antes de instalar o Ollama, garanta que o sistema tem as ferramentas essenciais. No antiX 23.1 a maioria j� vem instalada, mas este comando garante que nada est� faltando:
4.2 ? Instalando o Ollama
O Ollama tem um script de instala�?o oficial que baixa o bin�rio, instala no sistema e configura o servi�o automaticamente. Execute no terminal:
O script faz tudo: baixa o bin�rio (~50 MB), cria o servi�o systemd e j� deixa o Ollama rodando em background. Aguarde finalizar completamente.
4.3 ? Verificando a instala�?o
Confirme que o Ollama foi instalado corretamente:
Deve retornar algo como ollama version 0.x.x.
Se retornou, est� pronto. Se der "command not found", feche e reabra o terminal
ou execute source ~/.bashrc
para recarregar o PATH.
ollama --version executado com sucesso logo ap�s a instala�?o no antiX 23.1.
A linha 15 mostra ollama list funcionando normalmente em seguida.
4.4 ? Baixando e rodando o primeiro modelo
Para o N3700 com 2 GB de RAM, o modelo mais equilibrado para come�ar � o SmolLM 135M ? ocupa apenas ~90 MB e responde em alguns segundos. O TinyLlama � a segunda op�?o, com respostas mais completas mas carregamento mais lento.
Na primeira execu�?o de cada modelo, o Ollama faz o download autom�tico. Depois ele abre
o chat direto no terminal. Digite sua pergunta e pressione Enter.
Para sair: Ctrl+D ou digite /bye.
O comando
ollama run sollm "fale em portugues..." foi digitado com erro
de digita�?o ? "sollm" em vez de "smollm".
O Ollama retorna erro de modelo n?o encontrado nesse caso.Correto:
ollama run smollm "fale em portugues, o que voce faz"
? confirmado nas linhas 22 e 23 do hist�rico ap�s a corre�?o.
4.5 ? Tabela completa de modelos compat�veis com 2 GB
Nem todo modelo do Ollama roda neste hardware. A tabela abaixo mostra o que foi testado ou verificado como compat�vel com a limita�?o de RAM:
| Modelo | Tamanho | RAM usada | Velocidade | Qualidade | Comando |
|---|---|---|---|---|---|
| SmolLM 135M | ~90 MB | ~300 MB | ? Muito r�pido | B�sica | smollm:135m |
| SmolLM 360M | ~230 MB | ~500 MB | ? R�pido | Boa | smollm:360m |
| SmolLM2 1.7B ? | ~1,1 GB | ~1,3 GB | Moderado | Muito boa | smollm2:1.7b |
| TinyLlama 1.1B | ~640 MB | ~900 MB | Lento | Boa | tinyllama |
| Gemma3 1B | ~820 MB | ~1,1 GB | Lento | Muito boa | gemma3:1b |
| Gemma3 4B | ~2,5 GB | ~3,0 GB | Muito lento | Excelente | ?? Usa SWAP intenso |
| Llama3 8B | ~4,7 GB | >5 GB | ? | ? | ? N?o roda |
smollm:135m e gemma3:1b
no N3700. O Gemma3 1B rodou, por�m com velocidade notavelmente menor que o SmolLM.
O SmolLM2 1.7B � a melhor rela�?o custo-benef�cio para este hardware.
4.6 ? Comandos essenciais do Ollama
Estes s?o os comandos que voc� vai usar com mais frequ�ncia no dia a dia:
sudo systemctl stop ollama. Isso libera a RAM que o
daemon ocupa em background (~50?100 MB) e pode fazer diferen�a quando voc� vai usar
o stable-diffusion.cpp logo em seguida.
4.7 ? Monitorando o uso de RAM em tempo real
Enquanto o modelo carrega e processa, � �til ver o que est� acontecendo com a mem�ria. Abra um segundo terminal e execute:
Voc� vai ver a RAM enchendo durante o carregamento do modelo, estabilizar durante a
gera�?o e cair quando voc� encerrar o chat. Quando o SWAP come�ar a ser usado, a coluna
used
do Swap vai aumentar ? isso significa que a gera�?o vai ficar mais lenta, mas n?o vai parar.
Parte 5 ? Stable Diffusion em CPU: gera�?o de imagens local
O stable-diffusion.cpp � uma implementa�?o em C++ do Stable Diffusion otimizada para rodar inteiramente em CPU, sem precisar de GPU. � a mesma filosofia do llama.cpp ? pega um modelo pesado, aplica quantiza�?o agressiva e consegue rodar em hardware modesto atrav�s de otimiza�?es de baixo n�vel. Para o N3700, voc� vai gerar imagens de 256?256 pixels com o modelo SD 1.5 quantizado em 4 bits.
Vou ser honesto sobre o que esperar: uma imagem de 256?256 com 20 steps leva de 15 a 40 minutos no N3700. Sim, � lento. Mas funciona ? testei, a imagem sai no final. A paci�ncia � o �nico requisito extra que este hardware exige.
5.1 ? Instalando as depend�ncias de compila�?o
O stable-diffusion.cpp precisa ser compilado do zero. Isso exige um conjunto espec�fico de ferramentas e bibliotecas. Execute este comando completo de uma vez:
Erro 1 ? Typo no comando apt: As primeiras tentativas usaram
sudo pt install (sem o "a") ? o shell retornou "comando n?o encontrado".
Sempre use sudo apt install.Erro 2 ? cmake n?o estava instalado: O cmake n?o vem por padr?o no antiX 23.1 minimal. A linha 40 mostra
sudo apt install cmake sendo executado
separadamente ap�s o primeiro cmake falhar. O comando acima j� inclui o cmake junto com
todas as outras depend�ncias ? instale tudo de uma vez para evitar esse problema.
5.2 ? Clonando o reposit�rio
Volte para a pasta home e clone o reposit�rio oficial com todas as submodules:
O comando digitado foi
cd staable-diffusion.cpp (com duplo "a").
O terminal retornou "No such file or directory". O nome correto do diret�rio �
stable-diffusion.cpp ? use Tab para autocomplete e evite erros de digita�?o
em nomes longos.
5.3 ? Compilando com suporte a OpenBLAS
O OpenBLAS � uma biblioteca de �lgebra linear otimizada especificamente para CPUs Intel. Compilar o stable-diffusion.cpp com esse suporte melhora a velocidade de gera�?o em at� 30% em hardware como o N3700. Execute a sequ�ncia completa:
O -j$(nproc)
usa todos os n�cleos dispon�veis do processador durante a compila�?o. No N3700 s?o 4 n�cleos ?
a compila�?o completa leva de 10 a 25 minutos. Voc� ver� centenas de linhas de compila�?o
passando ? � completamente normal.
Erro 1 ? cmake executado fora da pasta build: As primeiras tentativas (linhas 33 e 37) rodaram o cmake sem entrar na pasta build primeiro. O cmake reclamou que n?o encontrava os arquivos de configura�?o. A sequ�ncia correta � sempre: criar a pasta build ? entrar nela ? rodar cmake.
Erro 2 ? cmake --build vs make: O post original usava
cmake --build . --config Release -j$(nproc), mas o que realmente funcionou
no antiX 23.1 (linha 87 do hist�rico) foi simplesmente make -j$(nproc)
ap�s o cmake configurar o projeto. Use make ? � mais direto e compat�vel.
5.4 ? Identificando o bin�rio correto ap�s a compila�?o
Quando a compila�?o terminar, liste os execut�veis que foram gerados:
A sa�da que voc� vai ver �:
Quase todos os tutoriais sobre o stable-diffusion.cpp usam o comando
./bin/sd ? mas esse bin�rio n?o existe nas vers?es atuais
do projeto. O bin�rio correto � ./bin/sd-cli para gera�?o
de imagens e ./bin/sd-server para rodar como servidor HTTP.
A linha 95 do hist�rico confirma isso com clareza: sd-cli sd-server.
Se voc� rodar ./bin/sd, vai receber "No such file or directory".
5.5 ? Baixando o modelo SD 1.5 quantizado
Voc� precisa do modelo no formato GGUF, que � o formato comprimido compat�vel com o stable-diffusion.cpp. O download direto via wget sem autentica�?o vai falhar no HuggingFace para reposit�rios que exigem conta. Siga o m�todo correto:
M�todo 1 ? Via huggingface-cli (recomendado, mais confi�vel):
M�todo 2 ? Via wget com URL alternativa (funciona sem token):
Erro 1 ? wget sem token falhou: A linha 47 tentou baixar o modelo com wget direto e falhou. A linha 49 tentou com token Bearer mas tamb�m falhou (token expirado ou URL errada).
Erro 2 ? pip n?o existe no antiX: As linhas 48, 53, 57 e 63 tentaram usar
pip install e receberam "bash: pip: comando n?o encontrado". No antiX
(e no Debian em geral) o comando � pip3, nunca apenas
pip.Erro 3 ? pip3 sem a flag --break-system-packages: Em sistemas Debian modernos com PEP 668, instalar pacotes Python sem essa flag retorna erro de "externally managed environment". O comando correto � sempre
pip3 install --user PACOTE --break-system-packages.Solu�?o que funcionou (linha 76):
pip3 install --user huggingface_hub --break-system-packages
seguido de huggingface-cli download leejet/ggml-stable-diffusion-v1-5 ggml-model-q4_0.gguf
(linha 59 do hist�rico, ap�s instalar corretamente).
5.6 ? Gerando sua primeira imagem
Com a compila�?o pronta e o modelo baixado, execute o comando de gera�?o. Aten�?o ao nome do bin�rio ? use sd-cli, n?o sd:
O que cada par�metro faz:
--model? caminho completo para o arquivo .gguf baixado--prompt? descri�?o do que gerar. Ingl�s funciona melhor com SD 1.5--negative-prompt? o que voc� N?O quer na imagem--height / --width? 256?256 � muito mais r�pido que 512?512. Comece aqui--steps? itera�?es de refinamento. Menos = mais r�pido, qualidade menor. 20 � bom equil�brio--seed? n�mero fixo para reproduzir o mesmo resultado. Troque para variar a gera�?o--output? onde salvar o arquivo PNG gerado
5.7 ? Monitorando a gera�?o em tempo real
Enquanto a imagem � gerada, abra um segundo terminal e monitore a RAM:
Voc� vai ver a RAM enchendo enquanto o modelo carrega (~850 MB) e depois estabilizar durante os steps de gera�?o. Se a RAM f�sica encher e o SWAP come�ar a ser usado, a gera�?o fica ainda mais lenta mas n?o para ? � exatamente para isso que criamos o SWAP de 8 GB no in�cio.
5.8 ? Usando o sd-server para gera�?o via HTTP
Al�m do sd-cli, a compila�?o gerou tamb�m o sd-server, que
sobe um servidor HTTP local e permite gerar imagens via requisi�?o web ? �til para
integrar com scripts ou com a Web UI que vamos criar nas pr�ximas partes:
Com o servidor rodando, voc� pode gerar imagens via curl de qualquer terminal ou dispositivo na rede local:
sudo systemctl stop ollama
Parte 6 ? Moondream2: an�lise de imagens com IA local
O Moondream2 � um VLM ? Vision Language Model ? com apenas 1,6 bilh?es de par�metros. Ele consegue olhar para uma imagem e fazer coisas que antes exigiam modelos enormes: descrever o que v�, responder perguntas sobre o conte�do, identificar objetos, extrair texto presente na imagem e at� interpretar gr�ficos simples. � um dos �nicos modelos visuais que roda de forma aceit�vel dentro de 2 GB de RAM ? e funciona 100% offline, sem mandar nada para nenhuma API.
A combina�?o mais interessante deste setup � gerar uma imagem com o stable-diffusion.cpp e depois analis�-la com o Moondream2 ? dois modelos de IA diferentes trabalhando em sequ�ncia, tudo no mesmo N3700 de 2 GB. Lento, mas extraordinariamente capaz para o hardware.
6.1 ? Instalando Python3 e pip3 corretamente no antiX
O antiX 23.1 j� vem com Python 3, mas pode n?o ter o pip3 e o venv instalados. Execute:
Confirme que tudo est� funcionando:
Ambos devem retornar vers?es. Se o pip3 der "command not found" ap�s a instala�?o,
feche e reabra o terminal ou execute
source ~/.bashrc.
Em qualquer instala�?o Python em Debian, Ubuntu ou antiX modernos, sempre use a flag
--break-system-packages junto com --user ao instalar
pacotes fora de um virtualenv. Sem essa flag, o pip3 vai recusar a instala�?o com
erro de "externally managed environment" (PEP 668).Exemplo correto:
pip3 install --user PACOTE --break-system-packages
6.2 ? Criando um ambiente virtual isolado (virtualenv)
Para projetos Python com m�ltiplas depend�ncias como o Moondream2, sempre crie um virtualenv. Isso isola as bibliotecas do projeto do resto do sistema, evita conflitos entre vers?es e facilita remover tudo se necess�rio:
Quando o virtualenv est� ativo, o terminal mostra
(moondream-env)
no in�cio da linha. Isso confirma que voc� est� dentro do ambiente isolado.
Dentro do virtualenv, o comando pip (sem o "3") funciona normalmente
e voc� n?o precisa da flag --break-system-packages.
source ~/moondream-env/bin/activate antes de usar o Moondream2.
Para desativar quando terminar: deactivate.
6.3 ? Instalando o Moondream2 e depend�ncias
Com o virtualenv ativo, instale o pacote principal e a biblioteca de imagens:
O download das depend�ncias pode levar alguns minutos dependendo da sua conex?o. O pr�prio modelo (~1,7 GB) ser� baixado automaticamente na primeira execu�?o do script ? n?o durante o pip install.
6.4 ? Criando o script de an�lise de imagem
Crie o arquivo Python com o nano:
Cole o c�digo abaixo integralmente. Para colar no terminal do antiX use Ctrl+Shift+V. Para salvar: Ctrl+O ? Enter ? Ctrl+X:
6.5 ? Rodando a an�lise de imagem
Ative o virtualenv e execute o script passando o caminho de qualquer imagem JPG ou PNG:
Na primeira execu�?o, o Moondream vai baixar automaticamente o modelo
(~1,7 GB) para o cache em
~/.cache/moondream.
Aguarde o download completo. Nas execu�?es seguintes ele carrega direto do cache,
sem precisar de internet. A an�lise de uma imagem 256?256 leva de 1 a 3 minutos no N3700.
6.6 ? Exemplos pr�ticos de perguntas ao Moondream2
Depois que o modelo carrega e descreve a imagem, voc� entra no modo interativo. Alguns exemplos do que voc� pode perguntar:
| Pergunta | Tipo de an�lise | Funciona bem? |
|---|---|---|
| "What colors are dominant in this image?" | An�lise de cor | ? Sim |
| "Are there any people in this image?" | Detec�?o de objetos | ? Sim |
| "What text can you read in this image?" | OCR / extra�?o de texto | ? Sim (texto leg�vel) |
| "Describe the mood or atmosphere" | An�lise emocional/est�tica | ? Razo�vel |
| "What is the main subject?" | Identifica�?o de foco | ? Sim |
| "Is this a real photo or digital art?" | Classifica�?o de tipo | ?? Parcial |
| Perguntas muito complexas em portugu�s | ? | ?? Ingl�s funciona melhor |
6.7 ? Liberando RAM entre as ferramentas
Com 2 GB de RAM, voc� n?o consegue rodar Ollama + Stable Diffusion + Moondream2 ao mesmo tempo. Use um de cada vez e gerencie a mem�ria ativamente:
~/.cache/moondream. Somado ao modelo do SD.cpp (~850 MB) e aos modelos
do Ollama (vari�vel), voc� pode encher rapidamente um disco pequeno. Verifique o espa�o
dispon�vel periodicamente com df -h ~.
Parte 7 ? Acessar o Ollama de outra m�quina na rede local
Conte�do novo
Por padr?o, o Ollama escuta apenas em
127.0.0.1:11434
? ou seja, s� a pr�pria m�quina consegue acessar. Se voc� quiser usar o chat a partir
de outro computador, notebook ou celular conectado na mesma rede Wi-Fi ou cabo, precisa
liberar o Ollama para escutar em todas as interfaces de rede. � um ajuste simples com
duas abordagens: tempor�ria ou permanente.
7.1 ? Liberando o acesso na rede (m�todo tempor�rio)
Para testar sem alterar configura�?es permanentes, pare o servi�o e suba manualmente com a vari�vel de ambiente configurada:
Enquanto esse terminal estiver aberto, o Ollama aceita conex?es de qualquer dispositivo na rede local. Fechar o terminal encerra o servi�o.
7.2 ? Liberando o acesso de forma permanente
Para que o Ollama sempre inicie escutando na rede, edite o arquivo de servi�o systemd:
Encontre a se�?o [Service]
e adicione a linha de Environment logo abaixo dela:
Salve com Ctrl+O ? Enter ? Ctrl+X e recarregue o servi�o:
7.3 ? Descobrindo o IP da m�quina antiX
Para acessar de outro dispositivo, voc� precisa saber o IP local da m�quina com o Ollama:
Procure uma linha como
inet 192.168.1.10/24
na interface eth0 (cabo) ou wlan0 (Wi-Fi). O IP nesse exemplo
seria 192.168.1.10. Anote ? voc� vai usar bastante nas pr�ximas se�?es.
7.4 ? Testando o acesso de outra m�quina
De qualquer outro computador ou celular na mesma rede, teste no terminal ou navegador:
Se retornar um JSON com a lista de modelos instalados, est� funcionando.
7.5 ? Liberando a porta no firewall (se necess�rio)
Se o acesso n?o funcionar mesmo com o Ollama configurado, o firewall pode estar bloqueando. No antiX com ufw:
Parte 8 ? Templates personalizados com Modelfile
Conte�do novoO Ollama permite criar modelos personalizados usando um Modelfile ? um arquivo de configura�?o que define o modelo base, o prompt de sistema fixo, o formato de resposta e o "comportamento" do assistente. � como criar uma persona especializada em cima de um modelo existente. Voc� define uma vez e chama sempre com o mesmo nome customizado.
Um caso de uso pr�tico: criar um assistente que sempre responde em portugu�s, sempre segue um formato espec�fico de resposta e sempre assume um perfil t�cnico ? sem precisar repetir isso em cada prompt manualmente.
8.1 ? Criando seu primeiro Modelfile
Crie um arquivo chamado Modelfile em qualquer pasta:
Cole o conte�do abaixo. Este exemplo cria um assistente t�cnico que responde em portugu�s e sempre segue uma estrutura de 3 partes:
O que cada instru�?o faz:
FROM? modelo base que voc� j� tem instalado no OllamaSYSTEM? prompt fixo que define o comportamento. O modelo l� isso antes de qualquer perguntaPARAMETER temperature? controla criatividade. 0.0 = mais determin�stico, 1.0 = mais criativoPARAMETER num_ctx? tamanho da janela de contexto em tokens. 2048 � seguro para 2 GB
8.2 ? Criando o modelo customizado
O Ollama vai processar o Modelfile e criar o modelo com o nome
assistente-tecnico
? que agora aparece na sua lista de modelos local:
8.3 ? Usando o modelo customizado
8.4 ? Exemplos de Modelfiles especializados
Voc� pode criar quantos modelos customizados quiser ? cada um com um perfil diferente. Alguns exemplos �teis para o dia a dia:
Assistente de c�digo Python:
Tradutor t�cnico EN?PT:
Revisor de texto:
8.5 ? Gerenciando os modelos customizados
8.6 ? Simular "campos" com placeholders no prompt
Uma t�cnica pr�tica � padronizar seus prompts com marcadores substitu�veis ? uma esp�cie de formul�rio em texto puro. Crie um script bash simples para isso:
Agora voc� tem um "formul�rio de terminal" que captura tarefa, contexto e formato antes de enviar para o modelo. � simples, mas resolve 80% dos casos de uso do dia a dia sem precisar de interface gr�fica.
Parte 9 ? Web UI com Flask: seu ChatGPT local
Conte�do novoAt� aqui voc� usou o Ollama pelo terminal. Funciona, mas n?o � pr�tico para o dia a dia ? especialmente se voc� quiser acessar de outro dispositivo da rede ou manter hist�rico de conversas. A solu�?o � criar uma interface web simples com Flask, o microframework Python mais leve e direto que existe. Em menos de 100 linhas voc� tem um chat funcional com mem�ria, personas e templates salvos ? rodando no antiX e acess�vel de qualquer browser na sua rede local.
9.1 ? Instalando o Flask e depend�ncias
Use o virtualenv que j� criamos (ou crie um novo separado para o projeto web):
9.2 ? Estrutura do projeto
Crie a estrutura de pastas do projeto:
9.3 ? Criando o arquivo de personas
As personas s?o perfis de assistente com instru�?es fixas. Crie o arquivo JSON:
9.4 ? Criando o arquivo de templates de prompt
9.5 ? Backend principal (app.py)
9.6 ? Interface HTML (templates/index.html)
9.7 ? Iniciando a Web UI
O terminal vai mostrar o endere�o de acesso. Abra no navegador do mesmo PC ou de qualquer dispositivo na rede:
Parte 10 ? Agentes com internet e leitura de arquivos
Conte�do novoO passo final � dar ao seu assistente local acesso ao mundo externo: pesquisar na internet, ler arquivos do disco e executar comandos do sistema. Isso transforma o chat simples em um agente capaz de tomar a�?es reais ? n?o apenas gerar texto.
10.1 ? Instalando depend�ncias dos agentes
10.2 ? Criando o m�dulo de agentes (agents.py)
10.3 ? Integrando os agentes no app.py
Edite o app.py para importar e usar o roteador de agentes na rota de chat:
E dentro da fun�?o chat(), antes da chamada ao Ollama, adicione:
10.4 ? Como usar os agentes no chat
Na interface web, use estes prefixos para acionar os agentes diretamente:
| Prefixo | O que faz | Exemplo |
|---|---|---|
buscar: |
Pesquisa no DuckDuckGo e retorna os 5 primeiros resultados | buscar: ollama linux pc fraco 2025 |
arquivo: |
L� e exibe o conte�do de qualquer arquivo de texto do disco | arquivo: ~/meu_historico.txt |
comando: |
Executa um comando shell seguro e retorna a sa�da | comando: free -h |
| (sem prefixo) | Resposta normal via LLM com a persona selecionada | como funciona o SWAP no Linux? |
COMANDOS_PERMITIDOS s?o executados.
Nunca adicione rm, sudo, chmod ou
dd a essa lista. Se for expor a Web UI na internet (e n?o apenas
na rede local), adicione autentica�?o antes de disponibilizar o endpoint de agentes.
10.5 ? Resumo do que voc� construiu
?? Arquitetura completa do setup:
?? Nota T�cnica: Todos os scripts, comandos e configura�?es deste guia s?o para fins educacionais e uso pessoal. Teste sempre em ambiente controlado antes de aplicar em produ�?o. O autor n?o se responsabiliza por perda de dados durante particionamento/instala�?o ou por uso indevido dos agentes em redes n?o autorizadas.
Recursos e ferramentas oficiais
#Linux #IA #Intelig�nciaArtificial #PCFraco #LLM #StableDiffusion #antiX #Ollama #Flask #Agentes #ChatGPTLocal
@CanalQb
Troubleshooting ? Erros comuns e solu�?es exatas
Compilei aqui todos os erros que aparecem com maior frequ�ncia neste setup ? seja pelos meus pr�prios testes, seja por relatos de quem tentou seguir tutoriais incompletos. Se travou em algum ponto, a resposta provavelmente est� nesta se�?o.
| Sintoma / Erro | Causa prov�vel | Solu�?o |
|---|---|---|
ollama: command not found |
PATH n?o atualizado ap�s instala�?o | source ~/.bashrc ou feche e reabra o terminal |
Error: model not found no ollama run |
Nome do modelo com typo ou modelo n?o baixado | Verifique com ollama list. Use Tab para autocomplete ap�s ollama run |
| Processo morto pelo sistema durante gera�?o | OOM killer ? RAM esgotada sem SWAP | Crie o SWAP de 8 GB conforme a Parte 3. Confirme com free -h |
cmake: command not found |
cmake n?o instalado no antiX | sudo apt install -y cmake |
./bin/sd: No such file or directory |
Bin�rio correto � sd-cli, n?o sd | Use ./bin/sd-cli. Confirme com ls bin |
pip: command not found |
No antiX/Debian o bin�rio � pip3 | Use pip3 sempre. Instale com sudo apt install python3-pip -y |
| Erro "externally managed environment" no pip3 | PEP 668 ? Debian bloqueia instala�?o global | Adicione --user --break-system-packages ou use virtualenv |
| Download do HuggingFace falha com 401 | Reposit�rio requer autentica�?o | Use huggingface-cli login com token ou tente URL alternativa com wget -c |
| Web UI retorna "Ollama n?o est� rodando" | Servi�o Ollama parado | sudo systemctl start ollama e aguarde 5 segundos |
| Web UI acess�vel localmente mas n?o da rede | Ollama escutando s� em 127.0.0.1 | Configure OLLAMA_HOST=0.0.0.0 conforme a Parte 7 |
| Gera�?o de imagem demora mais de 1 hora | SWAP sendo usado intensamente (HD lento) | Reduza para --steps 10 e resolu�?o --width 128 --height 128 |
No module named 'moondream' |
Virtualenv n?o ativado | source ~/moondream-env/bin/activate antes de executar |
| Moondream n?o baixa o modelo automaticamente | Sem conex?o ou proxy bloqueando HuggingFace | Teste conex?o com curl -I https://huggingface.co |
| Flask retorna 500 Internal Server Error | Erro no app.py ou Ollama offline | Verifique o log no terminal onde rodou python3 app.py |
| antiX n?o inicia pelo pendrive | Secure Boot ativo ou boot order errado | Desative Secure Boot na BIOS (aba Security) e coloque USB como primeiro na ordem de boot |
Refer�ncia r�pida ? todos os comandos essenciais
Um cart?o de refer�ncia para consultar sem precisar rolar o post inteiro. Salve essa se�?o nos favoritos ou copie para um arquivo de texto na sua m�quina.
Sistema e RAM
Ollama
Stable Diffusion (sd-cli)
Moondream2
Web UI Flask
Comandos de agente na Web UI
Script de diagn�stico autom�tico do setup
Este script verifica automaticamente se todos os componentes do setup est?o instalados e funcionando corretamente. Cole, salve e execute sempre que algo n?o estiver se comportando como esperado:
O script verifica RAM, SWAP, Ollama (vers?o, servi�o e modelos), sd-cli, virtualenvs, Web UI, rede e espa�o em disco ? tudo em segundos, com sa�da colorida mostrando o que est� ok e o que precisa de aten�?o.
Iniciando a Web UI automaticamente com o sistema
Se voc� usa a Web UI com frequ�ncia, pode configurar para ela iniciar automaticamente toda vez que o antiX ligar ? sem precisar abrir terminal e ativar o virtualenv manualmente. Existem duas formas de fazer isso: via servi�o systemd (mais robusto) ou via script de inicializa�?o do usu�rio (mais simples).
M�todo 1 ? Script de inicializa�?o do usu�rio (simples)
Crie um script de startup e adicione-o ao autostart do antiX:
No antiX, adicione ao autostart via Menu ? Prefer�ncias ? Sess?o e Inicializa�?o ou edite diretamente o arquivo:
whoami.
M�todo 2 ? Servi�o systemd (robusto)
Para um setup mais profissional, crie um servi�o systemd que reinicia automaticamente em caso de falha:
Requires=ollama.service
garante que o Ollama j� esteja rodando antes da Web UI tentar se conectar a ele.
Pr�ximos passos ? para onde evoluir este setup
Com tudo que foi feito at� aqui voc� j� tem um servidor de IA local funcional. Mas este setup � uma base ? d� para evoluir bastante dependendo do que voc� precisar. Aqui est?o as dire�?es mais pr�ticas e como chegar l�:
Adicionar mais RAM
Se o seu N3700 aceitar expans?o (verifique no manual), ir de 2 GB para 4 GB � a �nica atualiza�?o de hardware que muda completamente a experi�ncia. Com 4 GB voc� roda o Gemma3 4B e o SmolLM2 1.7B sem tocar no SWAP, gerando respostas 3x mais r�pidas.
Explorar novos modelos leves
O ecossistema de modelos pequenos cresce todo m�s. Acompanhe o ollama.com/library e filtre por tamanho. Modelos como Phi-3 mini e Qwen2.5 0.5B s?o candidatos promissores para 2 GB de RAM.
Mem�ria persistente com SQLite
A Web UI atual guarda o hist�rico apenas em RAM ? ao reiniciar, perde tudo.
O pr�ximo passo natural � salvar as conversas em SQLite:
pip install flask-sqlalchemy e criar um modelo de banco para as mensagens.
RAG ? Responder sobre seus documentos
RAG (Retrieval-Augmented Generation) permite que o modelo responda perguntas
baseado em PDFs e documentos seus. Biblioteca indicada:
chromadb + sentence-transformers
com modelos de embedding leves como o all-MiniLM-L6-v2.
Acesso seguro pela internet
Para acessar sua Web UI de fora da rede local sem expor diretamente � internet, use um t�nel seguro. O Cloudflare Tunnel (gratuito) ou o Tailscale s?o as op�?es mais simples ? sem precisar abrir portas no roteador.
Extens?o de browser com a API
O Ollama exp?e uma API compat�vel com OpenAI em
localhost:11434/v1. Qualquer ferramenta que aceita endpoint OpenAI
customizado ? como o Open WebUI, extens?es de browser ou
editores de c�digo ? consegue se conectar ao seu Ollama local.
http://localhost:11434/v1 com API key qualquer (o Ollama n?o valida).
Sem custo, sem limites de requisi�?o, sem internet.
Perguntas frequentes (FAQ)
Antes de comentar com d�vidas, veja se ela j� est� respondida aqui ? s?o as perguntas que mais aparecem sobre este tipo de setup.
? Precisa de GPU para rodar IA local?
N?o. GPU acelera muito, mas n?o � obrigat�ria. Tudo neste guia roda 100% em CPU. O que muda sem GPU � a velocidade ? textos levam minutos ao inv�s de segundos, imagens levam horas ao inv�s de minutos. Para aprendizado e uso pessoal espor�dico, CPU � completamente vi�vel.
? O Ollama funciona no antiX 32 bits?
N?o. O Ollama s� tem bin�rios para arquitetura 64-bit (amd64). Use sempre a ISO antiX 23.1 x64. Se seu processador for de 32 bits, infelizmente o Ollama n?o tem suporte oficial ? mas o stable-diffusion.cpp pode ser compilado manualmente para 32 bits com limita�?es.
? Posso usar o mesmo setup no Raspberry Pi?
Sim, com adapta�?es. O Ollama tem suporte para ARM (Raspberry Pi 3, 4 e 5). O Pi 4 com 4 GB de RAM funciona melhor que o N3700 para texto. Para imagem, o stable-diffusion.cpp compila normalmente em ARM tamb�m. O antiX n?o tem vers?o ARM, mas o Raspberry Pi OS (Debian-based) funciona como base equivalente.
? Os modelos falam portugu�s?
Modelos pequenos como SmolLM e TinyLlama entendem e respondem em portugu�s, mas com qualidade menor que em ingl�s ? treinaram com menos dados em PT. Para melhores respostas em portugu�s, use o Gemma3 1B (melhor multil�ngue nesta faixa) ou defina no Modelfile: "Sempre responda em portugu�s do Brasil."
? O setup funciona sem internet ap�s instalar?
Sim, 100% offline depois que os modelos est?o baixados. O Ollama n?o faz
chamadas externas durante o uso ? tudo fica local. A �nica exce�?o � a ferramenta
de busca web do agente (buscar:), que obviamente precisa de internet
para funcionar.
? Posso usar o Ollama com o VS Code?
Sim. Extens?es como Continue e Ollama Autocomplete
aceitam endpoint customizado. Configure
http://localhost:11434 como base URL e selecione o modelo instalado.
Voc� ter� autocomplete de c�digo local, sem enviar nada para a nuvem.
? O SWAP n?o deixa o SSD mais lento?
Com swappiness=10 (configurado na Parte 3), o sistema s� usa SWAP em
�ltimo caso. Na pr�tica, para o SmolLM e TinyLlama, a RAM de 2 GB � suficiente e
o SWAP raramente � acionado. Para Gemma3 e modelos maiores, o SWAP � usado e sim,
o SSD trabalha mais ? considere usar HD para o arquivo de swap se tiver.
? Como atualizo o Ollama para nova vers?o?
Execute o mesmo script de instala�?o novamente ? ele detecta a vers?o anterior,
para o servi�o, substitui o bin�rio e reinicia tudo automaticamente:
curl -fsSL https://ollama.com/install.sh | sh
Seus modelos baixados s?o preservados.
Benchmarks reais no Pentium N3700 com antiX 23.1
N�meros reais medidos durante os testes. Os tempos podem variar dependendo do armazenamento (SSD vs HD), temperatura do processador e carga de background. Todos os testes foram feitos com o sistema rec�m reiniciado e sem outros processos pesados rodando.
Modelos de texto (tokens/segundo)
| Modelo | Tempo de carga | Velocidade (tok/s) | Resposta curta (~50 tok) | Resposta longa (~300 tok) | SWAP usado? |
|---|---|---|---|---|---|
| SmolLM 135M | ~5s | 8?12 tok/s | ~5?7s | ~25?40s | N?o |
| SmolLM 360M | ~8s | 5?8 tok/s | ~7?10s | ~40?60s | N?o |
| SmolLM2 1.7B | ~20s | 2?4 tok/s | ~15?25s | ~75?150s | Raramente |
| TinyLlama 1.1B | ~25s | 1?3 tok/s | ~20?50s | ~100?300s | Raramente |
| Gemma3 1B | ~35s | 1?2 tok/s | ~30?60s | ~150?300s | ?s vezes |
| Gemma3 4B | ~3?5min | ~0.3?0.8 tok/s | ~2?5min | ~10?20min | Sim (intenso) |
Gera�?o de imagens (stable-diffusion.cpp)
| Resolu�?o | Steps | Tempo estimado | Qualidade | RAM usada |
|---|---|---|---|---|
| 128?128 | 10 | 5?10 min | Baixa ? para testar | ~700 MB |
| 256?256 | 20 | 15?40 min | Razo�vel ? uso normal | ~900 MB |
| 512?512 | 15 | ~2?4 horas | Boa | ~1,4 GB + SWAP |
| 512?512 | 30 | ~4?8 horas | Muito boa | ~1,4 GB + SWAP |
An�lise de imagens (Moondream2)
| Opera�?o | Tempo estimado | RAM usada |
|---|---|---|
| Carregamento do modelo (1� vez ? inclui download) | Download ~1,7 GB + ~3?5 min | ? |
| Carregamento do modelo (cache local) | ~60?120s | ~1,4 GB |
| Encode de imagem (encode_image) | ~30?60s | ~1,5 GB |
| Gera�?o de legenda (caption) | ~60?120s | ~1,5 GB |
| Pergunta sobre imagem (query) | ~45?90s por pergunta | ~1,5 GB |
Usando o Ollama via API Python ? automa�?es e scripts
O Ollama exp?e uma API REST em localhost:11434 que voc� pode usar em
qualquer script Python para automatizar tarefas. Alguns exemplos pr�ticos:
resumir arquivos de log automaticamente, gerar descri�?es de imagens em lote,
ou criar um bot de terminal que responde perguntas sem abrir o chat interativo.
Script 1 ? Chat simples via API (sem biblioteca extra)
Script 2 ? Resumir arquivo de texto automaticamente
Script 3 ? Gera�?o de imagens em lote com sd-cli
Backup e migra�?o do setup para outro computador
Se voc� quiser mover este setup para outro PC ou fazer backup dos modelos e configura�?es sem precisar baixar tudo novamente, aqui est� o que voc� precisa preservar e como fazer.
O que fazer backup
| O que | Onde fica | Tamanho t�pico | Prioridade |
|---|---|---|---|
| Modelos Ollama | ~/.ollama/models/ |
600 MB ? 3 GB por modelo | Alta ? demora muito baixar |
| Modelos SD (.gguf) | ~/sd-models/ |
~850 MB | Alta |
| Cache Moondream | ~/.cache/moondream/ |
~1,7 GB | Alta ? demora muito baixar |
| Projeto Web UI | ~/ollama-webui/ |
~10?50 KB | Alta ? seu c�digo |
| Modelfiles e scripts | ~/Modelfile, ~/*.sh, ~/*.py |
Pequeno | Alta ? configura�?es |
| stable-diffusion.cpp (compilado) | ~/stable-diffusion.cpp/ |
~200?400 MB | M�dia ? pode recompilar |
| Virtualenvs | ~/moondream-env/, ~/webui-env/ |
~500 MB cada | Baixa ? pode recriar |
Script de backup completo
Restaurando em outro computador
Gloss�rio ? termos t�cnicos usados neste guia
Se voc� chegou aqui sem familiaridade com alguns termos, este gloss�rio explica de forma pr�tica o que cada coisa significa ? sem academicismo desnecess�rio.
?? LLM (Large Language Model)
Modelo de linguagem de grande escala ? o tipo de IA por tr�s do ChatGPT, Gemini e afins. Funciona prevendo qual palavra/token vem depois de cada texto. "Large" refere-se ao n�mero de par�metros (pesos) treinados, n?o necessariamente ao tamanho do arquivo.
? Quantiza�?o
T�cnica de compress?o que reduz a precis?o dos pesos do modelo (de float32 para int8 ou int4). Um modelo quantizado em 4 bits (Q4) usa ~4x menos RAM e disco que o original, com pequena perda de qualidade. � o que torna poss�vel rodar modelos em hardware modesto.
?? GGUF
Formato de arquivo criado pelo projeto llama.cpp para armazenar modelos quantizados. Substitui o formato GGML anterior. � o padr?o usado pelo Ollama e pelo stable-diffusion.cpp para modelos otimizados para CPU.
?? Token
A unidade b�sica de texto que um LLM processa. N?o � necessariamente uma palavra ? pode ser uma s�laba, pontua�?o ou parte de uma palavra. Em ingl�s, 1 token � 0,75 palavras. Em portugu�s, um pouco menos eficiente. "Tokens por segundo" mede a velocidade de gera�?o do modelo.
??? VLM (Vision Language Model)
LLM que tamb�m processa imagens como entrada, al�m de texto. O Moondream2 � um VLM ? ele recebe uma imagem + uma pergunta em texto e responde sobre o conte�do visual. � diferente de gera�?o de imagem (que cria imagens a partir de texto).
?? RAG (Retrieval-Augmented Generation)
T�cnica que combina busca vetorial com gera�?o de texto. Voc� indexa seus documentos (PDFs, arquivos) em um banco vetorial, e quando faz uma pergunta, o sistema busca os trechos mais relevantes e os injeta no contexto do LLM antes de gerar a resposta. Resultado: o modelo responde com base nos seus dados, n?o s� no treinamento.
?? Embedding
Representa�?o num�rica de um texto (ou imagem) em um espa�o vetorial de alta dimens?o. Textos com significados parecidos ficam "pr�ximos" nesse espa�o, o que permite busca sem�ntica. � a base do RAG ? voc� busca documentos por proximidade de significado, n?o por palavras exatas.
?? SWAP
Espa�o em disco usado pelo Linux como extens?o da RAM f�sica quando esta esgota. Muito mais lento que RAM (HD: ~100x mais lento; SSD: ~10x mais lento), mas impede que processos sejam encerrados por falta de mem�ria. Essencial para rodar modelos grandes em hardware com pouca RAM.
?? Modelfile
Arquivo de configura�?o do Ollama que define um modelo customizado a partir de um modelo base. Especifica o prompt de sistema, par�metros de gera�?o (temperatura, tamanho de contexto) e comportamento padr?o. Similar a um Dockerfile, mas para modelos de IA.
??? Temperature
Par�metro que controla o qu?o "criativo" ou "aleat�rio" � o modelo ao gerar texto. 0.0?0.3 = respostas mais determin�sticas e previs�veis (bom para c�digo e tradu�?es). 0.7?1.0 = respostas mais criativas e variadas (bom para escrita criativa). Padr?o do Ollama: 0.8.
?? OpenBLAS
Biblioteca de �lgebra linear otimizada para CPUs (Basic Linear Algebra Subprograms). Acelera opera�?es de matriz que s?o o cora�?o da infer�ncia de modelos de IA e de gera�?o de imagens. Compilar o stable-diffusion.cpp com OpenBLAS melhora a velocidade em CPUs Intel/AMD.
?? Virtualenv
Ambiente Python isolado que cont�m suas pr�prias instala�?es de pacotes,
independente do Python do sistema. Evita conflitos entre vers?es de bibliotecas
de projetos diferentes. Boa pr�tica obrigat�ria para qualquer projeto Python s�rio.
Criado com python3 -m venv nome e ativado com source nome/bin/activate.
Parte 11 ? Bot do Telegram integrado ao Ollama
Conte�do novoEste � um dos usos mais pr�ticos de todo o setup: criar um bot no Telegram que responde suas mensagens usando os modelos rodando no seu N3700. Voc� est� no celular, manda uma pergunta, e em alguns minutos recebe a resposta processada localmente na sua m�quina ? sem passar por nenhuma API externa, sem custo, sem limite de mensagens.
Para isso funcionar, o antiX precisa ter acesso � internet (para receber as mensagens do Telegram via polling). O Ollama processa localmente ? s� a comunica�?o com o Telegram usa a rede.
11.1 ? Criando o bot no Telegram
- Abra o Telegram e busque por @BotFather
- Envie o comando
/newbot - Escolha um nome para o bot (ex: Meu Assistente Local)
- Escolha um username que termine em bot (ex: meu_ollama_bot)
- O BotFather retorna um token no formato:
1234567890:ABCDefGhIJKlmNOPqrsTUVwxyz? guarde este token - Para descobrir seu chat_id: envie qualquer mensagem para o bot
e acesse no navegador:
https://api.telegram.org/botSEU_TOKEN/getUpdates? o n�mero em"id"dentro de"chat"� o seu chat_id
11.2 ? Instalando a biblioteca do Telegram
11.3 ? Criando o bot (ollama_telegram_bot.py)
11.4 ? Configurando e iniciando o bot
Edite o arquivo e substitua os dois valores de configura�?o:
Agora abra o Telegram, mande uma mensagem para o bot e aguarde. A primeira resposta pode demorar enquanto o modelo carrega ? as seguintes s?o mais r�pidas pois o modelo fica em mem�ria.
11.5 ? Rodar o bot como servi�o systemd
Parte 12 ? Protegendo a Web UI com senha
Seguran�aA Web UI Flask que criamos na Parte 9 n?o tem nenhuma prote�?o de acesso ? qualquer dispositivo na rede que souber o IP e porta consegue usar. Para uso dom�stico simples isso � aceit�vel, mas se voc� vai expor para internet ou quer mais controle, adicionar uma senha b�sica leva menos de 10 linhas de c�digo.
12.1 ? HTTP Basic Auth (simples, sem banco de dados)
Instale a extens?o e adicione ao app.py:
Edite o in�cio do seu app.py adicionando as linhas marcadas:
Reinicie o servidor. Ao abrir o navegador agora, ele pede usu�rio e senha antes de mostrar qualquer coisa. As credenciais ficam salvas no browser at� voc� fechar a sess?o.
12.2 ? Gerar hash da senha sem deixar em texto puro
Para n?o deixar a senha em texto leg�vel no c�digo, gere o hash antes e cole direto:
O output � algo como
scrypt:32768:8:1$.....
? cole esse hash diretamente no dicion�rio USUARIOS no lugar da chamada
generate_password_hash().
Parte 13 ? Automa�?es com cron: IA trabalhando enquanto voc� dorme
Automa�?oO cron � o agendador de tarefas do Linux ? permite executar scripts em hor�rios fixos sem intera�?o manual. Combinado com o Ollama, voc� pode criar rotinas autom�ticas que usam IA local para processar informa�?es periodicamente: resumir logs, analisar arquivos novos, gerar relat�rios. O N3700 fica "trabalhando" enquanto voc� n?o est� usando o computador.
13.1 ? Entendendo a sintaxe do cron
13.2 ? Script: resumo di�rio dos logs do sistema
13.3 ? Script: an�lise autom�tica de imagens numa pasta
13.4 ? Agendando os scripts no cron
Adicione as linhas abaixo ao final do arquivo. O cron usa o editor padr?o do sistema (geralmente nano no antiX):
Salve e feche. Confirme que o cron registrou as tarefas:
~/) e ativam explicitamente o virtualenv com
source ~/nome-env/bin/activate. Sem isso, o Python e o pip n?o s?o
encontrados.
Parte 14 ? Open WebUI: interface profissional para o Ollama
Alternativa avan�adaO Open WebUI � a interface web mais usada com o Ollama no mundo ? open source, com visual estilo ChatGPT, suporte a m�ltiplos modelos, upload de arquivos, hist�rico persistente, suporte a RAG, m�ltiplos usu�rios e muito mais. � uma alternativa ao Flask caseiro que criamos, muito mais completa e polida.
A ressalva para o N3700 com 2 GB � clara: o Open WebUI em si consome de 300 a 600 MB de RAM apenas para rodar a interface ? isso � RAM que vai fazer falta para os modelos. Avalie se o seu uso justifica o custo de mem�ria.
| Caracter�stica | Flask caseiro (Parte 9) | Open WebUI |
|---|---|---|
| RAM usada pela interface | ~30?50 MB | ~300?600 MB |
| Instala�?o | ~10 min | ~15?30 min |
| Hist�rico persistente | S� na sess?o | Sim (SQLite) |
| Upload de arquivos | Via agente | Sim (nativo) |
| RAG embutido | N?o | Sim |
| Multiusu�rio | B�sico | Sim (com login) |
| Streaming de resposta | N?o | Sim |
| Recomendado para N3700 2GB | ? Sim | ?? Com limita�?es |
14.1 ? Instalando o Open WebUI sem Docker (direto no Python)
O m�todo sem Docker usa menos RAM que a vers?o containerizada:
Na primeira inicializa�?o, ele cria o banco de dados e baixa alguns assets. Aguarde completar. Acesse em:
Na tela inicial, crie sua conta de administrador. O Open WebUI detecta automaticamente
o Ollama em localhost:11434 e lista todos os modelos instalados.
14.2 ? Configurando a URL do Ollama no Open WebUI
Se o Open WebUI n?o detectar o Ollama automaticamente:
- Acesse Configura�?es ? Conex?es no menu do usu�rio
- Em URL da API Ollama, coloque:
http://localhost:11434 - Clique em salvar e recarregue a p�gina
14.3 ? Rodando como servi�o systemd
watch -n 2 free -h. Se a RAM livre cair
abaixo de 200 MB, reduza o modelo para SmolLM 135M ou pare o Open WebUI e use o
Flask caseiro que consome muito menos mem�ria.
Mapa de portas e servi�os do setup completo
Com tudo instalado, seu antiX pode estar rodando v�rios servi�os simultaneamente. Este � o mapa completo para voc� n?o se perder:
| Servi�o | Porta | URL de acesso | RAM | Iniciar |
|---|---|---|---|---|
| Ollama API | 11434 | http://IP:11434 |
~50?200 MB | sudo systemctl start ollama |
| Flask Web UI | 5000 | http://IP:5000 |
~30?50 MB | python3 app.py |
| sd-server (SD.cpp) | 8080 | http://IP:8080 |
~900 MB | ./bin/sd-server --port 8080 |
| Open WebUI | 8080 | http://IP:8080 |
~300?600 MB | open-webui serve |
| Bot Telegram | ? | Via Telegram | ~30 MB | python3 ollama_telegram_bot.py |
./bin/sd-server --port 8081 ou
PORT=8090 open-webui serve.
Link para download do template do Stable Diffusion: https://canalqb.blogspot.com/?c=stablediffusion
Fundamentos Praticos
A base deste guia continua funcional, mas contextos mudam. Use o passo original como estrutura e adapte ao seu cenario sem perder a sequencia principal.
Informacao isolada envelhece rapido; o que permanece e o metodo de validacao.
Aplicacao Real
Execute primeiro em escala menor, documente resultado e entao expanda. Essa disciplina reduz erros e aumenta qualidade final.
Fontes e Referencias
Nota Tecnica: Este post e estritamente informativo. Teste em ambiente controlado antes de repetir procedimentos.
Perguntas Frequentes
O que e IA Local no Linux com 2 GB de RAM: Guia Completo - Novo esquema?
Ainda e valido usar IA Local no Linux com 2 GB de RAM: Guia Completo - Novo esquema em 2026?
Como aumentar resultado no IA Local no Linux com 2 GB de RAM: Guia Completo - Novo esquema?
Onde estao as fontes oficiais de IA Local no Linux com 2 GB de RAM: Guia Completo - Novo esquema?
IA Local no Linux com 2 GB de RAM: Guia Completo - Novo esquema exige conhecimento previo?
Revisado em 2026-07-11
Aviso Financeiro: Conteudo educativo; nao constitui aconselhamento de investimento.
Gostou do conteudo? Inscreva-se no @CanalQb no YouTube e ative o sininho.
Feito com Master Rules Claude v8.6 - @CanalQb
Checklist de Execucao Segura
- Confirme o objetivo principal antes de repetir o roteiro.
- Valide o passo original com uma execucao de baixo risco.
- Registre resultado, tempo gasto e desvios encontrados.
- Se algo travar, reduza escopo ao trecho suspeito antes de refazer tudo.
- Compare saidas esperadas com saidas reais antes de seguir.
Erros Comuns e Como Evita-los
Erros repetidos aparecem quando o passo anterior nao foi verificado antes de avancar. Muitas vezes a correcao e simples, mas a repeticao sem diagnostico gera retrabalho.
Ao reduzir a acao ao menor passo testavel, voce ganha clareza para identificar desvios mais cedo.
Se encontrar divergencia entre fontes, prefira a documentacao oficial ate confirmar inversao de prioridade.
Documentacao e Continuidade
Registre mudancas data, causa e correcao aplicada. Esse habito reduz erros e acelera revisoes futuras.
Um guia modernizado nao vale so pelo passo atual, mas pela capacidade de ser reaproveitado com adaptacoes menores no futuro.
