Fine-Tuning de LLM em Casa: Passo a Passo com MLX (2026)

TL;DR: Em 2026, fazer fine-tuning de LLM em casa é viável com Apple Silicon + MLX framework. Mac Studio M4 Max 128GB faz full fine-tune de 13B e LoRA de 70B. Mac Mini M4 Pro 48GB basta pra LoRA em 7B-14B (aprender). Guia com código, datasets e workflow completo.

🧠 O Que é Fine-Tuning e Quando Vale a Pena

Fine-tuning é pegar um modelo pré-treinado (Llama 3.1 8B, por exemplo) e continuar treinando ele com SEUS dados. O modelo aprende seu estilo, domínio específico, ou comportamento desejado sem perder o conhecimento geral.

Vale a pena quando: você tem dados proprietários (emails, documentação interna), precisa de tom/formato consistente, ou está criando produto com "personalidade" específica. Não vale quando: problema é resolvível via RAG (só buscar info), ou dataset é muito pequeno (<500 exemplos).

📊 LoRA vs QLoRA vs Full Fine-Tuning

Método	RAM necessária	Tempo (8B)	Qualidade	Uso típico
LoRA	~1.5x modelo	3-8h	90%	Maioria dos casos
QLoRA (4-bit)	~0.6x modelo	4-12h	85%	Orçamento apertado
Full FT	~4x modelo	12-48h	100%	Casos especiais

LoRA é o padrão em 2026: treina só 1-5% dos parâmetros (matrizes de baixa-dimensão), resultado quase idêntico ao full, muito mais rápido e acessível. 99% dos projetos usa LoRA.

🛠️ Setup MLX no Mac (15 min)

# Instalar Python 3.11+ via Homebrew
brew install python@3.11

# Virtual env
python3.11 -m venv ~/mlx-env
source ~/mlx-env/bin/activate

# MLX e MLX-LM
pip install mlx mlx-lm

# Hugging Face CLI (pra baixar modelos)
pip install huggingface_hub
huggingface-cli login

# Testar
python -c "import mlx.core as mx; print(mx.metal.is_available())"
# → True (confirmou Metal funcionando)

📚 Preparar Dataset

MLX-LM espera formato JSONL com pares instruction/response:

# dataset.jsonl (1 exemplo por linha)
{"text": "<|user|>Como escrever email formal?<|assistant|>Comece com 'Prezado(a) [Nome]'..."}
{"text": "<|user|>Resume esse texto<|assistant|>..."}
{"text": "<|user|>Responde no tom do meu negócio<|assistant|>..."}

Formato varia por modelo (Llama 3.1 usa `<|begin_of_text|>`, Phi usa `<|system|>`, etc). MLX-LM documentação tem templates.

Dividir em train/valid

mkdir -p data
# 90% treino, 10% validação
head -n 9000 dataset.jsonl > data/train.jsonl
tail -n 1000 dataset.jsonl > data/valid.jsonl

🔥 LoRA Fine-Tuning (código real)

# Llama 3.1 8B com LoRA (Mac Mini M4 Pro 48GB funciona)
mlx_lm.lora \
  --model meta-llama/Llama-3.1-8B-Instruct \
  --data ./data \
  --train \
  --iters 1000 \
  --batch-size 4 \
  --learning-rate 1e-4 \
  --lora-layers 16 \
  --save-every 100 \
  --adapter-path ./adapters/my-model

# Progresso:
# Iter 100: loss 2.34, tokens/sec 450
# Iter 500: loss 1.12, tokens/sec 460
# Iter 1000: loss 0.89, tokens/sec 455

Parâmetros chave:

• --iters 1000: número de iterações. Começa com 500 pra teste, aumenta se loss não estabilizou.
• --batch-size 4: maior = melhor, mas limitado por RAM. Em M4 Pro 48GB com 8B, 4-8.
• --learning-rate 1e-4: padrão. Se loss explode, diminui pra 5e-5. Se não cai, aumenta.
• --lora-layers 16: quantas camadas aplicar LoRA. 16 é padrão, mais = mais capacidade mas mais lento.

🧪 Testar o Modelo Fine-tunado

mlx_lm.generate \
  --model meta-llama/Llama-3.1-8B-Instruct \
  --adapter-path ./adapters/my-model \
  --prompt "Responde no meu tom: <sua pergunta>" \
  --max-tokens 500

🚀 Exportar pra Ollama (usar em produção)

# Merge adapter no base model
mlx_lm.fuse \
  --model meta-llama/Llama-3.1-8B-Instruct \
  --adapter-path ./adapters/my-model \
  --save-path ./my-llama-tuned

# Converter pra GGUF (formato Ollama)
pip install llama-cpp-python
python -m llama_cpp.convert_hf_to_gguf ./my-llama-tuned \
  --outfile my-llama-tuned.gguf \
  --outtype q4_k_m

# Criar Modelfile
cat > Modelfile <<EOF
FROM ./my-llama-tuned.gguf
SYSTEM "Você é meu assistente personalizado..."
EOF

# Registrar no Ollama
ollama create my-llama-tuned -f Modelfile
ollama run my-llama-tuned

Pronto — seu modelo fine-tunado agora roda via Ollama como qualquer outro, integra com OpenClaw, LM Studio, etc.

⏱️ Benchmarks Reais de Training

Hardware	Llama 8B LoRA (1000 iters)	Phi-4 14B LoRA	Qwen 32B LoRA
Mac Mini M4 Pro 48GB	8h	12h	Não cabe
MacBook Pro M4 Max 64GB	4h	6h	20h
Mac Studio M4 Max 128GB	3h	4h	14h
RTX 4090 (referência)	1.5h	2.5h	Não cabe (24GB)
2x RTX 3090 48GB (ref)	2h	3h	10h

🎯 Casos de Uso Práticos

Fine-tune pra seu estilo de escrita

Coleta 500-2000 exemplos dos seus emails/textos → LoRA em Llama 3.1 8B → agora OpenClaw escreve no seu tom.

Fine-tune pra domínio específico (ex: direito, medicina)

Dataset de 5-50k exemplos de textos jurídicos/médicos → LoRA em Qwen 32B → modelo especialista.

Fine-tune pra formato estruturado (JSON, XML)

Dataset de input→output JSON consistente → LoRA → modelo sempre responde formato esperado.

Fine-tune pra idioma/dialeto

Dataset em PT-BR coloquial → LoRA → modelo fala como brasileiro (sem expressões PT-PT).

⚠️ Pitfalls Comuns

1. Dataset muito pequeno — <500 exemplos raramente dá resultado útil
2. Overfitting — modelo decora dataset e perde generalização. Use validação.
3. Learning rate errado — muito alto: loss explode. Muito baixo: não aprende.
4. Template errado — cada modelo tem chat template específico. Respeitar.
5. Dados de má qualidade — garbage in, garbage out. Revisar dataset antes.

💡 Qual Hardware Escolher?

• Aprender fine-tuning (R$ 13k): Mac Mini M4 Pro 48GB ← recomendado pra começar
• Fine-tuning sério (R$ 40k): Mac Studio M4 Max 128GB
• Consultor viajando (R$ 29k): MacBook Pro M4 Max 64GB
• Alternativa NVIDIA (R$ 25k): PC com RTX 4090 — ver GPU para IA local

❓ Perguntas Frequentes

Posso fazer fine-tuning de LLM em Mac? ▼

Sim, via MLX framework (Apple). Em 2026, MLX-LM suporta LoRA em modelos 7B-70B, QLoRA 4-bit, e full fine-tuning em modelos pequenos (até 13B no Mac Studio 128GB). Para training puro, funciona. Para produção de modelos frontier, PyTorch+CUDA ainda é superior.

MLX vs PyTorch — qual usar? ▼

MLX para Apple Silicon: aproveita Metal nativamente, mais simples, otimizado pra memória unificada. PyTorch para NVIDIA: ecossistema maduro, CUDA, compatibilidade com todas as libs. Se você está no Mac, use MLX. No PC, PyTorch. Só evite forçar o contrário.

Quanto tempo leva fine-tuning de Llama 3.1 8B? ▼

LoRA com 10k exemplos de dataset: Mac Studio M4 Max 128GB faz em 3-5h. Mac Mini M4 Pro 48GB em 8-12h. RTX 4090 24GB em 1-2h (mais rápido). Full fine-tuning: Mac Studio 12-24h, RTX 4090 4-6h. Custo em cloud A100: R$ 80-200.

Dataset de quantos exemplos preciso? ▼

LoRA: 1.000-10.000 exemplos já geram resultado visível. Para mudança de comportamento sutil (tom, estilo), 500-2.000 basta. Para ensinar conhecimento novo, 5.000-50.000 ajuda. Full fine-tuning precisa 50k+ exemplos. Qualidade > quantidade sempre — 1k exemplos limpos > 10k ruidosos.

Fine-tuning vale a pena vs usar só RAG? ▼

Depende do objetivo. RAG (retrieval-augmented generation): melhor pra conhecimento atualizado, documentos específicos. Fine-tuning: melhor pra estilo/comportamento, formato consistente, tasks muito específicas. Muitos casos usam ambos: fine-tune pra tom + RAG pra dados.

📚 Artigos Relacionados

• M4 Pro vs M4 Max para IA
• Melhor GPU para IA Local 2026
• Melhores Modelos de IA Local com Ollama
• Quanto de RAM pra Rodar Llama 70B?