Pular para o conteúdo
LabS Atlas
AI For Devs
Entrar

Phi-3

Ir para notas que citam esta
atualizado há 25 diasEntre para perguntar ao Labinho sobre esta notaO Labinho é o assistente que responde com as notas e as sessões do LabS e mostra de onde tirou cada resposta.

Phi-3 é a família de modelos de linguagem compactos da Microsoft, projetada para rodar rápido em ambientes com poucos recursos, inclusive só em CPU.

Ao contrário da tendência de destacar as versões grandes, o artigo de referência do Phi-3 concentra-se no modelo menor, porque o objetivo é ser um assistente local leve. A versão pequena fica na casa de 3 a 4 bilhões de parâmetros, cerca de metade do Llama 3.1 de 8B, e roda com tranquilidade numa máquina de 16 GB de RAM sem placa de vídeo dedicada. Isso faz dele o ponto de partida recomendado para quem começa a usar modelos locais pelo Ollama e não tem GPU potente (ver Dimensionamento de Hardware para Modelos Locais).

Pontos fortes e perfil de resposta

O Phi-3 tem boa capacidade de entendimento de código, matemática e lógica para um modelo desse porte. Tende a ser verboso e técnico: ao interpretar uma página HTML, trouxe uma resposta com trechos de código mesmo quando o pedido era uma explicação geral. Ao gerar massa de dados de teste, sugeriu por conta própria usar a biblioteca Faker, do Python, e apontou datasets do censo como fonte de dados mais realistas para o contexto brasileiro, abordagens que não tinham sido pedidas. Apesar de menor, o arquivo baixado tem tamanho parecido com o do Llama 3.1 8B, entre 4 GB e 4,5 GB.

Desempenho observado frente ao Llama 3.1

Numa geração de testes, o Phi-3 respondeu em cerca de 10 segundos contra 22 do Llama 3.1. Numa interpretação de repositório seguida de geração de massa de dados, rodando só em CPU, levou cerca de dois minutos e meio, mais que o Llama no mesmo prompt. São observações de exercícios isolados, não regra: hardware, prompt e volume de saída pesam tanto quanto o modelo.

Idioma e obediência ao prompt

O Phi-3 é majoritariamente orientado ao inglês. Instruído a responder em português, às vezes devolve trechos em inglês ou mistura português com espanhol, como se fossem a mesma língua. Instruções negativas também costumam ser ignoradas. As duas coisas pedem cuidado com a redação do prompt, como descrito em Engenharia de Prompt.

Não confie no idioma pedido

Quando a saída precisa estar em português, confira o resultado: o pedido explícito de idioma não garante a resposta no idioma certo.