Pular para o conteúdo
LabS Atlas
Generative AI
Entrar

DeepSeek

Ir para notas que citam esta
atualizado há 25 diasEntre para perguntar ao Labinho sobre esta notaO Labinho é o assistente que responde com as notas e as sessões do LabS e mostra de onde tirou cada resposta.

DeepSeek é uma família de modelos de linguagem abertos, de origem chinesa, que ficou conhecida por reduzir o custo de treinamento e por expor o raciocínio antes de entregar a resposta final.

O lançamento virou referência no debate sobre eficiência em LLMs. Enquanto a disputa entre grandes empresas se apoiava em infraestrutura maciça de data centers e energia, o DeepSeek foi lido como exemplo de otimização em vez de força bruta: um modelo mais simples e mais leve que concorrentes de mesmo patamar, com código aberto e artigos científicos que detalham a abordagem usada, algo valorizado como diferencial de transparência no setor.

Auto-inferência no lugar do reforço tradicional

A explicação que se difundiu é que a abordagem tradicional de treinamento, baseada em aprendizado por reforço, foi trocada em parte por um processo de auto-inferência. Diante de uma pergunta, o modelo levanta múltiplas hipóteses de resposta, avalia cada uma, escolhe a que melhor responde e mostra esse processo antes da resposta final. O efeito lembra um pipeline que monta a saída a partir de várias peças fragmentadas, só que feito automaticamente pelo próprio modelo.

A mesma busca por eficiência aparece em técnicas como a Destilação de Modelos e a Quantização, que também reduzem o custo de ter um modelo capaz rodando.

Tamanhos, execução local e disponibilidade

Existe uma versão grande, com mais de 600 bilhões de parâmetros, e versões bem menores, de cerca de 30 bilhões, que rodam localmente com desempenho descrito como comparável ao de modelos de referência, desde que a placa de vídeo tenha pelo menos 16 GB de memória. Na execução local, o dado não sai da máquina.

A repercussão do lançamento sobrecarregou o serviço: houve dificuldade para criar conta no chat oficial e instabilidade para baixar o modelo. Depois, plataformas de terceiros passaram a oferecê-lo. O Amazon Bedrock o incluiu no catálogo por pedido forte da comunidade, permitindo que quem já está na AWS use o modelo sem migrar de plataforma, e serviços de Pesquisa Profunda passaram a usá-lo para gerar relatórios.

Controle sobre os dados

Usar o serviço hospedado pelo próprio fornecedor significa enviar dados para uma nuvem sobre a qual não se tem controle. A própria AWS declarou receios de segurança e privacidade ao incluí-lo no Bedrock, assumindo a responsabilidade pela proteção dos dados na sua plataforma. Rodar o modelo localmente evita esse envio.