Mercury 3 (difusão): 1 000 tokens/s e supera GPT-6 Luna

A velocidade é o argumento principal. A Inception, uma empresa de investigação em IA sediada na Califórnia, lançou o Mercury 3 e afirma que gera mais de 1 000 tokens por segundo em GPUs NVIDIA amplamente disponíveis. A empresa diz que o modelo supera dois rivais otimizados para a velocidade, o GPT-6 Luna e o Claude Haiku 5.5, em vários testes de referência, sendo entre quatro e oito vezes mais rápido.
A maioria dos grandes modelos de linguagem escreve um token após o outro, cada um previsto a partir do anterior. Os tokens são os fragmentos de texto que um modelo lê e escreve. Os modelos de linguagem por difusão funcionam de outra forma: geram e refinam vários tokens em paralelo. É por isso que podem responder mais depressa, e também por isso os programadores têm há muito de escolher entre um modelo pequeno e rápido e um modelo mais capaz, mas mais lento. A Inception defende que o Mercury 3 quebra esse compromisso, mantendo a velocidade e lidando com tarefas mais exigentes.
O modelo é o quarto de uma empresa que lançou a sua primeira versão, o Mercury 1, em junho de 2025. O Mercury 2 acrescentou capacidade de raciocínio, e o Mercury 2.5 acrescentou raciocínio ajustável e alargou a janela de contexto para 260 000 tokens. O Mercury 3 eleva essa janela para 1 milhão de tokens, e a Inception afirma que é mais de 40 vezes maior do que o Mercury 1. Stefano Ermon, cofundador da Inception, disse que a pergunta que os clientes mais faziam era se a difusão podia escalar. A empresa afirma que o treino do seu próximo modelo já começou.
Quem ganha, e quando? Os programadores que constroem agentes, que encadeiam várias chamadas a modelos, deverão sentir o benefício mais imediato, já que cada chamada devolve uma resposta mais depressa. A educação é um primeiro caso: a empresa refere que a RevisionDojo, uma empresa de edtech, reduziu para cerca de um segundo os tempos de resposta do feedback aos alunos, incluindo pistas, definições e respostas corrigidas. A tradução em tempo real e a tutoria interativa são outros alvos que a empresa indica. O Mercury 3 já está acessível através da API da Inception, da Baseten, do OpenRouter e da Vercel, e usa o formato da API da OpenAI, pelo que as aplicações existentes podem mudar para ele sem grande reescrita.
As ressalvas são importantes. Os resultados dos testes e os números de velocidade vêm da própria Inception, e os exemplos de clientes são testadores de acesso antecipado, não um inquérito amplo a utilizadores. A velocidade num ambiente controlado não garante a velocidade em grande escala, nem a qualidade das respostas em todas as tarefas. O que contará é saber se testes independentes e a utilização quotidiana em produção confirmam os ganhos.
Comentários
A carregar a conversa…
Inicie sessão para escrever um comentário. Iniciar sessão