OpenAI lança nova solução de otimização, custo de inferência do modelo reduzido em mais de 50%

Notícias da Mars Finance, 30 de junho, de acordo com o The Information, engenheiros da OpenAI desenvolveram uma série de novas técnicas de otimização de modelos, reduzindo os custos de inferência do modelo em mais de 50% e diminuindo a demanda por GPUs da Nvidia. O relatório afirma que a OpenAI pode, no futuro, usar parte da economia de custos para reduzir os preços dos serviços da API ou aumentar os limites de consulta dos utilizadores de produtos como o ChatGPT.
Ver original
Esta página pode conter conteúdos de terceiros, que são fornecidos apenas para fins informativos (sem representações/garantias) e não devem ser considerados como uma aprovação dos seus pontos de vista pela Gate, nem como aconselhamento financeiro ou profissional. Consulte a Declaração de exoneração de responsabilidade para obter mais informações.
  • Recompensa
  • Comentar
  • Republicar
  • Partilhar
Comentar
Adicionar um comentário
Adicionar um comentário
Nenhum comentário
  • Fixado