OpenAI lanza un nuevo plan de optimización, el costo de inferencia del modelo se reduce en más del 50%.

火星财经消息,6 月 30 日,据 The Information 报道,OpenAI 工程师开发出一系列新的模型优化技术,使模型推理成本降低超过 50%,并减少了对英伟达 GPU 的需求。 报道称,OpenAI 未来可能将部分成本节约用于下调 API 服务价格,或提高 ChatGPT 等产品的用户查询额度。

Noticias de Mars Finance, 30 de junio, según informó The Information, los ingenieros de OpenAI desarrollaron una serie de nuevas técnicas de optimización de modelos que reducen el costo de inferencia del modelo en más del 50% y disminuyen la dependencia de las GPU de NVIDIA. El informe indica que OpenAI podría destinar parte del ahorro de costos a reducir los precios del servicio API o aumentar los límites de consultas de los usuarios en productos como ChatGPT.

Ver original
Esta página puede contener contenido de terceros, que se proporciona únicamente con fines informativos (sin garantías ni declaraciones) y no debe considerarse como un respaldo por parte de Gate a las opiniones expresadas ni como asesoramiento financiero o profesional. Consulte el Descargo de responsabilidad para obtener más detalles.
  • Recompensa
  • Comentar
  • Republicar
  • Compartir
Comentar
Añadir un comentario
Añadir un comentario
Sin comentarios
  • Fijado