Zhipu AI publie la solution de correction pour le problème d'appel d'outil de GLM-5.1

robot
Création du résumé en cours

ME News Actualités, le 16 avril (UTC+8), ZhiPu AI (Zai_org) a récemment publié une notification, concernant les utilisateurs utilisant le cadre vLLM ou SGLang pour exécuter le modèle GLM-5.1 et activant l’appel d’outils (tool calling), indiquant que la conversion automatique par le cadre de la définition d’outils en texte brut pourrait entraîner des problèmes de compatibilité. La version officielle a fourni une solution, à savoir mettre à jour le modèle de dialogue basé sur Jinja2 (chat template). Ce modèle est utilisé pour générer dynamiquement un historique de dialogue conforme aux exigences de format, afin de supporter l’appel d’outils par le modèle, la réflexion interne (reasoning) et la gestion de dialogues multi-tours. Les utilisateurs doivent accéder au lien spécifié pour obtenir le fichier de modèle mis à jour. (Source : InFoQ)

Voir l'original
Cette page peut inclure du contenu de tiers fourni à des fins d'information uniquement. Gate ne garantit ni l'exactitude ni la validité de ces contenus, n’endosse pas les opinions exprimées, et ne fournit aucun conseil financier ou professionnel à travers ces informations. Voir la section Avertissement pour plus de détails.
  • Récompense
  • Commentaire
  • Reposter
  • Partager
Commentaire
Ajouter un commentaire
Ajouter un commentaire
Aucun commentaire
  • Épinglé