Giải pháp sửa lỗi gọi công cụ của Zhipu AI phát hành GLM-5.1

robot
Đang tạo bản tóm tắt

Thông tin ME News, ngày 16 tháng 4 (UTC+8), Zhìpǔ AI (Zai_org) gần đây đã phát hành thông báo, nhấn mạnh rằng đối với người dùng chạy mô hình GLM-5.1 bằng khung vLLM hoặc SGLang và kích hoạt gọi công cụ (tool calling), việc tự động chuyển đổi định nghĩa công cụ thuần túy bằng văn bản có thể gây ra vấn đề tương thích. Chính thức đã cung cấp giải pháp, đó là cập nhật mẫu hội thoại dựa trên Jinja2 (chat template). Mẫu này dùng để tạo ra lịch sử hội thoại phù hợp định dạng một cách động, nhằm hỗ trợ mô hình thực hiện gọi công cụ, suy nghĩ nội bộ (reasoning) và quản lý nhiều vòng hội thoại. Người dùng cần truy cập liên kết chỉ định để lấy tệp mẫu đã cập nhật. (Nguồn: InFoQ)

GLM-4%
ME-7,27%
4-7,32%
Xem bản gốc
Trang này có thể chứa nội dung của bên thứ ba, được cung cấp chỉ nhằm mục đích thông tin (không phải là tuyên bố/bảo đảm) và không được coi là sự chứng thực cho quan điểm của Gate hoặc là lời khuyên về tài chính hoặc chuyên môn. Xem Tuyên bố từ chối trách nhiệm để biết chi tiết.
  • Phần thưởng
  • Bình luận
  • Đăng lại
  • Retweed
Bình luận
Thêm một bình luận
Thêm một bình luận
Không có bình luận
  • Đã ghim