Theo Odaily, Tether AI Research Group đã phát hành QVAC MedPsy, một mô hình AI y tế được thiết kế để chạy cục bộ trên smartphone và thiết bị đeo mà không phụ thuộc vào đám mây. Phiên bản 1,7 tỷ tham số đạt 62,62 điểm trên bảy bộ đánh giá y khoa, vượt MedGemma-1.5-4B của Google thêm 11,42 điểm dù chỉ bằng một nửa kích thước. Biến thể 4 tỷ tham số đạt điểm trung bình 70,54, vượt các mô hình lớn gấp bảy lần. Mô hình tạo khoảng 909 token mỗi lần suy luận, thấp đáng kể so với các hệ thống tương đương ở mức 2.953 token, giúp giảm độ trễ và chi phí tính toán. QVAC MedPsy bao gồm các phiên bản GGUF đã lượng tử hóa để triển khai trên thiết bị di động và thiết bị biên.
Related News
NVIDIA công bố Nemotron 3 Nano Omni mã nguồn mở đa phương thức
Genesis AI ra mắt nền tảng robot GENE-26.5 với nguồn vốn US$105M
OpenAI công bố giao thức mạng siêu máy tính MRC! Hợp tác với Nvidia, AMD, Microsoft để xây dựng hạ tầng Stargate