Tether đã phát hành một mô hình AI y tế có tên QVAC MedPsy, chạy hoàn toàn trên điện thoại thông minh và vượt trội hơn mô hình MedGemma-27B lớn hơn của Google trong các tình huống thực tế. Theo công ty, mô hình này sử dụng ít hơn ba lần tài nguyên tính toán và nhỏ hơn 16 lần so với phiên bản của Google mà nó đánh bại.
Hiệu suất so với kích thước
Các điểm chuẩn cho thấy QVAC MedPsy đạt điểm cao hơn MedGemma-27B trong các nhiệm vụ mô phỏng sử dụng lâm sàng thực tế. Trong khi mô hình của Google yêu cầu xử lý ở cấp máy chủ đáng kể, mô hình của Tether vừa vặn trên thiết bị di động. Lợi thế về hiệu quả đến từ kiến trúc nhỏ gọn của mô hình — nhỏ hơn 16 lần về số lượng tham số — nhưng vẫn mang lại kết quả vượt trội.
Sự khác biệt về kích thước đó chuyển trực tiếp thành nhu cầu tính toán. QVAC MedPsy tiêu thụ khoảng một phần ba sức mạnh xử lý của MedGemma-27B, khiến nó khả thi cho suy luận trên thiết bị mà không cần kết nối internet.
Tại sao hiệu quả lại quan trọng đối với AI y tế
Chạy AI trên điện thoại thông minh mở ra các trường hợp sử dụng tại các phòng khám từ xa và môi trường có nguồn lực hạn chế, nơi không đảm bảo kết nối máy chủ ổn định. Một mô hình vừa vặn trên thiết bị có thể phân tích dữ liệu bệnh nhân cục bộ, giảm độ trễ và rủi ro về quyền riêng tư. Tether chưa tiết lộ kế hoạch triển khai cụ thể, nhưng hiệu suất của mô hình cho thấy nó có thể xử lý sàng lọc tâm thần hoặc tâm lý — chữ “Psy” trong QVAC MedPsy có thể ám chỉ tâm lý học hoặc tâm thần học.
Lĩnh vực y tế đã thận trọng với AI chỉ dựa trên đám mây do tính nhạy cảm của dữ liệu. Một mô hình trên thiết bị vẫn vượt trội so với các đối thủ lớn có thể thúc đẩy việc áp dụng trong bệnh viện và ứng dụng sức khỏe di động.
Công nghệ đằng sau
Tether, nổi tiếng nhất với stablecoin USDT, đã âm thầm xây dựng trong lĩnh vực AI. QVAC MedPsy là một trong những mô hình y tế đầu tiên của họ. Công ty chưa công bố kiến trúc mạng chi tiết, nhưng khả năng của mô hình chạy trên điện thoại thông minh trong khi đánh bại một mô hình lớn hơn nhiều cho thấy sự tối ưu hóa mạnh mẽ trong huấn luyện hoặc lượng tử hóa.
Ngược lại, MedGemma-27B của Google được thiết kế cho đám mây hoặc phần cứng cao cấp. Cách tiếp cận của Tether đảo ngược giả định đó, cho thấy rằng nhỏ hơn có thể mạnh hơn trong các nhiệm vụ chuyên biệt theo lĩnh vực.
Chưa có ngày ra mắt hoặc quan hệ đối tác nào được công bố. Hiện tại, các kết quả điểm chuẩn này là bằng chứng cho thấy AI y tế không phải lúc nào cũng cần phần cứng lớn để mang lại kết quả lớn.
