Продуктивність проти розміру
Тести показують, що QVAC MedPsy отримує вищі бали, ніж MedGemma-27B, у завданнях, що імітують реальне клінічне використання. У той час як модель Google потребує значної серверної обробки, модель Tether поміщається на мобільному пристрої. Підвищення ефективності досягається завдяки компактній архітектурі моделі — вона в 16 разів менша за кількістю параметрів, але все одно демонструє кращі результати.
Ця різниця в розмірі безпосередньо впливає на потреби в обчисленнях. QVAC MedPsy споживає приблизно третину обчислювальної потужності MedGemma-27B, що робить її придатною для інференції на пристрої без доступу до інтернету.
Чому ефективність важлива для медичного AI
Запуск AI на смартфонах відкриває можливості використання у віддалених клініках та умовах з обмеженими ресурсами, де немає стабільного серверного з'єднання. Модель, що поміщається на пристрої, може аналізувати дані пацієнтів локально, знижуючи затримки та ризики для конфіденційності. Tether не розкриває конкретних планів розгортання, але продуктивність моделі свідчить про те, що вона може використовуватися для психіатричного або психологічного скринінгу — «Psy» у назві QVAC MedPsy, ймовірно, стосується психології чи психіатрії.
Медична сфера обережно ставиться до хмарного AI через чутливість даних. Модель на пристрої, яка все ще перевершує великих конкурентів, може прискорити впровадження в лікарнях та мобільних додатках для здоров'я.
Технологія, що стоїть за цим
Tether, найбільш відома своїм стейблкоїном USDT, тихо розвиває напрямок AI. QVAC MedPsy — одна з її перших медичних моделей. Компанія не опублікувала детальної архітектури мережі, але здатність моделі працювати на смартфоні, перевершуючи набагато більшу модель, вказує на агресивну оптимізацію під час навчання або квантування.
Google MedGemma-27B, навпаки, призначена для хмари або високопродуктивного обладнання. Підхід Tether перевертає це припущення, показуючи, що менша модель може бути сильнішою у спеціалізова
