Firma Together AI nawiązała współpracę z Pearl Research Labs, aby stawić czoła rosnącym kosztom inferencji AI poprzez powiązanie obciążeń GPU z nagrodami kryptowalutowymi. Obie firmy planują wykorzystać system o nazwie Proof of Useful Work – wariant tradycyjnego wydobycia, który wypłaca tokeny za obliczenia faktycznie trenujące lub uruchamiające modele. Chodzi o to, aby dostawcy GPU mogli zarabiać kryptowaluty podczas wykonywania inferencji, rekompensując to, co zwykle jest czystym wydatkiem.
Jak działa Proof of Useful Work
Proof of Useful Work to dokładnie to, na co brzmi: zamiast haszować losowe liczby w celu uzyskania nagrody blokowej, górnicy przesyłają użyteczne obliczenia – w tym przypadku zadania inferencji AI – które są weryfikowane i nagradzane. Pearl Research Labs dostarcza bazowy protokół, podczas gdy Together AI wnosi swoją infrastrukturę inferencyjną. Zadeklarowanym celem partnerstwa jest obniżenie kosztów inferencji AI poprzez umożliwienie dostawcom odzyskania części narzutów sprzętowych dzięki nagrodom w tokenach.
Dlaczego celem są koszty inferencji
Uruchamianie dużych modeli językowych i generatywnej sztucznej inteligencji jest kosztowne, szczególnie na dużą skalę. Większość czasu GPU jest opłacana z góry, bez możliwości odzyskania kosztów obliczeniowych. Nakładając nagrodę kryptowalutową na wierzch, Together AI i Pearl Research Labs zakładają, że zachęta w postaci tokenów może sprawić, że inferencja stanie się tańsza – lub przynajmniej bardziej zrównoważona – dla osób obsługujących maszyny. Model ten skutecznie przekształca centrum kosztów w potencjalne źródło przychodów.
Co dalej
Żadna z firm nie podała harmonogramu wdrożenia integracji Proof of Useful Work. Partnerstwo zostało ogłoszone w tym tygodniu, a obie strony są na wczesnym etapie współpracy technicznej. Sposób ustalania stopy nagrody – oraz jej równoważenie z wartością bazowego tokena – nie jest jeszcze publicznie znany. Te wyliczenia zdecydują, czy system faktycznie obniży koszty, czy tylko doda złożoności.
