Together AI har inngått et samarbeid med Pearl Research Labs for å takle de økende kostnadene ved AI-inferens ved å knytte GPU-arbeidsbelastninger til kryptobelønninger. De to selskapene planlegger å bruke et system kalt Proof of Useful Work – en variant av tradisjonell gruvedrift som utbetaler tokens for beregninger som faktisk trener eller kjører modeller. Ideen er å la GPU-leverandører tjene krypto mens de utfører inferens, og dermed kompensere for det som normalt er en ren utgift.
Slik fungerer Proof of Useful Work
Proof of Useful Work er akkurat hva det høres ut som: i stedet for å hashe tilfeldige tall for en blokkbelønning, sender gruvearbeidere inn nyttige beregninger – i dette tilfellet AI-inferensjobber – som blir verifisert og belønnet. Pearl Research Labs bidrar med den underliggende protokollen, mens Together AI stiller med sin inferensinfrastruktur. Samarbeidets uttalte mål er å redusere AI-inferenskostnader ved å la leverandører få tilbake noe av maskinvareoverheaden gjennom token-belønninger.
Hvorfor inferenskostnader er målet
Å kjøre store språkmodeller og generativ AI er dyrt, spesielt i stor skala. Mesteparten av GPU-tiden betales på forhånd, uten mulighet til å tjene inn beregningskostnaden. Ved å legge et kryptobelønningslag på toppen, satser Together AI og Pearl Research Labs på at token-insentivet kan gjøre inferens billigere – eller i det minste mer bærekraftig – for de som driver maskinene. Modellen gjør effektivt et kostnadssenter om til en potensiell inntektsstrøm.
Hva skjer videre
Ingen av selskapene har offentliggjort en tidslinje for når Proof of Useful Work-integreringen vil bli lansert. Samarbeidet ble annonsert denne uken, og begge sider er i de tidlige fasene av teknisk samarbeid. Hvordan belønningsraten skal fastsettes – og hvordan den balanserer mot verdien av det underliggende tokenet – er ikke offentliggjort ennå. Den matematikken vil avgjøre om systemet faktisk kutter kostnader eller bare tilfører kompleksitet.
