A Together AI partnerségre lépett a Pearl Research Labs-szal, hogy a GPU-munkaterhelések kriptojutalmakhoz kötésével kezelje az AI-inferencia növekvő költségeit. A két cég egy Proof of Useful Work nevű rendszert tervez használni – ez a hagyományos bányászat egy változata, amely tokeneket fizet ki olyan számítási feladatokért, amelyek ténylegesen modelleket tanítanak vagy futtatnak. Az ötlet az, hogy a GPU-szolgáltatók inferencia közben kriptót kereshessenek, ellensúlyozva azt, ami általában tiszta kiadás.
Hogyan működik a Proof of Useful Work
A Proof of Useful Work pontosan az, aminek hangzik: ahelyett, hogy a bányászok véletlenszerű számokat hash-elnek egy blokk jutalomért, hasznos számítási feladatokat – jelen esetben AI-inferencia-feladatokat – nyújtanak be, amelyeket ellenőriznek és jutalmaznak. A Pearl Research Labs biztosítja az alapul szolgáló protokollt, míg a Together AI az inferencia-infrastruktúráját adja hozzá. A partnerség deklarált célja az AI-inferencia költségeinek csökkentése azáltal, hogy a szolgáltatók tokenjutalmakon keresztül visszanyerhetik hardverköltségeik egy részét.
Miért az inferencia költségek a célpontok
Nagy nyelvi modellek és generatív AI futtatása drága, különösen nagy méretekben. A GPU-idő nagy részét előre kifizetik, anélkül hogy vissza lehetne keresni a számítási költséget. Azzal, hogy egy kriptojutalmat rétegeznek a tetejére, a Together AI és a Pearl Research Labs arra fogad, hogy a tokenösztönző olcsóbbá – vagy legalábbis fenntarthatóbbá – teheti az inferenciát azok számára, akik a gépeket üzemeltetik. A modell gyakorlatilag egy költségközpontot potenciális bevételi forrássá alakít.
Mi következik
Egyik cég sem közölt ütemtervet arra vonatkozóan, hogy a Proof of Useful Work integráció mikor indul el. A partnerséget ezen a héten jelentették be, és mindkét fél a technikai együttműködés korai szakaszában jár. Hogy a jutalom mértékét hogyan határozzák meg – és hogy az hogyan egyensúlyoz az alapul szolgáló token értékével –, az még nem nyilvános. Ez a matematika fogja eldönteni, hogy a rendszer valóban csökkenti-e a költségeket, vagy csak további bonyodalmat hoz.
