Together AI가 Pearl Research Labs와 협력하여 GPU 워크로드를 암호화폐 보상과 연결함으로써 AI 추론 비용 상승 문제를 해결한다. 두 회사는 기존 채굴 방식의 변형인 'Proof of Useful Work' 시스템을 사용할 계획이다. 이 시스템은 실제로 모델을 훈련하거나 실행하는 연산에 대해 토큰을 지급한다. 핵심 아이디어는 GPU 제공자가 추론을 수행하면서 암호화폐를 얻을 수 있게 하여 일반적으로 순수 비용으로 처리되는 부분을 상쇄하는 것이다.
Proof of Useful Work의 작동 방식
Proof of Useful Work는 이름 그대로 작동한다. 즉, 채굴자가 블록 보상을 위해 무작위 숫자를 해싱하는 대신 검증되고 보상이 제공되는 유용한 연산(이 경우 AI 추론 작업)을 제출한다. Pearl Research Labs는 기반 프로토콜을 제공하고, Together AI는 추론 인프라를 제공한다. 이 파트너십의 명시된 목표는 제공자가 토큰 보상을 통해 하드웨어 오버헤드의 일부를 회수할 수 있도록 하여 AI 추론 비용을 줄이는 것이다.
추론 비용이 목표인 이유
대규모 언어 모델과 생성형 AI를 실행하는 것은 특히 대규모로 운영할 때 비용이 많이 든다. 대부분의 GPU 시간은 선불로 지불되며, 연산 비용을 다시 회수할 방법이 없다. Together AI와 Pearl Research Labs는 암호화폐 보상을 추가함으로써 토큰 인센티브가 기계를 운영하는 사람들에게 추론 비용을 낮추거나 최소한 더 지속 가능하게 만들 수 있을 것이라고 확신한다. 이 모델은 비용 센터를 잠재적인 수익원으로 효과적으로 전환한다.
향후 계획
두 회사 모두 Proof of Useful Work 통합이 언제 시작될지에 대한 일정을 공개하지 않았다. 파트너십은 이번 주에 발표되었으며, 양측은 기술 협력 초기 단계에 있다. 보상 비율이 어떻게 설정될지, 그리고 이것이 기반 토큰의 가치와 어떻게 균형을 이룰지는 아직 공개되지 않았다. 그 계산이 시스템이 실제로 비용을 절감할지, 아니면 단지 복잡성만 추가할지를 결정할 것이다.
