Loading market data...

메타 연구진, AI 코딩 에이전트 비용 절감 위한 '요약 재사용' 제안

메타 연구진, AI 코딩 에이전트 비용 절감 위한 '요약 재사용' 제안

요약 재사용 작동 방식

코딩 에이전트는 작업을 이해하기 위해 코드와 대화의 긴 이력을 처리해야 하는 경우가 많습니다. 이는 상당한 메모리와 처리 능력을 요구합니다. 요약 재사용 방법은 에이전트가 필수 컨텍스트를 포착한 압축된 요약 세트를 유지할 수 있게 합니다. 에이전트는 매번 전체 이력을 다시 처리하는 대신 이러한 요약을 참조합니다. 메타의 논문에 따르면 이는 요청당 처리되는 토큰 수를 줄여 비용을 낮추고 응답 속도를 높입니다.

예를 들어, 개발자가 여러 파일에 걸쳐 버그를 수정하도록 에이전트에 요청하면, 일반적인 에이전트는 모든 파일과 대화의 모든 메시지를 다시 처리할 수 있습니다. 요약 재사용을 사용하면 에이전트는