MCP 서버가 컨텍스트 윈도우를 빠르게 소모하는 이유: 도구 정의 토큰 측정

MCP 서버는 사용자가 입력하기 전부터 모든 도구의 이름, 설명, JSON Schema를 모델에 전송하기 때문에 턴마다 비용이 쌓인다. 저자가 네 개의 일반 MCP 서버를 측정한 결과 정의만으로 11,923토큰이 추가된 반면, Apidog CLI 스킬은 평소 112토큰만 차지했다. CLI는 에이전트가 실제로 실행하고 help를 읽을 때만 토큰을 소비한다. 다만 측정은 OpenAI 토크나이저 기준이며 모델마다 수치가 다를 수 있다. 일부 클라이언트는 도구 검색을 기본으로 사용해 정의를 지연 로드하므로 이 비용 차이는 설정에 따라 달라진다.
This is an AI-generated summary. ShortSingh links to the original source for the complete article.
Discussion (0)
Log in to join the discussion and vote.
Log in