osFoundry MCP tool list का Codex में token खर्च और project-wise कम करने का तरीका
एक MCP client के handshake के बाद osFoundry का server 59 tools की list लौटाता है, जिसे Tokyo से curl के जरिए बिना token के जांचा गया। Codex CLI इस server से एक url और config table के जरिए जुड़ता है, और जब तक client इन्हें defer नहीं करता, हर model request में ये सभी declarations शामिल होती हैं। लेखक ने tiktoken से माप लिया है कि पूरे tool list का payload लगभग 10,494 tokens है, जिसमें declarations का हिस्सा 7,609 tokens है। सबसे बड़ी single declaration edit_note_tab लगभग 336 tokens की है। OpenAI यह सार्वजनिक नहीं करता कि tool declarations को बिलिंग में कैसे गिना जाता है, इसलिए ये आंकड़े केवल payload पर आधारित हैं।
This is an AI-generated summary. ShortSingh links to the original source for the complete article.
Discussion (0)
Log in to join the discussion and vote.
Log in