保持结构的同时提升效率
TOON 将重复的 JSON 键压缩为表格块。更少的 token 意味着更低的 API 成本、更快的响应,以及仍能适配有限上下文窗口的载荷。 不同于二进制格式,TOON 依旧易读,因此 Prompt 工程师和 LLM 看到的是同一个视图。
TOON 优于 JSON 的场景
- 目录类数组(商品 feed、审核队列、遥测行)
- 混合叙述与结构化例外的政策文档
- 多轮对话记录,重复键浪费 token
- 面向安全/合规团队的流式分析
对基础设施和安全团队的运营收益
红队和策略团队会逐行检查载荷。TOON 保留清晰缩进、将数组展示为表格,并移除 JSON 的引号噪音。 因为 TOON 无损,你可以内部继续输出 JSON,对外提供 TOON,转换器保证双向一致。
实践中的 TOON vs JSON
JSON(92 个 token)
{
"incidents": [
{"id": 42, "severity": "medium", "tag": "prompt_injection"},
{"id": 43, "severity": "low", "tag": "spam"}
]
}
转换后的 TOON
TOON(55 个 token)
incidents[2]{id,severity,tag}:
42,medium,prompt_injection
43,low,spam
上线清单
- 为内部服务账号授权 /api/convert
- 在 CI 中镜像 JSON 结构并对比输出
- 使用 /api/validate 审核外发载荷
- 将 TOON 视图分享给策略、支持、运营团队
核心结论
采用 TOON 的团队可回收 30–60% 的上下文窗口,并降低聊天延迟。这是压缩与清晰度的平衡点,随时可用。