Token、上下文与成本意识

这个主题会把“模型输入输出”转成工程成本和上下文预算问题。

计划文章:

  • 前端学 LLM:Token 到底是什么
  • 为什么 AI 应用必须关注 Token 成本
  • 多轮对话为什么不是简单把聊天记录存数据库

阶段实践:

  • 实现一个 Token Counter。
  • 计算一次对话请求成本。
  • 实现上下文裁剪策略。