Skip to main content

为了支撑这一百个agent应用，可以想象需要很强的infra/platform能力（或者中文语境里叫中台？），随便想想可能有- 多模型路由- 统一的inference gateway- prompt管理与A/B测试- inference推理优化- 长期记忆管理- 沙箱执行环境- mcp infra（虽然我不喜欢mcp）- 第三方api网关（notion、slack、gmail等等）- 浏览器自动化- 输出过滤（敏感信息脱敏、合规检查等）- 多租户数据隔离- prompt injection防御- 用量计量- 等

  1. wwang的笔记
    最近准备开启一个新项目，做一百个agent应用。我心中的定位可能和之前Pieter Levels的12 startups in 12 months或者字节跳动早期的app工厂的定位比较像。
    为了支撑这一百个agent应用，可以想象需要很强的infra/platform能力（或者中文语境里叫中台？），随便想想可能有

    - 多模型路由
    - 统一的inference gateway
    - prompt管理与A/B测试
    - inference推理优化
    - 长期记忆管理
    - 沙箱执行环境
    - mcp infra（虽然我不喜欢mcp）
    - 第三方api网关（notion、slack、gmail等等）
    - 浏览器自动化
    - 输出过滤（敏感信息脱敏、合规检查等）
    - 多租户数据隔离
    - prompt injection防御
    - 用量计量
    - 等