AWS Machine Learning Blog· Claudio Mazzoni·· 1 天前精选AI 评分66
Groundhog Day for AI agents: 在 Amazon Bedrock 上对 OpenAI 模型使用提示词缓存的方法
Groundhog Day for AI agents: Prompt caching patterns for using OpenAI models on Amazon Bedrock
AI 导读
Amazon Bedrock 团队发布教程，介绍如何在 Amazon Bedrock 上对 OpenAI 模型应用提示词缓存（prompt caching）以优化 AI 智能体工作流。教程通过 GPT-6 Astra 的具体代码示例，演示了如何在不同轮次、新增工具和子智能体调用中结合隐式与显式缓存策略，显著降低重复输入 token 的成本。
推荐理由
原文给出了在 Amazon Bedrock 上针对 OpenAI 模型配置 Prompt 缓存的具体代码与边界案例，能直接应用于降低 Agent 推理成本。
来源：AWS Machine Learning Blog · aws.amazon.com