← 返回文章列表

Amazon Bedrock AgentCore 运行时快速会话启动的架构模式

截至 2026 年 11 月 13 日,Amazon Bedrock AgentCore Runtime 的一项关键变化,是将 platformVersion 设为“V2”后,不再为每个会话重复拉取容器镜像、启动容器并执行初始化。AWS 官方资料称,V2 会在创建或更新运行时时准备一次环境,冻结 microVM,并保存内存与磁盘快照;新会话再将快照恢复到新的

文章封面

截至 2026 年 11 月 13 日,Amazon Bedrock AgentCore Runtime 的一项关键变化,是将 platformVersion 设为“V2”后,不再为每个会话重复拉取容器镜像、启动容器并执行初始化。AWS 官方资料称,V2 会在创建或更新运行时时准备一次环境,冻结 microVM,并保存内存与磁盘快照;新会话再将快照恢复到新的 microVM。官方还称平台可缩容至零,并按会话消耗的资源计费,具体延迟和成本收益仍需结合实际工作负载验证。

一次构建,多次恢复

V1 中,镜像拉取通常主导首次启动。V2 将镜像准备和初始化移到快照构建阶段,因此每次创建或更新运行时都需要数分钟。容器须在 120 秒内通过 GET /ping 报告健康;使用 Python SDK 时,应在 app.run() 前完成初始化,自建 HTTP 服务则应在初始化结束后再报告健康。

快照会完整恢复进程内存,包括 RAM 文件系统中的数据;镜像文件则按需读取。由于冻结前会清空操作系统文件缓存,初始化时读过某个文件,并不会让新会话再次读取它时自动变快。

按场景选择优化方式

  • 若新会话约 2 秒可以接受,切换至 V2,并尽量把导入、客户端创建和静态数据加载放在初始化阶段。
  • 若首个请求立即需要大文件、CLI 或浏览器,可在构建钩子中预热;这类独立进程或二进制未必能随进程快照保留。
  • 若聊天或语音场景需要亚秒级响应,可在用户打开应用或聊天窗口时提前启动会话,而不是等待其发送首条消息。

这些是不同场景下的处理路径,不代表固定时延承诺。对多数智能体,切换 V2 已能简化启动路径;要获得更完整收益,仍需调整代码并测量。

初始化能做什么,不能替代什么

导入库、创建 SDK 客户端,以及把提示词、配置和小型索引保存在内存中,适合移到初始化阶段。客户端的端点和凭据解析结果会随快照恢复,但已打开的网络连接在恢复后会失效,应在快照前关闭。由独立子进程读取的工具链或浏览器二进制不会自动保留,可考虑复制到 /dev/shm 或其他 RAM 挂载。动态数据仍应在每个会话的处理器中加载,随机值等状态也不能依赖跨会话复用。

构建钩子的调用边界

钩子通过容器内 HTTP 端点接收两次 POST:第一次在冻结前执行“memory”预热,保留下来的内存会进入快照;第二次在测试恢复后执行“disk”预热,其结果不会再次形成快照,但会影响恢复后优先读取的文件。两类调用共享 120 秒预算,必须在工作完成后返回 2xx;其他响应、连接失败或超时都会使创建或更新失败,平台不会重试。

先测量,再决定搬哪些工作

AWS 在 AWS/Bedrock-AgentCore 命名空间提供 Latency 与 OverheadLatency 等指标。初始化时间不会计入 V2 的单次请求延迟,应在 app.run() 前单独记录并从构建日志查看。评估时应比较 P90、P99 或 TM90,并保持新会话比例相近;还应在客户端测量调用与网络耗时。静态数据驻留内存会缩短处理器时间,却会增大快照,并让每个会话承担相应内存成本,最终应以端到端结果为准。

资料来源:Architecture patterns for fast session startup on Amazon Bedrock AgentCore runtime(2026-11-13)。

相关文章

Azure AI Speech LLM 09-2026 正式发布:语言区域支持范围得到进一步扩大CUDA 二十周年:这个平台如何改变科学计算Duco 如何利用 Amazon Bedrock AgentCore 革新金融数据自动化使用 Amazon Bedrock 托管知识库的 Agentic Retrieve 构建具备记忆能力的 AI 智能体

一起聊聊

留下你的想法,评论审核通过后展示。

想进一步了解?

留下需求和联系方式,我们会就本次咨询与你联系。

本站使用有效期 180 天的随机浏览器标识统计访问与阅读情况,并记录访问 IP 及其大致所属地区,仅管理员可见;浏览器启用“请勿跟踪”时停止访问采集。