跳到主要内容
NAVSMAP
最新资讯

AWS Lambda 支持托管 GPU 实例,可运行事件驱动的 AI 推理任务

AWS Lambda 支持托管 GPU 实例,可运行事件驱动的 AI 推理任务

AWS 于 2026 年 11 月 18 日 发布相关消息。

函数可运行在 G 系列 GPU 上

AWS 于 11 月 18 日为 Lambda Managed Instances 的 Event Functions 增加 GPU 支持,覆盖自有模型推理、语音处理、图像视频处理和科学计算等任务。开发者提供 OCI 容器镜像,Lambda 负责实例准备、驱动兼容、路由与扩缩容。

预置推理框架并支持并发

官方提供包含 vLLM、SGLang、PyTorch 等框架的基础镜像,同一执行环境可并发处理多个请求,共享已加载的模型。GPU 函数可由 S3、SQS、API Gateway 等既有事件源触发,也能成为多步骤智能体工作流中的推理环节。

按实例容量与管理费计费

功能在同时提供 Lambda Managed Instances 与 EC2 G 系列实例的商业区域开放。费用包括 EC2 实例价格、9.75% 的 Lambda 管理费及每百万请求 0.20 美元。部署时需先配置容量提供程序,并检查目标区域的 GPU 实例配额。

来源:AWS 原始发布、官方技术说明