在 Amazon EKS 上利用 EFA 与 DeepEP 扩展 MoE 强化学习,吞吐量提升 40%
AWS 通过 Amazon EKS、EFA 和 DeepEP 优化 MoE 模型的大规模强化学习训练。该方法协调 rollout 推理与策略训练的异构资源,并在数百个加速器间维持高吞吐通信;相比原有方案,整体吞吐量提升 40%。
AWS 通过 Amazon EKS、EFA 和 DeepEP 优化 MoE 模型的大规模强化学习训练。该方法协调 rollout 推理与策略训练的异构资源,并在数百个加速器间维持高吞吐通信;相比原有方案,整体吞吐量提升 40%。
NVIDIA 提出 AI 安全是一项工程问题,需在 Agent 堆栈的每一层实施强制边界、明确责任人和可验证证据。其开源运行时 OpenShell 在 Agent 控制范围外执行策略并提供沙箱环境,Cisco DefenseClaw 与 JFrog 等合作伙伴正基于此构建治理及技能扫描能力。该观点由 Open Secure AI Alliance 支持,旨在通过开放共享帮助防御者强化系统。