alibaba
Open positions
阿里云智能-服务器AI互连技术开发专家-北京/上海
● 负责AI Infra超节点推理和训练优化，包括vllm、SGLang等的LLM、多模态端到端软硬件结合的性能优化工作，如KV Cache、显存共享、通信技术融合、mega kernal等，发挥超节点技术优势。 ● 围绕并行算法、集合通信、KV Cache传输等典型流量，分析通信模式和关键路径，优化通信时延、带宽利用率及计算通信重叠效率。 ● 参与下一代AI超节点架构定义、业务演进、原型验证及产品化落地。 ●…
智能引擎-大模型训练基础架构研发工程师-AI Infra
1. 超大规模训练架构：负责百亿至万亿参数模型的分布式训练架构设计与演进。针对数千卡 GPU 互联场景，通过自顶向下的性能分析，利用 5D 并行以及通信优化策略，消除大规模分布式训练瓶颈，提升训练效率和线性加速比。 2. 极致性能优化与算子开发：深入软硬协同层，通过手写 CUDA / Triton 算子、算子融合及 XLA / MLIR 等编译优化技术，挖掘 GPU 硬件极致算力，打造一流的执行引擎，追求业界SOTA的 MFU。…
阿里云智能-AI工程平台研发技术专家-杭州/北京
岗位介绍： 面向大模型训练与推理，负责研发验证与交付工程平台建设，覆盖代码集成、镜像构建、环境部署、性能与质量评测、版本发布和业务交付。通过平台化的任务编排、自动化验证和数据分析，让框架、模型与硬件的迭代具备可复现、可对比、可追溯的工程闭环，提高研发效率和交付可靠性。 工作职责： 1. 负责 AI Infra 工程平台的设计与研发，建设任务编排、算力资源接入、状态管理、失败恢复及结果追踪能力，将构建、部署、验证和发布环节串联为…
平头哥-资深GPU服务器系统测试高级专家-上海/杭州
主导GPU服务器在Linux系统下的兼容性、压力稳定性及异常场景（宕机、GPU掉卡、PCIe/NVLink链路抖动/中断、ECC错误激增、固件升级失败等）专项测试； 深度参与GPU驱动、固件、CUDA生态组件的测试方案设计与自动化脚本开发（Python/C++/Shell）； 熟悉GPU服务器典型故障注入与诊断工具链（如：基于nvidia-smi/nvml、dcgmi、ipmitool、core…
阿里云智能-技术服务经理TAM-互联网KA客户-北京
1. 企业级 AI Agent 工程落地指导: 作为客户 AI 应用技术服务的第一责任人，深入理解客户业务场景与技术痛点，主导Agent等工程全链路落地服务：从 RAG 构建、知识库向量化、Prompt Engineering 调优，到多 Agent 协作编排、工具链集成与 Function Call调试，确保 AI Agent 在生产环境高效运行。 2.…
平头哥-边缘AI芯片算法部署工程师-上海
1. 负责大模型在端侧/边缘设备的高效部署，优化多模型部署、多任务调度、多线程/多进程加速，提升推理性能与资源利用率。 2. 基于主流Agent框架，设计端侧Agent运行时架构与产品方案；优化Agent上下文管理（包括上下文窗口、缓存策略、压缩算法），提升长对话和复杂任务的执行效率等。 3. 深入分析端侧AI软件栈和芯片微架构性能瓶颈（如核心利用率、内存带宽、指令流水线等），持续输出优化建议，推动芯片架构和SDK持续优化。 1.…
平头哥-边缘AI芯片SoC设计高级专家-上海
1. 参与SoC系统需求及Spec定义与分析 2. 负责SoC top或Subsystem微架构定义及集成方案，完成RTL代码交付，完成Lint/CDC等质量检查 3. 参与SoC或Subsystem的PPA及时序分析和优化 4. 配合上下游完成芯片验证、后端迭代、底软调试、回片测试等工作 1. 计算机和微电子、集成电路等相关专业硕士及以上学历，5年以上芯片设计经验 2. 熟悉SoC芯片设计流程，并有参与流片的经验 3.…
达摩院-高性能互连管理软件架构师-计算技术
工作职责： 方向一: Global Fabric Manager (GFM & Switch) 1. 多节点 fabric 协调:设计与维护 GFM与LFM（SM） 的分布式协作机制(带内通路),实现跨节点的拓扑发现、配置下发、心跳保活与查询转发。 2. 拓扑发现与校验:解析多节点/单节点 fabric 拓扑,构建并校验 GPU–Switch 连接矩阵,剔除未探测到的 GPU/Switch,保证拓扑一致性。 3. Fabric…
达摩院-AI软件栈测试leader-计算技术
我们正在寻找一位具备深厚AI系统与软件栈测试经验的技术专家，担任AI软件栈测试负责人。你将全面负责从底层驱动、编译器、算子、框架到工具链及全栈集成的端到端质量保障体系，领导覆盖模块测试、集成测试与专项测试（性能/稳定性/精度）的多维度测试团队，确保AI软件栈在CPU/GPU/NPU等异构平台上的功能正确性、性能卓越性与长期稳定性。 核心职责：…
菜鸟-具身智能强化学习算法工程师-杭州
1. 策略后训练：负责 VLA / 基础操作模型的后训练全流程，在预训练/模仿学习得到的基座策略之上，通过强化学习微调（RLFT）、离线 RL、DAgger、HIL-SERL 、RECAP 等手段持续提升真实仓储任务的成功率与鲁棒性。 2. 奖励与数据闭环：设计任务奖励函数与自动成功判定，搭建 Reward Model / 偏好数据标注流程，构建"部署→失败挖掘→补采/在线交互→后训练→自动评测→再部署"的策略迭代闭环。 3.…
阿里云智能-服务器研发AI系统高级架构师-深圳/杭州
负责面向AI大模型训练和推理场景的超节点及超节点集群架构规划与设计，包括计算和互连拓扑定义、Scale-Up/Scale-Out互连方案设计、内存与存储层次设计，输出系统级架构方案并推动落地验证。 负责超节点内部GPU/NPU互连架构设计，涵盖Scale-Up域内高速互连拓扑（全互联、Ring、Torus等）、带宽分配策略、通信路径优化、故障域隔离与降级机制，保障大规模并行训练与推理的通信效率。…
阿里控股-系统软件研发工程师-AI加速芯片方向
团队/方向简介 负责 AI 加速器（GPU/PPU等）系统软件技术栈与生态建设，覆盖驱动、CUDA 兼容运行时、编译工具链、框架接入的全链路组件；结合 AI 业务场景与推理引擎（vLLM 等）、训练框架（PyTorch/Megatron 等）软硬协同优化；参与超节点架构、拓扑管理与调优，支撑大规模训练/推理集群的高效稳定运行。 岗位职责 1.负责 AI 加速器（GPU/PPU等）系统软件栈的设计与研发，覆盖内核/用户态驱动、CUDA…
淘宝闪购-C端Agent - AI Infra专家-上海
1. 负责百亿至万亿参数规模稠密、稀疏模型的训练与推理 Infra 建设，支撑千卡集群上的高效、稳定运行 2. 优化数据并行、模型并行、专家并行及异构计算体系，解决通信、显存、调度和训推性能瓶颈，提升 GPU 利用率与系统吞吐 3. 负责 LLM RL、Agentic RL Infra 的设计与研发，支撑 PPO、GRPO 等算法及大规模、多智能体、长链路 Agent 训练 4. 建设高性能 RL…
AI推理平台-百炼 PostTrain 技术专家/高级开发工程师-北京/杭州
1. 负责百炼平台后训练技术架构设计与性能优化，建设 LLM/MLLM 及 AIGC (DiT) 场景的生产级微调与对齐能力。 2. 负责十亿至万亿级参数模型分布式训练的工程落地，定位计算、显存、通信与系统瓶颈，提升 MFU 并降低训练成本。 3. 主导数据管线（数据合成、效果评测、数据回流）与高鲁棒 Rubric/Reward 体系的架构设计与开发，牵引模型持续迭代。 4.…
达摩院-AI软件栈测试专家-计算技术
核心职责： 测试战略与体系建设：制定并落地AI软件栈整体测试策略，覆盖驱动（KMD/UMD/Runtime/CCL/Video/Security）、编译器（DFCA/LLVM/Triton/AI Compiler）、算子、深度学习框架（PyTorch/vLLM等）、工具链（调试/Profiling/覆盖率）及云原生环境的全生命周期质量保障。…
智能引擎-大模型训练基础架构研发高级专家-AI Infra
1. 超大规模训练架构：负责百亿至万亿参数模型的分布式训练架构设计与演进。针对数千卡 GPU 互联场景，通过自顶向下的性能分析，利用 5D 并行以及通信优化策略，消除大规模分布式训练瓶颈，提升训练效率和线性加速比。 2. 极致性能优化与算子开发：深入软硬协同层，通过手写 CUDA / Triton 算子、算子融合及 XLA / MLIR 等编译优化技术，挖掘 GPU 硬件极致算力，打造一流的执行引擎，追求业界SOTA的 MFU。…
阿里云智能-AI Infra SRE 专家-杭州
1、负责大规模 GPU/异构计算集群稳定性架构和运维体系设计，对集群可用性、交付效率、资源利用率和运维成本负责。 2、主导 AI 基础设施运维平台的架构设计与建设，形成覆盖交付、监控、诊断、变更、容量、容灾和故障自愈的工程体系。 3、建立面向 AI 训练与推理场景的 SLI、SLO、SLA 及稳定性度量体系，推动重大故障治理和系统性风险消除。 4、主导集群交付标准、运维规范和质量准入机制建设，推动跨地域、跨团队场景下的标准化复制。…
平头哥-AI计算加速软件专家-上海
1. 设计开发高性能计算加速算法，包括但不限于MoE、Attention、卷积、矩阵乘及相关的融合和量化。 2. 基于硬件特性进行极致性能分析和优化，制定通用性能调优策略，适配和调优各种主流框架和开源代码。 3. 深度分析各种实际应用，如生成式AI/大语言模型推理和训练等场景，发明和改进能发挥硬件优势的加速算法。 4. 和其他团队紧密合作，参与并影响芯片架构、编程模型和软件平台的设计和路线演进。 1.…
达摩院-AI编译开发专家-处理器基础开发工具
1、从事RISC-V CPU 编译器的研发工作，包括编译器架构设计、优化遍开发、应用程序性能分析调优等工作； 2、基于 MLIR + Linalg 框架，提升编译器代码块执行效率； 3、参与图优化、后端代码生成、调度策略、指令优化、流水并行化相关优化工作； 4、研究和优化 Kernel 计算性能，降低计算开销，提高吞吐率； 5、研究算子融合（Op…
AI推理平台-大模型推理效能与稳定性专家-效能提升
聚焦推理引擎底层与集群稳定性，通过深度分析、压测注入、可观测数据挖掘，主动发现性能瓶颈与隐患，协同研发团队闭环解决，系统性提升推理SLA与资源效能 1. 引擎底层问题挖掘与根因分析 深入vLLM、SGLang、TensorRT-LLM等推理引擎源码，通过Profile、Trace、日志分析等手段，主动识别算子调度、显存分配、KV Cache管理、通信同步等底层性能缺陷与逻辑异常。…