alibaba
Open positions
平头哥-CPU计算加速软件专家-杭州/上海
1. 负责基于自研CPU芯片通用场景包括但不限于大数据、存储、数据库、视频、Web等场景的软件优化工作:对涉及的基础库、核心业务算法、平台框架等进行深入优化开发和产品化软件交付 2. 负责基于自研CPU芯片在AI 场景的应用软件优化工作:对大模型训练、推理场景涉及框架(PyTorch、vLLM、SGLang 等)、算子库、互联通信、硬件驱动等模块进行CPU侧的瓶颈优化和开发提升自研CPU在AI场景的性能竞争力 3.…
平头哥-AI软件架构师-Cmodel-上海
1、负责自研AI芯片算法和功能行为的设计分析及其CModel开发。 2、负责CMODEL和驱动的协同开发,以辅助硬件设计验证。 3、跟RTL团队合作,进行交叉验证。 1. Design and analyze algorithms and features of AI chip, and develop corresponding behavior and performance model. 2. Co-work with…
千问事业部-千问/夸克-大模型预训练与应用算法工程师-杭州/北京
1. 操控万卡规模的 GPU 集群,对超大参数量级的预训练模型进行高效分布式训练与优化。 2.深度参与多模态(图像、语音、文本、视频)大模型的研发,探索多学科交叉领域的新奇玩法。 3.我们的技术将为千问和夸克的亿万用户提供高品质的AI智能服务,见证前沿技术实现真正的用户价值 加入我们,你将获得: 1.与顶级专家携手,以世界级算力资源和数据支持为背书,不断挑战技术极限。…
智能引擎-KV Cache 存储系统开发-杭州
1. KVCache 核心系统研发,负责 LLM 推理场景下 KVCache 的架构设计与工程实现,优化 KVCache 的内存管理、显存分配与生命周期调度策略,研究并实现 Prefix Cache、Radix Tree Cache 等高效缓存复用机制,提升 Cache Hit Rate。 2. 设计跨机、跨节点的分布式 KVCache 共享与迁移方案,实现 KVCache 在 GPU HBM / CPU DRAM / NVMe…
数据技术及产品部-大模型数据处理优化专家-杭州/北京
1、负责多模态数据处理链路的推理优化,分析性能瓶颈,软硬件结合优化,实现包括语言识别、计算机视觉等多方向的推理优化,达到极致性能; 2、负责多模态数据处理链路的可观测性工具建设,包括数据处理、模型推理的监控、告警等; 3、负责异构资源(GPU、CPU等硬件)的调度优化,实现潮汐资源、混部资源、多云资源的最优化调度 4、负责集群和业务服务的稳定性治理、资源利用率提升,通过系统化方式提高GPU、CPU等硬件资源的使用效率。…
ATH事业群-AI Agent SRE专家-MaaS应用运维
1. 负责 AI Agent以及平台的可用性、性能与容量保障,设计并落地 SLO/SLI/Error Budget 体系,建设全链路可观测性与限流熔断、灰度发布、快速回滚等容灾能力 2. 负责 Agent 执行基础设施的可靠性保障:代码执行沙箱、工具调用网关、会话与状态存储等的资源隔离、弹性伸缩、性能优化与容量规划 3. 负责云资源运维(K8s 集群、存储、网络等),保障弹性伸缩与配额安全,建设资源利用率与成本可观测体系,推动…
Token Foundry-大模型平台研发工程师-训练平台
主要负责 TokenFoundry 大模型训练平台建设,为大模型训练提供稳定、高效、弹性的 AI Infra 基础设施。你将参与新一代大模型训练平台的架构演进,支撑大规模分布式训练任务编排、异构集群资源调度、训练容错与弹性恢复等核心系统,持续提升研发效能与算力利用率。 主要工作职责和挑战 1. 训练任务平台设计与研发:负责分布式训练任务的提交、编排、调度、可观测性与全生命周期管理系统的架构设计及核心代码实现。 2.…
Token Foundry-大模型训练Infra工程师-训练稳定性方向
1. 建设超大规模训练的稳定性治理体系,围绕有效训练时长(ETTR)与 Goodput 做端到端度量与优化,量化并持续压缩因故障、回滚、启动带来的无效算力(Badput)。 2. 构建覆盖软硬件异常的故障可观测能力,完善日志、指标、事件的采集与关联分析;研发智能诊断能力,实现训练 slow / hang / OOM / 通信异常等故障的快速定界与根因追溯,沉淀故障模式库与自动诊断规则。 3.…
Token Foundry-大模型训练Infra工程师-容器Infra方向
1. 基于开源 Kubernetes 构建面向大模型训练的容器化基础设施增强能力,研发 GPU 拓扑感知调度、Gang 调度、资源碎片治理与利用率提升,保障千卡 / 万卡级作业的快速拉起与高吞吐运行。 2. 研发面向训练作业的任务编排与作业管理能力(作业生命周期管理、作业全链路追踪等自定义控制器),支撑预训练、RL、评测多场景任务的可靠调度与快速恢复。 3.…
阿里云智能-函数计算(FC)Sandbox Infra 研发专家-北京
函数计算(Function Compute)是阿里云 Serverless 的核心产品,承载了集团内外大量在线业务、AIGC 推理、数据处理、前端 SSR 等负载。 Sandbox Infra 团队负责函数计算最底层的那一层: ● 多租户下的安全隔离:任意用户代码都要能安全、稳定地跑在共享基础设施上; ● 极致的冷启动与弹性:百毫秒级拉起一个带完整运行时的安全沙箱,秒级扩容到数万实例; ●…
ATH-AI创新事业部-服务端研发-AI 模型&架构方向
1、大模型推理与调度平台建设:主导多模态/LLM 推理服务化与模型调度中台(自研/二方/三方)建设,支持同模型多账号、多模型共存、降级容错与弹性扩缩容,保障高并发低时延的线上推理体验; 2、推理加速与资源效率优化:推进推理加速与 GPU 资源复用等优化策略落地,提升模型利用率并降低单位推理成本; 3、模型成本治理体系:建设模型资源(如配额、用量、费用、使用期限/到期策略)可视化与治理闭环,推动降本动作落地并形成可持续的成本优化机制;…
平头哥-Scale-up Switch芯片产品经理-北京
1. 根据公司 AI 产品线及scale-up互连产品战略与路线,定义和管理数据中心 Scale-up(超节点内加速器互连)Switch 芯片产品; 2. 负责 Scale-up Switch 软硬件产品规格定义,综合考虑技术演进、互连协议进展、封装/工艺和合作伙伴与市场需求等多重因素,通过市场调研、客户访谈、竞争分析等识别产品需求,制订优先级,定义芯片主要功能与关键性能指标(聚合带宽、端口数/Radix、SerDes…
平头哥-Scale-up Switch芯片产品经理-上海
1. 根据公司 AI 产品线及scale-up互连产品战略与路线,定义和管理数据中心 Scale-up(超节点内加速器互连)Switch 芯片产品; 2. 负责 Scale-up Switch 软硬件产品规格定义,综合考虑技术演进、互连协议进展、封装/工艺和合作伙伴与市场需求等多重因素,通过市场调研、客户访谈、竞争分析等识别产品需求,制订优先级,定义芯片主要功能与关键性能指标(聚合带宽、端口数/Radix、SerDes…
达摩院-SRAM/FIP定制电路工程师-RISC V及生态
面向高性能SRAM, 基础IP或标准单元(如触发器、脉冲锁存器、逻辑触发器、特殊复杂单元等)的设计、验证及库生成。与晶圆厂开展DTCO(设计/工艺协同优化) 针对性能、功耗和面积(PPA)以及良率优化SRAM/定制电路。 开发定制版图并执行物理验证(例如,DRC、LVS)。 开展大量电路仿真,以验证SRAM的功能与性能、电气完整性及鲁棒性。 …
达摩院-CPU架构师-RISCV及生态
1. 规划和定义面向AI领域的CPU,并推动技术方案落地 2. 参与制定面向领域的CPU架构、微架构方案的定义 3. 制定CPU IP的Roadmap 4. 负责业界AI领域和具身智能领域技术方案跟踪和梳理 1. 硕士及以上学历,在 CPU 及 AI 领域有 5 年以上工作经验。 2. 熟悉主流 AI 芯片(GPU/NPU/DSA 等)的体系结构与性能优化方法,熟悉大语言模型及常见神经网络的结构与算法特征。有以下两方面经验者优先:…
达摩院-CPU物理设计及集成实现工程师-RISC V及生态
1.与CPU设计者密切合作,进行关键时序路径的分析与逻辑电路优化; 2.前后端协同设计,持续提升CPU PPA性能指标; 3.CPU Core的物理设计与交付,达到产品指标要求; 4.CPU 集成实现工程师(中端)综合实现 1. 具有CPU/GPU/AI Core物理设计及实现经验优先; 2. 与CPU设计者密切合作,进行逻辑优化,持续提升CPU PPA指标; 3.…
达摩院-SOC验证工程师-RISC V及生态
"1. 电子,通信或计算机本科及以上学历; 2. 精通芯片验证语言、流程以及验证方法学,如SystemVerilog, UVM等; 3. 精通C/C++等面向对象语言以及Perl/Python等脚本语言; 4. 精通Synopsys或Cadence仿真和调试工具,熟练使用各类VIP; 5. 具备如下专业领域的一项或者多项的验证经验,优先考虑: a. Core(CPU, GPU, NPU, …) b. 高速接口(DDR,…
AI推理平台-百炼模型服务运行时技术专家/高级工程师-杭州/北京
负责设计与构建下一代分布式 AI 推理 Runtime,让大模型服务启动更快、运行更稳、资源效率更高。你将参与解决大规模推理系统中的核心工程问题,包括: 1.推理实例极速弹性:通过容器镜像加速、模型与数据缓存、P2P 分发、预加载及 Checkpoint/Restore 等技术,持续降低模型加载与实例启动时间,提升大规模集群的弹性伸缩效率; 2.异构集群与分布式推理:支持不同模型和推理引擎运行在 GPU、NPU…
阿里国际站-搜推广引擎工程师-杭州
关于我们 我们是阿里巴巴国际站智能技术部引擎工程团队,负责国际站搜索、广告、推荐三大核心业务的底层引擎,与算法及业务团队一起,为广告营收、买家留存、订单转化等核心指标做贡献。 团队方向: ● 在线引擎:高并发、低延迟的搜推广在线服务 ● 算法工程:模型训练与推理工程化,推动全图化、实时化、深度学习落地 ● 离线大数据:特征、索引、样本等数据生产链路 ● Agent 工程:把搜推广能力封装成 Agent…
阿里云智能-AIGC 推理引擎研发专家-PAI
团队介绍 你将加入阿里云人工智能平台 PAI 团队。PAI 是阿里云一站式 AI 工程平台,覆盖模型开发、训练、部署与推理优化全链路,服务数万家企业客户与开发者。本岗位负责面向图像、视频生成场景的 AIGC 推理引擎研发,聚焦 DiT 类模型的生成速度、成本、能力覆盖与质量,具体工作内容包含但不限于: 岗位职责 负责 PAI 图像/视频生成推理引擎研发,对生成速度、成本、能力覆盖与质量负责: 1. 推理速度:针对 DiT…
