What is RLHF?
RLHF is a machine learning technique that uses human feedback to train a reward model which guides an artificial intelligence agent. It is used to align AI models with human intent by incorporating human evaluations into the training process.
110 open RLHF jobs on freehire.
Named alongside RLHF
Jobs asking for RLHF
alibaba
3 hours agoToken Foundry-基础大模型 Post-Training 算法研究员-杭州/北京
NewBe an early applicant APACChina1. 负责大模型 Post-Training 全链路算法建设，覆盖 Pre-SFT、SFT、RLHF、RLVR（PPO / DPO / GRPO 等）各阶段的算法调优与策略设计，提升模型在指令遵循、工具调用、安全合规、多轮交互、long horizon task 等核心维度的综合能力。 2. 负责 Reward Model 的设计、训练与迭代优化，构建 Verifier、LLM as Judge、Rule 等多元 Reward…
Posted 3 hours ago Sign in to see your matchAgentic AI LLM NLP PyTorch RLHF- 3 hours ago
Token Foundry-大模型算法研究员-Qwen Agent
NewBe an early applicant APACChina1. Agent模型后训练： 负责大模型在Agent场景下的后训练（Post-training）工作，提升模型在复杂Agent任务中的表现。 2. 强化学习与RL探索： 设计并优化基于强化学习（RL）的Agent训练框架，提升模型的长期规划能力、试错反思能力及工具调用准确率。 3. 核心能力构建： 针对Agent的核心能力进行专项模型训练与对齐优化。 4. 行业解决方案落地：…
Posted 3 hours ago Sign in to see your matchAI LLM PyTorch RLHF - 3 hours ago
Token Foundry-训练系统算法工程师-Qwen
NewBe an early applicant APACChina1. 训练策略设计与优化： 深入理解预训练与RL后训练（如PPO/GRPO等）算法流程，设计并优化大规模分布式训练策略（3D并行、MoE EP、Context Parallel等），解决RL阶段多模型（Actor/Critic/Rollout/Ref）交互的复杂调度与显存墙问题。 2. 框架定制与二次开发： 基于主流训练框架（如Megatron-LM,…
Posted 3 hours ago Sign in to see your matchDeepSpeed RLHF SOAP - 3 hours ago
Token Foundry-RLHF 算法专家-Qwen
NewBe an early applicant APACChina1. 用户偏好采集与建模：设计并构建系统化的用户偏好数据采集方案，深入分析用户行为与反馈信号，建立多维度、可扩展的用户偏好表征与建模体系，为 Reward Model 训练提供高质量数据基础。 2. Reward Model 训练与优化：训练高精度、低偏差的 Reward Model，覆盖创作质量、指令遵循、安全对齐、人类偏好等多个专项维度；持续优化训练策略，有效缓解 Reward Hacking 与分布偏移问题，为下游 RL…
Posted 3 hours ago Sign in to see your matchAI DeepSpeed LLM NLP Python +2 skills - 4 hours ago
阿里控股-高级算法专家（LLM/MLLM）-基础技术
NewBe an early applicant APACSeniorChina定位：探索下一代模型架构与能力的边界，将通用领域的突破性技术（新型注意力机制、强化学习范式、多模态统一建模等）引入医疗场景，产出具有行业影响力的原创成果。 主要职责 ● 探索下一代模型架构与训练范式，包括但不限于：新型注意力机制与长上下文效率优化、RL/RLHF 等强化学习范式、多模态统一建模、复杂推理思维链等 ● 追踪并复现通用领域的突破性技术，结合医疗数据与场景特点进行适配与创新，形成可度量的能力跃迁 ● 主导从 idea…
Posted 4 hours ago Sign in to see your matchAI LLM RLHF Airbnb
7 hours agoMachine Learning Engineer, Assistance Engineering
Open 0d RemoteNorth AmericaUnited StatesAirbnb was born in 2007 when two hosts welcomed three guests to their San Francisco home, and has since grown to over 5 million hosts who have welcomed over 2 billion guest arrivals in almost every country across the…
Posted 7 hours ago Sign in to see your matchAgentic AI AI AutoGen Automation Fine Tuning +9 skills- 14 hours ago
千问事业部-运动健康 Agent 算法工程师-杭州
NewBe an early applicant APACChina基于智能手表、手环等穿戴设备的多模态生理与运动指标，构建运动健康 Agent，实现对用户健康数据的个性化解读、运动与健康计划生成、实时运动指导，并通过主动服务持续、闭环地管理用户健康。打造自然流畅、有温度、能办事的 AI 健康教练体验。 岗位职责 ● 研发基于大模型的健康解读与对话能力：将 PPG/ECG/IMU 等多传感器指标（心率、心率变异性、血氧、睡眠、压力、运动负荷等）转化为用户可理解、可信赖、循证的个性化健康洞察。 ●…
Posted 14 hours ago Sign in to see your matchAgentic AI AI DeepSpeed LLM PyTorch +3 skills - 14 hours ago
千问事业部-千问医疗对话大模型算法专家-杭州\北京
NewBe an early applicant APACChina1. 负责千问医疗对话大模型的算法研发与业务落地，建设覆盖文字、图片、文档、语音及视频的统一对话能力，支持健康咨询、辅助问诊、报告解读、用药咨询及健康管理等场景。 2. 建设医疗对话核心能力，包括用户意图理解、多轮上下文建模、主动追问与澄清、对话状态与轮次决策、长短期记忆、个性化表达及复杂任务推理。 3. 优化实时语音/视频 Live…
Posted 14 hours ago Sign in to see your matchAgentic AI LLM RAG RLHF - 14 hours ago
千问事业部-千问/夸克-大模型高级算法专家-Chat方向
NewBe an early applicant APACSeniorChina全面负责定义、设计并实现下一代对话系统的核心算法与交互范式，解决当前对话模型在多轮交互、知识应用、共情能力等方面的挑战，探索并引领模型在个性化、主动性、拟人化等前沿方向的技术突破。直接决定数亿夸克用户在Chat场景的与AI 的交互体验，塑造夸克在未来对话式 AI 时代的领先地位。 1. 对话体验定义与规划。深入分析用户意图与行为，结合业务场景，制定并执行对话体验的中长期技术演进路线图。并密切追踪并研究对话式 AI…
Posted 14 hours ago Sign in to see your matchAI LLM NLP Python PyTorch +3 skills