岗位大厅/Other/推理框架开发工程师

追觅科技 · 21天前 · 来源 国内官方招聘渠道

推理框架开发工程师

China办公方式未标注
全职Other
薪资未披露

🛡 岗位真实性核验

Ghost Job 检测

🛡 申请链接 核验有效

信号由后台自动核验生成,仅供参考;判断权在你。设计案:GHOST-JOB-P1

🎯

必备技能

AIC++PythonvLLM

免费注册后解锁"你的匹配分 vs 高分画像"与个人技能缺口。

💼

职位描述

1、基于自研AI加速卡及相关软件栈,开发大模型推理框架,实现框架功能;
2、端到端调通大模型,优化推理性能、调试精度和准确率;
3、根据实际需求,承担部分算子的开发和优化工作;
4、开发服务接口、对接外部服务接口,按业务要求达成各种测试要求,实现大模型推理框架落地;
1、C++ , Python 编程熟练 ;
2、熟悉常用的大模型推理框架, 包括但不限于 vLLM /SGlang等,了解prefixcache/ chunkprefill/ continousbatching/ scheduler/ worker/ runner/ pd分离/ mtp等;
3、了解大模型网络结构的一种或多种,包括但不限于 deepseek系列/qwen3.6系列/qwen3/Llama等;
4、了解大模型常用 算子及优化方法,包括但不限于 各种 attention, GEMM , RoPE,通信算子等。
5、熟悉 MLIR 或 TVM;

🈯 翻译这份 JD · 红灯 0 / 黄灯 0 / 绿灯 0点开 ▾
没扫到常见信号词。这份 JD 直白得不常见——面试里照常确认节奏、汇报线和薪酬范围就好。
没扫到常见信号词——这份 JD 直白得不常见。照常确认节奏、汇报线和薪酬范围。
词典只标"常见信号",不对公司下结论——红灯 = 面试里该当面确认的问题。想自己翻别的 JD:JD 翻译器 →
🏢

公司 · Company

追觅科技

—

China来源:国内官方招聘渠道

⚑ 岗位信息收录自公开招聘页(国内官方招聘渠道),以雇主官网为准