欢迎来到陕西招聘网!我们不定时为陕西求职者免费发布西安、宝鸡、咸阳、 铜川、渭南、 延安、榆林、汉中、安康、商洛等陕西各地岗位招聘信息,帮助求职者找到心仪的工作。


职位月薪: 面议
岗位职责: 1、负责大模型/深度学习模型在AI硬件平台上的推理部署、性能调优和交付落地,提升吞吐、降低延迟和资源成本。 2、负责 vLLM、TGI、TensorRT-LLM、MindIE 等推理框架的适配、优化和问题定位。 3、设计并落地量化、混合精度、蒸馏、剪枝、算子融合、KV Cache 优化等推理加速方案。 4、定位并解决推理过程中的性能瓶颈、精度下降、显存不足、算子不支持、服务稳定性等复杂问题。 5、沉淀推理调优方法论、Benchmark 规范、最佳实践和交付文档,支持重点客户项目落地。 任职要求: 1、本科及以上学历,并取得相应学位,计算机相关专业,具备扎实的编程能力; 2、具备对应岗位方向的知识储备,熟悉业界及开源常见解决方案者优先(之一); 3、有LLM(大语言模型)推理系统开发或优化经验者优先。
微信扫一扫,及时了解投递状态
您目前还没有登录:立即登录岗位职责: 1、负责大模型/深度学习模型在AI硬件平台上的推理部署、性能调优和交付落地,提升吞吐、降低延迟和资源成本。 2、负责 vLLM、TGI、TensorRT-LLM、MindIE 等推理框架的适配、优化和问题定位。 3、设计并落地量化、混合精度、蒸馏、剪枝、算子融合、KV Cache 优化等推理加速方案。 4、定位并解决推理过程中的性能瓶颈、精度下降、显存不足、算子不支持、服务稳定性等复杂问题。 5、沉淀推理调优方法论、Benchmark 规范、最佳实践和交付文档,支持重点客户项目落地。 任职要求: 1、本科及以上学历,并取得相应学位,计算机相关专业,具备扎实的编程能力; 2、具备对应岗位方向的知识储备,熟悉业界及开源常见解决方案者优先(之一); 3、有LLM(大语言模型)推理系统开发或优化经验者优先。
企业尚未更新
陕西省
扫描二维码及时订阅职位
最新职位信息第一时间知晓
扫码下载APP

扫码进小程序

服务信息
联系电话: 02987879230 杨老师
服务时间:08:00-18:00
Copyright 2012-2022 陕西招聘网 All Rights Reserved
详细地址:江西省南昌市青山湖区高新大道万象汇9号楼7楼
360行任你挑选
分秒必争直达HR
谁看我简历早知道
请使用微信【扫一扫】
关注「易职邦人才招聘网」公众号完成登录
客服电话:400-765-0056
竭诚为您服务
服务时间08:00-24:00
微信小程序
面试通知
收藏
简历
足迹
微信求职
关注公众号
掌握最新求职动态
小程序
进入小程序
随时随地找工作