腾讯智能座舱-端侧大模型推理工程师

1.负责大模型在端侧推理的SDK研发，性能优化；
2.负责不同端侧硬件平台(高通和 MTK的NPU)的适配开发；
3.负责端侧推理sdk工程化开发，工具开发，效率提升等工作。

1.本科及以上学历，计算机科学、电子信息、自动化等相关专业背景，熟悉计算机体系结构；
2.具备AI模型部署及优化开发经验，熟练掌握c++，java开发：；
3.精通Transformer架构，熟悉Llama、GPT等主流大模型技术栈；
4.至少熟练使用一种推理框架（vLLM/ONNX Runtime/TensorRT/DeepSpeed等），有部署经验；
5.掌握性能分析工具（Nsight、PyTorch Profiler等）；
6.有android开发经验优先。。加分项：1.在同等条件下，通过腾讯云认证或取得同等资格认证的候选人，我们会优先考虑。