混元大模型量化压缩高级算法工程师

1.参与LLM、多模态大模型压缩加速方案研究，包括投机采样、稀疏化、量化和蒸馏等方法；
2.设计可落地的大模型压缩算法及成本优化方案，助力大模型的性能加速；
3.分析业务性能瓶颈和模型特点，定制化开发大模型压缩优化工具，实现高速推理方案。

1.熟悉深度学习算法基本原理，熟练掌握PyTorch，熟悉Python语言；
2.熟悉主流LLM、多模态模型压缩算法，并且了解硬件及推理库上对于模型压缩的支持方案；
3.具有扎实的数理基础，熟悉常见的算法和数据结构，具有良好的编程习惯；
4.了解大模型算法基本原理，熟悉常见LLM或多模态模型。。加分项：1.有投机采样相关丰富经验，或者其他模型加速的落地实现经验；
2.在主流机器学习顶会上有过论文成果。对模型压缩方向有较深了解，熟悉此领域SOTA方案，积极探索新算法；
3.了解GPU硬件架构，有CUDA编程经验，熟悉各种网络底层算子实现细节；
4.有过大模型训练/推理调优实操经验，熟悉其中的原理和技术方案。