工作地点:
北京市
工作职责:
1. 参与 AI 应用后端开发,使用 FastAPI/Flask 构建 RESTful API,封装 LLM 推理能力,学习高并发服务架构设计。
2. 协助开展大模型推理优化实验,基于 vLLM、SGLang 测试 Prefix Caching、内核参数,采集 TTFT、TPOT、吞吐等性能指标。
3. 参与 Qwen、LLaMA 等开源模型实验,协助完成 LoRA/QLoRA 微调、GPTQ/AWQ 量化、模型蒸馏、DPO/PPO 对齐,完成模型效果评测。
4. 学习 Docker 容器打包、K8s 推理服务部署,了解 GPU 资源调度、HPA 弹性伸缩、金丝雀发布,协助保障推理服务稳定运行。
5. 参与项目全流程协作,配合团队完成需求评审、开发、测试、上线,熟悉 AI 项目完整交付流程。
6. 加分:掌握 Android/iOS/Flutter/RN 基础开发,可参与端云协同 AI 能力落地调研,协助优化端云链路性能。
任职资格:
1. 计算机、人工智能、软件工程等相关专业硕士应届;扎实计算机基础,熟悉 Python 编程。
2. 熟悉深度学习、大模型基础概念。
3. 了解 GPU、模型推理、微调等基础概念,有 LLaMA/Qwen 等开源模型跑通 demo 经验优先。
4. 了解 Docker、K8s 基础概念,有 Linux 实操经验,能够看懂性能指标。
5. 良好的动手能力,善于做实验、记录与复盘,具备良好沟通和团队协作能力。
6. 加分:移动端开发基础,了解端云协同;熟悉 vLLM/SGLang,做过模型量化 / LoRA 微调项目。