大模型微调实践课--极客时间课程推荐/优惠
手把手带你训练自定义大模型
视频课 | 12讲 | 754人已学习
优惠价¥29原价:68
官网优惠购买
版权声明
本站非极客时间官网,与官方无任何关系。我们不提供课程下载或详细内容,仅作为课程分享和推荐平台。我们鼓励大家支持正版,尊重创作者的劳动成果,这样不仅能帮助创作者持续产出优质内容,也能让自己获得更好的学习体验。请通过官方渠道购买和学习课程,感谢您的理解与支持。
课程详情
课程介绍
本课程为百度智能云与极客时间官方合作课程。
大模型还在快速发展迭代中,大模型应用已经成为一个必选项。但是,利用大模型构建应用也会遇到各种问题,比如缺少特定领域的知识,问题回答的质量差,不能提供个性化服务等等。面对这些问题,现在也已经有比较丰富的实践经验了,那就是对大模型做微调。
课程聚焦大模型微调实践,百度智能云千帆ModelBuilder平台资深算法工程师分享在大模型平台开发过程中积累的实践经验及探索洞察。课程设计三个内容模块,包括:大模型基础知识、大模型微调技巧和大模型微调实践案例演练。以实践为导向,层层深入,带你解决大模型微调一定会遇到的问题。
课程目录
模块一:必备大模型基础知识
- 01|大模型的发展:从GPT-1到ChatGPT的发展历程
- 02|Prompt调教指南:大模型的正确打开方式
- 03|大模型的基石:认识Transformer
模块二:大模型微调技巧攻略
- 04|检索增强生成(RAG):如何让大模型回答更准确?
- 05|模型评估:如何准确测评大模型的能力?
- 06|微调数据准备:如何构造高质量微调数据?
- 07|全量参数微调:如何让大模型完成特定领域任务?
- 08|LoRA微调:如何高效微调大模型?
- 09|Post-Pretrain:如何进一步注入领域知识?
模块三:大模型微调实践演练
- 10|案例1:如何微调一个英语口语练习大模型?
- 11|案例2:如何微调一个作文批改大模型?
- 12|案例3:如何微调一个角色扮演大模型?
作者介绍
赵鹏昊,百度智能云千帆ModelBuilder平台算法负责人,本硕毕业于上海交通大学电子系。主要负责大模型平台上从数据到模型的端到端训练工具链,并带领团队基于此研发千帆中文增强版LLaMA2模型,大幅提升LLaMA2系列的中文对话能力,助力开源模型落地。在百度也深度参与了EasyDL、BML等AI开发平台的建设,负责视觉、文本、机器学习等模型研发工作,打造业界领先的AI开发平台,推进AI落地应用、赋能产业,获得百度骄傲最佳团队奖。曾在InfoQ举办的ArchSummit上分享百度AI开发平台的探索与实践。
李杰,百度智能云千帆ModelBuilder平台算法工程师,毕业于同济大学控制系。主要负责千帆平台上的训练端研发,参与多个LLaMA系列中文增强训练,提升LLaMA系列模型中文对话能力。支持医疗大模型落地,拥有丰富的行业大模型训练经验。在百度也参与了EasyDL、BML等平台的训练端研发,负责目标检测、目标跟踪等模型研发工作。