基于Transformer的客服对话系统

项目内容描述：在本项目中，我们会带领大家实现基于Transformer模型实现自然语言理解（NLU）模块和自然语言生成（NLG）模块。客服对话系统主要实现了自动与用户进行对话的功能，并且帮助用户完成特定的任务，如订机票、酒店、餐馆等。客服对话系统是任务导向对话系统（Task-oriented Dialogue System）中最广泛的一种应用。客服对话系统中最重要的两个模块即为自然语言理解（NLU）模块和自然语言生成（NLG）模块。

项目使用的算法：TextCNN/LSTM；BERT/RoBERTa；CRF；对比学习（Contrastive Loss/Triplet Loss）

项目使用的工具：Python；Pytorch；Elasticsearch；Transformers

项目预期结果：使用基于Transformer的预训练模型实现意图识别模块：a)熟练掌握基于CNN/LSTM的文本分类/序列标注模型；b)熟练掌握基于Transformer的预训练模型的微调方法；c)掌握模型压缩的方法。使用基于Transformer的预训练模型实现检索式对话模型：a)掌握基于Elasticsearch的粗筛模块开发；b)熟练掌握基于Transformer的预训练模型的文本匹配算法

项目对应第几周的课程：1-4周

基于Transformer文本生成模型

项目内容描述：在本项目中，我们会带领大家实现基于Transformer模型的生成式NLG模型。虽然这种类型的NLG模型存在一定的不可控性，但是随着预训练模型技术的发展，我们已经可以得到非常令人振奋的生成效果。甚至在某些特定领域，基于预训练Transformer模型所构建的文本生成已经开始创造巨大的商业价值（如文本摘要，代码生成，心理咨询等）。

项目使用的算法：自回归语言模型（Auto-regressive Language Model）、Multi-input Self-Attention、Top-K/Unclear Sampling、Beam Search、Copy Mechanism

项目使用的工具：Python；Pytorch

项目预期结果：实现基于预训练Transformer的生成式NLG模型。了解文本生成模型的常用技术，包括：a)自回归语言模型中的MLE loss；b)文本生成模型中的各种解码技术；c)使用数据并行的方式利用多张GPU训练模型。有能力独立开发和优化基于预训练模型的文本生成模块。

项目对应第几周的课程：第1，2，5，6，7周

基于ViT 模型的图像识别系统

项目内容描述：作为Transformer在视觉领域的一个经典应用案例，ViT模型第一次将NLP领域中Transformer思想应用到图像领域，为后续的一系列Transformer in Vision 设计工作都提供了很好的思路启发。追根溯源，我们将以ViT模型做图像分类任务为例，开启一段如何将Transformer思想应用到视觉领域之旅。

项目使用的算法：ViT model；Cross-entropy loss；Multi-label/multi-class classification；Self-attention；LSTM/GRU

项目使用的工具：Python；Pytorch；OpenCV；ViT

项目预期结果：首先让学生自己动手实现ViT模型，在数据集上测试结果。然后根据官方的实现做对比，如果差异较大需要自己查找原因。掌握如何将Transformer中token, self-attention 思想应用到图像领域。触类旁通，希望学生能够在深刻理解的基础上，能够学生将Transformer思想用到其他相关问题中去。掌握ViT的训练方法，让学生跑完这个pipeline。从数据准备，模型训练，参数调节，到模型测试，指标计算等。

项目对应第几周的课程：1-3周

基于SwinTransformer 模型的图像分类，目标检测任务

项目内容描述：我们在上一个项目中学习了ViT模型，一个成功将Transformer应用到视觉分类问题的视觉Transformer模型。但是ViT模型的设计还是比较单一，存在一些不足。尤其是对图像中存在的问题，例如尺度变换问题没有很好的解决，并且没有考虑到效率问题。在本项目中，我们将学习另一个进阶版的视觉Transformer模型: SwinTransformer模型。

项目使用的算法：SwinTransformer；Cross-Entropy Loss；Regression Loss；Forward-Backward Propagation

项目使用的工具：Python；Pytorch；OpenCV

项目预期结果：学生自己实现SwinTransformer代码（也可参照官方实现），并且参照官方实现优化自己的实现，如果实验效果差异较大，学生需要查找原因。体会用SwinTransformer来做目标检测的思想。掌握如何从代码角度优化实现SwinTransformer的self-attention机制从局部扩展到全局。学生掌握如何将Transformer思想应用到自己工作或者学习中的实际问题中去。

项目对应第几周的课程：6-7周

金融隐私计算实战

项目内容描述：讲解联邦学习和隐私计算相关的概念、联邦学习和隐私计算的发展、联邦学习的基础技术（隐私保护技术和分布式学习技术）、横向联邦学习定义、横向联邦学习架构及算法详解，最终使用隐私计算构建金融领域风控模型。

项目使用的算法：横向联邦学习

项目使用的工具：FATE/examples/data，开源数据集

项目预期结果：熟悉联邦学习和隐私计算相关知识和基本概念，熟悉横向联邦学习定义及架构，学会横向联邦学习算法并基于隐私计算实现金融领域风险监测。

项目对应第几周的课程：1-4周

基于联邦学习的金融领域风险监测实战

项目内容描述：讲解纵向联邦学习定义、纵向联邦学习架构及算法详解，讲解联邦迁移学习定义、联邦迁移学习架构及算法详解，讲解联邦学习在业界的应用现状和典型案例，最终使用开源框架FATE实现一个金融领域风险监测模型的构建。

项目使用的算法：联邦学习

项目使用的工具：Python、开源框架FATE

项目预期结果：熟悉纵向联邦学习、联邦迁移学习定义及架构，学会纵向联邦学习、联邦迁移学习算法，并基于开源框架FATE实现一个金融领域风险监测模型。

项目对应第几周的课程：5-8周