AI 人工智能课程: 高性能神经网络与AI芯片应用研修课程

高性能神经网络与AI芯片应用
研修课程

构建高性能AI算法的软硬件视角
解决应用落地时神经网络的优化和部署相关问题

越来越多的IoT设备和场景需要与数据采集点以最接近的低时延来进行决策和操作；另外IoT物联设备生成的数据量通常很大，由于运营成本、时间和隐私方面的考虑，移动和存储所有生成的数据不太可行。
AI技术的一个趋势是在设备端上部署高性能的神经网络模型，并在真实场景中实时运行。如移动端/嵌入式设备，这些设备的特点是内存资源少，处理器性能不高，功耗受限，这使得目前精度最高的模型根本无法在这些设备进行部署和达到实时运行。

如果我们对神经网络模型进行特殊处理，而几乎不怎么影响模型的推理计算精度，则使得设备端的推理和计算变为可能。
事实上，目前已经有较为成功的设备端推理计算技术，来实现边缘智能。一些技术已经在各种各样的芯片和嵌入式设备上应用并产生巨大经济价值。

高性能神经网络与AI芯片应用
研修课程

构建高性能AI算法的软硬件视角
解决应用落地时神经网络的优化和部署相关问题

边缘AI技术到底有多火爆

IDC公司预测，到2025年，物联网设备数量预计将超过560亿台。MarketsandMarkets则表示，2020年全球边缘计算市场规模约为36亿美元。预计到2025年将增长到157亿美元，复合年增长率达到惊人的34.1%。在边缘的AI用例以及对经济的影响将变得巨大。EdgeAI可用于监视和监控目标、自动驾驶车辆、智能扬声器和工业物联网。而像新冠肺炎等流行病则加速了边缘AI的应用。麦肯锡预测，到2025年，仅涉及物联网(IoT)应用所产生的经济价值将在每年3.9万亿美元至11.1万亿美元之间。

不逊于NLP算法薪资和招聘需求

目前招聘平台上，关于边缘AI算法类人才的需求，也是非常火爆，非常多的大厂都在疯狂揽人，其招聘岗位数量和薪资甚至不逊于NLP算法工程师。

边缘计算AI工程师

量化压缩算法工程师

嵌入式算法工程师

高性能计算工程师

......

内容亮点

全面技术讲解

课程涵盖了轻量化神经网络设计、神经网络部署前的优化方法、神经网络编译器的设计模式和具体实现、神经网络部署到芯片上的计算加速等全面的边缘AI算法技术

软硬件相结合

本课程除了全面讲解高性能神经网络相关的知识技术以外，还会指导学员在硬件上进行实操。课程使用EAIDK310和嘉楠勘智K210开发板作为教学材料

专家导师授课

课程导师为嵌入式算法行业在职专家，边缘计算项目经验丰富；通过学习+实操，短期内对边缘AI技术有全面深入认知，大大节省学习时间；并进入边缘AI算法圈子，认识一群拥有同样兴趣的人

本计划申请制，择优录取，每月仅限20人

申请者提交简历通过审核后，可以进入项目

课程大纲

项目介绍

模型轻量化

项目内容描述：mobilenet和shufflenet，squeezenet等，模型量化，剪枝和蒸馏技术，网络的计算量和内存分析的工具，主干网络的轻量化，检测网络的轻量化，分割网络的轻量化，不同框架提供的加速方案。

项目使用的数据集：

COCO，ADE20k，ImageNet

项目使用的算法：

模型量化，模型剪枝和模型

项目使用的工具：

python，c/c++，pytorch，tensorflow，distiller，ncnn

项目预期结果：

学员掌握轻量化网络设计准则，模型轻量化技术，能够上手操作一个网络部署前的优化

项目对应第几周的课程：

1-4周

神经网络编译器

项目内容描述：tvm，ncnn，mnn，tnn 各自的特点，对于神经网络的优化方案，tvm的具体设备的优化方案，算子融合，路径优化，内存优化，ncnn的网络的表示数据结构，ncnn的一些优化计算的思路，量化方法，mnn中的数据结构，模型转换和量化方法，tnn和ncnn的区别，系统架构，量化方法。

项目使用的算法：

离线量化，在线感知量化

项目使用的工具：

python，c/c++，tvm，ncnn，tnn，mnn

项目预期结果：

学员对于神经网络编译器有全景的了解，对于主流神经网络编译器能够实践使用，完成模型到芯片所需要格式的转换

项目对应第几周的课程：

5-8周

通用芯片加速技术

项目内容描述：cpu，arm对应的指令集级别的加速，编译器中具体的优化策略，simd，avx，sse，openblas，neon，和cpu中对于卷积的运算加速方案，cpu上的具体实例，arm上的具体实例，环境配置，神经网络的例子，加速方案的组合和实际效果。

项目使用的算法：

simd，avs，sse，blas，winograd

项目使用的工具：

nnpack，qnnpack，lowpgemm，tvm，ncnn

项目预期结果：

学员深入掌握cpu，arm等芯片的神经网络加速技术，并且通过一个具体例子来看具体的加速效果。

项目对应第几周的课程：

9-12周

专用芯片加速技术

项目内容描述：gpu，和 k210 npu及各自神经网络编译器中的加速优化技术，gpu上的cuda加速的方法，cublas，opencl，vulkan的开发例子，nncase上编译一个网络，maxipy的k210环境配置，及人脸检测模型的部署。

项目使用的算法：

人脸检测

项目使用的工具（编程语言、工具、技术等）：

Python，C/C++，opencl，vulkan，nncase

项目预期结果：

学员可以深入掌握gpu及npu上神经网络的编译加速，并且通过一个具体的例子来完成人脸检测模型在k210芯片上的部署。

项目对应第几周的课程：

13-16周

授课方式

基础知识讲解

前沿论文解读

论文代码复现

该知识内容的实际应用

该知识的项目实战

该方向的知识延申及未来趋势讲解

课程团队

李文哲

贪心科技CEO

美国南加州大学博士；曾任独角兽金科集团首席数据科学家、美国亚马逊和高盛的高级工程师；金融行业开创知识图谱做大数据反欺诈的第一；人先后在AAAI、KDD、AISTATS、CHI等国际会议上发表过15篇以上论文

Jerry Yuan

贪心科技CTO

美国微软(总部)推荐系统部负责人；美国亚马逊(总部)资深工程师；美国新泽西理工大学博士；14年人工智能, 数字图像处理和推荐系统领域研究和项目经验；先后在AI相关国际会议上发表20篇以上论文

蓝振忠

课程研发顾问

ALBERT模型的第一作者；西湖大学特聘研究员和博士生导师；Google AI实验室科学家；美国卡耐基梅隆大学博士；先后在NIPS, CVPR, ICCV, IJCAI等会议发表30篇以上论文，1000+引用次数

主讲老师

王欢

肇观科技算法总监

华中科技大学模式识别与人工智能硕士；原拼多多、同盾科技等公司算法工程师，AI算法领域从业15+年。

你将收获

掌握神经网络高性能实现的算法及工具。

掌握通用芯片及专用AI芯片架构及网络加速技术。

掌握通用芯片及专用AI芯片神经网络部署应用的实际案例。

短期内对一个领域有全面的认识，大大节省学习时间。

认识一群拥有同样兴趣的人、相互交流、相互学习。

适合人群

大学生

编程及深度学习基础良好，为了想进入AI芯片行业发展

在职人士

想进入AI芯片行业的算法或IT工程师

想通过掌握硬件技术，拓宽未来职业路径的AI算法工程师

入学标准

掌握python、C++开发

掌握深度学习的基础知识

带有对学习知识的热情