课程亮点

贪心科技

最全的预训练内容

BERT、GPT、BART、T5、DALLE

贪心科技

答疑服务

即时答疑的方式,助教老师会尽快回答大家在学习中遇到的问题

贪心科技

深入的内容

有深度的内容、涵盖目前所能找到的最前沿的内容

贪心科技

专业的授课团队

在本领域有着多年工程和科研经验的导师

贪心科技

对科研、出国也有帮助

为以后做相关课题的科研、以及出国留学有很大帮助

贪心科技

提高创新能力

深入一个领域是技术创新所必须的条件

课程概要

贪心科技

凸优化在人工智能领域有着举足轻重的地位,对于模型的训练实际上等同于对模型的优化。我们平时使用的sgd, adam, adagrad, L-BFGS这类算法均属于优化范畴。在AI的应用中,当我们构造了目标函数之后,接下来的工作即便是优化部分。那为什么理解凸优化这么重要呢? 设想一下,如果你想设计一个新的模型,或者在原有的模型基础做一些创新,那对于新构造的目标函数,你需要懂得如何去优化,以及用什么样的优化算法才能解除更好的局部最优解。 所以,如果你今后想做一些模型的改造、以及想看懂顶会文章的细节,凸优化是必备的基础。对于想深入AI领域的人来讲,学习凸优化是必不可少的。

贪心科技

你将收获

贪心科技

全面掌握凸优化相关的前沿技术、灵活应用在自己工作中

贪心科技

能够了解各类凸优化技术的实现方式,并熟练掌握其关键技术与方法

贪心科技

深入理解前沿的凸优化技术,有助于为后续的科研打下基础

贪心科技

完成一个课题,有可能成为一个创业项目或者转换成你的科研论文

贪心科技

短期内对一个领域有全面的认识,大大节省学习时间

贪心科技

认识一群拥有同样兴趣的人、相互交流、相互学习

课程大纲

凸优化

大纲

贪心科技

第一周:凸优化介绍

从优化角度理解机器学习
凸优化的重要性
常见的凸优化问题
线性规划以及Simplex Method
Stochastic LP
运输问题讲解
投放优化问题讲解

第二周:判定凸函数

凸集的判断
First-order Convexity
Second-order convexity
Operations preserve convexity
二次规划问题(QP)
最小二乘问题
股票投资组合优化

第三周:常见的凸优化问题

常见的凸优化问题类别
半定规划问题(semi-definite programming)
几何规划问题(geometric programming)
非凸函数的优化
松弛化(relaxazation)
整数规划(integer programming)
打车中的匹配问题

第四周:优化与量化投资

量化投资概述
如何阅读K线图
基于规则的量化策略
基于多因子模型的量化策略
基于机器学习模型的量化策略
基于LP, QP优化的量化策略
Efficient Frontier, Sharp Ratio
量化平台:量化策略编写实战作业讲解SDP

第五周:对偶(Duality)

拉格朗日对偶函数
对偶的几何意义
Weak and Strong Duality
KKT条件
LP, QP, SDP的对偶问题
对偶的其他应用
典机器学习模型的对偶推导及实现

第六周:一阶与二阶优化技术

Gradient Descent
Subgradient Method
Proximal Gradient Descent
Projected Gradient Descent
Stochastic Gradient Descent与收敛
Newton's Method
Quasi-Newton Method
L-BFGS

第七周:优化技术进阶

Mirror Ascent
分布式SGD
Interior Point Method
ADMM
Sparsity与优化
Combinatorial优化

论文列表

贪心科技

1、Dynamic Pricing and Matching in Ride-Hailing Platforms

2、A taxi order dispatch model based on combinatorial optimization

3、Aircraft Design Optimization

4、101 Formulaic Alphas

5、Adam: A Method for Stochastic Optimization

6、Adaptive Subgradient Methods for Online Learning and Stochastic Optimization

7、A Survey of Optimization Methods from a Machine Learning Perspective

8、A Comparison of Optimization Algorithms for Deep Learning

9、ADADELTA: An Adaptive Learning Rate Method

10、A novel particle swarm optimization algorithm with Levy flight

11、A survey of swarm intelligence for dynamic optimization: Algorithms and applications

项目部分

贪心科技

固定项目

贪心科技

优化与量化投资

概要:量化投资作为金融领域一大分支,今年来受到了很大的关注。在这个项目中,我们将使用在课程中已学过的优化技术来搭建买卖策 略,并在平台上做回测,最终得到策略的效果。这个项目的主要目的有以下几种:1. 了解并掌握量化投资领域,虽然跟很多人的工作关系不大,但毕竟是一个新兴领域,而且跟 AI 技术的结合比较紧密,强烈建议借此机会学习。2. 掌握并实战优化技术,通过编写真正的策略会真正明白优化技术如何应用在工业界环境中。3. 基于给定的优化方法,自己试着去改进并创造新的优化方法,让回测效果更好。

涉及到的技术:

量化投资

凸优化

二次规划

适合人群

贪心科技

大学生

理工科相关专业的本科/硕士/博士生,想系统性学习凸优化技术
希望今后从事人工智能相关的工作
希望今后想从事相关研究
贪心科技

在职人士

目前从事IT相关的工作,但今后想从事人工智能相关的工作
目前在公司涉及一些关于模型创新的工作,对于凸优化想系统学一下
希望能够及时掌握前沿的优化技术

入学标准

贪心科技

理工科相关专业学生,或者IT从业者

贪心科技

具有良好的Python编程能力、深度学习基础

贪心科技

有一定的机器学习基础

或者成功完成贪心学院以下课程中的任意一门:

中级机器学习

高阶自然语言处理、或者同级别其他课程

课程团队

贪心科技

李文哲老师

贪心学院CEO

曾任凡普金科集团首席数据科学家、 美国亚马逊和高盛的高级工程师, 是金融行业开创知识图谱做大数据反欺诈的第一人。 美国南加州大学博士, 先后在AAAI、KDD、AISTATS、CHI等国际会议上发表过15篇以上论文

毕业证书

对于成功完成每个模块内容的学员,我们会颁发对应模块的毕业证书(注:必须要达到及格标准)

贪心科技

助教老师课上辅导&课下答疑

闫老师

(周一到周日)

贪心学院高级助教老师
负责过高阶nlp3,4,5,6,7,8,9
高阶机器学习1,2,3,4
中级机器学习等课程答疑
人大硕士,曾经就职于网易,阿里等科技巨头
目前任某国家研究院NLP工程师

常见问题

1、参加本课程有什么要求?

参加本课程需要一定的机器学习基础。

2、学完课程能达到什么水平?

能够系统性理解凸优化技术、有能力自主设计新的模型,并应用在工程中; 或者有能力从事科研相关的工作。

3、课程中的理论和实操比例是怎样的?

课程中会有大量较为深入的技术讲解,由浅入深,理论部分会很充实。 另外,你通过完成课题的方式来完成实战部分。

4、课程支持哪些付费方式?

支付宝、微信、银行卡、公对公打款、paypal付款。

5、加入课程,最后怎样才能拿到证书?

对于证书我们坚持高门槛,只有达到及格线我们才会颁发证书。