课程亮点

贪心科技

最全的贝叶斯相关内容

贝叶斯深度学习、MCMC、VAE、贝叶斯优化、主题模型等

贪心科技

答疑服务

即时答疑的方式,助教老师会尽快回答大家在学习中遇到的问题

贪心科技

深入的内容

有深度的内容、涵盖目前所能找到的最前沿的内容

贪心科技

专业的授课团队

在本领域有着多年工程和科研经验的导师

贪心科技

对科研、出国也有帮助

为以后做相关课题的科研、以及出国留学有很大帮助

贪心科技

提高创新能力

深入一个领域是技术创新所必须的条件

课程概要

贪心科技

机器学习技术是整个AI的基础,对机器学习的理解以及深度决定了在AI领域能够走多远。机器学习看似简单,但它是一门博大精深的学科。在这门课程中,我们将传授给大家机器学习领域最为重要的几个技术,包括最近特别流行的图神经网络,在原有第一版的基础上做了大幅度的更新,包括内容的增加、开放式项目的安排。 在课程中,我们由浅入深的讲清楚每一个核心的细节以及前沿的技术、同时你将有机会参与到课题中,并通过课题来增加对领域的认知,让自己的能力更上一层。 课程特别适合想持续深造的人士, 想跑在技术前沿的人士。

贪心科技

你将收获

贪心科技

全面掌握机器学习领域技术,能够灵活应用在自己的工作中

贪心科技

理解凸优化、强化学习、图神经网络、深度贝叶斯技术

贪心科技

深入理解前沿的技术,有助于为后续的科研打下基础

贪心科技

完成一系列课题,有可能成为一个创业项目或者转换成你的科研论文

贪心科技

短期内对一个领域有全面的认识,大大节省学习时间

贪心科技

认识一群拥有同样兴趣的人、相互交流、相互学习

课程大纲

第一阶段:凸优化技术

大纲

贪心科技

第一周:凸优化介绍

从优化角度理解机器学习
凸优化的重要性
常见的凸优化问题
线性规划以及Simplex Method
Stochastic LP
运输问题讲解
投放优化问题讲解

第二周:判定凸函数

凸集的判断
First-order Convexity
Second-order convexity
Operations preserve convexity
二次规划问题(QP)
最小二乘问题
股票投资组合优化

第三周:常见的凸优化问题

常见的凸优化问题类别
半定规划问题(semi-definite programming)
几何规划问题(geometric programming)
非凸函数的优化
松弛化(relaxazation)
整数规划(integer programming)
打车中的匹配问题

第四周:优化与量化投资

量化投资概述
如何阅读K线图
基于规则的量化策略
基于多因子模型的量化策略
基于机器学习模型的量化策略
基于LP, QP优化的量化策略
Efficient Frontier, Sharp Ratio
量化平台:量化策略编写实战作业讲解SDP

第五周:对偶(Duality)

拉格朗日对偶函数
对偶的几何意义
Weak and Strong Duality
KKT条件
LP, QP, SDP的对偶问题
对偶的其他应用
典机器学习模型的对偶推导及实现

第六周:一阶与二阶优化技术

Gradient Descent
Subgradient Method
Proximal Gradient Descent
Projected Gradient Descent
Stochastic Gradient Descent与收敛
Newton's Method
Quasi-Newton Method
L-BFGS

第七周:优化技术进阶

Mirror Ascent
分布式SGD
Interior Point Method
ADMM
Sparsity与优化
Combinatorial优化

论文列表

贪心科技

1、Dynamic Pricing and Matching in Ride-Hailing Platforms

2、A taxi order dispatch model based on combinatorial optimization

3、Aircraft Design Optimization

4、101 Formulaic Alphas

5、Adam: A Method for Stochastic Optimization

6、Adaptive Subgradient Methods for Online Learning and Stochastic Optimization

7、A Survey of Optimization Methods from a Machine Learning Perspective

8、A Comparison of Optimization Algorithms for Deep Learning

9、ADADELTA: An Adaptive Learning Rate Method

10、A novel particle swarm optimization algorithm with Levy flight

11、A survey of swarm intelligence for dynamic optimization: Algorithms and applications

项目部分

贪心科技

固定项目

贪心科技

优化与量化投资

概要:量化投资作为金融领域一大分支,今年来受到了很大的关注。在这个项目中,我们将使用在课程中已学过的优化技术来搭建买卖策 略,并在平台上做回测,最终得到策略的效果。这个项目的主要目的有以下几种:1. 了解并掌握量化投资领域,虽然跟很多人的工作关系不大,但毕竟是一个新兴领域,而且跟 AI 技术的结合比较紧密,强烈建议借此机会学习。2. 掌握并实战优化技术,通过编写真正的策略会真正明白优化技术如何应用在工业界环境中。3. 基于给定的优化方法,自己试着去改进并创造新的优化方法,让回测效果更好。

涉及到的技术:

量化投资

凸优化

二次规划

第二阶段:图神经网络技术

大纲

贪心科技

第一周:数学基础(1)

空间向量和图论
Inner Product, Hilbert Space
傅里叶变化
Eigenfunction,Eigenvalue
CNN的卷积和池化
介绍cnn的卷积层
如何卷积,信息如何传递
池化层的作用和基本设计

第二周:数学基础(2)

Subgraph
Network Motif
Network Community Detection
拉普拉斯算子
拉普拉斯矩阵
SVD
QR分解
基本向量机分解
block分解
拉普拉斯算子和矩阵的数学意义

第三周:图卷积

卷积的几何意义
图卷积
ChebNet
GCN
Graph Pooling
MCMC介绍
Importance Sampling
Rejection Sampling

第四周:边嵌入的图卷积

Spatial Convolution
Mixture Model Network
Attention机制
Graph attention network
Edge Convolution
近似优化问题
减少计算量的介绍

第五周:图卷积的应用

NRI
Relative GCN
Knowledge GCN
ST-GCN
Graphsage的设计
Graphsage的应用

第六周:GNN的相关模型

GNN
Deepwalk
Node2vec
Struc2vec
HyperGCN
HGCN的设计和应用

论文列表

贪心科技

1、Learning Convolutional Neural Networks for Graphs

2、Semi-supervised classification with graph convolutional networks

3、Convolutional neural networks on graphs with fast localized spectral filtering

4、Deep Convolutional Networks on Graph-Structured Data

5、Graph Attention Networks

6、Inductive Representation Learning on Large Graphs

7、HyperGCN: A New Method of Training Graph Convolutional Networks on Hypergraphs

8、Modeling relational data with graph convolutional networks

项目部分

贪心科技

固定项目

贪心科技

基于GCN的链路预测

概要:链路预测(Link Prediction)是通过已知的网络节点以及网络结构等信息预测网络中尚未产生连边的两个节点之间产生链接的可能性。近几年在线社交网络发展非常迅速,链路预测可以基于当前的网络结构去预测哪些尚未结交的用户“应该是朋友”,并将此结果作为“朋友推荐”发送给用户:如果预测足够准确,显然有助于提高相关网站在用户心目中的地位,从而提高用户对该网站的忠诚度。另外,链路预测的思想和方法,还可以用于在已知部分节点类型的网络中预测未标签节点的类型——这可以用于判断一篇学术论文的类型或者判断一个手机用户是否产生了切换运营商(例如从移动到联通)的念头。

涉及到的技术:

GCN

GAT

KGCN

相似度计算

图论

第三阶段:贝叶斯深度学习技术

大纲

贪心科技

第一周:贝叶斯机器学习介绍

贝叶斯定理
MLE,MAP以及贝叶斯估计
集成模型与贝叶斯方法比较
贝叶斯推理中的困难
贝叶斯近似算法介绍
贝叶斯线性回归
案例:基于贝叶斯线性回归的股价预测
线性回归于岭回归
贝叶斯线性回归模型
Probabilistic Programming
Edwin的使用以及实战

第二周:贝叶斯NB与LDA

贝叶斯朴素贝叶斯模型的生成过程
概率图表示方法
主题模型的应用
主题模型的生成过程
基于LDA的文本分析
LDA的应用场景
LDA应用在文本分析中
LDA代码剖析

第三周:MCMC采样技术

MCMC采样技术介绍
吉布斯采样
Bayesian NB的求解
LDA与吉布斯采样
各类采样技术
Importance Sampling
Rejection Sampling

第四周:变分法技术

KL散度
ELBo的构造
变分法目标函数
坐标下降法
求解LDA的参数
基于贝叶斯深度学习的推荐系统搭建
SVI的介绍
贝叶斯深度学习
基于SVI的求解

第五周:贝叶斯深度学习

贝叶斯深度学习的应用
贝叶斯与VAE
Reparameterization Trick
深度生成模型
基于VAE的文本生成
贝叶斯模型与不确定性
MC Dropout介绍
MC Dropout证明

第六周:贝叶斯深度学习与自然语言处理

贝叶斯序列模型
词性标注于实体识别
基于贝叶斯图神经网络的文本分析
基于贝叶斯神经网络的命名实体识别
Adversial Learning介绍
Adversial Attack
基于GNN的Adversial Learning

第七周:高斯过程与贝叶斯优化

高斯分布
高斯过程
超参数的学习
AutoML技术
贝叶斯优化及应用

论文列表

贪心科技

1、Latent dirichlet allocation

2、Bayesian learning via stochastic gradient Langevin dynamics

3、What uncertainties do we need in bayesian deep learning for computer vision?

4、A survey on Bayesian deep learning

5、Evaluating bayesian deep learning methods for semantic segmentation

6、Deep Bayesian natural language processing

7、Quantifying uncertainties in natural language processing tasks

8、An introduction to MCMC for machine learning

9、Bayesian graph convolutional neural networks for semi-supervised classification

10、November. Bayesian graph neural networks with adaptive connection sampling

11、Practical bayesian optimization of machine learning algorithms

12、Stochastic variational inference

项目部分

贪心科技

固定项目

贪心科技

基于修改版LDA的无监督情感分析模型

概要:本项目的目的是如何基于LDA来自动抽取文本中的情感,这个项目涉及到对于LDA模型的改造以及对于新模型的推导,具有一定的挑战。在本项目中,我们会一步步引导学员去设计模型,并对模型做出吉布斯采样的全部推导过程以及实现环节。通过此项目,学员会亲身体会整个贝叶斯模型的设计和训练过程。

涉及到的技术:

主题模型

吉布斯采样

Collapsed吉布斯采样

无监督情感分析

第四阶段:深度强化学习

大纲

贪心科技

第一周:强化学习基础(1)

Markov Decision Process
Bellman Equation
Dynamic Programming
Model-free Prediction
Monte Carlo Learning
TD Learning

第二周:强化学习基础(2)

Model free Control
On-Policy Monte Carlo Control
On-Policy TD Learning
SARSA, SARSA Lambda
Off-policy
Importance Sampling, Q-Learning

第三周:强化学习基础(3)

Policy Gradient
Deep Reinforcement Learning
Actor Critic
Advanced Reinforcement Learning

第四周:探索、实施、推荐系统

Multi Armed Bandits
Explore and Exploit
Thompson Sampling
Epsilon Greegy
Upper Confidence Bound
Reinforcement Learning and Recommendation system
Epsilon greedy
UCB

第五周:多智能体的强化学习与稀疏Reward设计

Multi agent Reinforcement Learning
Sparse reward Design
Inverse RL
Master the game of Go without human knowledge
AlphaGo 围棋强化学习论文解读

第六周:强化学习在NLP、量化、游戏中的应用

Reinforcement Learning Application
Reinforcement Learning with NLP
Reinforcment Learning with quatitive trading
Reinforcement Learning with Game
SeqGan 代码讲解

论文列表

贪心科技

1、Human-level control through deep reinforcement learning

2、Mastering the game of go without human knowledge

3、Resource management with deep reinforcement learning

4、Tuning recurrent neural networks with reinforcement learning

5、The predictron: End-to-end learning and planning

6、Towards generalization and simplicity in continuous control

7、An algorithmic perspective on imitation learning

8、Generative adversarial imitation learning

9、Sim-to-Real: Learning Agile Locomotion For Quadruped Robots

10、Deal or no deal? end-to-end learning for negotiation dialogues

11、Applying reinforcement learning for web pages ranking algorithms

12、Using confidence bounds for exploitation-exploration trade-offs

13、Thompson sampling for contextual bandits with linear payoffs

14、Curiosity-driven exploration by self-supervised prediction

15、A Survey of Exploration Strategies in Reinforcement Learning

16、Schema networks: Zero-shot transfer with a generative causal model of intuitive physics

17、Deep reinforcement learning: An overview

18、Deep Reinforcement Learning For Sequence to Sequence Models Apprenticeship learning via inverse reinforcement learning

项目部分

贪心科技

固定项目

贪心科技

基于HFO 场景的强化学习模型及基于Flappy Bird 场景的深度强化学习

概要:本项目 (coursework) 旨在实践并设计强化学习算法来探索,解决解决强化学习问题。 其中包括模拟HFO ( Half Field Offence)及 Flappy Bird。通过此项目,期望同学们能充分理解,并可掌握,应用 (但不限于) : 状态State, 动作Action, MDP( 马尔可夫决策过程)。 State value function ,State Action value function 如何进行估计,迭代及预测。 深度神经网络强化学习对Value Approximation进行评估, 并进行Policy优化。 Exploration 和 Exploitation 的平衡优化也将会在本项目的最后进行探索。

涉及到的技术:

MDP建模

Q Learning

Monte Carlo Control

Value iteration

Deep Q Learning

适合人群

贪心科技

大学生

理工科相关专业的本科/硕士/博士生,想系统性学习机器学习技术
希望今后从事人工智能相关的工作
希望今后想从事相关研究
贪心科技

在职人士

目前从事IT相关的工作,但今后想从事AI工作
目前公司项目涉及到以上几个模块的内容、希望深入学习一下
希望能够及时掌握前沿的机器学习技术

入学标准

贪心科技

理工科相关专业学生,或者IT从业者

贪心科技

具有良好的Python编程能力、深度学习基础

贪心科技

有一定的机器学习基础

或者成功完成贪心学院以下课程中的任意一门:

中级机器学习

高阶自然语言处理、或者同级别其他课程

课程团队

贪心科技

李文哲老师

贪心学院CEO

曾任凡普金科集团首席数据科学家、 美国亚马逊和高盛的高级工程师, 是金融行业开创知识图谱做大数据反欺诈的第一人。 美国南加州大学博士, 先后在AAAI、KDD、AISTATS、CHI等国际会议上发表过15篇以上论文

贪心科技

蓝振忠

贪心学院资深顾问

ALBERT模型的第一作者, 现任Google AI实验室科学家。 将于2020年6月份作为特聘研究员和博士生导师加入西湖大学,并建立”蓝振忠实验室”。 美国卡耐基梅隆大学博士。 美国NIPS举办的视频智能分析大赛连续多年TOP3 先后在NIPS, CVPR, ICCV, IJCAI等会议发表30篇以上论文,1000+ 引用次数。

贪心科技

史源

人工智能基金管理人

10多年人工智能领域相关研发和研究经历,负责过多项人工智能基金项目。美国南加州大学人工智能博士,卡内基梅隆大学机器人系访问学者。

贪心科技

Jerry Yuan

美国微软(总部)推荐系统部负责人

美国亚马逊(总部)资深工程师;美国新泽西理工博士;14年人工智能, 数字图像处理和推荐系统领域研究和项目经验;先后在AI相关国际会议上发表20篇以上论文。

贪心科技

杨栋老师

推荐系统,计算机视觉领域专家

香港城市大学博士, UC Merced博士后。现在主要从事于机器学习,图卷积,图嵌入的研究,从事研究多年,对机器学习有很深的理解。并且先后在ECCV, Trans on Cybernetics, Trans on NSE, INDIN等国际顶会及期刊上发表过数篇论文。

贪心科技

王老师

BAT高级算法工程师

毕业于QS世界综合排名top20 计算机学院,研究方向为机器阅读理解,信息检索,文本生成等,拥有新加坡国立大学,南洋理工等丰富海外访学交流经历。曾参与AAAI, ICLR 等数篇论文发表工作,拥有多项国家发明专利。现任BAT高级算法工程师,拥有亚马逊,华为,平安科技等丰富行业经历,对nlp算法及其行业落地有深入研究。

毕业证书

对于成功完成每个模块内容的学员,我们会颁发对应模块的毕业证书(注:必须要达到及格标准)

贪心科技

助教老师课上辅导&课下答疑

闫老师

(周一到周日)

贪心学院高级助教老师
负责过高阶nlp3,4,5,6,7,8,9
高阶机器学习1,2,3,4
中级机器学习等课程答疑
人大硕士,曾经就职于网易,阿里等科技巨头
目前任某国家研究院NLP工程师

常见问题

1、参加本课程有什么要求?

参加本课程需要一定的机器学习基础。

2、学完课程能达到什么水平?

能够系统性理解机器学习技术、有能力自主设计新的新的模型,并应用在工程中; 或者有能力从事科研相关的工作。

3、完成课题的过程是怎样的?

在每个模块的第二周开始我们会组织大家分小组定课题,在这个过程中导师团队会给修改建议,之后在课题的实施过程中,导师和助教团队也会不断地帮助大家完成课题。在最后一周,我们会组织一次线上答辩会。最后,你需要提交一份完整的技术报告。如果你完成的课题质量很高,我们导师团队乐意无偿继续提供之后的支持和帮助(比如投稿到顶会、或者对接投资人帮你孵化项目)。

4、课程中的理论和实操比例是怎样的?

课程中会有大量较为深入的技术讲解,由浅入深,理论部分会很充实。 另外,你通过完成课题的方式来完成实战部分。实战部分可以是应用型的,也可以是科研型的,就看你的兴趣。

5、课程支持哪些付费方式?

支付宝、微信、银行卡、公对公打款、paypal付款。

6、加入课程,最后怎样才能拿到证书?

对于证书我们坚持高门槛,只有达到及格线我们才会颁发证书。