一、深度學(xué)習(xí)Deep Learning基礎(chǔ)和基本思想
? |
1,人工智能概述、計(jì)算智能、類腦智能
3,機(jī)器學(xué)習(xí)概述、記憶學(xué)習(xí)、歸納學(xué)習(xí)、統(tǒng)計(jì)學(xué)習(xí)
4,深度學(xué)習(xí)的前生今世、發(fā)展趨勢
5,人工神經(jīng)網(wǎng)絡(luò)、前饋神經(jīng)網(wǎng)絡(luò)、BP算法 、Hessian矩陣、結(jié)構(gòu)性特征表示 |
二、深度學(xué)習(xí)Deep Learning基本框架結(jié)構(gòu) |
1,Caffe????????????2,Tensorflow
3,Torch????????????4,MXNet |
三,深度學(xué)習(xí)Deep Learning-卷積神經(jīng)網(wǎng)絡(luò) |
1,CNN卷積神經(jīng)網(wǎng)絡(luò)
卷積層(一維卷積、二維卷積)、池化層(均值池化、大池化)
全連接層 ???激活函數(shù)層 ???Softmax層
2,CNN卷積神經(jīng)網(wǎng)絡(luò)改進(jìn)
R-CNN (SPPNET) ?Fast-R-CNN??Faster-R-CNN (YOLO、SSD)
3,深度學(xué)習(xí)的模型訓(xùn)練技巧
4,梯度下降的優(yōu)化方法詳解 |
四,深度學(xué)習(xí)Deep Learning-循環(huán)神經(jīng)網(wǎng)絡(luò) |
1,?RNN循環(huán)神經(jīng)網(wǎng)絡(luò)
梯度計(jì)算 ???BPTT
2,RNN循環(huán)神經(jīng)網(wǎng)絡(luò)改進(jìn)
LSTM??????GRU?????Bi-RNN??Attention based RNN
3,RNN實(shí)際應(yīng)用 ???Seq2Seq的原理與實(shí)現(xiàn) ??? |
五、強(qiáng)化學(xué)習(xí) |
1,強(qiáng)化學(xué)習(xí)的理論知識(shí) ?
2,經(jīng)典模型DQN講解
2,?AlphaGo原理講解 ???
3,?RL實(shí)際應(yīng)用;實(shí)現(xiàn)一個(gè)AlphaGo |
六,對抗性生成網(wǎng)絡(luò) |
1,?GAN的理論知識(shí) ??
2,?GAN經(jīng)典模型CGAN,LAPGAN,DCGAN
3,GAN經(jīng)典模型 ?INFOGAN,WGAN,S2-GAN
4,GAN實(shí)際應(yīng)用 ?DCGAN提高模糊圖片分辨率
5,GAN實(shí)際應(yīng)用 ?InfoGAN做特定的樣本生成 |
七、遷移學(xué)習(xí) |
1,遷移學(xué)習(xí)的理論概述
2,遷移學(xué)習(xí)的常見方法
特征、實(shí)例、數(shù)據(jù)、深度遷移、強(qiáng)化遷移、研究案例 |
八、CNN應(yīng)用案例 |
1,CNN與手寫數(shù)字集分類
2,YOLO實(shí)現(xiàn)目標(biāo)檢測
3,PixelNet原理與實(shí)現(xiàn)
4,利用卷積神經(jīng)網(wǎng)絡(luò)做圖像風(fēng)格結(jié)合 |
九、深度學(xué)習(xí)Deep Learning的常用模型或者方法 |
1,AutoEncoder自動(dòng)編碼器
2,Sparse Coding稀疏編碼
3,Restricted Boltzmann Machine(RBM)限制波爾茲曼機(jī)
4,Deep BeliefNetworks深信度網(wǎng)絡(luò)
5,Convolutional Neural Networks卷積神經(jīng)網(wǎng)絡(luò) |
十、輔助課程 |
(1)疑難解答、分組討論;
(2)關(guān)鍵問題解析; |