正文

深度神經(jīng)網(wǎng)絡(luò)有哪些（深度神經(jīng)網(wǎng)絡(luò)有哪些成功的應(yīng)用）

發(fā)布時(shí)間：2023-04-18 22:15:03 稿源：創(chuàng)意嶺閱讀： 64

大家好！今天讓創(chuàng)意嶺的小編來大家介紹下關(guān)于深度神經(jīng)網(wǎng)絡(luò)有哪些的問題，以下是小編對(duì)此問題的歸納整理，讓我們一起來看看吧。

開始之前先推薦一個(gè)非常厲害的Ai人工智能工具，一鍵生成原創(chuàng)文章、方案、文案、工作計(jì)劃、工作報(bào)告、論文、代碼、作文、做題和對(duì)話答疑等等

只需要輸入關(guān)鍵詞，就能返回你想要的內(nèi)容，越精準(zhǔn)，寫出的就越詳細(xì)，有微信小程序端、在線網(wǎng)頁(yè)版、PC客戶端

官網(wǎng)：https://ai.de1919.com。

創(chuàng)意嶺作為行業(yè)內(nèi)優(yōu)秀的企業(yè)，服務(wù)客戶遍布全球各地，如需了解SEO相關(guān)業(yè)務(wù)請(qǐng)撥打電話175-8598-2043，或添加微信：1454722008

本文目錄:

1、深度學(xué)習(xí)主要是學(xué)習(xí)哪些算法？
2、深度學(xué)習(xí)中經(jīng)常提到的神經(jīng)網(wǎng)絡(luò)是什么
3、神經(jīng)網(wǎng)絡(luò)簡(jiǎn)述
4、卷積神經(jīng)網(wǎng)絡(luò)和深度神經(jīng)網(wǎng)絡(luò)的區(qū)別是什么

深度神經(jīng)網(wǎng)絡(luò)有哪些（深度神經(jīng)網(wǎng)絡(luò)有哪些成功的應(yīng)用）

一、深度學(xué)習(xí)主要是學(xué)習(xí)哪些算法？

深度學(xué)習(xí)（也稱為深度結(jié)構(gòu)化學(xué)習(xí)或分層學(xué)習(xí)）是基于人工神經(jīng)網(wǎng)絡(luò)的更廣泛的機(jī)器學(xué)習(xí)方法族的一部分。學(xué)習(xí)可以是有監(jiān)督的、半監(jiān)督的或無監(jiān)督的。

深度學(xué)習(xí)架構(gòu)，例如深度神經(jīng)網(wǎng)絡(luò)、深度信念網(wǎng)絡(luò)、循環(huán)神經(jīng)網(wǎng)絡(luò)和卷積神經(jīng)網(wǎng)絡(luò)，已經(jīng)被應(yīng)用于包括計(jì)算機(jī)視覺、語(yǔ)音識(shí)別、自然語(yǔ)言處理、音頻識(shí)別、社交網(wǎng)絡(luò)過濾、機(jī)器翻譯、生物信息學(xué)、藥物設(shè)計(jì)、醫(yī)學(xué)圖像分析、材料檢查和棋盤游戲程序在內(nèi)的領(lǐng)域，在這些領(lǐng)域中，它們的成果可與人類專家媲美，并且在某些情況下勝過人類專家。

神經(jīng)網(wǎng)絡(luò)受到生物系統(tǒng)中信息處理和分布式通信節(jié)點(diǎn)的啟發(fā)。人工神經(jīng)網(wǎng)絡(luò)與生物大腦有各種不同。具體而言，神經(jīng)網(wǎng)絡(luò)往往是靜態(tài)和象征性的，而大多數(shù)生物的大腦是動(dòng)態(tài)(可塑)和模擬的。

定義

深度學(xué)習(xí)是一類機(jī)器學(xué)習(xí)算法：使用多個(gè)層逐步從原始輸入中逐步提取更高級(jí)別的特征。例如，在圖像處理中，較低層可以識(shí)別邊緣，而較高層可以識(shí)別對(duì)人類有意義的部分，例如數(shù)字/字母或面部。

二、深度學(xué)習(xí)中經(jīng)常提到的神經(jīng)網(wǎng)絡(luò)是什么

介紹深度學(xué)習(xí)就必須要介紹神經(jīng)網(wǎng)絡(luò)，因?yàn)樯疃葘W(xué)習(xí)是基于神經(jīng)網(wǎng)絡(luò)算法的，其實(shí)最開始只有神經(jīng)網(wǎng)絡(luò)算法，上文也提到2006年Geoffrey Hinton老爺子提出了Deep Learning，核心還是人工神經(jīng)網(wǎng)絡(luò)算法，換了一個(gè)新的叫法，最基本的算法沒有變。

通過神經(jīng)元接收外界信號(hào)，達(dá)到一定閾值，觸發(fā)動(dòng)作電位，通過突觸釋放神經(jīng)遞質(zhì)，可以是興奮或抑制，影響突觸后神經(jīng)元。通過此實(shí)現(xiàn)大腦的計(jì)算、記憶、邏輯處理等，進(jìn)行做出一系列行為等。同時(shí)不斷地在不同神經(jīng)元之間構(gòu)建新的突觸連接和對(duì)現(xiàn)有突觸進(jìn)行改造，來進(jìn)行調(diào)整。有時(shí)候不得不感嘆大自然的鬼斧神工，900億神經(jīng)元組成的神經(jīng)網(wǎng)絡(luò)可以讓大腦實(shí)現(xiàn)如此復(fù)雜的計(jì)算和邏輯處理。

三、神經(jīng)網(wǎng)絡(luò)簡(jiǎn)述

機(jī)器學(xué)習(xí)中談?wù)摰纳窠?jīng)網(wǎng)絡(luò)是指“神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)”，或者說，是機(jī)器學(xué)習(xí)和神經(jīng)網(wǎng)絡(luò)這兩個(gè)學(xué)科領(lǐng)域的交叉部分[1]。

在這里，神經(jīng)網(wǎng)絡(luò)更多的是指計(jì)算機(jī)科學(xué)家模擬人類大腦結(jié)構(gòu)和智能行為，發(fā)明的一類算法的統(tǒng)稱。

神經(jīng)網(wǎng)絡(luò)是眾多優(yōu)秀仿生算法中的一種，讀書時(shí)曾接觸過蟻群優(yōu)化算法，曾驚訝于其強(qiáng)大之處，但神經(jīng)網(wǎng)絡(luò)的強(qiáng)大，顯然蟻群優(yōu)化還不能望其項(xiàng)背。

A、起源與第一次高潮。有人認(rèn)為，神經(jīng)網(wǎng)絡(luò)的最早討論，源于現(xiàn)代計(jì)算機(jī)科學(xué)的先驅(qū)——阿蘭.圖靈在1948年的論文中描述的“B型組織機(jī)器”[2]。二十世紀(jì)50年代出現(xiàn)了以感知機(jī)、Adaling為代表的一系列成功，這是神經(jīng)網(wǎng)絡(luò)發(fā)展的第一個(gè)高潮[1]。

B、第一次低谷。1969年，馬文.明斯基出版《感知機(jī)》一書，書中論斷直接將神經(jīng)網(wǎng)絡(luò)打入冷宮，導(dǎo)致神經(jīng)網(wǎng)絡(luò)十多年的“冰河期”。值得一提的是，在這期間的1974年，哈佛大學(xué)Paul Webos發(fā)明BP算法，但當(dāng)時(shí)未受到應(yīng)有的重視[1]。

C、第二次高潮。1983年，加州理工學(xué)院的物理學(xué)家John Hopfield利用神經(jīng)網(wǎng)絡(luò)，在旅行商問題上獲得當(dāng)時(shí)最好結(jié)果，引起轟動(dòng)；Rumelhart等人重新發(fā)明了BP算法，BP算法迅速走紅，掀起神經(jīng)網(wǎng)絡(luò)第二次高潮[1]。

D、第二次低谷。二十世紀(jì)90年代中期，統(tǒng)計(jì)學(xué)習(xí)理論和支持向量機(jī)興起，較之于這些算法，神經(jīng)網(wǎng)絡(luò)的理論基礎(chǔ)不清晰等缺點(diǎn)更加凸顯，神經(jīng)網(wǎng)絡(luò)研究進(jìn)入第二次低谷[1]。

E、深度學(xué)習(xí)的崛起。2010年前后，隨著計(jì)算能力的提升和大數(shù)據(jù)的涌現(xiàn)，以神經(jīng)網(wǎng)絡(luò)為基礎(chǔ)的“深度學(xué)習(xí)”崛起，科技巨頭公司谷歌、Facebook、百度投入巨資研發(fā)，神經(jīng)網(wǎng)絡(luò)迎來第三次高潮[1]。2016年3月9日至15日，Google人工智能程序AlphaGo對(duì)陣韓國(guó)圍棋世界冠軍李世乭，以4:1大比分獲勝，比眾多專家預(yù)言早了十年。這次比賽，迅速在全世界經(jīng)濟(jì)、科研、計(jì)算機(jī)產(chǎn)業(yè)各領(lǐng)域掀起人工智能和深度學(xué)習(xí)的熱烈討論。

F、展望。從幾個(gè)方面討論一下。

1)、近期在Google AlphaGo掀起的熱潮中，民眾的熱情與期待最大，甚至有少許恐慌情緒；計(jì)算機(jī)產(chǎn)業(yè)和互聯(lián)網(wǎng)產(chǎn)業(yè)熱情也非常巨大，對(duì)未來充滿期待，各大巨頭公司對(duì)其投入大量資源；學(xué)術(shù)界的反應(yīng)倒是比較冷靜的。學(xué)術(shù)界的冷靜，是因?yàn)樯窠?jīng)網(wǎng)絡(luò)和深度神經(jīng)網(wǎng)絡(luò)的理論基礎(chǔ)還沒有出現(xiàn)長(zhǎng)足的進(jìn)步，其缺點(diǎn)還沒有根本改善。這也從另一個(gè)角度說明了深度神經(jīng)網(wǎng)絡(luò)理論進(jìn)步的空間很大。

2)、"當(dāng)代神經(jīng)網(wǎng)絡(luò)是基于我們上世紀(jì)六十年代掌握的腦知識(shí)。"關(guān)于人類大腦的科學(xué)與知識(shí)正在爆炸式增長(zhǎng)。[3]世界上很多學(xué)術(shù)團(tuán)隊(duì)正在基于大腦機(jī)制新的認(rèn)知建立新的模型[3]。我個(gè)人對(duì)此報(bào)樂觀態(tài)度，從以往的仿生算法來看，經(jīng)過億萬(wàn)年進(jìn)化的自然界對(duì)科技發(fā)展的促進(jìn)從來沒有停止過。

3)、還說AlphaGo，它并不是理論和算法的突破，而是基于已有算法的工程精品。AlhphaGo的工作，為深度學(xué)習(xí)的應(yīng)用提供了非常廣闊的想象空間。分布式技術(shù)提供了巨大而廉價(jià)的計(jì)算能力，巨量數(shù)據(jù)的積累提供了豐富的訓(xùn)練樣本，深度學(xué)習(xí)開始騰飛，這才剛剛開始。

一直沿用至今的，是McChlloch和Pitts在1943年依據(jù)腦神經(jīng)信號(hào)傳輸結(jié)構(gòu)抽象出的簡(jiǎn)單模型，所以也被稱作”M-P神經(jīng)元模型“。

其中，

f函數(shù)像一般形如下圖的函數(shù)，既考慮階躍性，又考慮光滑可導(dǎo)性。

實(shí)際常用如下公式，因形如S，故被稱作sigmoid函數(shù)。

把很多個(gè)這樣的神經(jīng)元按一定層次連接起來，就得到了神經(jīng)網(wǎng)絡(luò)。

兩層神經(jīng)元組成，輸入層接收外界輸入信號(hào)，輸出層是M-P神經(jīng)元(只有輸出層是)。

感知機(jī)的數(shù)學(xué)模型和單個(gè)M-P神經(jīng)元的數(shù)學(xué)模型是一樣的，如因?yàn)檩斎雽又恍杞邮蛰斎胄盘?hào)，不是M-P神經(jīng)元。

感知機(jī)只有輸出層神經(jīng)元是B-P神經(jīng)元，學(xué)習(xí)能力非常有限。對(duì)于現(xiàn)行可分問題，可以證明學(xué)習(xí)過程一定會(huì)收斂。而對(duì)于非線性問題，感知機(jī)是無能為力的。

BP神經(jīng)網(wǎng)絡(luò)全稱叫作誤差逆?zhèn)鞑?Error Propagation)神經(jīng)網(wǎng)絡(luò)，一般是指基于誤差逆?zhèn)鞑ニ惴ǖ亩鄬忧梆伾窠?jīng)網(wǎng)絡(luò)。這里為了不占篇幅，BP神經(jīng)網(wǎng)絡(luò)將起篇另述。

BP算法是迄今最為成功的神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)算法，也是最有代表性的神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)算法。BP算法不僅用于多層前饋神經(jīng)網(wǎng)絡(luò)，還用于其他類型神經(jīng)網(wǎng)絡(luò)的訓(xùn)練。

RBF網(wǎng)絡(luò)全程徑向基函數(shù)(Radial Basis Function)網(wǎng)絡(luò)，是一種單隱層前饋神經(jīng)網(wǎng)絡(luò)，其與BP網(wǎng)絡(luò)最大的不同是采用徑向基函數(shù)作為隱層神經(jīng)元激活函數(shù)。

卷積神經(jīng)網(wǎng)絡(luò)(Convolutional neural networks，簡(jiǎn)稱CNNs)是一種深度學(xué)習(xí)的前饋神經(jīng)網(wǎng)絡(luò)，在大型圖片處理中取得巨大成功。卷積神經(jīng)網(wǎng)絡(luò)將起篇另述。

循環(huán)神經(jīng)網(wǎng)絡(luò)(Recurrent Neural Networks，RNNs)與傳統(tǒng)的FNNs不同，RNNs引入定向循環(huán)，能夠處理那些輸入之間前后關(guān)聯(lián)的問題。RNNs已經(jīng)在眾多自然語(yǔ)言處理(Natural Language Processing, NLP)中取得了巨大成功以及廣泛應(yīng)用[5]。RNNs將起篇另述。[5]

[1]、《機(jī)器學(xué)習(xí)》，周志華著

[2]、《模式識(shí)別（第二版）》，Richard O.Duda等著，李宏?yáng)|等譯

[3]、《揭秘IARPA項(xiàng)目：解碼大腦算法或?qū)氐赘淖儥C(jī)器學(xué)習(xí)》，Emily Singerz著，機(jī)器之心編譯出品

[4]、圖片來源于互聯(lián)網(wǎng)

[5]、循環(huán)神經(jīng)網(wǎng)絡(luò)(RNN, Recurrent Neural Networks)介紹

四、卷積神經(jīng)網(wǎng)絡(luò)和深度神經(jīng)網(wǎng)絡(luò)的區(qū)別是什么

沒有卷積神經(jīng)網(wǎng)絡(luò)的說法，只有卷積核的說法。

電腦圖像處理的真正價(jià)值在于：一旦圖像存儲(chǔ)在電腦上，就可以對(duì)圖像進(jìn)行各種有效的處理。如減小像素的顏色值，可以解決曝光過度的問題，模糊的圖像也可以進(jìn)行銳化處理，清晰的圖像可以使用模糊處理模擬攝像機(jī)濾色鏡產(chǎn)生的柔和效果。

用Photoshop等圖像處理軟件，施展的魔法幾乎是無止境的。四種基本圖像處理效果是模糊、銳化、浮雕和水彩。ß這些效果是不難實(shí)現(xiàn)的，它們的奧妙部分是一個(gè)稱為卷積核的小矩陣。這個(gè)3*3的核含有九個(gè)系數(shù)。為了變換圖像中的一個(gè)像素，首先用卷積核中心的系數(shù)乘以這個(gè)像素值，再用卷積核中其它八個(gè)系數(shù)分別乘以像素周圍的八個(gè)像素，最后把這九個(gè)乘積相加，結(jié)果作為這個(gè)像素的值。對(duì)圖像中的每個(gè)像素都重復(fù)這一過程，對(duì)圖像進(jìn)行了過濾。采用不同的卷積核，就可以得到不同的處理效果。ß用PhotoshopCS6，可以很方便地對(duì)圖像進(jìn)行處理。

模糊處理——模糊的卷積核由一組系數(shù)構(gòu)成，每個(gè)系數(shù)都小于1，但它們的和恰好等于1，每個(gè)像素都吸收了周圍像素的顏色，每個(gè)像素的顏色分散給了它周圍的像素，最后得到的圖像中，一些刺目的邊緣變得柔和。

銳化卷積核中心的系數(shù)大于1，周圍八個(gè)系數(shù)和的絕對(duì)值比中間系數(shù)小1，這將擴(kuò)大一個(gè)像素與之周圍像素顏色之間的差異，最后得到的圖像比原來的圖像更清晰。

浮雕卷積核中的系數(shù)累加和等于零，背景像素的值為零，非背景像素的值為非零值。照片上的圖案好像金屬表面的浮雕一樣，輪廓似乎凸出于其表面。

要進(jìn)行水彩處理，首先要對(duì)圖像中的色彩進(jìn)行平滑處理，把每個(gè)像素的顏色值和它周圍的二十四個(gè)相鄰的像素顏色值放在一個(gè)表中，然后由小到大排序，把表中間的一個(gè)顏色值作為這個(gè)像素的顏色值。然后用銳化卷積核對(duì)圖像中的每個(gè)像素進(jìn)行處理，以使得輪廓更加突出，最后得到的圖像很像一幅水彩畫。

我們把一些圖像處理技術(shù)結(jié)合起來使用，就能產(chǎn)生一些不常見的光學(xué)效果，例如光暈等等。

希望我能幫助你解疑釋惑。

以上就是關(guān)于深度神經(jīng)網(wǎng)絡(luò)有哪些相關(guān)問題的回答。希望能幫到你，如有更多相關(guān)問題，您也可以聯(lián)系我們的客服進(jìn)行咨詢，客服也會(huì)為您講解更多精彩的知識(shí)和內(nèi)容。