1037476編碼器的圖像增強(qiáng)SICK秉銘DFS60E-BBEA00018碼器的圖像增強(qiáng)方法—CAENet,該方法能夠很好的適用于三通道彩色圖像,而且具有較強(qiáng)的魯棒性。而后為了將神經(jīng)網(wǎng)絡(luò)算法CAENet很好的應(yīng)用于大數(shù)據(jù)背景下,本文隨后提出分布式框架來實現(xiàn)該算法,同時為了減少神經(jīng)網(wǎng)絡(luò)訓(xùn)練時產(chǎn)生的參數(shù)波動,使網(wǎng)絡(luò)更快和更加平穩(wěn)的到達(dá)收斂點,本文基于指數(shù)滑動平均算法提出了一種叫做截尾式指數(shù)滑動平均的優(yōu)化算法。后本文將圖像增強(qiáng)方法CAENet應(yīng)用于提出的分布式框架上,終得到了令人滿意的結(jié)果。本文主要工作如下:（1）針對基于神經(jīng)網(wǎng)絡(luò)的圖像增強(qiáng)方法LLNet（Low light network）在推廣到實際場景下的三通道彩色圖像時會產(chǎn)生大量冗余參數(shù)的問題,本文提出了一種基于卷積自編碼器的神經(jīng)網(wǎng)絡(luò)圖像增強(qiáng)方法—CAENet（Convolutional Auto-Encoder Network）。實驗證明CAENet在有效提高圖像光感和色感的同時還能保留圖像細(xì)節(jié),在克服顏色過度飽和、色塊不均勻等缺點時具有不錯的效果。此外針對含噪低光圖像,能在增強(qiáng)圖像的同時達(dá)到去噪的效果,呈現(xiàn)出CAENet具有較強(qiáng)的魯棒性。（2）為了將神經(jīng)網(wǎng)絡(luò)算法很好應(yīng)用在大數(shù)據(jù)背景下,本文提出了一種基于截尾指數(shù)滑動平均的優(yōu)化算法—TEMA（Trim Ecponential Moving Average）,該算法能夠很好的平滑掉網(wǎng)絡(luò)訓(xùn)練時產(chǎn)生的波動參數(shù);同時為了減少網(wǎng)絡(luò)訓(xùn)練的時間,本文將神經(jīng)網(wǎng)絡(luò)與并行式計算相結(jié)合,采用同步模式,提出了一種基于截尾指數(shù)滑動平均的神經(jīng)網(wǎng)絡(luò)分布式框架,該框架能夠使神經(jīng)網(wǎng)絡(luò)得到很好的并行化計算,加快了神經(jīng)網(wǎng)絡(luò)的訓(xùn)練速度。后實驗證明,該框架能夠很好的應(yīng)用在神經(jīng)網(wǎng)絡(luò)訓(xùn)練計算上。（3）將圖像增強(qiáng)方法CAENet應(yīng)用在之前所提出的分布式框架上,闡述了圖像增強(qiáng)應(yīng)用容。因此如何學(xué)習(xí)較好的文本表示用以更好地解決自然語言處理問題已經(jīng)引起了學(xué)術(shù)界和工業(yè)界大量的興趣。大多數(shù)現(xiàn)有的方法通用利用神經(jīng)網(wǎng)絡(luò)模型來生成文本的表示。然而這些方法都沒有考慮過文本領(lǐng)域的數(shù)據(jù)的一些*的屬性。與其他領(lǐng)域不同,文本本身在語義上通常是模糊的,并且反應(yīng)的信息通常是不充分的。除此之外,文本數(shù)據(jù)本身是具有層次性結(jié)構(gòu)的。在語義上,較長的表達(dá)式（例如文檔）的含義來自于其成分的含義和用于組合它們的規(guī)則;在結(jié)構(gòu)上,文檔是由一系列句子組成,而每個句子都由一系列詞組成。出于這些原因,研究如何將外部知識和文本的層次性結(jié)構(gòu)引入神經(jīng)網(wǎng)絡(luò)模型用以生成更加信息充分的文本表示是很值得研究的。具體來說,本文的主要工作可以總結(jié)為如下幾個方面:（1）本文研究了將概率形知識庫和基于神經(jīng)網(wǎng)絡(luò)的分布式文本表示進(jìn)行結(jié)合的模型框架。該框架能夠?qū)ξ谋具M(jìn)行概念化并且生成概念層面的分布式文本表示。通過外部的概率形知識庫,該框架可以識別文本中的實體,并且通過上下文對實體進(jìn)行消歧得到其準(zhǔn)確的概念,從而將原始的由詞構(gòu)成的文本概念化為一組由概念構(gòu)成的文本。在這之后該框架通過分布式文本表示算法來得到文本的低維的向量形式的表示。（2）本文提出了一種新型的知識驅(qū)動的層次神經(jīng)網(wǎng)絡(luò)模型。這個模型將多元關(guān)系知識圖譜融入到神經(jīng)網(wǎng)絡(luò)中并且通過使用層次結(jié)構(gòu)的模型來對應(yīng)文本的層次結(jié)構(gòu)。在外部知識上,該模型使用多元關(guān)系知圖譜來生成知識圖譜實體向量作為對原始文本的背景知識的補(bǔ)充;在模型結(jié)構(gòu)上該模型使用兩個雙向門控循環(huán)單元（Gated Recurrent Unit）編碼器生成句子層面的表示,之后再通過兩個長短期記憶網(wǎng)絡(luò)（Long Short-Term Memory）編碼器生成文檔層面的表示。這種層次化的模型結(jié)構(gòu)正好對應(yīng)了文本的層次化結(jié)構(gòu)特點。（3）本文提出了一種結(jié)合attention機(jī)制和外部知識圖譜的層次神經(jīng)網(wǎng)絡(luò)模型。這個模型除了融入了多元關(guān)系知識圖和層次性網(wǎng)絡(luò)結(jié)構(gòu)之外還將attention機(jī)制添加到了模型中,可以看作是上一個模型的一種改.

1037476編碼器的圖像增強(qiáng)SICK秉銘DFS60E-BBEA00018多數(shù)圖像分類的方法是采用監(jiān)督學(xué)習(xí)或者半監(jiān)督學(xué)習(xí)對圖像進(jìn)行降維,然而監(jiān)督學(xué)習(xí)與半監(jiān)督學(xué)習(xí)需要圖像攜帶標(biāo)簽信息。針對無標(biāo)簽圖像的降維及分類問題,提出采用混階棧式稀疏自編碼器對圖像進(jìn)行無監(jiān)督降維來實現(xiàn)圖像的分類學(xué)習(xí)。首先,構(gòu)建一個具有三個隱藏層的串行棧式自編碼器網(wǎng)絡(luò),對棧式自編碼器的每一個隱藏層單獨訓(xùn)練,將前一個隱藏層的輸出作為后一個隱藏層的輸入,對圖像數(shù)據(jù)進(jìn)行特征提取并實現(xiàn)對數(shù)據(jù)的降維。其次,將訓(xùn)練好的棧式自編碼器的個隱藏層和第二個隱藏層的特征進(jìn)行拼接融合,形成一個包含混階特征的矩陣。后,使用支持向量機(jī)對降維后的圖像特征進(jìn)行分類,并進(jìn)行精度評價。在公開的四個圖像數(shù)據(jù)集上將所提方法與七個對比算法進(jìn)行對比實驗,實驗結(jié)果表明,所提方法能夠?qū)o標(biāo)簽圖像進(jìn)行特征提取,實現(xiàn)圖像分類學(xué)習(xí),..庫系統(tǒng)。為了解決基于傳統(tǒng)機(jī)器學(xué)習(xí)方法的植物葉片圖像分類準(zhǔn)確率偏低的問題,利用堆棧自動編碼器能夠從原始數(shù)據(jù)中自動學(xué)習(xí)數(shù)據(jù)高層表示特征的特點,進(jìn)行基于堆棧自動編碼器的植物葉片圖像分類研究,構(gòu)建一個在植物葉片圖像分類上性能良好的網(wǎng)絡(luò)模型,提高植物葉片的分類準(zhǔn)確率。本文的主要研究內(nèi)容如下:（1）為了解決堆棧自動編碼器過擬合的問題,在輸入層連接一層去噪自動編碼器,采用隨機(jī)置0的方法對訓(xùn)練數(shù)據(jù)造成損壞,對受損數(shù)據(jù)進(jìn)行特征學(xué)習(xí),可以得到更具魯棒性的特征,訓(xùn)練數(shù)據(jù)和測試數(shù)據(jù)之間的差異可以降低訓(xùn)練中過度擬合的可能性。（2）針對稀疏自動編碼器不能對每個輸入神經(jīng)元進(jìn)行稀疏限制的問題,在稀疏自動編碼器上使用k稀疏方法,在隱藏層中僅保留k個激活值的神經(jīng)元,剩余激活神經(jīng)元歸零。該方法實現(xiàn)對隱含層每個輸入神經(jīng)元的稀疏限制,使得訓(xùn)練階段和測試階段數(shù)據(jù)的稀疏不匹配,可以更集中于對葉片圖像的關(guān)鍵信息進(jìn)行特征表示,使得分類精度有所提升。（3）針對堆棧自動編碼器的多層結(jié)構(gòu)和大量的神經(jīng)元導(dǎo)致訓(xùn)練時間很長的問題,在每層稀疏自.