1037476編碼器的圖像增強SICK秉銘DFS60E-BBEA00018碼器的圖像增強方法—CAENet,該方法能夠很好的適用于三通道彩色圖像,而且具有較強的魯棒性。而后為了將神經(jīng)網(wǎng)絡算法CAENet很好的應用于大數(shù)據(jù)背景下,本文隨后提出分布式框架來實現(xiàn)該算法,同時為了減少神經(jīng)網(wǎng)絡訓練時產(chǎn)生的參數(shù)波動,使網(wǎng)絡更快和更加平穩(wěn)的到達收斂點,本文基于指數(shù)滑動平均算法提出了一種叫做截尾式指數(shù)滑動平均的優(yōu)化算法。后本文將圖像增強方法CAENet應用于提出的分布式框架上,終得到了令人滿意的結(jié)果。本文主要工作如下:（1）針對基于神經(jīng)網(wǎng)絡的圖像增強方法LLNet（Low light network）在推廣到實際場景下的三通道彩色圖像時會產(chǎn)生大量冗余參數(shù)的問題,本文提出了一種基于卷積自編碼器的神經(jīng)網(wǎng)絡圖像增強方法—CAENet（Convolutional Auto-Encoder Network）。實驗證明CAENet在有效提高圖像光感和色感的同時還能保留圖像細節(jié),在克服顏色過度飽和、色塊不均勻等缺點時具有不錯的效果。此外針對含噪低光圖像,能在增強圖像的同時達到去噪的效果,呈現(xiàn)出CAENet具有較強的魯棒性。（2）為了將神經(jīng)網(wǎng)絡算法很好應用在大數(shù)據(jù)背景下,本文提出了一種基于截尾指數(shù)滑動平均的優(yōu)化算法—TEMA（Trim Ecponential Moving Average）,該算法能夠很好的平滑掉網(wǎng)絡訓練時產(chǎn)生的波動參數(shù);同時為了減少網(wǎng)絡訓練的時間,本文將神經(jīng)網(wǎng)絡與并行式計算相結(jié)合,采用同步模式,提出了一種基于截尾指數(shù)滑動平均的神經(jīng)網(wǎng)絡分布式框架,該框架能夠使神經(jīng)網(wǎng)絡得到很好的并行化計算,加快了神經(jīng)網(wǎng)絡的訓練速度。后實驗證明,該框架能夠很好的應用在神經(jīng)網(wǎng)絡訓練計算上。（3）將圖像增強方法CAENet應用在之前所提出的分布式框架上,闡述了圖像增強應用容。因此如何學習較好的文本表示用以更好地解決自然語言處理問題已經(jīng)引起了學術界和工業(yè)界大量的興趣。大多數(shù)現(xiàn)有的方法通用利用神經(jīng)網(wǎng)絡模型來生成文本的表示。然而這些方法都沒有考慮過文本領域的數(shù)據(jù)的一些*的屬性。與其他領域不同,文本本身在語義上通常是模糊的,并且反應的信息通常是不充分的。除此之外,文本數(shù)據(jù)本身是具有層次性結(jié)構的。在語義上,較長的表達式（例如文檔）的含義來自于其成分的含義和用于組合它們的規(guī)則;在結(jié)構上,文檔是由一系列句子組成,而每個句子都由一系列詞組成。出于這些原因,研究如何將外部知識和文本的層次性結(jié)構引入神經(jīng)網(wǎng)絡模型用以生成更加信息充分的文本表示是很值得研究的。具體來說,本文的主要工作可以總結(jié)為如下幾個方面:（1）本文研究了將概率形知識庫和基于神經(jīng)網(wǎng)絡的分布式文本表示進行結(jié)合的模型框架。該框架能夠?qū)ξ谋具M行概念化并且生成概念層面的分布式文本表示。通過外部的概率形知識庫,該框架可以識別文本中的實體,并且通過上下文對實體進行消歧得到其準確的概念,從而將原始的由詞構成的文本概念化為一組由概念構成的文本。在這之后該框架通過分布式文本表示算法來得到文本的低維的向量形式的表示。（2）本文提出了一種新型的知識驅(qū)動的層次神經(jīng)網(wǎng)絡模型。這個模型將多元關系知識圖譜融入到神經(jīng)網(wǎng)絡中并且通過使用層次結(jié)構的模型來對應文本的層次結(jié)構。在外部知識上,該模型使用多元關系知圖譜來生成知識圖譜實體向量作為對原始文本的背景知識的補充;在模型結(jié)構上該模型使用兩個雙向門控循環(huán)單元（Gated Recurrent Unit）編碼器生成句子層面的表示,之后再通過兩個長短期記憶網(wǎng)絡（Long Short-Term Memory）編碼器生成文檔層面的表示。這種層次化的模型結(jié)構正好對應了文本的層次化結(jié)構特點。（3）本文提出了一種結(jié)合attention機制和外部知識圖譜的層次神經(jīng)網(wǎng)絡模型。這個模型除了融入了多元關系知識圖和層次性網(wǎng)絡結(jié)構之外還將attention機制添加到了模型中,可以看作是上一個模型的一種改.

1037476編碼器的圖像增強SICK秉銘DFS60E-BBEA00018多數(shù)圖像分類的方法是采用監(jiān)督學習或者半監(jiān)督學習對圖像進行降維,然而監(jiān)督學習與半監(jiān)督學習需要圖像攜帶標簽信息。針對無標簽圖像的降維及分類問題,提出采用混階棧式稀疏自編碼器對圖像進行無監(jiān)督降維來實現(xiàn)圖像的分類學習。首先,構建一個具有三個隱藏層的串行棧式自編碼器網(wǎng)絡,對棧式自編碼器的每一個隱藏層單獨訓練,將前一個隱藏層的輸出作為后一個隱藏層的輸入,對圖像數(shù)據(jù)進行特征提取并實現(xiàn)對數(shù)據(jù)的降維。其次,將訓練好的棧式自編碼器的個隱藏層和第二個隱藏層的特征進行拼接融合,形成一個包含混階特征的矩陣。后,使用支持向量機對降維后的圖像特征進行分類,并進行精度評價。在公開的四個圖像數(shù)據(jù)集上將所提方法與七個對比算法進行對比實驗,實驗結(jié)果表明,所提方法能夠?qū)o標簽圖像進行特征提取,實現(xiàn)圖像分類學習,..庫系統(tǒng)。為了解決基于傳統(tǒng)機器學習方法的植物葉片圖像分類準確率偏低的問題,利用堆棧自動編碼器能夠從原始數(shù)據(jù)中自動學習數(shù)據(jù)高層表示特征的特點,進行基于堆棧自動編碼器的植物葉片圖像分類研究,構建一個在植物葉片圖像分類上性能良好的網(wǎng)絡模型,提高植物葉片的分類準確率。本文的主要研究內(nèi)容如下:（1）為了解決堆棧自動編碼器過擬合的問題,在輸入層連接一層去噪自動編碼器,采用隨機置0的方法對訓練數(shù)據(jù)造成損壞,對受損數(shù)據(jù)進行特征學習,可以得到更具魯棒性的特征,訓練數(shù)據(jù)和測試數(shù)據(jù)之間的差異可以降低訓練中過度擬合的可能性。（2）針對稀疏自動編碼器不能對每個輸入神經(jīng)元進行稀疏限制的問題,在稀疏自動編碼器上使用k稀疏方法,在隱藏層中僅保留k個激活值的神經(jīng)元,剩余激活神經(jīng)元歸零。該方法實現(xiàn)對隱含層每個輸入神經(jīng)元的稀疏限制,使得訓練階段和測試階段數(shù)據(jù)的稀疏不匹配,可以更集中于對葉片圖像的關鍵信息進行特征表示,使得分類精度有所提升。（3）針對堆棧自動編碼器的多層結(jié)構和大量的神經(jīng)元導致訓練時間很長的問題,在每層稀疏自.