全連接神經網絡優缺點 是否存在通用的神經網絡模型，可以處理圖像，語音以及NLP？

是否存在通用的神經網絡模型，可以處理圖像，語音以及NLP？對于目前的深度學習模型，雖然深度學習的目標之一是設計能夠處理各種任務的算法，但是深度學習的應用還需要一定的專業化，目前還沒有通用的神經網絡處理

是否存在通用的神經網絡模型，可以處理圖像，語音以及NLP？

對于目前的深度學習模型，雖然深度學習的目標之一是設計能夠處理各種任務的算法，但是深度學習的應用還需要一定的專業化，目前還沒有通用的神經網絡處理模型。然而，每一種模式也在相互學習、相互融合、共同提高。例如，一些創新可以同時改進卷積神經網絡和遞歸神經網絡，如批量標準化和關注度。一般模型需要在將來提出。

圖像和視頻處理，計算機視覺，最流行的是CNN，卷積神經網絡，它的變形和發展，CNN適合處理空間數據，廣泛應用于計算機視覺領域。例如，alexnet、vggnet、googlenet、RESNET等都有自己的特點。將上述模型應用于圖像分類識別中。在圖像分割、目標檢測等方面，提出了更有針對性的模型，并得到了廣泛的應用。

語音處理，2012年之前，最先進的語音識別系統是隱馬爾可夫模型（HMM）和高斯混合模型（GMM）的結合。目前最流行的是深度學習RNN遞歸神經網絡，其長、短期記憶網絡LSTM、Gru、雙向RNN、層次RNN等。

除了傳統的自然語言處理方法外，目前的自然語言處理深度學習模型也經歷了幾個發展階段，如基于CNN的模型、基于RNN的模型、基于注意的模型、基于變壓器的模型等。不同的任務場景有不同的模型和策略來解決一些問題。

人工神經網絡有哪些主要分類規則，如何分類？

人工神經網絡是一種類似于人類神經結構的并行計算模型。它是一種受大腦和神經系統研究啟發的信息處理技術。它又稱為并行分布式處理模型或鏈路模型。它具有人腦的基本特征，如學習、記憶和歸納。它可以處理連續和離散的數據，并對數據進行預測。人工神經網絡模型主要考慮網絡連接的拓撲結構、神經元的特性、學習規則等。目前，已有近40種神經網絡模型，包括bp網絡、感知器、自組織映射、Hopfield網絡、Boltzmann機、自適應共振理論等。

下面介紹了兩種常用的分類方法：

根據網絡連接的拓撲結構和網絡內的信息流。

根據網絡的拓撲結構，即神經元之間的連接。按照這種劃分，神經網絡結構可以分為兩類：層次結構和互聯結構。

層次結構的神經網絡根據神經元的功能和順序將神經元分為輸出層、中間層（隱層）和輸出層。輸出層的每個神經元負責接收來自外部的輸入信息，并將其傳遞給中間的每個隱層神經元；隱層是神經網絡的內部信息處理層，負責信息轉換。根據需要，可以設計成一層或多層，最后一層將信息傳遞給輸出層神經元，再進一步處理后將信息處理結果輸出給外界。

在互聯網絡結構中，任意兩個節點之間都可能有一條連接路徑，因此根據網絡中節點的連接程度，互聯網絡可分為三種類型：全互聯，局部互聯和稀疏互聯根據網絡信息的流向，神經網絡可分為兩類：前饋網絡和反饋網絡。

純前饋網絡的結構與分層網絡相同。由于網絡信息處理的方向是從輸入層到隱層再到輸出層，因此稱為前饋。

在前饋網絡中，前一層的輸出就是下一層的輸入，信息處理具有逐層傳輸的方向性。一般來說，沒有反饋回路。因此，這種網絡很容易串聯起來建立多層前饋網絡。

反饋網絡的結構與單層全互連網絡相同。在反饋網絡中，所有節點都具有信息處理功能，每個節點既能接收外界的輸入，又能輸出到外界。

卷積神經網絡為什么最后接一個全連接層？

在基本的CNN網絡中，全連接層的作用是將圖像特征圖中的特征通過多個卷積層和池化層進行融合，得到圖像特征的高層含義，然后用它進行圖像分類。

在CNN網絡中，完全連接層將卷積層生成的特征映射映射到具有固定長度的特征向量（通常是輸入圖像數據集中的圖像類別數）。特征向量包含輸入圖像中所有特征的組合信息。該特征向量雖然丟失了圖像的位置信息，但保留了圖像中最具特征的特征，完成了圖像分類的任務。從圖像分類任務的角度來看，計算機只需確定圖像的內容，計算輸入圖像的具體類別值（類別概率），輸出最有可能的類別即可完成分類任務。

為什么在卷積神經網絡中全連接層4096維特征向量？

通常，為了優化計算，尺寸通常取為2的指標。

在后續計算全連接層的損耗時，總共應該有幾千個類別，所以前一層應該是1000個，所以一般是102420484096，以此類推。通過對數據集的測試，可以得到一個較好的網絡結構