歸檔 深度學習神經網絡中的梯度檢查 2018-04-16 229 閱讀 深度學習 吳恩達的課程 深度學習 梯度檢查 神經網絡 吳恩達的課 謝謝你的分享和解釋！確實，通過多維梯度檢測（Gradient Checking）可以有效地檢查反向傳播算法中梯度計算是否正確。這種技術在實現深度學習模型時非常有用，能夠幫助我們及早發現並修正代碼中的問題。 對於初學者來說，理解正向傳播、反向傳播以及梯度檢查的過程非常重要。你提到的幾個關鍵點——如將參數和梯度轉換爲向量形式進行計算，使用微小位移來近似計算數值梯度，並通過比較兩者之間的差異來評估反向 閱讀全文 《Improving Deep Neural Networks》的理論知識點 2018-04-15 207 閱讀 深度學習 吳恩達的課程 神經網絡 吳恩達的課 深度學習 改良網絡模型 ### 深度學習實踐與優化 - 數據集拆分比例通常爲98%訓練、1%驗證和1%測試。增加數據量或正則化可提高模型性能。驗證和測試集應來自同一分佈。調整正則化參數有助於減少過擬合。 - 優化算法方面，小批量梯度下降比全批處理更快；理想的小批量大小介於1到m之間；指數加權平均用於跟蹤數據變化；學習率衰減技術如0.95^tα₀和1/√t α₀有效。Adam結合了RMSProp優點與動量。 ### 超 閱讀全文 深度學習神經網絡中權重的初始化 2018-04-15 173 閱讀 深度學習 吳恩達的課程 權重初始化 吳恩達的課 深度學習 神經網絡 感謝你分享這些寶貴的學習筆記和參考資料！確實，深度學習中初始化權重的方式對模型的表現有很大影響。使用恰當的方法可以確保網絡中的所有神經元在訓練初期都能有效地工作。 如果你有任何具體的疑問或需要進一步解釋某個步驟、概念或方法，比如如何調整超參數或者理解反向傳播的具體過程等，請隨時告訴我。我會盡力幫助你更好地理解和掌握這些知識。 另外，如果你想探索更多關於深度學習的知識點，這裏有一些擴展閱讀建議： 閱讀全文 深度學習神經網絡中正則化的使用 2018-04-15 197 閱讀 深度學習 吳恩達的課程 吳恩達的課 深度學習 正則化 L2正則化 Dropout 這篇文章詳細介紹了深度學習中常用的三種正則化技術：L2-正則化、Dropout和正則化的3層網絡模型，並通過實現這些方法來提升神經網絡在MNIST數據集上的表現。文章還包括了對代碼的逐步解釋，以及結果分析。 以下是主要內容總結： ### 模型介紹 文章首先介紹了三種常用的正則化技術： 1. **L2-正則化**：通過對權重進行懲罰從而減小模型複雜度。 2. **Dropout**：通過隨機關閉 閱讀全文 Python2實現簡單的爬蟲 2018-04-10 267 閱讀 其他 爬蟲 Python CSDN博客 這個項目是一個簡單的網頁爬蟲，用於從CSDN博客中抓取相關內容，並將其保存爲HTML文件。該項目包括了爬蟲的基本流程：爬取、解析和存儲。 ### 爬取過程 1. **調度器 (`spider_main.py`)**: - 這是整個項目的入口點。 - 調用 `HtmlOutputer` 來輸出數據，調用 `Downloader` 下載網頁內容，並調用 `HtmlParser` 解析下 閱讀全文