《Neural Networks and Deep Learning》的理論知識點
這個筆記涵蓋了吳恩達教授在deeplearning.ai系列課程中的一些關鍵概念和公式。下面是對這些內容進行分類整理和補充說明： ### 1. 神經網絡基礎 #### 1.1 單層神經網絡 - **tanh激活函數**：接近0的輸入，其梯度接近於最大（1）。遠離0時，梯度接近於零。 - **初始化權重**：使用 `W = np.random.randn(layer_size_prev, lay
閱讀全文這個筆記涵蓋了吳恩達教授在deeplearning.ai系列課程中的一些關鍵概念和公式。下面是對這些內容進行分類整理和補充說明： ### 1. 神經網絡基礎 #### 1.1 單層神經網絡 - **tanh激活函數**：接近0的輸入，其梯度接近於最大（1）。遠離0時，梯度接近於零。 - **初始化權重**：使用 `W = np.random.randn(layer_size_prev, lay
閱讀全文