- Objective: 存储和检索信息 - Breadcrumb: 人工神经网络 # 概念阐释 **霍普菲尔德神经网络**(Hopfield neural network)是一种[[RNN 循环神经网络]]，由约翰·霍利菲尔德在 1982 年发明。霍普菲尔德网络用于解决高度非线性网络模型在发生震荡或表现出的更多混沌行为，它能确保将网络的状态收敛到[[attractor 吸引子]]的稳定状态。因此，霍普菲尔德网络就可以用于信息的存储和检索（内容可寻址存储content-addressable memory）。吸引子是存储的部分信息内容，让神经网络完成信息填充。这很像人类的记忆行为，通过一张脸可以联想到这个人的名字与交谈内容。越来越多的证据表明，[[🗃️ 卡片盒子/200 - 学习成长/科学学习/海马体|海马体]]中的神经网络存在这种吸引子状态。 ## 霍普菲尔德神经网络特点： - **对称权重**：网络中的连接权重是对称的，即权重矩阵 ( $W$ ) 满足 ( $W_{ij} = W_{ji}$)。  - **状态更新规则**：网络的神经元状态根据一定的规则进行更新，通常使用异步更新方式，即一次只更新一个神经元的状态。 - **能量函数**：霍利菲尔德网络具有一个能量函数，通过不断更新神经元状态使得能量函数的值逐渐降低，直到达到一个局部最小值。这个过程类似于物理系统中的能量最小化过程。  - **存储模式**：网络可以存储多个稳定的模式，每个模式对应一个局部能量最小值。当网络被给定一个接近于某个存储模式的输入时，网络会自动收敛到该模式，从而实现模式的**记忆**和恢复。 - **应用**：霍利菲尔德网络常用于联想记忆、模式识别、优化问题等领域。 # 实例 - 模式识别 - 联想记忆 - 信息检索 # 相关内容 # 参考资料 - 《深度学习》谢诺夫斯基 07 - [GPT-霍普菲尔德网络](https://chatgpt.com/share/4a0b56a9-885f-48a2-b6e1-88aeb1aeca14)