- objective:学习的四次范式转变
| 主旨问题 | 关键词 |
| ---------------------------- | ------------------------ |
| 从古到今,几千年来,“学习”是什么?学习观是如何演变的? | 教导主义、行为主义、认知主义、联结主义 |
| 为什么说“人生一切问题的根源是你不会学习”? | 高考前的学习、大学的学习、青年的学习、中年的学习 |
# why
## 人生一切问题的根源,是不会学习
- 其实在我们这代人的成长中,还没人知道到底该如何学习,学习成了死记硬背,成了负担,就这么一直熬,熬到了中年,然后孩子的学习还是问题,成了一个恶性循环。那么到底什么是学习?
- 学习是人类的一种最重要的行为,学习的结果和产物是知识,人类通过知识建立文明的大厦。人类是如何学会知识的,这也是人类一直以来在研究的问题。
# what
## 哲学范畴类
- 在现代科学以前,人类针对「学习」这个主题所做的研究属于哲学范畴,叫做[[认识论 epistemology]],也叫做知识论 theory of knowledge。主要参与者是柏拉图、亚里士多德、罗素、石里克等人。
- 2000多年前的柏拉图认为:知识就是“被证实为真的人类信念”。
- 知识是主观的信念,是脑中的信念;
- 知识是客观的,是真实世界被“证实为真”;
- 用“蜡版上的印记”来解释人的记忆;(错误的比喻)
## 学习的四次[[范式]]转换
- 回顾学习的转变过程
### 学习观1.0:学习是一种[[教导主义 instructionism]]
- 起源于教堂里的布道
- 学习有标准答案
- 教学者是不可质疑的讲台上的权威
- 追求名师光环
- 就像我们小学的上课模式
### 学习观2.0:学习是一种行为的改变
- 科学家向教导主义发起了攻击。[[认知心理学 行为主义 behaviorism]]下,学习是一种行为的改变,是“一种行为和行为倾向的持久改变”。有两个实验很好的解释了如何通过[[条件作用 conditioning]]来改变行为。
- 经典条件作用classical conditioning:[[孩子天生爱学习 巴普洛夫的狗 正反馈|巴普洛夫的狗]]
- if 摇铃铛,then 分泌唾液;
- 经典条件作用是学习者被动接受环境刺激,不会采取主动行动。
- 操作性条件作用operational conditioning:[[斯金纳盒子 skinner box]]
- 学习者主动做出行为,外部反馈给出惩罚或奖励;
- if老鼠按下正确的杠杆,then 得到奖励-食物或饮用人;if老鼠按下错误的杠杆,then 被电击;
- 为了不被点击,老鼠很快就会学会正确答案,但不知道为什么,也不需要知道;类比于人类学习者,就像拼命学习却不知为何要学习的学生。
### 学习观3.0:学习是大脑加工处理信息
- 1959 年,语言学者[[乔姆斯基]]炮轰了 2.0 版的行为主义,开启了人类的**认知革命**,并且[[认知主义 cognitivisim]]这场革命一直延续至今,影响了**认知科学**、**认知神经科学**以及 **AI学科**的发展。
- 认知主义认为,学习不仅仅是行为的改变,更是大脑内部认知结构的变化。具体来说:
- 学习是一个心理认知过程
- 认知过程的物质基础是大脑(模型)
- 大脑所做的事情,不过是加工处理信息(数据)
- 认知心理学大半部分研究是关于「学习」和「记忆」
- **[[大脑信息加工理论]]**
- 大脑信息加工理论认为人类的学习,本质上是大脑对于信息的加工处理。就像[[Deep Learning 深度学习]]的模型是对数据的加工处理。
- 生命的本质是[[信息]],世界的本质是信息,大脑是加工处理信息的碳基装置,电脑是加工处理信息的硅基装置。
- 进一步的发展
- [[LSTM 长短期记忆]]:信息在记忆系统中的流动和转化
- [[学习五元素 主动参与 工作记忆]]:人脑是如何加工、整合、暂时存储信息的
- **生物学**:学习和记忆的过程中,大脑在细胞、生物化学和基因层面的变化,探明了长短期记忆的生物学基础
- 脑科学:从大脑的神经元、神经网络等方面认识**大脑的物质基础**
- 大脑的基础结构
- 人类神经网络 vs [[ANN 人工神经网络]]
- [[图示理论 schema]]
- [[让·皮亚杰]]提出的图示理论是这样解释学习的过程的:我们对于知识都有一个图示(知识结构)。当学习遇到的新信息时,我们会将新的信息同化到现有的图示中,或调整图示适应新的信息。
- 这个过程强调了学习者的主动性,主动构建知识体系,而不是被动接收。
- ex:学习 transformer 时,拼凑这个过程
- 这一理论也强调了知识的组织和结构
- **格式塔理论**:
- 学习过程中有“整体优于部分”的理念。学习者有意将信息整合为有意义的整体,而非孤立的碎片。
- 洞察学习,对问题有整体性的理解,然后获得解决方案
- 强调解决问题,将学习视为解决问题的过程
- 学习的迁移,强调方法和思维模式的迁移
- **[[认知心理学 建构主义constructivism]]**:与认知主义密切相关的学习理论
- 
- 认知主义关注心智内部的认知过程,如信息加工、记忆、注意力和理解等,而建构主义更关注学习者如何**通过自己的经验主动构建知识**。实践的过程。由瑞士心理学家[[让·皮亚杰]]开创。
- 建构主义认为,学习是一个**主动构建个人知识**的过程,[[孩子天生爱学习 心理表征|心理表征]]就行一个个乐高模块(知识砖块[[概念 concept]]),学习者自己一点点搭建出个人[[知识体系]];
- 建构主义强调个体经验的重要性,学习要和社会、环节进行交互,不仅是接收信息,更要通过**探索、实验、反思**来理解和赋予信息意义。
- 建构主义强调:
- 主动学习active learning
- 探索发现式学习discovery learning
- 探究式学习inquiry-based learning
- 问题解决式学习problem-based learning
- 建构主义相关人物
- 皮亚杰的徒弟[[西蒙·帕伯特]]在 MIT 建立了专门研究学习的机构 Media Lab,他设计了logo编程语言,和Lego公司合作开发了可编程模的块化机器人mindstorm,让孩子在玩中学,在做中学,在已知和新知间不断建立关联,构建个人的知识体系。
- 帕伯特的徒弟[[米切尔·雷斯尼克]]进一步完善了建构主义教学理论,设计了 scratch 儿童编程平台,并基于自己的建构主义学习理论写了《终身幼儿园》。
### 学习观4.0:学习是神经网络加工处理信息
- 联结主义、[[ANN 人工神经网络]]、[[Deep Learning 深度学习]]是学习观的最新版本。
- 神经网络学习观兴起于上世纪 80 年代,经过几十年的冷板凳和嘲笑,在 2007 年被 Hinton 重塑,称为深度学习。今天深度学习已经开启 AGI 时代,带来一场深度学习革命。
- 神经网络学习观的一些独特看法:
- **学习是基于神经网络的**:
- 大脑是由 1000亿个神经元,150 万亿个突触联结组成的神经网络;
- 学习是神经网络通过经验(输入数据)而发生的权重调整;
- 这些网络并行处理信息,模拟大脑的工作方式。
- **神经网络从经验中学习**:
- 学习是通过不断的输入和优化调整权重实现的。
- 学习是基于经验的,通过不断的重复、增强或删减冗余来改变神经网络的连接。
- **学习是模式识别和泛化**:
- 模式识别:从数据中提取重复出现的形式、结构或规律的能力。只要出现这些特征,即使是没见过也能认出来。比如是狗,3 岁小孩都能认出哈士奇和吉娃娃都是狗。
- 泛化能力:从具体经验中提取原则和规律并且进行迁移的能力;
- **学习的结果在神经网络中分布式表示**:单个神经元细胞并不存储信息,而是以分布式的方式存储在神经网络中。当数千个神经元协同执行亮/灭的时候(突触联结发生放电),就表征了一个[[概念 concept]]。因此知识,就是大量突触联结激活的特定回路。
- **学习中的错误必要且有益**:犯错是重要的,通过犯错来调整心理模型,让模型越来越贴近真相。
# how good
虽然关于解释学习的理论有很多,并且交替更新,但是之前的理论并不是完全错误,或者没有可取之处,例如在[[GPT 训练过程(archive)]] 中,最后一步是RLHF,基于人类反馈的[[RL 强化学习]],这一理论来自于[[认知心理学 行为主义 behaviorism]]。
# Ref.
- [什么是学习?学习观的4次范式转换](https://readwise.io/reader/shared/01hp8b9y425b5hq9g06cxzknka)
- [GPT](https://chat.openai.com/share/d0a640d8-303d-434c-9447-ad3778ba2c51)