- [小能熊版知识视频："Godfather of AI" Geoffrey Hinton: The 60 Minutes Interview](https://gpt.candobear.com/videos/godfather-of-ai-geoffrey-hinton-the-60-minutes-interview) - [文字版](https://gpt.candobear.com/videos/godfather-of-ai-geoffrey-hinton-the-60-minutes-interview/transcript-%E5%8F%8C%E8%AF%AD%E7%89%88%E6%9C%AC) - [wikipedia: Geoffrey Hinton 杰弗里·辛顿](https://readwise.io/reader/shared/01hf9k23hst6tvwjbyfyfcjy31) Q hinton对AI发展的观点是什么？ - 人类制造了比自己更加聪明的事物，最终人类会成为地球上第二聪明的生物 - 人工智能目前还没有自我意识self-awareness，但最终会有 - 自我学习：举个例子，没有人告诉机器人如何踢球，只告诉他们要进球，他们自己学会了如何踢球。在学习的过程中，正确的连接会更强，错误的连接会变弱，就像人类会修剪突触一样 - 人工智能比人类的大脑更擅长学习： - 聊天机器人只有大约一万亿个连接，人类大脑有 100 万亿个连接，但聊天机器人所知道的知识已经远超过人类的大脑了 - 不要小看聊天机器人的「预测下一个词」，要预测下一个词必须理解这些句子，聊天机器人不是只是自动补全，不只是有大量数据和使用统计学，而是“理解”了句子 - 不确定性和担忧 - 如果系统可以自己编写代码来修改自身将会令人担忧 - 如果他们可能操纵人，那将会非常擅长和有说服力，因为他们学了全人类的知识，知道怎么做 - AI 的推理能力会有巨大好处，但也会带来风险 - 巨大好处是在医疗领域，在设计药物方面将非常出色 - 风险是有一整类人即将失业，因为他们的工作将由机器完成 - 我们正处在一个非常不确定的时期，辛顿提醒我们关注罗伯特·[[奥本海默Oppenheimer]]，奥本海默发明了原子弹，却发现世界超出了掌控