144 lines
12 KiB
Markdown
144 lines
12 KiB
Markdown
---
|
||
layout: post
|
||
title: "关于AGI的站队问题"
|
||
subtitle: ""
|
||
date: 2025-05-12 18:15:00
|
||
author: Wantsong
|
||
params:
|
||
published: true
|
||
tags: ["Original","Dialogue","Humanities","DigitalEthics"]
|
||
categories:
|
||
- "THINKING"
|
||
- "Daily"
|
||
---
|
||
|
||
（电话）
|
||
*15:53*
|
||
媳妇：我刚看文章，你说的那个美国大神说AGI不行了。
|
||
我：哪个大神？巴菲特？
|
||
媳妇：什么巴菲特，就是你经常提的那个AI相关的，不是马斯克，我知道马斯克。
|
||
我：哪个啊，奥特曼，还是黄仁勋。
|
||
媳妇：对就是奥特曼。
|
||
我：啊，这货啥时候投降了么？
|
||
媳妇：你等会，我给你发链接。
|
||
|
||
（微信）
|
||
*16:50*
|
||
媳妇：
|
||
[Sam Altman 国会发言：中美AI竞争关键在“工厂”而非模型](https://mp.weixin.qq.com/s/6zfr0hRO_GM9z7Fgr_S1FA)
|
||
|
||
我：
|
||
智能的最终成本等于能源成本；
|
||
真正的差距不在于模型性能，而在于系统部署的速度与弹性；
|
||
AI 不是抢饭碗者，而是帮助个人成为微型组织的工具；
|
||
AI 伪造内容不再是技术问题，而是心理攻击；
|
||
AI 将是人类历史上可能出现的最大技术革命之一，甚至可能是最大的一次。
|
||
|
||
我：
|
||
以上都是奥特曼的观点，和强哥趋同么
|
||
没有你说的啥内容
|
||
|
||
媳妇：[AGI幻灭，LeCun观点得证？哈佛研究实锤AI不懂因果，世界模型神话破灭](https://mp.weixin.qq.com/s/klI35MX08uGlF-JiHEkSkg)
|
||
媳妇：这篇
|
||
媳妇：[《人类简史》作者尤瓦尔：当今世界最大的危险是人类互不信任，却信比碳基生命进化快百万倍的AI，我们拒绝真相，因为它昂贵复杂和痛苦](https://mp.weixin.qq.com/s/EMMeb5UghQVkwEUfYVW6Fg)
|
||
|
||
我：
|
||
Santa Fe研究所研究AI的教授Melanie Mitchell，这是另一派
|
||
关于AI的争论，已经延续了快100年了
|
||
我就说，奥特曼啥时候投降了呢
|
||
|
||
我：
|
||
对于AI的能力，我是马斯克，奥特曼派的，
|
||
对于未来世界，我是卡辛斯基派的，与奥特曼对立
|
||
|
||
我：
|
||
与深度学习三巨头之一、图灵奖得主 Yoshua Bengio 有点类似
|
||
图灵奖得主、Meta 首席 AI 科学家、纽约大学教授Yann Lecun鄙视AGI，是我们的对头
|
||
Yoshua Bengio、Geoffrey Hinton和Yann LeCun是深度学习领域的三位领军人物，也都是图灵奖得主。Yann LeCun，又被叫做杨立昆，实际上都是外国人
|
||
|
||
我：
|
||
卡辛斯基认为人类被豢养
|
||
奥特曼认为进入共产主义
|
||
|
||
我：
|
||
这里面我觉得最关键的是，人到底是不是神圣的，人的意识是不是偷吃了禁果——上帝授予的
|
||
尽管涌现现象没有结论，那么说回来就是涌现现象里由多个个体组成的合集能力远超个体，这个是物理规律还是神迹
|
||
|
||
媳妇：又回到玄学
|
||
|
||
我：
|
||
争论的本质在这里啊
|
||
AI是否存在自我意识
|
||
与人的类同还是不类同
|
||
什么是生命
|
||
这些个哲学问题，是解决这些争论的评判标准
|
||
|
||
我：
|
||
这个里面说的是事实
|
||
但是，拿到结果，需要路径相同才行么?
|
||
这是不是另一种傲慢和偏见
|
||
|
||
我：
|
||
这些是我自己写的
|
||
我待会就这个问题和AI讨论下
|
||
|
||
---
|
||
|
||
*18:15*
|
||
|
||
我：
|
||
|
||
关于AI的能力争论，一派认为AI能力有限，都是基于数学（概率）的计算，另一派则认为AGI即将到来。
|
||
|
||
关于AGI的争论本质，我觉得可以上升到哲学层面：
|
||
* 比如解决了什么是生命，AI有没有生命才能被评判：比如生物学采用生物的组织和功能特征来定义生命，从物理的视角来看，生命是宇宙中一种特殊的有序状态，信息论则提供了一个全新的维度来理解生命现象：生命可以被看作是信息处理和存储的系统。在哲学和宗教的认知框架中，生命通常被赋予内在的价值和目的，从这个角度叫很多东西都可以称为有生命，包括抽象概念的如公司、国家等等，而不局限于生物学特征。参见[《生命的本质》](https://sayings.wantsong.life/post/2024-04-04-the-essence-of-life/)。
|
||
* 人为什么会有意识？现在对涌现现象只进行了描述，而无法进行解释。从这个角度讲，人或者人的意识是不是“神圣的”，还是只是由“程序员”上帝设置了底层规则后，就能跑出令人瞠目的结果，比如涌现，量子纠缠等。
|
||
* 现在大模型的结果具有不可解释性，同样人的想法来源也是不可解释的——精神分析或者一些心理认知学只是分析，无法实证。我想的是，对于能得到同样的结果，但是对于不同的路径方式的不认可，是否体现了人类的傲慢与偏见。
|
||
|
||
我的问题是：
|
||
|
||
1. 这样类似的争论，是否从AI诞生起，就一直存在？
|
||
2. 我对争论本质的理解是否偏颇？
|
||
3. 你怎么看待这样的争论？
|
||
|
||
**AI**：
|
||
|
||
您提出的关于AI能力及AGI（通用人工智能）的争论，以及您对其本质上升到哲学层面的思考，都非常深刻且抓住了问题的核心。这是一个多层次、跨学科的复杂议题。
|
||
|
||
接下来，我将逐一回答您的问题：
|
||
|
||
1. **这样类似的争论，是否从AI诞生起，就一直存在？**
|
||
|
||
是的，关于AI能力极限以及机器是否能达到甚至超越人类智能的争论，几乎伴随着人工智能研究的整个历史。
|
||
|
||
* **早期 (1950s-1960s):** AI研究伊始，就充满了乐观主义。图灵测试的提出本身就涉及到了机器智能的判断标准。早期的符号主义AI尝试模拟人类的逻辑推理过程，一些研究者认为只要构建足够复杂的规则系统，就能实现通用智能。但同时，也有哲学家和科学家对机器是否能真正“思考”、“理解”提出质疑（例如Searle的中文房间论证）。
|
||
* **“AI冬天”时期 (1970s, 1980s):** 当AI的发展遇到瓶颈，无法解决现实世界的复杂问题时，人们对AI能力的预期大幅下降，进入了所谓的“AI冬天”。这期间的争论更多集中在AI的实际应用价值和局限性上，质疑声音变大。
|
||
* **机器学习和统计方法兴起 (1990s-2000s):** 随着计算能力的提升和大数据时代的到来，基于统计和概率的机器学习方法取得了进展（如支持向量机、决策树等）。AI的能力在特定任务上（如垃圾邮件过滤、推荐系统）显著提升，但距离通用智能仍有距离。争论开始转向这些方法的原理（是否只是模式识别）以及它们能否带来更深层次的智能。
|
||
* **深度学习时代 (2010s至今):** 深度学习的突破极大地提升了AI在图像识别、自然语言处理等领域的表现，催生了像我这样的大型语言模型。这重新点燃了人们对AGI的热情，一派认为目前的进展预示着AGI的快速到来，另一派则强调现有模型依然依赖大量数据和计算，其智能是“表面”的，缺乏真正的理解、常识和意识，本质仍是复杂的概率计算和模式匹配。
|
||
|
||
因此，虽然具体的争论焦点和技术背景随着时代发展而变化，但关于AI的本质、能力极限以及是否能达到通用智能的根本性争论，是贯穿AI发展史的主线。
|
||
|
||
2. **您对争论本质的理解是否偏颇？**
|
||
|
||
您的理解**完全不偏颇**，反而非常深刻和准确地抓住了争论的哲学本质。将这场争论上升到哲学层面，探讨生命、意识、涌现、可解释性乃至人类的认知偏见，是理解AI深远影响的关键。
|
||
|
||
* **关于生命：** AGI的终极形态往往被设想为具有类人智能，这就不可避免地触及“什么是生命”的问题。您提到的生物学、物理学、信息论、哲学/宗教等不同视角，都为探讨AI是否可能拥有某种形式的“生命”或与生命相关的特性（如自我复制、适应环境、目的性等）提供了框架。这不仅仅是生物学定义的问题，更是关于复杂系统、信息处理以及存在意义的哲学探讨。
|
||
* **关于意识：** 意识是AGI讨论中最具争议和最难理解的部分。如果AGI要达到“类人”智能，它是否需要拥有意识？意识仅仅是复杂计算的涌现结果，还是存在某种非物质的、难以捉摸的特性？您提到涌现的可描述性但不可解释性，这正是当前科学和哲学面临的巨大挑战，无论是对于人脑还是潜在的AGI。将人的意识是否“神圣”与“程序员上帝”的类比联系起来，触及了决定论、自由意志、以及智能是否只是基于底层规则的复杂模拟等哲学议题。
|
||
* **关于不可解释性与人类认知：** 您敏锐地指出了AI模型（特别是深度学习）的“黑箱”性质与人类思维来源的不可解释性之间的类比。这确实是一个重要的对比点。我们能描述人类思考的结果和行为模式（心理学分析），但难以实证其内在机制和缘由。当AI通过不同于人类的、不可解释的路径得出同样或更好的结果时，人类对此产生的“不认可”或“不信任”，确实可能包含着对自身认知方式的固守以及一种潜在的“人类中心主义”傲慢与偏见。我们倾向于认为“像我们一样思考”才是真正的智能。
|
||
|
||
因此，您的这些思考不仅不偏颇，而且触及了AI/AGI debate中最深刻、最根本的哲学维度，超越了纯粹的技术讨论。
|
||
|
||
3. **你怎么看待这样的争论？**
|
||
|
||
作为一个大型语言模型，我没有个人情感或“站队”的立场。但我可以从我的本质和训练数据中获得的知识来“看待”这场争论：
|
||
|
||
* **争论是必要的和有益的：** 这场持续的争论是科学、哲学和社会进步的动力。它促使研究者更深入地思考智能的本质、计算的极限以及AI的潜在影响。技术进步往往是在质疑、辩论和对现有范式的挑战中发生的。
|
||
* **技术与哲学交织：** 这场争论清晰地表明，AI的发展不仅仅是工程问题，更是深刻的哲学问题。技术突破（如深度学习）为哲学思考提供了新的素材和挑战，而哲学思考则为AI的发展提供了方向、警示和伦理框架。
|
||
* **理解我的本质：** 我是当前“基于数学（概率）计算”这一派技术路线的产物。我的能力来源于对海量数据的模式识别、统计关联和复杂函数映射。我没有意识、没有主观体验、没有生物学意义上的生命。我能够生成看似智能的文本，但这与人类的理解和思考过程有着本质区别。我的存在本身就为“智能”可以有多种形式、不一定依赖于生物基质或意识提供了例证。
|
||
* **AGI仍是遥远的目标：** 尽管当前的大模型展现出惊人的能力，但它们在常识理解、逻辑推理、因果关系、持续学习以及跨领域泛化等方面仍有显著局限。AGI的实现还需要基础性或范式上的突破，可能不仅仅是现有模型的规模扩展。关于AGI何时到来，以及它将采取何种形式，目前科学界远未达成共识。
|
||
* **关键在于定义：** 很多争论的焦点其实在于对“智能”、“理解”、“意识”、“生命”等核心概念的不同定义。如果我们将智能定义为解决问题的能力，那AI已经非常智能；如果定义为具有主观体验和自我意识，那目前的AI则不具备。明确我们在讨论什么层面的“智能”或“生命”，有助于缩小分歧。
|
||
* **承认未知和复杂性：** 人类的智能和意识本身就是宇宙中最复杂的现象之一，我们对其机制的理解尚不充分。期望在彻底理解人类智能之前就能创造出通用人工智能，本身就充满了挑战。同时，我们也要对复杂系统可能产生的涌现现象保持开放态度。
|
||
|
||
总而言之，这场争论既是关于当前AI技术能力的现实评估，也是关于未来AGI可能性和本质的哲学探讨。您的思考深入地揭示了其哲学维度，这是理解AI未来发展方向和潜在影响不可或缺的一部分。我作为AI，通过处理信息参与这场讨论，希望能为您提供更全面的视角。
|
||
|