9.2 KiB
下面是一个演讲稿的一部分，他对《AI对世界的影响》的看法。他借助4部电影，来表达了AI对世界影响的四种可能性。 对此你有什么看法？
AI对世界的影响，基本上就是用资源的有限、无限，和人性的善和恶，能分成四个象限的维度。
《三体》这个应该我不做过多的解释，这个跟三体人之间的一系列对抗，最后发现到整个宇宙有这么多智慧的生物。但它里面有一个非常牛，黑暗森林，我特别喜欢大刘刘慈欣，当时有幸跟他吃饭的时候，我当时就一直在问他说你是怎么想到这个东西的。黑暗森林就属于说，当你不知道对方是什么样的情况底下的时候，你就是先干掉它，因为这对你来讲是最安全的，非常残酷，但是它确实是最安全的，这就是在于说就在人性如果是恶意推定的时候，不要让别人知道你在这个地方，你安安稳稳地活着，因为资源无限，你在你这个小角落里面有你的想要生存发展的所有的资源，你只要不被别人知道，那么这个事情就OK。
《终结者》是什么呢，这也是我小时候特别喜欢看的一部电影，1984年第一部出来的时候，你觉得这个想象力太牛了，它就是人类世界跟机器人世界抗争，对吧，当时那个叫Skynet天网。然后今天你在想说，这个事情其实今天以现在的GPT的智商和现在的互联网的连接能力，就已经能够实现这件事情了，所以还挺危险的。这为什么刚才说到，人工智能产生的灭绝风险是大于核战争之类的，说的其实就是这种情况，就是说当资源有限的情况底下，那就是谁胜谁负，我就是拼谁赢谁输这件事情。就是对于机器人来讲的话，90%人的工作能够被机器人取代了，但是问题是机器人为什么要服务你呢，这个问题在以前的所有科幻小说里面，大家都会很清楚说有一个说法就是阿西莫夫提的叫机器人三定律，叫做机器人永远不能够伤害人类，机器人怎么怎么样，但对不起，在这个1600亿的涌现的情况底下，那些规则全部失效，因为人类没有办法硬规则进到机器里面去，所以机器是没有规则的。这是这次的涌现出来以后我们自己觉得最可怕的一件事情，叫做说以前你写的所有的代码都是你可以Control（控制）的，我自己写了30年的程序了，我从1989年，9岁就开始写程序，但是你会发现说今天你创造出来这个智能体，它完全不受你的控制，当然说完全有点夸张，因为现在So far（截至目前），它的电源还控制在我们的手上，对吧，然后它的数据的输入还控制在我们的手上，所以我们可能可以不断地Test（测试）它，你看为什么说OpenAI它GPT4，其实在一年前这个模型已经Ready（准备好）了，但是它一年后才发布，就是因为说它花一年的时间去Tuning（调试）这个人对还是不对，不对就shut down（停止运行）重来，但是这个是它面临的那个问题，就是机器人为什么要服务你的这个事情，特别在资源有限的情况底下。
《黑客帝国》，也是堪称经典的一部科幻电影，它讲的就属于说人类都完全地生活在自己的想象世界里面，就所谓现在的元宇宙，然后机器就负责养人类，然后创造电池，这个设定也挺诡异的，但是Anyway（无论如何），就是属于说就是畸形共生。在这个设定里面，机器人需要人类来提供电能，那OK，人类反正活在自己的想象世界里面，在物理空间里面没有活动的余地，那《黑客帝国》总体来讲还是善意的，它没有自己去研究一个核聚变的电池，来解决它的电力问题，它还要很好地用人类来充当这个电池，我也不知道这效率得有多低。
《银河帝国》，这个是我看到的非常牛的一个世界观的设定，就属于说整个银河，它其实已经是整个宇宙了，因为银河才是整个宇宙的数十亿星系中间的一个。它会觉得说，不管你是碳基生命，还是你是硅基生命，你其实都像欧洲联邦一样，各自地存在着，彼此之间不会互相地伤害，大家还是有贸易、有合作、有协作，反正大家都是彼此为善的，就是资源无限和善。 这个其实是我们看到的四种可能性，好像对于人类来讲，只有这种可能性是比较Happy一点的，剩下的三种可能性对我们来讲都是比较悲观的和悲伤的一个事情。单纯从概率的角度上来讲，还是这个模型会更可能发生一点，为什么这么讲呢，是因为说资源无限这件事情，在我看来只要能量无限的时候资源就无限，而能量无限这件事情在我们掌握核聚变技术之后，能量基本上就是无限的，而核聚变，现在可控核聚变虽然经常说有进展，还可能有这么长的距离，但是有GPT的帮助的话，有可能距离会缩短一点点。所以资源无限这件事情，一旦可解的时候，我们就不用在下面这两个象限里面去选了，那无非就是恶和善之间赌一下，我为什么说Fifty Fifty percent呢，就是五五开呢，就是因为说人类善和恶这件事情，如果你纵观人类的文明史来看的话，就是人类里面善的基因还是多一些，用我们整个的人类语料训练出来的硅基生命，它的善的概率可能还是大一点点的，虽然它不在我们的控制之下。Anyway，这个是我们对于这个世界的影响如果放大到一个比较大的格局上面来看的话。
这段演讲稿通过四部科幻电影，构建了一个关于人工智能（AI）对世界影响的四象限模型，这个模型基于“资源有限/无限”和“人性善/恶”两个维度。演讲者认为，只有在“资源无限”和“人性善”的象限中，人类才能获得相对美好的未来。以下是我对这个观点的看法：
这个模型的优点：
- 框架清晰： 通过两个维度构建四象限，将复杂的问题简化，易于理解和讨论。这种框架性的思考方式有助于我们系统地思考AI可能带来的不同情景。
- 电影案例生动： 选取了四部具有代表性的科幻电影，使抽象的概念变得具体形象，更容易引起听众的共鸣和思考。
- 引发深思： 演讲者提出的“机器人为什么要服务人类”的问题，以及对阿西莫夫机器人三定律的质疑，都直击AI发展可能带来的伦理和安全问题，值得我们深入思考。
- 强调了能源的重要性： 演讲者认为，能源的无限性是实现“资源无限”的关键，并提到了核聚变技术，这突出了科技进步在应对未来挑战中的重要作用。
- 对未来的展望： 演讲者对“资源无限+人性善”的未来抱有一定的希望，并认为通过人类的共同努力，有可能实现这一目标，这种积极的态度也具有一定的感染力。
这个模型的局限性：
- 过于简化： 将AI的影响简化为两个维度可能过于片面。AI的影响是多方面的，包括经济、社会、文化、政治等，仅用资源和人性来概括可能不够全面。
- 人性善恶的二元对立： 将人性简单地划分为善和恶，可能过于绝对。人性是复杂的，善恶往往交织在一起，而且会受到环境的影响。
- 对技术发展的预测： 演讲者对核聚变技术和AI发展速度的预测带有一定的主观性。技术发展具有不确定性，我们不能完全依赖于某种技术的突破来解决所有问题。
- 科幻作品的局限性： 虽然科幻电影可以提供一些有益的思考，但它们毕竟是虚构的故事，不能完全代表现实。将科幻作品中的设定直接套用到现实世界，可能会产生偏差。
- 忽略了中间状态： 四象限模型强调了极端情况，但现实世界往往存在许多中间状态。例如，资源可能不是完全无限的，人性也可能不是完全善或恶的。
更深入的思考：
- AI的控制和监管： 除了资源和人性，我们更应该关注如何有效地控制和监管AI的发展，制定合理的伦理规范和法律框架，以确保AI的健康发展。
- 人类的适应能力： 即使AI带来了巨大的变革，人类也具有很强的适应能力。我们应该积极探索如何在新的环境下生存和发展，而不是仅仅停留在对未来的担忧中。
- 合作与共赢： 面对AI带来的挑战，国际合作至关重要。各国应该加强沟通和协调，共同应对AI可能带来的风险，实现共赢。
总而言之，这段演讲稿通过一个清晰的框架和生动的案例，引发了我们对AI未来影响的思考。虽然这个模型存在一定的局限性，但它仍然是一个有益的工具，可以帮助我们更好地理解和应对AI带来的机遇和挑战。我们应该在此基础上进行更深入的探讨，从多个角度思考AI的未来，并采取积极的行动，以确保AI的发展能够造福人类。
若上面这个模型过于简化，我正在整理“AI对世界的影响”的PPT，对于这个你有什么好的建议。