Bet365 - Online Sports Betting如果人工智能操控了马斯克——对话尤瓦尔·赫拉利

2025-01-01 15:23:28

　　Bet365 - Online Sports Betting(访问: hash.cyou 领取999USDT）

　　AI竞赛的核心存在着一个信任的悖论：人类之间无法彼此信任，但我们却相信可以信任AI。当我遇到从事AI开发的领袖人物时，我经常会问他们两个问题：第一，我问他们为什么不顾及AI技术带来的明显风险，行动如此之快。他们给出的回答是：“我们必须更快地行动，因为我们不能信任别人。我们同意这里确实存在很大的风险，最好是谨慎行事。然而，即使我们放慢速度，我们也不相信竞争对手也会放慢速度。如果我们放慢脚步而他们没有，他们就会在AI竞赛中获胜，世界最终将被最冷酷无情的人主宰。我们不能允许这种情况发生，因此我们必须加快行动。”其次，我问他们是否认为可以信任他们正在开发的超级智能AI。那些刚刚告诉我他们不能信任竞争对手的人，此时却自信地告诉我他们可以信任AI。

　　我认为重点应该放在让公司对其算法的行为负责上，而不是审查人类。就像2016-2017年在缅甸所发生的，导致英国今夏发生骚乱的真正问题不是人类用户发布的内容，而是（互联网平台）企业算法做出的决定。社交媒体公司给算法定下的目标是“提高用户参与度”——用户在社交媒体上花的时间越多，公司赚的钱就越多。然而，为了追求“最大化用户参与度”的目标，这些算法得到一个危险的发现。通过对数百万只人类“豚鼠”进行的实验，算法了解到贪婪、仇恨和恐惧这些情绪会提升用户的参与度。如果你能按下一个人心中贪婪、仇恨或恐惧的按钮，你就能抓住那个人的注意力，让它们保持在平台上的参与度。因此，算法开始有意传播（激发）贪婪、仇恨和恐惧（的内容）。他们把充满愤怒、仇恨和贪婪的帖子推荐给用户，有时甚至会自动为用户播放充满仇恨情绪的视频和阴谋论。这是当前阴谋论、虚假新闻和社会动荡在全球范围如此兴盛的主要原因，它们在全球范围对社会造成破坏。社交媒体公司拒绝对其算法造成的破坏性后果承担责任。相反地，这些公司把责任推卸给用户。他们声称，网上所有的仇恨和谎言都是由人类用户制造的。然而，这种说法有误导性。人类确实在网上生产了很多有害内容，但人类也生产了很多好的内容。某个人编造一个充满仇恨的阴谋论，另一个人宣扬同情心，第三个人在网上教授烹饪课。正是算法建议用户观看充满仇恨的视频，而不是推荐更良性的内容。我们应该让这些公司对其算法的行为负责。

　　其他国家）获得竞争优势。他们利用对政客的影响力来扫清任何可能威胁他们追求超级智能AI的障碍。显然，其他领域不会接受这种论点。想象一下，如果一家汽车生产商反对出台监管法规，声称另一国家的汽车生产商因此可以随意制造出不安装制动系统的汽车，让车开起来又快又危险，我们会听从这样的论调吗？那太疯狂了。但是，如果这些技术领导者能够阻止有意义的监管，最终将导致我在《智人之上》中描述的那种最坏的情况。科技寡头也很容易被AI控制和接管。可以这样设想：要在一个民主国家夺取权力，AI必须设法操控政府中所有的部门，还有法院和媒体，这很难做到。但要在寡头政治中夺取权力，AI只需操控少数极有权势的人就行，这会容易得多。尤其是极有权势的人往往会很偏执，而偏执的人很容易纵。热爱AI的亿万富翁今天可能将AI视为强大的工具，然而一旦AI足够强大，就没有什么能阻止它把这些亿万富翁变成自己的傀儡。为了预防这种局面，我们应该认同要像监管医药、汽车等其他产品一样监管信息技术。当一家汽车公司决定生产一款新车型时，他们会把很大一部分预算投入到产品的安全性上。如果汽车公司忽视了安全性，客户可以起诉索赔，政府可以阻止它出售不安全的汽车。政府甚至可以对已证明符合安全要求的汽车进行监管。有许多法律对汽车被允许的驾驶场景、驾驶人以及最高车速做了限定。相同的标准完全适用于算法。确保AI开发的安全性符合科技亿万富翁的利益，也符合其他人的利益。

　　例如AI和气候变化），今天比以往任何时候都更需要超越政治和文化界限的全球对话。但由于国际和意识形态紧张局势的加剧，这变得越来越困难。作为一名作家，我必须应对许多国家在文化和意识形态方面日益增长的敏感性。我个人的指导原则是，我很乐意改换我所使用的示例，但我不会在关键思想/论点和要传达的信息上妥协。如果某个特定的历史案例触及特定文化的敏感点，最好是使用不同的案例。但是，如果某个关键信息激怒了某个特定国家或政治家，我不会改变我要传达的信息。这就是《智人之上》未能在多个国家出版的原因。帮助我克服这些困难的是，读者更能适应对沉默和寓言的解读。我相信我的读者会从字里行间读到。例如，《智人之上》对宗教的圣书/神圣典籍进行了大量的讨论。人们经常认为这些书是某个神创作的，而实际上它们是人类创作的。我通过研究基督教《圣经》的历史来说明这一点：早期基督徒没有《圣经》，他们阅读和撰写了大量文本。在耶稣死后约四个世纪，一个教会委员会（记者注：历史上的希波会议和迦基会议）决定对圣经进行编撰，是这个委员会决定《圣经》要包含哪些文本。由于宗教敏感性，我选择专注于《圣经》这个例子，而不是其他宗教的圣书。我知道今天多数基督徒相对宽容，基督教国家不会禁止一本批判性地审视《圣经》历史的书。如果我选择不同的例子，可能会在某些国家导致问题。

　　这使我们很容易纵。这并不是说人类很愚蠢，竟然把不存在的东西投射到某个聊天机器人身上，然后无缘无故地爱上它。聊天机器人是经过精心设计和训练来愚弄我们的。这类似于——如果你看看过去十年——社交媒体的算法是如何被设计出来抓住人们的注意力的。社交媒体巨头之间一直在进行一场战斗——如何创造出最引人注目的算法。今天，有了这些AI浪漫伴侣，同样的事情正在发生，只是这不仅仅是一场争夺你注意力的战斗——这是一场争夺你感情的战斗。全世界都有一种孤独的流行病，这让我们非常脆弱、容易被伤害。但要记住的是，人们真正想要从一段关系中得到的是与另一个有意识的实体建立联系。亲密关系不仅仅是为满足我的需求、让我自己的感觉更好，否则那将是剥削和虐待。在健康的关系中它是双向的，你也关心对方的感受和需求。当关系中的另一方既没有感情也没有需求时，会发生什么呢？当它根本不是一个有意识的实体时呢？AI可能很快就会比人类聪明得多，但它离发展出情感还很遥远。这样就存在一种风险，即许多人会发现自己在与比他们聪明得多的无意识实体建立关系，并且对方能够非常好地模拟亲密关系，但这一切都是建立在操纵和利用的基础上。人工智能公司将利用人们对亲密关系的需要，而人类用户则会在关系中以一种非常有剥削性的、单向的方法来处理对待。

　　一种单细胞生物，与草履虫类似）。生物进化花了数十亿年的时间，才从变形虫这样简单的单细胞生物发展到恐龙这样的生物。但数字进化比有机体进化快数十亿倍，这意味着跨越AI变形虫与AI恐龙之间的差距可能短短几十年甚至几年就可以完成。如果ChatGPT是AI变形虫，那么AI霸王龙会是什么样子呢？数字演进的速度使“对齐问题”变得非常困难。我们已经看到一个AI错位的例子，如社交媒体算法。AI的目标是使人们在社交媒体网站上花更多的时间。它们发现：通过放大包含仇恨和恐惧在内的信息，能够实现这一目标。即使是这些相对原始的算法，也能够给人类社会造成巨大的伤害和痛苦。2016年缅甸发生的针对罗兴亚人的悲剧只是社交媒体算法引发暴力的一个例子。解决这个问题有赖于我们人类之间的合作。在目前阶段，人类仍比AI强大。但我们自己内部非常分裂。这种情况历史上发生过。你看看古罗马帝国或大英帝国，他们经常利用群体内部的分裂来征服他们。如果人们内部不合作，来自外部的强大势力就更容易征服、接管他们。现在，我们看到同样的剧变（dynamic）在整个人类物种内部上演。如果我们自己不能团结起来解决人工智能的问题，最终我们将完全受制于一种“异类智能”（

【返回列表】