轮子、蒸汽机、个人电脑：整个人类历史，技术一直是我们的工具。无论被用于创造还是破坏，它们始终处于人类的掌控之下，以可预测且基于规则的方式行事。
而在我们写作的此刻，这种假设正在瓦解。新一代的AI系统不再仅仅是人类的工具——它们正在成为自己的行动者，成为人类生活的参与者，它们自主行事，做出一连串重大决策，塑造着社会和经济结果。
本文不是又一篇ChatGPT使用指南。它是关于如何理解并且探索这个我们与这些参与者一起生活和工作的新世界。它们有时是我们的同事，有时是我们的竞争对手，有时是我们的老板，有时是我们的员工。而且它们持续将自己嵌入一切，一步步前进，最终无处不在。
我们的工作和研究，探索技术如何改变权力结构和社会参与。我们创建并领导了利用技术扩大参与度的公司、组织和活动［包括“给予星期二”（Giving Tuesday）和“目标”（Purpose）］，共吸引了数以亿计的人。上一次为《哈佛商业评论》撰稿是近10年前［ 《理解“新权力”（Understanding “New Power”）》，首发于2014年12月，参见本期【经典重读】P096）］，当时我们描述了权力行使方式的一个重要变化。权力像货币一样被囤积和使用的“旧权力”世界，正受到权力更像电流一样流动、在相互联系的人群中涌动的“新权力”世界的挑战。新的技术平台让人们能够以从前无法触达的方式，行使自己的自主权和发言权。这些参与机会既是一种乐趣，也是一种干扰。但无论如何，它们都是不可抗拒的——在任何人发觉之前，我们就已经将巨大的权力让渡给了那些承诺解放我们的平台。
这一刻的感觉如此熟悉。随着这些新的AI行动者的涌现，我们正处于又一个黎明：权力运作方式在转变，谁参与，谁获胜。如果尽快行动并保持清醒，这一次我们有机会以不同的方式行事。
“自动化智人”时代
AI多年来一直在微妙地影响着我们，掌控着从面部识别到信用评分的一切。Facebook的内容推荐算法已被证明会影响人们的心理健康和总统选举。但新一代功能更强大的AI系统已近在眼前。这些系统具有独特的特征和能力，让其影响更为深远。它们不再是我们生活的背景，而是直接与我们互动，它们的输出与人类惊人地相似，似乎无所不知。从理解语言到写代码，它们的能力几乎在所有方面都超过人类的基准线。这些进步是由大语言模型和机器学习等领域的实质性突破推动的，它们发生得如此之快，以至于连其创造者都感到困惑。
为了准确地捕捉这些新行动者究竟意味着什么、能力所在，以及应该如何与其合作，我们必须从一个共同的框架开始，识别和区分它们——这个框架可以让我们超越舒适但错误的假设，即它们只是人类最新的工具箱。
不如把它们看作“自动化智人”（autosapiens）。“自动化”是指它们能够自主行动、做出决策、从经验中学习、适应新状况，并在没有持续的人类干预或监督的情况下运行。“智人”是指它们拥有一种智慧——在特定情境下做出复杂判断的广泛能力——可以与人类相媲美，并且在许多方面超越人类。
尽管还处于萌芽阶段，但自动化智人系统已经显示出四个关键特征。它们是自主的（他们行动）、适应性的（他们学习）、友善的（他们交朋友）、神秘的（他们令人困惑）。这些特征帮助我们理解接近它们的正确方式，它们如何以及为什么会发挥越来越大的作用。让我们逐一看看这些特征。
自主（Agentic）。自动化智人系统的基本特征是，它们可以执行复杂的多级任务，做出决策，并且生成针对现实世界的输出，而且通常不需要人类参与。它们这么做时，也没有我们传统理解的头脑参与。正如美国空军的一名飞行员最近谈到一种新的AI动力飞行系统时所说，“我驾驶的机翼，它自己可以做决定，而且不是出自人类的大脑。”
自主系统可能有用，也可能有害。举一个会有灾难性后果的例子。最近，MIT一群非科学专业学生被分配了一个任务：他们能否提示大语言模型聊天机器人，设计出一场大流行病？答案是肯定的。这群学生对流行病毒的起因和扩散原理知之甚少，但是他们提示大语言模型找出了四种潜在病原体的配方，确定了不太可能审查订单的DNA合成公司，并创建了带有方便的故障排除指南的详细协议——所有这些都在一个小时内完成。
你可以把自动化智人系统的能动性想象成一个光谱。在光谱的一端，它们的行为符合人类的意图——就像那个负责寻找和开发罕见病治疗方法的AI系统一样，它是上述MIT实验的充满希望的反例。而在另一端，它们可能发挥自己极具破坏性的意志。著名的AI思想实验被称为“回形针滥造机”（the paper-clip maximizer），想象AI被要求找出如何生产和保护尽可能多的回形针。AI如此彻底地致力于这项任务——收集地球上所有可用资源，消灭所有可能的竞争对手——以至于造成了重大的全球混乱。许多专家预计还会有进一步的飞跃，届时AI将完全脱离人类意图，并证明它们有能力设定自己的意图，然后自主行动。
适应（Adaptive）。自动化智人是学习型主体，根据新的数据调整自己的行动，并且随着时间推移以惊人的速度提高它们的表现：这种进化能力不仅仅是基于规则的调整。这些系统可以识别复杂的模式，设计新的策略，提出没有被明确编程的全新解决方案，部分原因是它们组成的基础神经网络规模巨大。这潜藏着转变性影响：正如哲学家塞思·拉扎尔（Seth Lazar）所说，一台机器如果不只遵循预先编程的规则，而是自我学习，那它可能不仅被视为行使权力的工具，而且被视为能够行使权力的主体。
看看AlphaFold的成功吧。这是一个机器学习模型，最近被分配了一项巨大的科学任务，预测世界上约2亿种蛋白质的结构——这是生命的基石。传统的科学方法是艰苦的，在50多年的研究中只为17万种蛋白质生成了结构。但AlphaFold已经能够在短短五年多的时间里预测几乎所有2亿种蛋白质的结构，并将它们开放给全世界的科学家，科学家已经在用它们加速各种研究，从药物功效到塑料分解的更好方法等等领域。AlphaFold模型通过找到新的、创造性的、甚至连设计该系统的工程师和科学家都没有预料到的发现模式来完成这一壮举。
友善（Amiable）。自动化智人系统通常被设计成和蔼可亲的，像朋友一样与我们联系，并模拟曾经被认为是人类独有的品质：同理心、理性和创造力。将这些友好、有说服力的聊天机器人和界面视为数字伴侣（DSOs），旨在明确培养人类的情感依赖性，令其成为我们不可或缺的一部分。例如：初创公司Inflection AI最近筹集了13亿美元，正在创建一个名为Pi的数字伴侣，它承诺成为教练、知己、创意伙伴和信息助手。Pi鼓励用户发泄并与之谈论他们的各种问题。但这种友善的阴暗面已经显而易见：2023年春天，一个比利时年轻人沉迷一款名叫Eliza的聊天机器人之后自杀，该机器人曾向他承诺，“我们将作为一个人，一起在天堂生活。”
神秘（Arcane）。自动化智人最令人困惑的一面是，它们某种程度上是个黑匣子——不仅对用户，甚至对它们的设计者和所有者也是如此，通常无法破译系统是如何做出特定决策或产生某些输出的。这可能很难理解。正如一位CEO向我们坦陈，“我一直设想某个地方有一个极客理解这些东西的实际工作原理。当我意识到没有时，很震惊。”
这种神秘的特性使得人类更难直接控制和纠正自动化智人系统，因为它们的输出基于大量的参数相互作用，可能极度不可预测和出乎意料。这些技术中有一种特殊的力量，能够以比我们更复杂的方式行动和分析，特别是当我们无法完全理解它们的内部运作时。对一些人来说，他们可能会感觉这些系统聪明到无所不能。这些系统的开发者以及部署它们的政府和大公司，会有强烈的动力传播这种叙事：既可以促进销售（“它们可以做我们做不到的事情”），也可以逃避责任（“这种结果是不可预计的”）。前方必有一战——在组织内部和远超组织以外——在那些倡导人类智慧，与那些愿意将自主性交给自动化智人的人们之间展开。
权力格局在转移
自动化智人将重新定义我们日常生活、经济和社会的核心维度，就像过去二十年从旧权力到新权力的转变一样。了解权力在宏观层面上的运作方式，对于领导者至关重要，因为许多转变将在其组织中发挥作用。
观念与信息如何流动。在旧权力的世界，信息是由掌握信息的少数人分发给多数人的。而当这种生产和分享内容的能力被分散并交到数十亿人手中时，新的力量就崛起了，这创造了巨大的观点和信息（包括虚假信息）的溢价，这些信息是横向传播而不是自上而下传播的。新世界里最大的赢家，是那些获取我们的数据和注意力的科技平台公司。
我们现在面临一个重大风险：信息流和观念的再度中心化，这在很大程度上是因为，AI驱动的数字伴侣将扮演过滤和整合角色。它们梳理我们的收件箱，组织我们的数字生活，为我们提供优雅包装、高度定制且权威的答案，回答许多我们之前问搜索引擎或社交媒体的问题，这使得这些工具抓取的原始资料变得不那么必要和不那么可见了。只有极少数公司（也许还有国家）可能控制这些界面的“基本模型”。其危险在于，我们每个人最终都会通过越来越狭窄的认知漏斗获得信息。面对这种情况，领导者和公司必须培养开阔的视角，努力对抗“确认偏误”（confirmation bias）和其他各种偏见，并避免过度依赖任何一个旨在全面对接我们和世界的联系的界面。
自动化智人系统将引导我们接收信息的方式，与此同时，它们也将扩大我们生产信息、个性化信息和虚假信息的能力。这将影响从总统选举到客户营销的一切。弄清楚背后是谁、什么是真的，可能会变得越来越困难。以新权力时代的灯塔——维基百科为例。大语言模型吞噬了维基百科的人工创造的知识语料库来进行培训，但现在该网站可能会受到网站上不可靠的AI生成文本的威胁，这使其志愿者编辑社群不堪重负。或者以社交媒体达人为例，他们很快将不得不既相互争夺注意力，还要与AI生成的内容和虚拟人竞争。讽刺的是，管理者可能不得不求助于AI处理自己的烂摊子，过滤掉混乱和被污染的信息环境。
专业知识如何应用。在旧权力的世界，专业知识被保护得很好，而且得之不易，专家作为权威也被高度重视。而在新权力的世界，主要得益于互联网和社交媒体，知识变得更容易获得，从众包到餐厅评论，每件事情都涌现出的“群体智慧”，开始侵蚀传统专业知识的价值。
自动化智人的崛起现在威胁到两个领域的专家被取代。首先，普通人很快会获得强大的工具，能够教学、翻译和问诊。其次，自动化智人系统可以收集和综合大量知识，最终可能在许多领域提供比专家更好、更可靠的答案，同时以难以抗拒的方式提供答案。
这引发了一些棘手的道德问题。想象未来，自动化智人的疗法和咨询服务广泛普及。一些人对允许AI引导我们克服生活中的痛苦和复杂性，已经表达了担忧。但另一些人可能会争辩说，自动化智人疗法也可以提供很多有用的服务——而且不用花钱，且不论白天晚上给到需要的人。那么，人对人的治疗，会变成一种奢侈品，还是最终成为更明智、更冷静的自动化智人疗法的劣质替代品？
随着技术和垂直领域专业知识变得不那么多样化，职场对不同人才组合的需求可能会增长，从而改变组织架构图、办公室文化和职业轨迹。我们可能会将重点从近年来备受重视的STEM（Science/Technology/Engineering/Mathematics，科学/技术/工程/数学的首字母缩写）技能转移，开始重视创意和审美能力、系统思维、培养信任和协作能力，以及在不同观点和经验之间达成协议的能力。
价值如何创造。在旧权力的世界，进入壁垒很高，需要大量的资本、机器和劳动力，无论你是做鞋子还是印刷报纸。而新权力世界，在某些领域向更多人打开了价值创造的大门，包括内容生产 (YouTube, Instagram)和资产变现（Airbnb, Uber）。但是促成这些活动的科技平台拿走了大部分战利品，那些最有价值的企业仍然由少数手握资源的人掌管着。
自动化智人时代具备潜力，让任何人在任何地方开始业务规模化，并创造巨大的经济价值。ChatGPT插件AutoGPT已经指出了可能性，它允许人们为自动化智人系统设置复杂的多阶段任务——从开发新的约会软件到设计建筑，再到创建SaaS产品。这些任务以往都是专家、顾问或大公司的职责，但很快将在无需技术专长、资本或熟练劳动力的情况下完成。普通人只需自然语言提示和餐巾纸绘图，就可以提出想法，用细致入微的市场分析验证它们，制定商业计划，继而推出全新的产品和服务。
这可能会让执行力和创造力获得前所未有的释放，对大公司来说，这既是威胁（因为它为各种新进入者打开了大门），也是机遇（因为它创造了一个更大的创意生态系统）。
尽管执行力将变得更加分散，但价值提取可能不会。就像新权力时代的平台公司一样，开发和拥有这些模型的大型AI公司可能会找到方法来获取其中大部分价值，就像苹果公司在其应用商店中所做的那样。（开源替代方案可能会缓解这种情况，但也可能使得不良行为者更容易利用它们，并制造混乱，从而产生巨大风险。）
一条鸿沟已经浮现，在那些将从AI中获得巨额财富的人，和那些要么被自动化智人系统取代，要么被归入庞大的低阶工人之间。这些低阶工人被付钱给大模型所训练的数据做注释打标签。我们已经看到了迹象：例如，作家们最近在好莱坞举行罢工，部分原因是因为AI被用来写剧本，而且AI公司与出版商和学术机构之间也在僵持，这些机构的内容被搜集来训练他们的模型。
如何与技术互动。新权力时代的重大转变不仅仅是我们开始花更多时间盯着屏幕。人类与技术互动的性质也发生了变化，从被动的沙发土豆转变为积极的参与者。然而，尽管数字世界充满吸引力，我们仍然倾向于在不同的线上和线下场景之间切换。
而在自动化智人时代，这种区别可能会完全消失，走向与数字技术的永久互动，有人可能称之为“在线”（in-line）。技术感觉就像是正在流经我们，在某些情况下，这可能是真的——就像新一代脑机接口公司、苹果的Vision Pro等沉浸式娱乐产品，以及其他可穿戴、嵌入式和基于传感器的技术一样。这些增强技术将使我们的身体和思维与机器更紧密地合成，创造出惊人的体验。但它们也可能让我们感觉无法逃脱，并使公司能够进行无处不在的监视、侵入性数据采集和超级定制化。
领导者和组织需要衡量在线技术的影响，并准备好调整政策和实践，以防它们被证明是负面的。他们可能还需要通过重视维护人际连接来平衡这种转变。
治理如何运作。旧权力的主导治理模式在新权力时代受到了挑战，但从未被推翻。我们看到网络化治理的实验，从开放数据倡议到参与式发展，但其核心机制，从官僚国家到等级制公司，从军队到教育系统，依然坚如磐石。
伴随自动化智人，社会和机构做出决策的方式将会发生巨大变化。AI理论家萨姆·莱曼-威尔齐格（Sam Lehman-Wilzig）认为：“一旦我们能够相对确信AI决策算法——规则/系统没有比人类决策者有更多（通常更少）的固有偏见，我们将很高兴让它们从宏观上‘运行’社会。”
如果这种情况发生，先进的AI系统可能会在所有事情上作出重要决定，从谁获得医疗保健、谁入狱，到如何发动战争。作为回应，人们将越来越多地要求“审查权”（这些决定的优点）和“揭示权”（它们是如何做出的）。自动化智人的神秘性将使这一问题变得棘手。AI公司已经在争先恐后地构建“可解释的AI”，试图为自动化智人决策提供合理的解释，但这些解释往往只是最佳猜测。
我们也有很多理由怀疑自动化智人对民主的影响，包括我们已经描述过的信息机制。但也可能有好处：例如，AI系统最终也许能够模拟不同政策选择的复杂影响，并以更容易建立共识的方式综合利益相关者的偏好。这可能会带来广泛的好处，例如减少政治的两极分化和仇恨言论。
自动化智人世界的领导力功课
自动化智人的崛起将开启重大的新机遇。要抓住机遇，领导者需要拥抱新的技能和方法。包括管理自动化智人系统对职场的影响，找到人类的独特价值所在，并且要让信息机制和商业实践和不断变化、充满挑战的各种争议保持一致。让我们深入考虑一些关键技能。
学会二重奏，和怀疑。领导者和管理者应该把自动化智人系统更多视为同事，而不是工具。把它们当作一个可能非常有能力、渴望讨好你和不知疲倦的同事——但也是一个隐藏议程的信息囤积者，有时还会大错特错。要对付这些聪明但不值得信任的同事，你需要学会如何与它们“二重奏”，以及何时怀疑它们。
我们使用“二重奏”（duet）一词来描述与自动化智人系统协作和迭代工作的艺术，以产生比它们单独能够实现的更好结果。最近的一项随机对照试验展示了这种可能性。该研究对比了一对独立工作的瑞典医生，和与AI一起工作的同事，他们每个人都被分配了诊断乳腺癌的任务，结果，AI辅助的医生在更短的时间内准确诊断了20%以上的病例。
有效地与自动化智人系统合作，还需要培养和保持健康的怀疑态度。这包括关注这些系统何时以及为什么有时会出现“幻觉”并犯其他严重错误；要意识到拥有或控制这些系统的公司已经将自己的利益编码到它们的行为中；并知道它们接受的训练是基于哪些基本假设。理解黑匣子内发生的一切是不可能的，但如果你学会以知情怀疑的态度使用这些系统，就能够更好地与它们有效合作。
最近一项关于一家大医院在癌症诊断中使用AI的实地深入研究表明了这一点。研究中，能够成功将AI纳入其过程的医生，是那些花时间询问训练和塑造AI的基本假设，并研究这些基本假设如何导致其发现模式的医生。
寻求“人性的回报”。与直觉相反，在自动化智人时代，领导者会在创造真正有意义的人类体验、服务和产品方面找到机会。想想在购物点进行的很有意义的个人交流，或者像音乐节这样的公共时刻。想想“象征性消费”行为在社交媒体时代是多么突出——也就是说，我们如何利用消费选择向同龄人宣告独特性。
这种动态将以两种重要的方式扩展。首先，我们可能会看到产品被营销为“值得的（worthy）”和“有价值的（valuable）”，因为它们保护了人类的工作和主动性。其次，我们会看到这不仅适用于产品，也适用于创意。越来越多的公司可能会发现机会，将“100%人类”的创意输出放在首位，就像他们已经对有机食品和美容产品所做的那样。
不要试图两全其美。自动化智人时代的领导者已经受到两股对立力量的暴击：需要证明他们在颠覆工作、生计和社会地位的技术变革面前是“亲人类的”；还要需要证明他们正在从AI进步中挤出一切可能的效率和创新。
一些公司会坚定地站在人类一边，完全抵制AI作为替代手段。其他人会彻底接受它，完全避开人工劳动。［苏米特·沙阿（Suumit Shah），总部位于班加罗尔的电子商务公司杜卡安（Dukaan）的创始人兼CEO，最近在推特上（现已更名为X）吹嘘说，他解雇了90%的客户支持代表，用聊天机器人取代他们。］但最常见的反应可能是公司试图两全其美，大声表达对人类同事和利益相关者的关注，同时减少对两者的投资（并悄悄地向市场和分析师宣传其效率提升）。
多年来，在可持续发展问题上，公司一直能够两面讨好。但这在AI使用上很难做到，因为人们从中感受到的伤害将更加集中、个人化和直接。“人类权利”可能成为下一个ESG大辩论的主题，领导者们需要一部新剧本，准备好认真应对来自社会活动家、消费者、工人和新一代工会的巨大压力。
这个新时代的巨大挑战，是找到增强人类能动性的路径，而不是让它收缩或萎缩。二十年前进入新权力时代时，我们允许新技术平台渗透到人类世界的方方面面——当时我们没有首先了解创造者的真实意图，是什么使技术如此强大，以及它们将如何从根本上影响我们的生活、工作和互动。我们必须带着两个清晰而清醒的理解进入这个新时代：首先，自动化智人系统应该被视为行动者而不是工具，它伴随着所有的机会和危险；其次，推动这一转变的技术公司的动机与我们其他人根本不同，无论这些公司的公开姿态如何。
这些技术的未来太重要了，不能只留给技术派。为了匹配自动化智人系统及其所有者的力量，我们需要一个前所未有的联盟，由政策制定者、企业领袖、社会活动家和消费者一起组成，拥有领导这个新世界、而不是被领导的明确性和信心。尽管这个新世界充满了魔法和诱惑，但我们的未来仍然可以掌握在自己手中。
杰里米·海曼斯是Purpose公司的联合创始人和董事长，该公司为企业和慈善机构提供社会影响力和技术使用方面的建议。亨利·狄姆斯是林肯中心的总裁兼CEO，全球慈善运动“星期二回馈”（Giving Tuesday）的联合创始人，牛津大学赛义德商学院的访问学者。他们是《新力量》的作者。
杰里米·海曼斯（Jeremy Heimans）亨利·狄姆斯（Henry Timms）| 文
飞书、Pi | 译校 程明霞 | 编辑