如果你上过营销课程，你也许还记得20世纪50年代通用磨坊（General Mills）的著名案例，它推出贝蒂妙厨（Betty Crocker）蛋糕粉的广告说，你只需要简单地加水、混合、烘焙。
尽管产品表现出色，但最初的销售很不理想。这令人困惑，直到经理们发现了问题所在：这种蛋糕粉使烘焙变得过于容易，让消费者觉得他们在使用产品时不知何故像在作弊。基于这一洞察，公司从配料中去除了鸡蛋粉，并要求顾客自己打一个鸡蛋到蛋糕粉中。这一微小的变化让这些“面包师”对自己感觉更好了，蛋糕粉销售额因此提高。70年后的今天，大多数蛋糕粉仍然要求用户添加一个鸡蛋。
我们今天仍然可以从这个故事中汲取教训。随着公司越来越多地拥抱自动化产品和服务，他们需要了解这些东西让客户对自己产生了什么样的感觉。但迄今为止，经理们和学者通常关注的是另一件事：客户对这些产品的看法。例如，研究人员一直在研究人们是否更喜欢AI而不是人类（并不是），人们认为AI有多道德或公平（并不），以及人们可能抵制采用自动化的任务（那些不太可量化、更容易解释的任务）。
所有这些都很重要。但现在人们开始在工作内外频繁而有意义地与AI和自动化技术互动，是时候关注这些技术唤起的人类情感了。这个主题是心理学的未知领域，探索这些对企业至关重要，因为它对很多成功因素都有影响，包括销售、客户忠诚度、口碑推荐、员工满意度和工作绩效。
七年多来，我们一直在研究人们对自动化技术的反应以及采用自动化技术的心理障碍。借鉴我们实验室最近的研究，并回顾现实生活中的例子，本文讲述了我们在三个领域观察到的影响管理决策的心理反应：（1）服务和业务流程设计，（2）产品设计，（3）沟通。细查我们的调研和各个案例之后，就如何最好地使用AI驱动和自动化技术来服务客户、支持员工、实现组织利益，我们提供了一些实用指导。
服务和业务流程设计
如今AI与自动化技术已经直接或间接地广泛嵌入消费者和员工的服务和业务流程中。例如，Upstart（一家美国金融科技公司）使用AI来决定向哪些申请人贷款，怪兽饮料公司（Monster）和联合利华用它来评估求职者的潜力。GEICO（一家美国保险公司巨头）的轻松驾驶计划（DriveEasy）用它来评估客户的驾驶技术从而确定汽车保险费，而IBM和莱迪思公司（Lattice）帮企业采用基于AI的绩效反馈流程，这会影响晋升和裁员决策。
面对这一趋势，我们需要问：人们会对来自AI和自动化技术的决策和反馈做出何种反应？企业如何最好地将AI和自动化技术纳入服务和业务流程，最大限度地提高客户和员工满意度？
让我们从第一个问题开始。我们最近与伊利诺伊大学厄巴纳-香槟分校的林莎拉（Sarah Lim）和康奈尔大学的奥塞莱尔（Stijn M. J.van Osselaer）一起研究了用户向公司提出申请（可能是贷款或某些福利）被接受或拒绝的情况。在涉及5000多名参与者的10项研究中，我们发现，在申请被接受的情况下，他们对AI的反应与对人类不同。
用户心理反应的差异很显著：那些得到人类许可的参与者，比那些得到AI许可的参与者感到更快乐，尽管他们都获得了同样的申请许可。为什么？因为后者觉得自己被简化为一个数字，认为自己的成功无法得到足够多的赞扬。然而，当他们的请求被拒绝时，无论拒绝他们的是一个人还是AI，参与者的感受都是一样的。在这两种情况下，他们倾向于将失败归咎于决策者，而不是自己。
这个实验结论的启发很明确：人们对自己的感觉取决于他们被谁或者什么事情而评价。这对商业决定的影响至关重要。
看看我们的一项研究结果。在研究中，我们要求人们想象申请银行贷款。一半的参与者被告知贷款算法会评估他们的申请，另一半被告知贷款官员会评估他们。后来，每组的一半参与者被告知他们的申请已经获得批准，另一半被拒绝。
与那些申请得到信贷员批准的人相比，那些申请得到算法批准的参与者对银行的评价较低，也不太可能向其他人推荐银行。但是，所有申请被拒绝的参与者对银行的评价都是相似的，并且对向他人推荐银行的兴趣也是同样程度。
我们在现实世界中也观察到了这种模式。例如，我们要求在线劳工平台的员工申请加入一家研究公司组建的精选研究小组。一半被告知AI会评估他们的申请，另一半被告知是人类员工评估。通过AI获得小组成员资格的人，对研究公司的评价不如通过人类员工获得资格的人积极，但每个被拒绝的人对公司的感觉都是一样的。
简而言之，当传递好消息时，如果公司依赖人类而不是AI，它们可以在客户和员工中产生更积极的反应——但传递坏消息时，人类和AI就没什么区别了。
我们在研究中采访的大多数经验丰富的领导者和经理似乎都没有意识到这些影响的差异。在一项调查中，我们发现几乎没有人能预见实际结果。如果高管希望用新的AI和自动化技术有效地吸引客户和员工，他们需要了解人们可能的反应。
现在让我们转向第二个问题：企业如何将AI整合到其服务和业务流程中，以最大限度地提高客户和员工的满意度？我们的实验结果提供了一些建议。
首先，当AI或自动化技术被用于评估和反馈的目的时，我们建议让积极的人类行动参与其中，并让客户或员工清楚地了解这种参与。在一项研究中，我们评估了当一个人只是被动地参与评估（也许只是监控算法决策）时，人们如何评价一家公司。将人类负责评估的过程和只有算法负责的情况进行比较，我们发现，只有当人类行动在其中时，参与者才会做出积极的反应。
其次，我们建议管理者在决策过程中对（昂贵的）人力资源的依赖程度要有所选择。因为人们对负面消息的反应往往相同，无论是来自人类还是来自AI，公司可能不需要“人情味”来传递坏消息——尽管这与传统的管理思维相矛盾。他们应该考虑尽可能频繁地使用人类来传递好消息。
另一个研究项目也揭示了何时可以最有效地将人类纳入业务流程中。斯特凡诺（本文作者之一）与慕尼黑工业大学的阿明·格拉努洛（Armin Granulo）和维也纳大学的克里斯托夫·富克斯（Christoph Fuchs）合作研究象征性产品和服务，这些产品和服务为消费者提供的不仅仅是工具。它们也代表抽象概念，传达了一些关于个性、信仰、社会群体成员身份、阶级地位或其他无形资产的信息。例如，纹身、时尚珠宝和校队夹克。不过，需要记住，单一产品可能既有物理用途也有象征用途。例如，眼镜由镜片和镜框组成，镜片可以让消费者看到（物理用途），还有镜框，镜片既可以固定在适当的位置（物理用途），也可以作为自我表达的核心时尚配饰（象征性用途）。
该项目包括四个使用不同产品类别的实验，涉及1000多名受访者。作者比较了消费者对由自动化技术或人类生产的象征性产品的态度。他们一致发现，人类劳动为象征性产品增加了独特的价值。在其中一个实验中，参与者透露，他们更喜欢由自动化技术制造的眼镜镜片——大概是因为它们基于机器的精度——但镜框是由人类制造的。在另一项研究中，参与者更有可能购买由人类设计的海报，而不是由AI设计的海报。
这些发现引出了我们的第三条建议：公司应该仔细考虑为什么客户会购买他们的产品——以及他们是否可以通过在生产过程中至少保留一些人类参与，来增加产品的独特价值，即使他们打算将大部分产品自动化。
产品设计
AI技术和先进的自动化功能被集成到许多产品中，改变着我们完成个人生活中诸多任务的方式：iRobot的扫地机器人（Roomba）帮你清洁地板，特斯拉的自动驾驶让你享受更多便捷，Jura的全自动咖啡机为你制作咖啡，从咖啡豆开始，到杯子都能自动清洁。人们也越来越多地在工作中使用AI驱动的工具。IBM的沃森与许多公司的员工合作，处理各种商业任务，包括财务估算和营销沟通策略；Adobe的AI赋予设计师更多可能性，并通过Photoshop和其他程序增强用户的创造性表达；丰田的员工操作高度自动化的工具和机械。最近出现的大语言模型和生成式AI，如OpenAI的DALL-E和ChatGPT，可能会加速这些趋势。我们与所有这些自动化技术的互动将如何影响我们的自我认同感和成就感？又将如何影响用户对产品的需求？
我们的实验室探索了人们在不同身份的消费背景下对自动化产品的反应，这有助于人们定义自己是谁。斯特凡诺与杜兰大学的梁教授（Eugina Leung）和鹿特丹伊拉斯谟大学的保拉齐副教授（Gabriele Paolacci）合作的这个项目，在六项研究中，他们发现，对特定活动（如钓鱼、烹饪或驾驶）有认同感的人可能会经历自动化对其身份的威胁，从而导致产品采用率下降和产品批准率下降。
为了进一步了解这一现象，作者对荷兰参与者进行了一项研究，关注的是骑自行车，这是一项对许多荷兰人的自我意识至关重要的活动。为了暂时让他们更加强烈地认同骑自行车，一半的参与者被要求写一篇关于荷兰人对自行车的热情的短文，剩下的一半被要求写一篇关于荷兰人对鲜花的热情（控制条件）的短文。完成这项任务后，他们参加了一项表面上不相关的研究。作者告诉他们一家自行车店的特别优惠，并询问他们是否有兴趣为自己的自行车添加一个免费的自动化功能：一个可充电电池来辅助踏板。写过关于骑自行车的文章的参与者接受这项功能的可能性要低20%，尽管它是免费的。
在另一个项目中，研究人员与博科尼大学的玛丽亚·克里斯蒂娜·西托（Maria Cristina Cito）和同一个团队一起，研究了一个互补的问题：受相关身份的目标激励的人如何应对公司的数字化努力。在三项主要研究和五个后续实验中，他们发现，象征性产品在数字形式中的使用频率低于实体形式。人们根本无法用数字产品轻松表达自我。在你的Kindle上看到莎士比亚作品的收藏，远不如在客厅书架上看到同样的收藏更能彰显你的文学身份。
这两个项目的结果表明，当人们认同某一产品类别，或者当产品帮助他们表达信仰和个性时，他们有时会抵制对这些产品的任何技术改进。在这种情况下，企业应该怎么做？
首先，我们建议企业不要用全自动产品来吸引有身份动机的消费者，当真正瞄准这些消费者时，他们应该专注于让用户感到自豪和参与感的功能或任务。以我们合作的一家自行车零部件制造商为例。早些时候，该公司在欧洲市场推出了一种昂贵的自动换挡装置，并将目标对准了更愿意为机械设备付费的自行车爱好者。但这些消费者对该装置没有什么兴趣，因为他们觉得这会消除他们骑车体验的一个核心部分。如果该公司向通勤者或休闲骑自行车的人进行营销，或者设计该功能的方式让骑车人感觉更有控制力，它可能会取得更大的成功。
其次，我们建议公司要做市场研究，评估自动化产品和服务触发用户身份感危机的程度。
沟通
随着AI和自动化技术的采用，就像其他许多技术一样，沟通很重要。在研究中，我们发现三种重要方法让公司可以优化其沟通策略，最大限度降低用户抵制或反弹的风险。
首先，使用AI界面与客户或员工交流的公司，应该考虑使这些界面人性化。我们发现，在涉及评估和决策的业务流程中，这一点尤其重要。在一项研究中，我们测试了在AI中添加类似人类的功能是否会导致人们内化积极的新闻，并对公司给予更有利的评价。当我们给AI一个名字（Sam），添加一个身份，并使其与人的互动更具对话性时，他们的反应就像对待人类员工一样。对于因各种原因（如大量请求、时间限制或计算限制）无法雇用人类的公司来说，这一发现表明，简单地将AI人性化可能会减轻对反馈或新闻的不太积极的反应。
以我们合作过的一家金融科技公司为例，该公司依靠AI技术来评估用户的财务健康状况。在其交互式全自动流程中，用户填写问卷，AI评估他们的答案，系统会对他们的财务健康状况进行评估。此时，用户被鼓励点击链接以获取有关该公司服务的信息。为了提高消费者对这些服务的兴趣，该公司代表一家大型全球银行创建了一种聊天格式，AI通过表情符号等情感表达线索与用户互动。当用户从人性化的AI与标准显示格式中获得关于其财务健康的积极反馈时，他们更有可能点击链接并寻求更多信息。
其次，我们建议企业修改与客户和员工就自动化产品进行沟通的方式。如前所述，当人们认同某个领域或活动时，如果他们觉得不能将结果归因于自己的技能或努力，他们有时会抵制自动化。但是，如果公司将自动化功能描述为补充他们的技能而不是取代人呢？
斯特凡诺与梁教授、保拉奇合作的项目其中一部分是测试，如果用术语来描述，人们对自动化产品的反应是否可以改变。作者制作了两个广告，用不同方式描述一台自动化烹饪机：一个广告说，这台设备“只需按一下按钮”就可以处理所有烹饪步骤，另一个广告说，它将指导烹饪过程，并在用户的帮助下准备饭菜。参与者被随机分配了其中一个。尽管广告是针对同一产品的，但结果显示，“描述”确实很重要：当该设备被描述为允许人们至少部分使用他们的技能时，拥有身份动机的消费者对此持更积极的态度。
尽管我们的研究主要是针对消费活动，但与身份认同相关的动机在工作场所也很重要。许多人的自我意识植根于他们的职业身份，如果AI和自动化威胁到技能、专业知识或自身地位的贬值，它们可能会被视为破坏了员工的身份认同。如果公司希望大规模部署自动化技术，那么关于技术如何与员工能力互补的内部沟通就至关重要。
自动化技术正在改变的不仅是产品和劳动力市场，还有使用这些技术的人对自己的看法。越来越多的公司需要通过战略性地设计业务流程和产品来克服心理障碍，考虑人们的感受，并采用深思熟虑的沟通策略。在某些情况下，AI服务和自动化技术可能会带来降低员工承诺或客户满意度的风险，公司需要权衡其收益和风险。在这种情况下，考虑转向AI和自动化时，合适的问题不是“我们能吗”，而是“我们应该吗”。
吉泽姆·亚尔辛是德克萨斯大学奥斯汀分校麦克库姆斯商学院市场营销助理教授，专注于AI和自动化如何改变消费者对自己、公司和他人的行为和感觉。斯特凡诺·庞托尼是沃顿商学院塞巴斯蒂安·克雷斯格营销教授和沃顿技术影响倡议的联合主任，研究AI和自动化如何改变消费和社会。
吉泽姆·亚尔辛（Gizem Yalcin）
斯特凡诺·庞托尼（Stefano Puntoni）| 文
飞书、Claude、Pi | 译校 程明霞 | 编辑