当平庸的分析触手可及人类作为思考者的底线在哪里当AI不再仅仅是提高效率的工具而是逐渐渗透进我们的研究方法、决策流程甚至情感依赖中我们是否正在经历一场悄无声息的“认知投降”在 AI Society Forum 2026 的一场圆桌对话中腾讯研究院与来自香港大学的哲学、金融学与法学专家们共同探讨了一个深刻的课题“后智力稀缺时代——经济、社会与真相的重构”。这并非关于技术的枯燥技术研讨而是一场关于人类主体性如何与算法共存的灵魂质询当平庸的分析触手可及人类作为思考者的底线在哪里当AI学会了“谄媚”与“均值化”我们如何避免陷入真理的荒原以下是本次圆桌论坛的实录。主持人:李刚腾讯研究院首席研究员嘉宾:Rachel Sterken香港大学哲学系系主任陈志武香港大学香港人文社会研究所所长、经管学院金融学讲座教授Giuliano G. Castellano香港大学法律学院副教授Herman Cappelen香港大学哲学系讲席教授、AI与人类实验室主任编辑整理窦淼磊腾讯研究院高级研究员李刚感谢各位教授来到今天的讨论。我刚学了一个词叫“认知投降”cognitive surrender。我确实把自己的认知能力交给了AI让它帮我制定这场讨论的提纲。首先请问几位你们日常研究和生活中使用AI智能体和各种模型吗你们与AI互动的第一手体验是什么好的、坏的、丑陋的方面分别是什么请举些例子。Rachel Sterken教授我是一名哲学家。我们喜欢做的事情之一是考虑有争议的话题、思考各种论证。所以有时候我试着用AI来审查论证、产生想法、讨论有争议的话题。有时候我觉得它非常有用因为它会指出一些我没有想到的东西。但有时候我发现它太过迎合了。大家都熟悉“谄媚”sycophancy问题但我认为这个问题要深刻得多而且很难被我们察觉。当我与AI互动时它非常微妙——它捕捉我提问的风格、我如何框定问题然后给出一段非常流畅的文字用我会觉得舒服的方式来框定这个议题。而且它做得如此隐蔽我根本察觉不到谄媚的存在。所以这一点让我相当担忧。我确实觉得它在生成想法、帮助思考论证方面很有用但我非常担心这对知识和我们获取真相的能力意味着什么如果每个人都只是根据自己提问的方式得到迎合性的答案。另一件事是我发现自己很容易将AI拟人化把它的回答当作有内容的、对我问题的真正回答。而我们知道这项技术实际上只是一个文本生成器。我们不应该把它的输出理解为有内容的不应该把它理解为知识或真相的系统性来源不应该把它理解为一个说话者因为它是一个文本生成器。所以我认为当我们把它当作信息来源使用时需要非常小心。陈志武教授我使用AI已经好几年了。也许我最早的经历是几年前我请一位前同事起草一个“家族财富管理” 硕士学位项目的方案。他花了六个月写初始方案结果什么都交不出来。但距离截止日期只剩一周了我的助手建议我也许可以试试AI。所以我试了GPT不到一分钟就生成了一个很好的初步方案。然后我花了一天时间补充了很多其他要素等等。我由此学到那位初级同事应该可以回家了这就是AI如何改变香港的一个例子。我们不再需要那么多平均水平的初级同事了也许连一些资深同事也不需要了。在辅助研究方面我们有了更多这样的例子。现在有了AI、GPT和Claude等工具几分钟就能完成的事情以前要花大量资金雇佣几十个研究助理。最近一年还有一个有趣的观察是投资研究。我教MBA学生已经很多年了。你们看得出来我老了教过很多MBA和本科生他们在金融服务行业工作特别是对冲基金管理、共同基金管理等。最近几个月我了解到我的很多前学生可能需要找其他工作了。现在有了AI标准新闻检索和分析或者分析师工作甚至一些传统基金经理都可以轻易被AI取代。Giuliano G. Castellano博士在刚才说的那些内容之外我可以举两个例子。我是一名法律人在最近的一项研究中我开始构建一个系统时——一种研究助手是一个带有Agent行为的RAG系统试图真正地做研究并将其建立在一套规则之上有时候是3万页的法规我一个人根本不可能全部掌握但我希望研究以此为基础。因此我花了一个月来搭建这个架构学习我完全不了解的东西甚至进入了编程的领域——这完全超出了我的能力。丑陋的部分是我被AI推向了太复杂或太困难的方向。因为我没有足够的专业知识我不总是能做出决策所以我逐步学习并建立了专业知识。坏的部分是几个月后我构建的一切都过时了——因为通过正确配置一个通用工具你实际上可以获得同样的结果甚至可能更好。好的部分是我学到了很多这是我工作的一部分。因此我理解了这些东西是如何推理的。但在个人生活中的一个案例——几个月前我当了父亲关于儿科医生、财务、婴儿车等等有各种我没想到的事情需要做决定。所以我在电脑上创建了一个个人助手比如帮我找儿科医生试用不同的医疗方案找家附近的医生等等。AI助手实际上在过滤信息方面做得很好但它没有代替我做选择。选择是由我妻子和我做出的。老实说我们没有选择它推荐的那些但它帮助我们发现了一些我们之前没有充分意识到的因素。所以这就是我的观点——当我们谈论AI采用时我们指的是由谁、如何、到什么程度这真的取决于具体情况。这也是我试图告诉学生和其他专业人士的——认为你可以用一个聊天机器人来回答复杂问题这是一个误解是一种廉价的作弊。在大学里我们正在与此抗争因为它不能给出好的结果。但当涉及更深层次的整合时专业判断不能被委托出去整个工作流程完全改变了。也许这是我们稍后可以展开的内容。Herman Cappelen教授在我自己的职业和个人生活中我尽可能多地整合AI的使用尤其是AIAgent。比如我有一个Agent——我发现这些智能体比聊天机器人Chatbot好得多——它每天帮我保持工作进度。它知道我应该做的一切、我昨天忘记做的事情。它建议优先级在白天和我确认你搞定这件事了吗你做完那件了吗你和那个人聊了吗因为我有大约400件事需要做总有事情被忘记它会提醒我。帮我保持进度也帮我排优先级。所以宏观来看就像每天有50个人为我工作一样这其实很不可思议。以前必须是一家大公司的CEO才可能有50个人帮你随时做任何你想做的事而且可靠性比实习生还高。所以我担心的一件事——而且我认为相当重大——是我们没有充分认识到这些工具能做什么我们使用得还不够。我认为即使AI停留在当前水平我们也需要10年才能将其发挥到最大优势。我们才刚刚开始弄清楚如何使用它。技术才刚刚起步。但即使在目前这个水平我们也根本没有充分使用它。人们害怕和担忧。当他们使用AI太多时会感到内疚。所有这些都必须完全消失。我们必须像这样思考——我们所有人现在都是一个公司的CEO这个公司帮助我们做我们需要做的一切。然后关键是要记住人们已经提到的——而且这将是非常明确的——我认为这是关键的事情。就像有50个人在外面帮助你他们会给你不同的建议因为对于任何这些困难的问题永远不会只有一个答案。所以你必须做决定但它会给你选项、给你准备正反两方面的论证和证据然后你是做决定的那个人就像你是一大群人的CEO一样。李刚谢谢。从我听到的来看嘉宾对AI的发展都相当积极。我觉得我与AI互动的大部分经历是——它们太迎合了。你们认为在社交媒体时代、互联网时代有大量信息在网上产生和流通现在又有AI介入。在这个新时代你们怎么看这是我们讨论的“感知真相”部分。真相发生了什么变化Rachel Sterken教授有很多问题我们在社交媒体时代就已经在应对了它们现在仍然存在。社交媒体算法、基于参与度的推荐算法——它们追踪的不一定是正确的认知来源。平台的设计方式不一定有利于我们之间的良好对话。我认为社交媒体算法和内容审核确实存在问题因为那是在过滤和传播我们之间的信息。我们许多传统的认知来源——比如新闻业和新闻机构、科学专业知识、研究社区它们在社会中扮演着非常重要的角色。但自从推荐算法接管以来做这些事情变得困难得多了。同样我们会看到大语言模型也会出现这种情况。我们在大学里甚至在研究中已经看到了现在正在产生大量的“僵尸科学”zombie science这是一个需要警惕的真正的问题。人们不知道如何使用这些工具我们还没有为这些工具开发出适当的规范和框架以及我们想用它们做什么任务。我们对自己的认知角色以及如何用这些新工具支持这些角色也理解得不够。我们将看到的新危机将是“虚假言论”fake speech的危机。因为会有大量的言论——无论是AI生成的合成内容、代表用户发言的AI助手还是用户没有真正验证就发布的信息。会有大量看似来自真实来源的虚假言论。你以为背后有负责任的认知实践、有信息审核等等但实际上并没有。李刚我们确实在腾讯研究院内部讨论过这个现象。就是说你刚才提到规范实际上需要很多年才能形成并成为社会共识。但如今信息的传播速度——无论是假的还是真的、AI生成的还是非AI生成的——都以光速传播。这种不同的信息传播速度会对我们视为规范的东西产生巨大冲击。基于这些信息因为我们基于信息做各种决策如果这些信息不是真的那么我们就会做出各种错误的决定。有什么办法吗目前的策略是用AI来检测AI用魔法打败魔法。作为人类还有什么可以做的来解决这个非常困难的问题Rachel Sterken教授前面已经提到的一点是你必须理解它只是一个工具最终你是负责人。比如我们采用一段文本但作为演讲者或信息传播者、作为教授或记者在发布之前审查信息仍然是我们的责任。但我认为平台也有责任监管机构也有责任确保我们不被大量虚假言论淹没。我们还可以支持那些真正在做信息审查工作的机构确保我们在信息环境中有高质量的信息确保这些机构不会因为新奇事物而被侵蚀和遗忘。如果被大量低质量信息淹没和取代那真的很遗憾。李刚你对我们解决这个问题持积极态度吗Rachel Sterken教授我不乐观。我认为需要巨大的集体意志。但我希望我们能在教育、监管和设计方面找到解决办法。李刚你认为AI会帮助我们达成共识、建立规范还是会让这更困难Rachel Sterken教授我想如果设计得好的话它可以被用于此。我认为很多结构和规范可以——比如在构建平台设计等方面确保我们有针对特定任务的AI人们理解这些任务是什么而不是拥有一些非常通用的系统——我认为这是一种帮助方式。我认为我们可以做很多事情来监护规范结构和生成规范结构。我不知道我们是否会这样做但我希望我们会。李刚对于陈教授这是一个话题的大跳跃。我想问你一些我们上午讨论过的内容——关于AI应用的宏观经济影响有很多争论。就像Cappelen教授说的一个人加上一堆AI智能体可以执行很多不同的任务。你也刚提到商学院毕业生很难找到工作。我还听到——不知道是否属实——计算机科学的STEM毕业生也很难找到初级工作。这些初级工作的大部分工作现在都由AI智能体完成了。有人在谈全民基本收入UBI。马斯克说“全民高收入”Universal High Income。我不知道高是多高但就是说你不必工作所有这些都会通过向富人征税来解决。这会有什么影响我无法想象——我的背景是经济学——但我认为当前基于税收的系统、社会保障网络所有这些基本概念市场交易、公司、组织、公司治理——这些概念在10年后还存在吗还是会在我们的有生之年发生根本性的改变你的答案是什么陈志武教授确实有许多巨大的社会、政治和经济影响。首先在经济方面。许多考古学家和经济学家一起证明了在过去至少一万年中自新石器时代革命开始以来几乎每一次技术突破都会导致收入不平等和财富不平等上升几乎没有例外。所以AI也不会例外。AI使“赢家通吃”现象达到了前所未有的水平因为那些能够利用AI的人、拥有很多天赋的人他们能够成倍增加自己能产生的财富和收入。所以收入不平等、财富不平等会因为AI而大幅上升。这是既定的。不会改变的。实际上一些经济学家甚至建立了模型证明除非边际税率达到100%否则即使是99%的边际税率——成功人士在长期内要缴纳的——财富分配仍然会极度集中在最顶层的少数人手中。所以如果是这种情况无论你多喜欢托马斯·皮凯蒂的《21世纪资本论》征税都解决不了问题。这是我要提的第一点。第二点更多关于社会政治影响。从我自己的研究和其他人的研究中得到的一个教训是——如果你看欧洲福利国家是如何兴起的导致欧洲首次真正采用非常全面的福利国家计划的一个重大事件实际上是工业革命。在19世纪之前基本上在1800年之前地球上没有任何国家有任何全面的政府福利计划。然后由于工业革命许多人首先在欧洲离开乡村到工厂和城市找工作。然后他们不得不面对失业的前景——因为对于拥有土地和自己家的农民来说不存在失业这回事——因为无论发生什么只要他们有土地就能种自己的粮食也能养为他们提供蛋白质的动物。政府过去不需要为人民的福利负责。但工业革命之后整个图景完全改变了。所以现在有了AI失业不再只是一个轻微的、低概率的前景了。对许多人来说它将成为可能是一个常态、一个需要面对的常规现实。所以如果我们遵循地球上政府如何参与提供最低生存保障支持的历史演变那么有了AI不幸的是政府将不得不承担一些责任。所以这就是为什么你在香港坐出租车时很可能司机是七八十岁的老人他们仍然必须靠自己开出租车谋生。这就是这里的现实。我猜香港未来可能不得不面对更多的财政赤字挑战因为香港政府将不得不为因AI而新失业的人提供一些支持。这是人类社会将不得不应对的另一个挑战。那么人类社会将如何应对这些后果相信我我花所有时间和年头主要研究中国过去一万年的发展历史原因是——你知道一方面多关注长期历史我就能从人类发展模式中发现很多积极和令人安心的东西。因为归根结底我并不太担心因为人类总是非常可靠地寻找解决所面临问题的方法。所以我不认为在未来100年里后代人类会偏离那种求生的愿望。李刚谢谢陈教授。Castellano教授首先恭喜你的家庭发展和新宝宝。当你的新家庭成员长大时——我不知道是他还是她——情况会和今天很不一样。你会给什么建议风险的分布和信息在社会中的分布将被AI完全改变那么什么会像润滑所有这些社会机器正常运转的金融系统一样这个系统会因为风险和信息的分布改变而如何变化什么才是管理数据和token等这一系列新东西的完美系统你的答案是什么Giuliano G. Castellano博士你知道 2025年出生的人现在被称为“Beta世代”了他们实际上将是第一代AI原生一代——在这个意义上当他们到达能够学习的阶段、能够与学习互动时AI将是他们系统的一部分。其实和前面几代人没什么太大不同——在数字原住民一代之前人们不知道没有互联网的生活是什么样的然后互联网就像电力一样普及。所以在某种意义上——我会依赖历史学家和陈教授那个乐观的说法——人类的求生精神总会拯救我们。这给了我一些希望。我不试图预测20年后未来会是什么样子但AI确实将成为我们现实的一部分这将完全不同地塑造我们如何获取知识。在这里我非常喜欢关于认识论的观点现在的问题更多是关于我们如何构建知识而不是技术本身。我在金融领域看到的风险。金融领域的AI应用并不是悄悄进行的但也不一定是头条新闻。例如在英国75%的银行和保险公司确实已经在后台部署了AI系统以简化流程、控制网络安全等。看看香港香港金融管理局发布的数据表明了一系列银行和保险的试点计划削减了报告可疑交易的成本——通常与犯罪活动有关。有时可能是误报他们将准确率提高了约80%将成本削减了30%到60%。风险方面——主要风险是不同国际组织——比如金融稳定委员会——已经指出的即网络安全风险、数据泄露、依赖外部服务器导致的暴露和漏洞。而我认为在金融领域有三个更大的隐性风险我们真正需要多讨论。第一个是工作流不成熟。我认为这与Herman教授之前提到的相关——即使AI不再进一步发展仅仅适应目前的能力就需要10年或更长时间。那么很自然就会出现不成熟的工作流——我们无法避免员工使用自己的个人聊天工具透露客户的敏感信息来获得快速回答或因为答案没有基于公司特定文件而得到错误答案。但我认为这只是暂时的随着应用和完善它会改变。这仍然是人为错误是人类产生的过失——我们以不该使用的方式使用了技术。另一个是认知衰退的风险。这已经在多个领域有记录。所以不仅仅是委托过程——即使有了成熟的系统如果使用不当存在这样的风险每一个委托、每一个选择都会依赖于某种神谕——“我在网上找到了”或“AI告诉我了”。对我来说这是AI接管的阴暗版本——不是我们在科幻电影中看到的那种接管而是变得如此依赖。决策过程中的某些人可能对这类输入变得如此依赖——他们把认知工作都交出去了——最终可能存在某种衰退的风险。在决策的能动性构建方式上的衰退。最后一个对我来说——特别是在金融和法律领域回到规范框架——是认识论风险。这听起来像一个学术界使用的复杂花哨词汇但实际上是关于我们如何构建知识。我们为AI——实际上是为金融整体——制定规则时是在知识稀缺的假设下、在信息有限的假设下。比如我们想买一只股票有一份招股说明书告诉你买的是什么你必须遵守。没人真的读它但那是你必须看的小字。互联网提供商合同也一样——所有这些小字告诉你买的是什么。现在我们确实有工具来处理、分析、收集、切割所有这些信息。所以对我来说在这项新技术带来的风险背后我们可能需要问自己那些以人类收集和选择信息的有限能力为前提的金融规则是否仍然有效我举个例子——当我们看信贷当有人去银行申请贷款时他们会看信用状况——即偿还的概率是多少他们看工作、不同的支付证明等。现在我们有了一些新型的机构和系统它们能够处理更大量的数据给一个人做出完全不同的画像。一个人可能在银行基于传统标准被拒绝贷款申请但基于一系列我们10年前没有考虑过的其他信息——因为我们当时根本无法收集和处理并围绕它构建知识——他们实际上获得了批准。到目前为止违约的概率似乎并没有不同。还有很多其他例子。所以这是另一个风险——我们有了这个系统我们没有正确使用它。我们不研究如何使用它。人类可以通过创造知识、管理知识与这个系统互动但我们以前那些我们一直在其上工作的前提——这些前提实际上可能不再适用了这可能是最大的瓶颈。李刚谢谢Castellano教授。我从你的发言中学到的是——在AI时代人们应该更加主动。我们必须保持警惕来守护真相。如果感知到的真相不再是真相了那就没有真相了。在今天的论坛中大家不断回到这个观点——大语言模型的大部分基本结构是自回归。它们在某种程度上趋向于均值——如果你输入模型的信息的多样性大大缩减输出就会越来越差。所以如果像我们这样的个体不做好收集新鲜和多样信息作为大语言模型输入的工作这些模型就会衰退也许比我们衰退得更快。这也许是一直使用AI的根本风险。Cappelen教授——你是哲学教授我也看到了一些你的视频片段讨论人们能和AI坠入爱河吗我们能和AI发展真正深入的情感关系吗在这个AI时代意识是什么我们是否应该把一些类人——但全天候有能力和你交流、全天候表现得像人类的——的东西当作人来对待在现实中如果我们已经投入了这么多的情感在那个类人体上我们会允许它做什么样的事情所以我更愿意从你这里学习。你的直觉告诉你什么关于人类的未来会是什么样子Herman Cappelen教授我们与这些新系统之间的联系和关系的问题将在未来变得至关重要。我是这样看的——我们非常习惯将世界分为两类。一类是烤面包机或这个话筒之类的东西它们只是机械物体如果我们摧毁这个话筒换一个新的没人在乎。如果我拿走这把椅子摧毁它、拿你的椅子没人在乎。然后还有另一类东西——人——有心智、有自由意志、有意识我们关心他们对他们有特殊的情感纽带、权利和义务。然后我们把这稍微扩展到非人类动物——我们觉得不能像对待椅子一样对待它们。但AI这样的新系统令我们困惑。它们不太像动物因为不是生物性的。另一方面它们也不太像椅子因为它们似乎在思考、相信、有动机和做选择。所以它们做了很多人类心智能做的事情。我认为我们在接下来的一个世纪要做的事情是试图理解这种新类型的东西如何能与我们共存。我不认为我们已经开始理解了。我刚在Google参加了一个大型会议Google有一个团队唯一的工作就是找出Gemini何时变得有意识。我认为这是一个错误。我不认为意识是一个严肃的研究领域。它是一个碎片化的死胡同人们在讨论不同的事情。它没有明确的经验标准。我认为这不是我们应该关注的。这是一个大胆的主张很多人会不同意。我认为作为一个能动者、做选择、做事情、承担责任——那些才是关键。在那里我认为我们已经注意到我们交互的智能体可以做选择。它们可以有优先级。可以有目标。比如如果我启动一个AI智能体我有一个特殊的智能体唯一的工作就是帮我找这位钢琴家Víkingur Ólafsson的演出票——他是我全世界最喜欢的钢琴家——找到我能去到的地方。它定期检查查飞机、查是否有票、我怎么到达。然后它向我汇报。做那些工作量很大它来来回 回。所以它有一个目标然后有一个长期策略来帮我拿到Víkingur的票。所以这就像——它在做选择它有目标有优先级。然后你会更广泛地看到这一点。我们将有AI教授、老师、评分者和金融从业者。法律领域也会有。我不知道它们是否会被允许做法律决定但它们会为律师做很多工作。在医学领域也会有在军事领域也会有。我们已经看到过——有报道说Claude参与了委内瑞拉对马杜罗的绑架事件。所以很多这样的事情将被整合到我们的决策中。真正的问题是给它们多少责任例如它们会拥有银行账户吗如果它们能拥有银行账户我们能起诉它们吗它们能像人类一样被追究责任吗我自己的感觉是这一切都即将被创造出来。这不是已经决定的事情。你不能只是看着技术说“计算机科学家是这么说的所以我们知道它是什么了”。这部分将由特定司法管辖区如何赋予它权利和义务来决定。我们赋予它银行账户、让它做医疗决策、让它做法律决策、让它作为可以杀戮的自主武器做决策——或者不让。这在不同司法管辖区之间会有差异。所以整个事情将是一个不可思议的实验——将一种新的奇怪的外星生物融入人类社会。我们将在未来几十年里看到这如何发生。李刚谢谢。我觉得Cappelen教授比我更擅长提问题。在结束前我能邀请所有嘉宾用一句话来总结你们的发言和这场Panel的讨论吗也许我从Cappelen教授开始。Herman Cappelen教授我们应该有更多这样的活动。每个人都应该花40%的时间思考AI如何融入他们的生活、职业、政治和社会环境。Giuliano G. Castellano博士完全同意。而且我认为——我们应该更多地思考。特别是我们在这里都是社会科学家。语言是我们的工具。然后我们有一项基于语言的技术。所以想法的规划、想法的播种我认为变得比执行本身更加根本。陈志武教授让我试着积极一点。未来是美好的。所以拥抱它。Rachel Sterken教授是的我只想说我认为在生产力和负责任地使用AI之间存在很大的权衡无论你在用它做什么。所以确保你没有让渡自己的自主权理解最终是我们在负责。我不认为我们应该把我们的认知生活和社会让渡给这些外星生物。李刚谢谢。请和我一起用热烈的掌声感谢我们的嘉宾们原文链接AI世代警惕一场静悄悄发生的“认知投降”-36氪