世界最强大脑的巅峰论道

寻找技术飞跃与伦理道德间的平衡点

作者／IT时报记者贾天荣

编辑／钱立富孙妍

7月4日，2024世界人工智能大会暨人工智能全球治理高级别会议（WAIC2024）在上海拉开帷幕，嘉宾阵容星光熠熠，汇聚了9位图灵奖、菲尔兹奖、诺贝尔奖得主，以及88位中外院士，共同探讨AI伦理治理、大模型、数据、算力、具身智能等十大热点议题。超过1000位全球领军人物围绕如何构建开放、公正、有效的全球AI治理机制展开深入对话，旨在防范潜在风险，把握AI带来的无限机遇，助力各国经济社会的数字化转型。

作为AI领域一年一度的顶尖盛事，WAIC2024在规模上创下历史新高。一系列尖端科技成果集中首次亮相，聚焦大模型、算力、机器人、自动驾驶等前沿领域。大会期间，人形机器人、虚实融合、自动驾驶、无人机、脑机接口等前沿技术应用体验区成为亮点，为参会者呈现了一场视觉与智能的双重盛宴。

图灵奖得主姚期智：AI可能比核生化更危险

在全球治理图灵圆桌环节，姚期智、罗杰·瑞迪、曼纽尔·布卢姆等三位图灵奖得主，围绕人工智能治理协同创新展开了巅峰论道。

姚期智则认为，AI风险主要来自三方面：一是随着AI能力出现，传统的数据和网络安全风险会被放大，AI会将管理数据安全的困难放大100倍；二是没有意识到的社会风险，如AI非常强大，且有很多使用方式，短期内存在颠覆现有社会结构的可能性，比如AI可能带来大规模失业；三是所谓生存或存在的风险，这一次颠覆性的力量可能比核生化更加危险。

所有这些风险都需要很多专家来解决，不仅是科学家，还需要政府、律师、经济学家来参与，几乎涉及每一个行业。

在姚期智看来，AI风险也与计算性相关，目前的算力能解决很多以前不知道如何解决的问题，但这也是让人感到非常恐惧的地方。“一方面我们把AI控制好，毕竟这是我们设计出来的；另一方面，也不希望它被我们给破坏了，权衡非常困难。正如图灵所说，这是无法预测的，预测不了机器有了足够算力之后会做什么。”他说道。

清华大学人工智能国际治理研究院院长薛澜：人工智能治理攸关全人类命运

2015年，全世界193个国家共同签署了SDGs（人类可持续发展目标），确立了17个目标及169个具体指标。

薛澜谈到，去年一次联合国会议中透露，SDG执行情况不容乐观，很多目标不但没能实现，反而倒退了，所以大家对人工智能寄予厚望。

近期的一项研究揭示，AI有望对169个SDG具体指标中的134个产生积极影响，涵盖从经济增长到社会福祉再到环境保护的广泛领域。然而，这一技术同时也可能对其中35%的指标造成负面影响，人工智能发展是把“双刃剑”。

如何推动人工智能健康发展，尽可能达到收益最大化，同时把风险降到最低？薛澜指出，在过去数年的实践中，中国已经建立了相对完整的体系，包括法律法规、算法治理、数据管理以及风险控制的基本规则。2019年发布的《人工智能治理准则》与《伦理准则》构成了底层架构，而针对具体应用场景的专项法律则进一步细化了治理措施，确保AI的健康发展与风险最小化。

人工智能治理攸关全人类命运，是各国面临的共同课题。薛澜表示，一个国家面临的风险就是全球风险，所以要非常重视国际范围内的人工智能安全问题，通过多种途径建立国际交流，加强政府间的多边对话机制，用科学的力量助力国际机制的完善，促进政府、企业共同推动人工智能健康发展。

上海人工智能实验室主任首席科学家周伯文：AI研发应遵循“AI-45°平衡律”

“去年5月份，数百名AI科学家共同签署文件，表达了对AI风险的担忧，呼吁防御人工智能风险应该与流行病、核战争等其他大规模风险一样成为全球优先议题。根本原因在于，目前AI发展是失衡的。”周伯文说道。

他表示，目前AI模型安全性的提升还远远落后于性能，不均衡背后是两者投入的巨大差异，“对比一下，从研究是否体系化、人才密集度、商业驱动力、算力的投入度等方面来看，安全方面的投入是远远落后于AI性能的。”

为此，周伯文倡导AI研发应遵循“AI-45°平衡律”原则，即在长期发展中，要大体上沿着45度安全与性能平衡发展，保持性能与安全的同步提升，允许短期波动，但避免长期偏离这一平衡线。

周伯文介绍了上海人工智能实验室正在探索的一条技术路径，即“可信AGI的因果之梯”，它分为三个阶段：泛对齐、可干预与能反思。这一路径旨在通过强技术驱动、全流程优化、多主体参与及敏捷治理，确保AI系统的安全可控，同时不牺牲其性能与创新能力。

目前，AI安全和性能技术发展主要停留在第一阶段，部分在尝试第二阶段，但要真正实现AI的安全与性能平衡，必须完善第二阶段并勇于攀登第三阶段。沿着可信AGI的“因果之梯”拾级而上，“我们相信可以构建真正可信AGI，实现人工智能的安全与卓越性能的完美平衡。”周伯文表示。

黑石集团董事长、首席执行官联合创始人苏世民：面对AI，不要做鸵鸟

在谈到AI对企业价值的影响时，苏世民（StephenA.Schwarzman），一些企业在AI融合方面做得很好，但也有些企业并不适应，黑石在投资时会对企业在这方面的潜在变现进行评估。

苏世民称，自己在刚入行时不擅长数学，也做不来模型，“所以我看到新的AI应用，比如说起草投资委员会的会议备忘录等，都可以让AI帮你做到，让我感到很惊喜。”虽然AI目前进展非常顺利，但始终希望大家把预期放低一点，并保持高度警惕，“不能像鸵鸟一样，把头埋在沙子里，不关注外面技术发展的风险”。

关于投资，苏世民表示：“有一句话说道，投资界没有勇敢的老人，意思是始终应该对风险保持警惕。当AI真正发展起来，世界最强大脑的巅峰论道可能会让一些投资变得血本无归。”

在谈到传统大学应该如何适应当今世界变化时，苏世民表示：“相较于商界，大学在竞争中处于劣势，虽然大学仍然拥有聪明的大脑，但现在的突破性技术进展都是由商界推动的，因为只有企业能负担得起技术开发所需的算力，这是我观察到的结构性变化。”

新思科技总裁兼首席执行官盖思新：推动AI发展需全球协作

盖思新表示，半导体行业花了60年实现5000亿元销售，之后仅用了8~9年就到达1万亿，几乎所有增量都是由AI增长所驱动的。

AI带来了巨大的发展空间，不过盖思新呼吁全球应围绕负责任地开发人工智能展开合作，“人工智能技术的创新必须与如何负责任地开发人工智能的需求相平衡，而实现这种平衡的最佳方式就是全球协作。”他表示，全球协作能够使全世界人民从人工智能带来的巨大进步中受益，同时确保这些创新能力得到负责任的实践。

盖思新透露，新思科技也在试图将AI应用在自己的工作流里，目前已经建立了AI卓越中心，致力于内部员工AI素养提升，强化对AI伦理、风险的认知，并通过持续教育赋能客户，推动AI技术在芯片设计中的深化应用。

中国电信董事长柯瑞文：AI发展的机遇和挑战

柯瑞文表示，当前人工智能产业发展日新月异，迎来了前所未有的机遇，同时也面临着不少的问题和挑战。作为电信运营商，中国电信把握人工智能的发展方向，充分发挥自身的特点和优势，积极服务和融入人工智能的发展。

第一、人工智能需要新型的数字信息基础设施提供有力的支撑。新型的数字基础设施总的要求就是“高速泛在、天地一体、云网融合、智能敏捷、绿色低碳、安全可控”。基本特征是充分发挥网络的基础，发挥云计算的核心作用，推动云和网的融合，提供智能化的连接和算力的服务。

第二，人工智能的发展既要重视大模型的技术研发，更要重视模型的应用。应用是促进技术成熟与产业创新的重要途径，人工智能要在应用过程中不断迭代完善，促进规模化发展。中国电信首先从内部应用做起，如星辰网络大模型用于维护优化、业务交互流程，将故障处理效率提高30%以上。在内部应用的基础上，中国电信全面开放场景，联合产业伙伴推动大模型的深度应用，在工业、教育、医疗、政务等领域推出了36个行业应用，服务政企客户7000多家。

第三，人工智能发展需要共建开放的生态，共同推进治理。人工智能发展涉及到芯片、云网、模型、应用等产业链各个领域，将催生大量的融合创新的合作机会，需要产业各界立足自身的禀赋，在技术共创、数据共享、场景开放、人才培养、资本合作等方面携手建立开放的生态，实现互利共赢。

百度创始人兼CEO李彦宏：没有应用基础模型一分不值

李彦宏表示，去年国内的“百模大战”造成资源浪费，但也让中国有机会可以追赶世界上最先进的基础模型。

“今天大家可以看到国内已经有多款闭源模型，声称已经追平或者是超越了GPT-4的水平，成为今年以来争议比较大的一个话题。有些外行甚至混淆了模型开源和代码开源这两个概念。”李彦宏谈到，模型开源只能拿到一堆参数，还要再做SFT、安全对齐，即使是拿到对应源代码，也不知道是用了什么比例的数据去训练这些参数，拿到这些东西，并不能让你站在巨人的肩膀上迭代开发，最终无法做到“众人拾柴火焰高”。

他直言，同样参数规模下，开源模型的能力不如闭源，若要达到同等能力，开源模型通常需要更大规模的参数，进而增加推理成本与响应时间。

李彦宏承认，开源模型并不适用于大多数应用场景，在激烈的商业环境中，想要让业务效率高于同行、成本低于同行，商业化的闭源模型是“最能打的”。

针对AI应用，李彦宏表示，AI时代“超级能干”的应用比只看DAU的“超级应用”更重要，“我们要避免掉入‘超级应用陷阱’，觉得一定要出现一个10亿DAU的App才叫成功，这是移动互联网时代的思维逻辑。”他认为，只要能对产业和应用场景产生大的增益，整体价值就已大于移动互联网。

在他看来，大模型的重点还是“卷应用”，“没有应用，光有基础模型，不管是开源还是闭源都一文不值”。

中国移动董事长杨杰：擅长使用AI的人将替代不会用AI的人

杨杰在演讲中谈到了三点思考：第一，以AI为代表的新一代信息技术成为发展新质生产力的重要引擎；第二，深入推进AI成为培育新质生产力的重要路径；第三，以AI 推动新质生产力发展成为信息通信业的时代重任。

杨杰认为，AI不会取代人类智能，但会重构很多行业、很多领域，擅长使用AI的人将会替代不会使用AI的人。“正像我们过去的十几年间，互联网时代，互联网 时代，电脑并没有取代人脑。而是更擅长使用计算机的人会脱颖而出。我觉得AI进入AI 时代也是如此。”杨杰说道。

中国工程院院士阿里云创始人王坚：AI是革命的工具对大公司更友好

在圆桌对话中，王坚认为，今天的人工智能有别于过去的人工智能，“人工智能有一个非常长的过去，但有一个非常短的历史。长到可以追溯到一百多年以前，短到GPT的出现。GPT的潜力，今天还是没有被完整地探索。”他认为，AI接下来的十年还是非常激动人心的十年。

“如果出现新技术，一定会有新的大公司诞生，也一定会有大公司烈火重生，否则技术的颠覆性就要打个问号”，王坚表示，互联网时代有草根创业的说法，但AI有很多依赖性，比如依赖数据。从这个角度看，AI时代对大公司更友好，但前提是公司要有创造力。

王坚还表示，面对AI，小企业和大企业的差别是，大企业一定会觉得AI是工具的革命，小企业一定会觉得是革命的工具，“我想如果大企业也要意识到这是革命的工具，这个变化就来了”。

排版／季嘉颖

图片／WAIC

来源／《IT时报》公众号vittimes

END