无论数智技术迭代演化到何种程度，有一条底线必须始终清晰：技术永远是服务人的工具，绝不能逾越人类伦理底线。习近平总书记在2026世界人工智能大会暨人工智能全球治理高级别会议开幕式上提出的“当技术挑战伦理，治理如何跟上”，正是对这一底线的深切叩问。伴随大模型、智能体等人机协同技术快速演进，人工智能在赋能经济社会发展的同时，算法谄媚、智能体共谋、价值误导、人机权责模糊等伦理挑战不断显现。技术迭代的脚步持续加快，治理范式如果停留在旧有模式，就容易造成发展与治理错位。如何更新治理理念、完善治理体系，已成为数智时代的必答题。

　　回答“治理如何跟上”，先要看清数智技术带来的变化。传统技术风险大多属于工具使用层面的“意图偏离”——研发、部署、应用过程中出现违背设计初衷的后果，问题多出现在应用环节，可以通过修正使用方式加以纠偏。而人工智能具备自我学习、动态演化的特性，不是被动的沉默工具，会展现出欺骗、共谋、擅动等新形态风险。人形机器人伤人、算法诱导极端情绪、智能体自主删除信息——这些不再是科幻电影的情节，而是每天都在上演的现实。伦理风险潜藏在数据训练、模型设计、产品迭代、场景落地的全链条之中，隐蔽性强、传导链条长。面对一个“会学习、会适应、会演化”的新型技术主体，传统治理“先发展、后治理”或“边发展、边修补”的思路，已难以招架。治理如果还是跟在技术后面收拾残局，就永远无法把风险扼杀在摇篮里。

　　当然，治理不能靠单纯的伦理批判，也不能一味设置禁令刹车。同样，也不能幻想一劳永逸隔绝所有风险。单纯道德批判容易流于空泛，刚性制度管控也可能被技术新变化绕过。伦理原则与制度规制必须协同发力，既不能因为风险而否定创新价值，也不能放任技术野蛮生长，必须坚持统筹发展和安全，为人工智能创新设置合理的安全护栏。

　　应对数智伦理挑战，关键要树立“预防为先”的治理思维，推动治理由事后处置向源头防范转变。所谓预防式治理，不是简单预判某一个既定风险，而是把视野拓展到技术之外，将制度规则、应用场景、社会文化土壤一并纳入考量，把治理基因植入技术孕育成长的全过程，实现从被动堵漏洞向培育良好创新生态的范式转换。

　　预防式治理要真正落地，首先必须破除一个根深蒂固的观念：技术是中立的，问题只在应用。这种观念在数智时代已经不再成立。算法的偏见、模型的歧视、智能体的欺骗性行为，不是“用坏了”才出现的，而可能是从训练数据、模型设计时就已被埋下。治理的视线必须从“使用环节”向前延伸到“设计环节”，在算法还在实验室打磨的时候就引入伦理评估。这就要落实分级分类治理，针对不同场景开展情境推演、风险模拟——同样一套大模型，用于高考志愿填报、学生论文写作还是重大科研攻关、政府决策，风险等级完全不同，治理逻辑也应当各有侧重。那种试图用一套规则管住所有场景的做法，看似严格，实则要么过松漏掉风险，要么过紧扼杀创新。同时，面对模型的持续迭代更新，不能满足于上线前一次性伦理审查，必须同步开展复评评估，防止版本升级带来隐性风险漂移，让“科技向善”成为内置的“出厂设置”。

　　与此同时，治理不能只盯着代码与模型，还必须看见技术生长的土壤。文化习俗、制度环境、社会观念、现实应用场景，都会影响技术的实际效果。回望技术发展史，新技术出现之时，社会往往夹杂着乐观期待与认知盲区。百年前民众面对缓缓驶来的火车，有好奇观望，也有守旧观念的阻挠；今天面对人工智能，社会心态同样存在乐观与盲目并存的现象。这告诉我们，伦理治理要兼顾公众认知、文化观念，让技术创新与社会价值相互适配。预防式治理要善用一切可用的认知工具来预判风险，而不是坐等问题暴露再仓促应对。那些具有思想深度的科幻作品恰恰构成了治理的“思想实验场”——它们以极端情境将潜在风险提前具象化，帮助社会在风险成为现实之前就形成警觉。当然，科幻只是推演的参考，不能替代现实制度建设。历史数据中隐藏的行为线索也具有重要的预警价值，有害意图往往不会赤裸裸地暴露在当下提问中，而是散落在过往交互的蛛丝马迹里。即时拦截可以处置显性违规提问，但部分隐蔽风险需要结合历史行为综合研判，做到防微杜渐。不过，数据研判必须守住隐私保护的底线，不能以安全之名过度采集、滥用个人信息。

　　理念落地，离不开多元主体协同共治。预防式治理不是依靠某一方单打独斗，需要构建政府、企业、科研机构、行业组织、社会公众共同参与的治理生态。政府立足顶层设计，完善法规制度、健全科技伦理监管体系；企业压实主体责任，将伦理风险研判贯穿研发、迭代全过程；科研界做好风险研判，强化科技伦理教育；行业组织发挥自律作用，形成行业共识与标准；广大公众既是技术使用者也是治理参与者，应提升数智伦理素养，畅通风险反馈渠道。法律制度划出刚性红线，伦理准则提供价值指引，软硬约束相互嵌套、动态调适。任何一方都不得以技术复杂性为由推卸自身的伦理义务——技术可以迭代，责任不能外包。

　　人工智能伦理挑战没有国界，风险不会被国境线阻隔。不同国家历史文化、发展阶段各有差异，不存在放之四海而皆准的治理模式。中国提出《全球人工智能治理倡议》，倡导真正多边主义，凝聚全球治理共识。我们既要扎实做好国内的科技伦理治理，也要积极参与国际对话交流，推动治理经验互鉴，共同守护人类共同福祉。

　　中华传统智慧讲究“圣人早从事焉”，强调见微知著、防患未然，这与预防为先的治理思路内在相通。数智时代的伦理之问没有现成标准答案，但答案始终掌握在人类手中。坚持以人为本、预防为先、协同共治，引导人工智能向善而行，才能让数智技术真正成为增进人类福祉的“善智”。

　　（作者系复旦大学科技伦理与人类未来研究院教授）

（责编：郑继民）