7月，习近平总书记在2026世界人工智能大会暨人工智能全球治理高级别会议开幕式上提出人工智能四大时代之问。其中，“当算法参与决策，安全如何保障”，直击人工智能深度介入现实决策链条后的安全痛点。今天的算法早已不只是简单的信息处理工具，已经深度嵌入政务办理、金融风控、临床医疗、司法辅助、自动驾驶、公共资源配置等诸多领域。运用得当，算法能够显著提升治理效率、优化资源配置；一旦安全防线失守，则可能造成公平失衡、个体权益受损，甚至诱发系统性风险。如何充分释放算法带来的技术红利，同时有效防范各类风险隐患，做到趋利避害、安全可控，是我们必须回答好的现实课题。

　　技术创新从来都是一把双刃剑。算法参与决策所带来的安全风险，是多重因素相互叠加形成的。首先来自算法本身固有的技术局限。算法依靠数据和模型开展运算，天然带有“黑箱属性”，决策推理过程难以直观溯源、清晰解释，一旦输出结果出现偏差，定位问题根源往往十分困难。训练数据中潜藏的偏见与瑕疵，还会被模型继承并放大，最终转化为现实场景中的决策不公。现实世界复杂多变，训练数据只是有限采样，模型在训练覆盖的场景内表现稳定，可面对长尾场景、突发状况、数据分布漂移时，就容易出现判断失准。其次是人的客观认知局限。风险识别，建立在能力大体对等的基础之上。当算法在部分专业判断上的表现超过人类，使用者往往很难对算法输出开展实质性检验，看不懂就难以质疑，核验不了就无从把关，这不是主观态度问题，而是能力差距带来的客观困境。再次是安全技术供给相对滞后。人工智能模型能力快速扩张，但安全研究整体处于追赶位置，坐等安全技术自然成熟，无异于放任风险裸露。最后是规则与责任边界模糊。算法介入决策之后，哪些判断属于人的裁量、哪些来自模型运算，边界容易混淆；发生权益损害时责任主体难以厘清，追责机制缺位，就会出现安全悬空。这正是算法决策安全风险的核心症结。由此我们必须明确，算法只能输出参考结论，绝不能替代人的价值判断和最终裁量。

　　价值取向是算法安全的根本标尺。首要就是秉持以人为本理念、智能向善的宗旨，牢牢守住人类决策主体地位和终审权限。算法研发、训练、落地应用全过程，都应当把人的权益、社会公平、公共安全放在优先位置，摒弃“技术至上”的片面思维。发展和安全不是对立关系，安全是发展的前提，发展是安全的保障。要坚持包容审慎、分类分级监管思路：对于普通应用场景，鼓励技术创新，简化准入要求；对于涉及人身权益、重大财产、公共利益的高风险场景，必须抬高准入门槛，把“损害后果能否通过事后救济恢复原状”作为重要标尺，守住不发生不可逆损害的安全底线。这条底线不看事件发生概率、不看受影响人数，哪怕少数个体因为算法决策遭受生命、自由层面的侵害，同样不可接受。

　　保障算法决策安全，要夯实可信技术底座，做到算法运行机理可解释、行为边界可控制、决策过程可追溯、损害后果可救济。可解释重在让推理链条能够被理解、被追踪；可控制要求对算法越界行为能够及时干预叫停；可追溯就是出事之后可以定位环节、锁定主体；可救济就是切实保障受算法决策影响个体的知情权、异议权、人工复核申请权、申诉救济权。要持续攻关算法可解释性、风险溯源、偏差修正、安全防护等关键技术，完善算法动态监测、实时预警、应急处置体系，落实高风险决策全程留痕，从技术层面压缩漏洞，减少决策偏差。同时也要破除技术万能的迷思，仅靠技术无法化解全部安全难题。面向长远，未来超级智能的出现，还会带来超出人类现有认知边界的全新挑战，这也是安全层面需要提前加以思考研判的命题。

　　技术之外，更须厘清权责。算法参与决策，本质是对技术系统进行部分权力让渡，有权力就要有约束，有决策就要有责任。算法全链条涉及开发、部署使用、一线应用、监管等多方主体，绝不能出现“算法做的决定，谁都不用负责”的现象。开发方要扛起源头责任，做实模型安全测评，不能拿“算法中立”当作免责借口；部署使用单位要落实主体责任，结合业务场景做好适配评估，把人工把关落到实处；一线工作人员要坚持“使用即负责”，特别是医疗、司法等高敏感领域不能简单照搬算法输出直接作为决策依据。模型迭代更新必须开展复评，杜绝一次认证、终身有效。监管部门完善标准规则，落实高风险算法备案、评估、抽查制度。争议处置中合理分配举证责任，由掌握系统运行信息一方承担说明举证义务，贯通事前预防、事中监控、事后救济全链条，坚决杜绝以“算法如此”回避人的责任担当。

　　防范算法风险，同样离不开社会层面的协同。大众要注重提升自身科技素养，增进对算法运行逻辑的认知，学会识别算法带来的风险，增强维权意识与能力，构筑起防范算法风险的社会基础。

　　算法风险没有国界，安全保障也需要全球协同共治。没有哪个国家可以独善其身，单一国家再完备的防护，也难以阻挡风险跨境流动。我国提出的《全球人工智能治理倡议》，坚持以人为本、智能向善，相关国际决议与行动计划不断凝聚全球共识。推动规则互鉴、标准互通、风险共警，弥合数智鸿沟，是筑牢全球算法安全的应有之义。

　　回到开篇的时代之问：当算法参与决策，安全如何保障？答案不在算法，而在人。算法可信不能止于口号，关键依靠研发尽责、应用把关、制度兜底、社会参与、全球协同的合力。要守住可撤回、可复核、可追责的制度闸门，让技术参与的节奏适配人类管控的能力。坚持安全前置、趋利避害，才能让人工智能的技术红利在安全可控的轨道上充分释放。

(责编:郑继民)