公司动态

别把大模型关进牢笼:安全治理的范式转换

2026-10-14公司动态安盟信息

——从“管控焦虑”到“韧性治理”的范式转换

引言:一把锁,锁住了谁?

2023年以来,全球围绕大模型安全的讨论骤然升温。从欧盟《人工智能法案》的艰难博弈,到美国行政令的层层加码,再到各国监管机构密集出台的备案、评估、红线制度,一种以“限制”为核心的安全观正在成为主流叙事。

然而,一个根本性问题被反复忽略:当我们谈论大模型安全时,我们究竟在保护什么?又在防范什么?

如果安全意味着将大模型关入层层审批、处处设限的“牢笼”,那么我们可能正在用19世纪的方式,应对21世纪的挑战。结果不是安全,而是窒息——既窒息了技术创新的活力,也窒息了真正有效治理的可能。

一、“牢笼思维”的三种病症

当前大模型安全治理中,存在三种典型的“牢笼思维”:

其一,静态清单思维。 试图通过事前枚举“禁止事项”来管控风险。但大模型的能力边界是涌现的、动态的、不可完全预知的。一份今天制定的禁止清单,明天就可能被新的提示词技巧、新的微调方法所绕过。用静态清单管理动态系统,如同用渔网拦截流水。

其二,一刀切思维。 将大模型视为同质化对象,用统一标准衡量所有场景。但一个用于医疗辅助诊断的模型和一个用于创意写作的模型,风险剖面截然不同。一刀切的结果,要么是过度监管扼杀低风险创新,要么是监管不足纵容高风险滥用。

其三,封闭对抗思维。 将安全等同于“设防”,将用户视为潜在攻击者,将开发者视为被监管对象。这种对抗性框架忽视了:大模型安全本质上是社会技术系统问题,需要政府、企业、学界、公众共同参与,而非监管者单方面“筑墙”。

二、安全的本质是“韧性”,而非“禁锢”

如果我们跳出“牢笼思维”,会发现一个更根本的洞见:大模型安全的目标,不是让模型“不犯错”,而是让系统“犯了错也能扛住”。

这就是“韧性治理”的核心逻辑。它承认三个现实:

  1. 风险不可完全消除。 任何足够强大的技术都有被误用、滥用的可能。追求零风险,等于追求零能力。

  2. 安全是动态博弈。 攻击手段在进化,防御策略也必须进化。安全不是一劳永逸的状态,而是持续适应的过程。

  3. 治理需要分布式响应。 中央集权的“牢笼”反应太慢、成本太高。真正有效的安全网络,由模型开发者、部署者、用户、第三方审计机构、监管者共同编织。

三、走向“韧性治理”的四条路径

第一,从“事前审批”转向“全生命周期治理”。 安全不是一道闸门,而是一条流水线。应在训练、微调、部署、运行、退役各阶段嵌入动态评估与干预机制。例如,通过红队测试持续发现漏洞,通过运行时监控实时阻断有害输出,通过事后审计追溯责任链条。

第二,从“统一标准”转向“场景化分级”。 根据应用场景的风险等级,匹配不同强度的治理要求。高风险场景(如医疗、金融、关键基础设施)从严,低风险场景(如创意辅助、内部知识管理)从宽。让监管资源精准投放,而非撒胡椒面。

第三,从“对抗关系”转向“共同责任”。 监管者不应是唯一的“守门人”。模型开发者应承担“安全设计”责任,部署者应承担“场景适配”责任,用户应承担“合理使用”责任。各方在透明、可问责的框架下协同,而非相互推诿或对抗。

第四,从“封闭管控”转向“开放韧性”。 安全能力本身需要开放生态来培育。开源社区、学术研究、公开漏洞披露、跨机构演练——这些看似“增加风险”的开放行为,恰恰是提升整体安全韧性的关键。一个封闭的系统,看似安全,实则脆弱;一个开放的系统,看似脆弱,实则韧性。

四、中国的选择:在安全与发展之间找到“第三道路”

中国在大模型治理上具有独特优势:既有强大的顶层统筹能力,又有活跃的市场创新主体,还有海量的应用场景。这使我们有可能走出一条不同于欧盟“强监管”和美国“弱监管”的第三条道路——以韧性治理为核心,以发展促安全,以安全保发展。

具体而言:

  • 在制度设计上,建立“负面清单+正面激励”的双轨机制。明确不可逾越的红线,同时为合规创新提供绿色通道。

  • 在技术手段上,大力发展可解释性、对齐技术、鲁棒性增强等“内生安全”能力,让模型本身更可靠,而非仅靠外部围栏。

  • 在生态建设上,支持安全评测、漏洞披露、应急响应等第三方服务发展,形成“政府监管+市场服务+社会监督”的多元共治格局。

结语:给创新留一扇窗,给安全开一道门

大模型是人类历史上第一次,将如此强大的认知能力交到如此广泛的人群手中。它带来的风险是真实的,但应对风险的方式,不应是将其关入牢笼。

牢笼里的猛兽,要么被驯服成宠物,要么在压抑中爆发。 我们需要的,不是一座牢笼,而是一片有围栏的草原——围栏是底线,草原是空间。底线不可逾越,空间充分广阔。

大模型的安全,不应被关入牢笼。它应该被赋予韧性,被纳入治理,被引导向善。而这,需要我们首先打破自己头脑中的牢笼。