上周，网信办一纸新规在科技圈和企业圈炸开了锅。

"所有提供生成式AI服务的组织和个人，必须依法履行网络安全、数据安全和个人信息保护义务……重点行业使用大模型应当通过安全评估……"

消息一出，不少企业的IT负责人和法务主管瞬间紧张起来。一位在金融机构做信息系统管理的朋友连夜给我发消息："我们刚花了大半年时间把大模型接入客服系统，现在说要安全评估，该不会前功尽弃吧？"

说实话，这种焦虑完全可以理解。过去两年，生成式AI的发展速度快得令人目不暇接——从ChatGPT横空出世，到国内大模型百花齐放，企业也从最初的观望、试水，发展到如今将AI深度嵌入业务流程：写文案、做客服、分析数据、辅助决策、生成代码，几乎每个部门都能找到AI的影子。

技术的狂奔，往往引来规则的跟进。就像当年互联网的兴起催生了《网络安全法》，移动互联网的爆发带来了《个人信息保护法》，大模型时代的到来，也必然伴随着监管框架的完善。

但问题是：这个新规到底说了什么？它会如何影响企业的AI实践？更重要的是，企业该怎么做，才能在合规的前提下，继续用好大模型？

这篇文章，我想和你聊聊这些问题。

一、新规到底在"管"什么？

把新规从头到尾读一遍，你会发现，它其实没有想象中那么可怕。核心就三件事：

第一件事，管输出。

大模型不能"胡说八道"，更不能"乱说话"。它所生成的内容必须符合法律法规和公序良俗，不能捏造事实，不能泄露隐私，不能出现价值观偏差。

听起来很简单对不对？但在实际应用中，这个要求其实挺有挑战的。做过大模型应用的人都知道，"幻觉"是大模型的固有特性——它可能会一本正经地编造出一个不存在的法律条款，或者煞有介事地告诉你一个完全错误的数据。

第二件事，管输入。

很多企业在使用大模型时，会直接把包含敏感信息的原始数据"喂"给模型。拿最常见的客服场景来说，客户咨询时留下的姓名、电话、身份证号、家庭住址等信息，如果不加处理就让大模型"看见"，一旦发生数据泄露，后果不堪设想。

新规要求，这类敏感数据在进入大模型之前，必须经过脱敏处理。

什么叫脱敏？就是把"张三"变成"用户A"，把"110101199001011234"变成"******************"，把"北京市朝阳区某某路某某号"变成"**市**区********"。大模型只需要知道"有一个用户需要查询保单信息"，无需知道这个用户具体是谁。

第三件事，管流程。

企业不能"黑箱操作"大模型。你得有一整套管理机制：谁在用大模型？用在什么场景？数据是怎么流转的？输出内容有没有经过审核？出了问题能不能追溯和叫停？

这三件事，说白了就是给大模型装上一个"安检系统"。不是要卡住AI的发展，而是要让AI在安全可控的轨道上运行。

二、企业真正的焦虑点在哪？

我们最近和不少企业的CTO、信息安全负责人聊过这个话题，发现一个很有意思的现象：大家真正焦虑的，其实不是新规本身，而是"我不知道我现在做得对不对"。

一位在电商平台做技术的老同学跟我说："我们公司其实已经用大模型做了不少事——智能客服、商品描述生成、内部知识库问答……但是这些项目都是各个团队自己搞的，几乎没有统一的管理。现在突然说要安全评估，我连公司到底用了多少个大模型都不清楚。"

他说出了一个普遍存在但很多人不愿意面对的问题——"影子AI"。

所谓"影子AI"，就是企业内部未经统一管理和审批，由各个部门或员工自发使用的大模型服务。市场部可能用ChatGPT生成推文，研发团队可能把代码片段丢给大模型做调试，客服部门可能已经把客户数据接入AI系统……而公司管理层和IT部门，对此可能一无所知。

新规的出台，其实是在倒逼企业做一件早就该做的事——进行一次全面的"AI资产盘点"。

你得先搞清楚：企业到底用了哪些大模型？用在了哪些场景？涉及了哪些数据？有没有潜在的风险？

没有这个底数，合规就是一句空话。

而一旦你把这些问题梳理清楚了，你会发现，所谓的"合规焦虑"，其实很大程度上来自于信息不透明带来的不确定感。当你对企业的AI应用现状有了全面的了解之后，接下来的事情就变得清晰多了。

三、大模型接入治理：三道防线，层层把关

好了，前戏够了，现在来说说真正的解决方案。

大模型接入治理，这个词听起来可能有点抽象。但说白了，就是给大模型装上三道"安检门"。

第一道门：数据脱敏——让敏感信息"隐身"

数据脱敏，是大模型接入治理中最基础也是最关键的一道防线。

它的工作原理是这样的：当一个用户输入包含敏感信息的数据时，系统会自动识别出这些敏感信息，在数据进入大模型之前将其替换或遮蔽。

举个例子：在医疗场景中，患者可能会问"我叫李四，今年45岁，最近体检发现血糖偏高，想咨询一下需要注意什么"。数据脱敏系统会自动识别出"李四"（姓名）和"45岁"（年龄）这些个人信息，将其替换为"患者A"和"**岁"。大模型接收到的是"患者A，**岁，体检发现血糖偏高，需要注意什么"，然后给出专业的健康建议。

这样一来，大模型永远不会直接接触到真实用户的敏感信息，数据泄露的风险被降到了最低。

而且，这个脱敏过程是可以自定义配置的。不同行业的数据脱敏需求各不相同：金融机构可能需要重点脱敏身份证号、银行卡号、交易金额；医疗机构需要脱敏患者姓名、病历信息、诊断结果；教育机构需要脱敏学生学号、成绩单、家庭信息……

第二道门：合规过滤——把问题拦在门外

数据脱敏解决的是"数据安全"的问题，而合规过滤解决的是"内容安全"的问题。

合规过滤的职责是：在大模型的输入内容进入模型之前，先做一次全方位的"安检"，把明显有问题的内容拦截下来。

什么样的内容会被拦截？主要包括以下几类：

第一类是违法违规内容。比如有人故意输入一些诱导性内容，想引导大模型生成不当言论。合规过滤系统会在内容进入模型之前就将其识别并拦截。

第二类是超出权限的查询。比如一个普通员工问"帮我查一下CEO的薪资"，或者问"公司的战略规划文件在哪里"，这些涉及企业核心机密的查询，会被合规过滤系统拦截。

第三类是异常行为。比如某个账号在短时间内发起大量查询请求，或者试图通过特殊编码绕过过滤机制。合规过滤系统能够识别这些异常行为并及时预警。

第三道门：输出校验——出口端最后一道关

前两道门管的是"输入"，第三道门管的是"输出"。

大模型生成内容之后，不是直接发给用户的。它要先经过一道"质检"程序——输出校验。

输出校验主要做三件事：

第一，内容合规校验。检查生成的内容是否包含不当言论、虚假信息、侵犯他人权益的内容。

第二，品牌合规校验。对于企业对外发布的内容，检查其是否符合企业的品牌调性和表述规范。

第三，安全回溯校验。每一条输出内容都会被记录在案，生成一个唯一的"内容指纹"。如果后续发现某条输出有问题，可以快速定位到是哪一次查询的结果。

三道门，缺一不可。少了任何一道，都可能埋下难以弥补的隐患。

四、合规不只是成本，更是竞争力

聊到这里，我猜可能有人会想："搞这么多流程和系统，成本不低吧？"

这确实是一个很现实的问题，但我认为这是一个需要重新审视的认知。

第一，合规的成本和被处罚的成本，哪个更大？

2024年，国内某知名企业因AI系统泄露客户隐私数据，被监管部门处以巨额罚款，同时品牌声誉严重受损。与其在出事后花大价钱"补课"，不如从一开始就建立完善的合规体系。

第二，合规能切实提升AI的应用质量。

你可能没有意识到：数据脱敏不只是为了合规，它还能让大模型更聚焦于核心任务。经过脱敏和过滤后，大模型接收到的信息更干净、更聚焦，输出质量自然也会更高。

第三，合规本身就是一种差异化优势。

能够向客户承诺"我们的AI是合规的、安全的"，本身就是一种强大的信任背书。特别是在金融、医疗、政务这类对安全和合规要求极高的行业，合规能力往往就是决定客户是否选择你的关键因素。

从这个角度来说，合规不是负担，而是一种竞争力。那些能够快速建立合规能力的企业，将在下一轮的市场竞争中占据先机。

五、现在就开始，四步搞定大模型合规

说了这么多，最后来一份实操指南。

第一步：全面盘点（建议1-2周内完成）

组建跨部门工作组，对企业的AI使用情况进行地毯式排查：用了哪些大模型？用在哪些场景？涉及哪些数据？谁在使用？数据流转路径是什么？

第二步：风险评估（建议2-3周内完成）

根据盘点结果，对每个场景进行风险评估：数据敏感度、输出影响范围、监管要求、已有防护措施。

第三步：搭建治理体系（建议3-6周内完成）

根据评估结果选择方案，确保"数据脱敏→合规过滤→输出校验"三道防线覆盖到位。

第四步：持续监控和优化（长期）

定期检查治理效果，持续关注政策变化，建立问题反馈机制，定期做员工培训。

最后

新规的落地，并不是对AI的打压，而是对AI应用的一次"正规化"。

那些能够快速适应新规则、主动拥抱合规的企业，必将在下一轮竞争中赢得先机。而那些试图绕过规则、继续"裸奔"的企业，迟早会为自己的侥幸心理付出代价。

对企业来说，大模型合规已不是一道"可选题"，而是一道"必答题"。尽早作答、答对题目，就能在新一轮的AI竞赛中跑得更远、更稳。

毕竟，真正的好AI，不仅要“聪明”，更要“靠谱”。而合规，正是让AI变得靠谱的第一步。

未来已来，你准备好了吗？

在这方面，擎市大平台已经为众多企业提供了行之有效的解决方案。擎市大模型接入治理平台，正是围绕“数据脱敏—合规过滤—输出校验”三道防线打造的一站式合规产品。

它能够自动识别并脱敏身份证号、银行卡号、医疗记录等敏感信息，内置覆盖金融、政务、医疗等行业的合规策略库，实时拦截违规输入与异常行为，并对所有输出内容进行质检与回溯。

平台部署灵活，支持私有化与混合云模式，已帮助多家头部金融机构与电商平台快速通过安全评估，实现AI应用的可管、可控、可追溯。

大模型合规，不必从头造轮子——擎市，让您的AI安全合规、快速落地。