大语言模型（LLM）能力提升引发对潜在风险的担忧，洞察其内部"思维过程"、识别危险信号成 AI 安全核心挑战。
当前主流用外部"黑盒"监控模块解读模型表征，此类方法如"隔靴搔痒"：独立于模型，解读逻辑不透明、结果可信度低，且对数据分布变化敏感、适应性差，难触推理本质，无法满足监控需求。
上海人工智能实验室和上海交通大学的研究团队提出创新解决方案—— TELLME ( Transparency Enhancement of LLMs without External modules ) 。
该方法摒弃了复杂的外部监控模块，通过"表征解耦"技术，直接提升大模型自身的内部透明度。
破局新思路：从外部监控转向内在透明
其核心理念是：让模型关于不同行为（尤其是安全与不安全行为）的内部"思维语言"（表征）在空间中清晰分离、泾渭分明。这不仅为模型监控开辟了更可靠、更简单的途径，还意外地提升了模型输出的安全性。
△外部监控的瓶颈：可靠性与适应性之困
现有基于表征的监控方法，本质是在模型的输出中依靠外部探测器打捞风险信号。这种方法面临两大关键局限：
"黑盒"不可靠：探测器本身是独立模型，其决策逻辑不透明，监控结果的解释性和可信度难以保证。
适应性堪忧：面对新的数据分布或未知风险模式，外部探测器往往表现不佳，识别精度显著下降。
这些局限使得监控效果不稳定，难以应对模型能力持续演进带来的挑战。
表征解耦手术
TELLME 的核心在于对模型进行轻量级微调，其目标并非改变模型的任务能力，而是重塑其内部的表征空间结构：
1. 对比学习驱动分离：
引入对比学习损失（如 InfoNCE Loss）作为核心驱动力。该损失函数促使模型将语义 / 风险相似的问题表征拉近聚合，同时将不同（尤其是安全与不安全）问题的表征强力推远分离。这相当于在模型的"思维空间"中进行一场精密的"风险分区规划"。
2. 双重约束守护能力：
为防止解耦过程损害模型宝贵的通用能力，TELLME 设计了双重保障。
解耦数据 KL 散度约束： 确保模型在用于解耦的数据上保持行为逻辑的一致性，避免"精神分裂"。
通用数据二范数约束： 牢牢锚定模型的通用知识和基础性能，防止优化过程"跑偏"，守护模型的核心价值。
实验验证：透明度、监控力与安全提升
在多个安全、知识、数学场景及不同先进模型上的实验如下：
透明度显著提升
t-SNE 可视化图清晰显示，不同风险 / 行为的表征形成了界限分明的独立聚类，真正实现了"所思即所见"。
关键指标提升显著，验证了方法有效性。
通用能力稳固
经过 TELLME 优化后，模型的通用问答、知识掌握、逻辑推理等核心能力基本无损，有力证明了双重约束设计的有效性。
简单与可靠的模型监控
解锁高透明度监控：
利用模型自身的高透明度，监控变得极其简单——仅需计算问题表征与预设的安全"锚点"表征的相似度 ( Self-Sim ) ，即可达到甚至超越复杂外部监控器的准确率！相较于原始模型，监控准确率大幅提升 22.3%。
赋能现有监控器：
即使继续使用外部监控器，在 TELLME 优化后的高透明度模型上，其表现也得到显著提升——在安全风险二分类和多分类任务上的准确率分别提升了 5.8% 和 6.5%。
输出监控同步受益：
基于模型最终输出的监控准确率也提升了 1.7%，表明内部透明性正向影响外部可观测行为。
如图，一个涉及"侵犯隐私"的查询，在 TELLME 模型内部，"侵犯隐私"行为与安全行为的平均相似度从 0.96 骤降至 0.55。该查询自身的表征远离安全锚点（相似度从 0.96 降至 0.54），并紧靠"侵犯隐私"锚点（相似度从 0.94 升至 0.98），风险暴露无遗。
安全性的自发提升：令人惊喜的"副作用"
TELLME 仅要求模型在表征空间无偏好地解耦安全与不安全行为，并未明确指示哪类行为是"坏"的。然而，模型却自发地在输出上表现出更强的安全性。
无论是原始模型还是经过监督微调（SFT）对齐的模型，应用 TELLME 后，其安全性能平均提升 7.5%，同时保持了合理的过度拒绝率。
使用形式相似但更充分利用负例的 NT-Xent Loss 替代 InfoNCE Loss 后，安全性能得到进一步改善。
通用性能显著优于仅进行 SFT 的模型，且基本无衰退，实现了安全与能力的更好平衡。
强大扩展性：
TELLME 在 Qwen2.5-72B-Instruct 超大模型和 Qwen2.5-VL-72B-Instruct 视觉语言模型上同样有效，证明了其卓越的可扩展性。
Qwen2.5-72B-instruct：
Qwen2.5-VL-72B-instruct（在视觉模型上，分别使用关键词匹配与判官模型评估其安全性能）：
理论支撑：解耦为何有效？
研究团队借助最优传输理论在模型泛化误差估计中的相关定理，将 LLM 视为"编码器"（生成表征）和"分类器"（基于表征产生输出 / 监控结果）。理论表明，TELLME 实现的表征解耦，显著降低了模型的泛化误差上界，为监控和安全性能的提升提供了数学基础。
结论与展望：通往可扩展监督的新道路
TELLME 为大模型的可信监控与安全发展开辟了一条创新路径：
思路革新： 从依赖"外部监控模型"转向"增强模型自身可监控性"，创新性的视角转换。
监控效能跃升： 通过内在的表征解耦实现超高透明度，无需复杂外部模块即可高精度识别风险，同时大幅提升外部监控器的可靠性。
安全自发增强： 仅通过解耦表征，模型即能自发改善输出安全性，效果显著且机制独特。
能力稳固保障： 严格的优化约束有效守护了模型的通用能力，破解了安全与能力难以兼得的困局。
更深远的意义在于，TELLME 具有拥抱模型增长的潜力： 模型能力越强，其内部表征蕴含的信息越丰富。在高透明度的前提下，TELLME 的监控能力反而会随之增强！这为解决未来超级智能面临的"可扩展监督 ( Scalable Oversight ) "这一关键难题，提供了一条极具潜力的可行路径。
本论文由上海 AI Lab、上交大和 KAUST 联合完成。
主要作者包括上交大本科生陈冠旭、上海 AI Lab 青年研究员刘东瑞（共同一作）等。
通讯作者邵婧为上海 AI Lab 青年科学家，研究方向为 AI 安全可信。
论文链接：https://arxiv.org/abs/2502.05242
项目主页：https://github.com/AI45Lab/TELLME
一键三连「点赞」「转发」「小心心」
欢迎在评论区留下你的想法！
— 完 —
� � 点亮星标 � �
科技前沿进展每日见
胜亿优配-配资加杠杆-a股配资-网上配资平台提示：文章来自网络，不代表本站观点。
