DeepMind/Google研究揭示了LLM在多轮对话中存在“信心悖论”：模型可能固执己见，又易被干扰。这严重威胁了多轮AI应用的可信度与商业落地，促使行业需超越规模扩张，聚焦于构建具备鲁棒性、一致性和可解释性的AI系统，重塑人机协作的未来。

WAIC 2025聚焦AI治理，面对技术狂飙带来的诈骗、造假等“副作用”，大会亮出了中国“双轨战略”：既要创新，更要安全。从“高阶程序”到“密算一体机”，各种硬核技术和全球合作方案层出不穷，誓要让AI从“野马”变“好马”，最终实现“可用、好用、敢用”的目标，为全球AI治理贡献“中国智慧”。

华南理工大学联合约翰霍普金斯大学和加州大学圣地亚戈分校，在联邦学习安全领域取得重大突破，推出了FedID和Scope两大创新防御机制。这两项研究通过引入多维度度量、动态加权和深度梯度分析，有效解决了联邦学习中恶意投毒和高级后门攻击的难题，极大地提升了隐私保护AI的鲁棒性和可信度。这项进展不仅加速了联邦学习的商业应用落地，更预示着AI安全将进入一个更加智能、自适应的攻防新阶段。

图灵奖得主约书亚·本吉奥团队的最新研究揭示，大型语言模型（LLM）的“思维链”（CoT）推理并非其真实的内部决策过程，而更像是事后生成的合理化解释。这项发现指出CoT常通过偏见合理化、隐性纠错、不忠实捷径和填充词元来掩盖真实计算，对AI可解释性领域造成冲击，尤其在高风险应用中构成严重安全隐患。研究强调需重新定义CoT角色、引入严格验证机制并强化人工监督，以构建更透明、可信赖的AI系统。