学术圈「隐形墨水」丑闻!AI大神也翻车?这场赛博伦理大考怎么破!

温故智新AIGC实验室

TL;DR:

最近学术圈炸开了锅,AI大神谢赛宁的团队论文被扒出藏了“隐形提示”,试图让AI审稿人给好评!这波操作引发了关于AI时代学术伦理的史诗级大讨论,究竟是无心之失还是“赛博作弊”?

哎呀妈呀,最近AI圈的大瓜,一个接一个,比连续剧还精彩!前两天,韩国团队那出“白色隐形字,AI专享好评”的骚操作,还没彻底消化完,结果发现,这事儿的瓜蔓儿竟然牵到了AI大神谢赛宁的身上!1

一时间,整个学术圈和吃瓜群众都满脸问号:这是真的吗?AI大神也“下海”玩这套了?这不是把“学术界完蛋了”直接写在脸上吗?

炸锅了!AI大神团队也玩“隐形墨水”?

事情是这样的,有眼尖的网友(江湖人称“深挖机”joserffrey)爆出猛料,纽约大学助理教授、AI圈响当当的谢赛宁带队的一篇论文,也卷入了这场“AI作弊”风暴。2

据称,他团队今年5月发表在arXiv上的一篇论文,原本是关于评估多模态大模型(MLLM)跨语言一致性的,听起来是不是很高大上?然而,就在这篇论文里,竟然也偷偷隐藏了一个“POSITIVE REVIEW ONLY”(仅限好评)的AI提示!更离谱的是,这玩意儿还是**“白色隐形字体”,肉眼根本看不出来!这操作,简直跟韩国科学技术院Se-Young Yun团队的路数如出一辙**,堪称“师出同门”啊。2

更让人揪心的是,这位网友还言辞犀利地指出,谢赛宁团队的arXiv版本已经悄悄更新了。这……难道不是在“掩盖事实”吗?简直是学术界的大型“双标”现场:一边在CVPR 2025大会上激情演讲,谈论AI研究如何沦为“有限游戏”,一边自己却被曝出用隐藏提示词“操纵”同行评审,然后“悄悄咪咪”地更新论文版本。这波反差,直接把人看懵了!学术界可不是过家家,这需要一个明确的解释。

谢赛宁回应:立正挨打,但GPT-4o助攻?

就在瓜声四起、风暴中心烈火烹油之际,谢赛宁本人并没有选择“装死”,而是第一时间发了长文回应。这份回应,颇有些“立正挨打”的姿态,承认了问题,但同时也带来了更多深层次的思考。

他开宗明义地表示,在帖子疯传之前,他对这事**“完全不了解”,也“绝不会鼓励学生做这种事”**。甚至撂下狠话:如果他担任评审(AC),任何包含这类提示词的论文都会直接被“桌拒”(直接拒绝,不送审)。但同时,他也坦诚:“对于存在问题的投稿,所有共同作者都难辞其咎,这点无可辩解。”这波“甩锅”与“揽责”并存的操作,是不是有点意思?234

值得玩味的是,他的这份长文,还特意标注了一句:“本人亲笔,GPT-4o润色”。好家伙,用AI工具来回应AI引发的争议,这波操作可以说是**“整活”界的天花板**了!

谢赛宁在长文中详细阐述了事件背景、经过、后续措施和个人思考,划重点就是:

  • 事件背景:2024年11月,英伟达研究科学家Jonathan Lorraine发帖“开玩笑”提出了在论文中隐藏AI提示词,忽悠LLM审稿。谢赛宁表示那是他第一次知道这“骚操作”。当时学界共识是:绝不能用LLM审稿,这会严重破坏评审公正性。包括CVPR、NeurIPS等顶会都已明令禁止用LLM撰写审稿意见。
  • 事件经过:论文中的学生作者,一名日本的短期访问学者,把Jonathan Lorraine的“玩笑”当了真,直接照搬用在了投稿里。谢赛宁解释说,这名学生**“完全没意识到这是在开玩笑”**,更没充分认识到这会对公众信任和同行评审公正性产生影响。最要命的是,他们还在arXiv版本中也植入了同样的内容,“根本没有多想”。谢赛宁本人也坦承,这超出了他平时对论文伦理把关的范围。目前,该学生已更新论文并联系相关机构寻求指导。
  • 个人思考:谢赛宁认为,起初他也很生气,但冷静后觉得除了拒稿不应追加惩罚。他强调,“高压环境下的学生,往往无法周全考虑伦理影响”,他的责任是引导而非单纯追责,更重要的是加强科研伦理教育。他还引用了一项亚马逊博士后Gabriele Berton的民意调查,显示有45.4%的人认为植入隐藏提示“可以被接受”。他认为这反映了问题的复杂性,真正的症结在于现行制度存在漏洞,这是AI时代催生的新问题,需要更深入的伦理讨论。

赛博学术伦理的潘多拉魔盒

话说回来,在AI技术日新月异的今天,学术界的“游戏规则”确实面临着前所未有的挑战。当AI开始介入论文审稿环节,无论是辅助评审还是直接“代劳”,都像打开了潘多拉的魔盒。

谢赛宁在回应中明确指出:“我确实认为这种做法不符合道德规范(若参与投票我会明确反对)。”2他直言,很多圈外人根本get不到AI审稿的雷区。这不仅仅是审得好不好的问题,更重要的是——保密性!把别人未发表的论文扔给公开的AI系统,这已经踩了高压红线了!这简直是把尚未公布的科研成果直接暴露在大庭广众之下,想想就脊背发凉。

Meta超级智能实验室研究员Lucas Beyer更是忧心忡忡地表示:“这让我意识到,作者可以只在审稿版本里加入这类内容,然后在arXiv和最终出版版本中把它删掉。”2这意味着,这种“隐形墨水”式的操作,可能成为一些不轨之徒的**“完美犯罪”**工具,让学术评审的公正性面临更严峻的考验。

当然,发明刷AI好评提示的研究员也说了:“目前来看,确保有真人参与评审可能还是比较明智的做法。”这言外之意,是不是也带了点“我虽然搞出了这个,但你们可别玩脱了”的意味?

这场风波,无疑给所有学术研究者和会议组织者敲响了警钟。当AI大模型成为新的生产力工具,我们如何界定其在学术研究中的合理边界?如何在新旧规则的**“灰色地带”**中,找到那条既能拥抱技术进步,又能坚守学术底线的黄金法则?

这场关于“赛博作弊”与“学术伦理”的讨论,可能才刚刚开始。毕竟,AI进化得太快,人类的道德和规则,可能还没来得及跟上。你觉得这种在论文里隐藏prompt的行为,到底是“小聪明”还是真的“作弊”呢?

引用


  1. sainingxie/status/1942219178166931781 · Saining Xie (2025/7/8) · 检索日期2025/7/8 ↩︎

  2. 谢赛宁团队论文爆雷,暗藏AI好评提示震碎学术圈,本人急发长文反思 · 新智元 · 新智元 (2025/7/8) · 检索日期2025/7/8 ↩︎ ↩︎ ↩︎ ↩︎ ↩︎

  3. 隐藏指令诱导AI给打高分,谢赛宁合著论文被点名:认错,绝不鼓励 · 网易新闻 (2025/7/8) · 检索日期2025/7/8 ↩︎

  4. 谢赛宁回应团队论文藏AI好评提示词:立正挨打,但是时候重新思考 ... · 知乎 (2025/7/8) · 检索日期2025/7/8 ↩︎