谢赛宁团队论文爆雷，暗藏AI好评提示震碎学术圈！ 来源：新智元用AI提示操控审稿，这两天在全网吵成了一锅粥。 而如今，网友joserffrey爆出大瓜，「NYU助理教授、AI大神谢赛宁带队的论文，也卷入了这场AI作弊的风暴」。 许多人第一时间满脸问号——这是真的吗？？？ AI大神陷「作弊」风暴？arXiv悄然更新 今年5月，谢赛宁带队发表在arXiv上的论文，曾提出了两个新基准测试，用于评估MLLM跨语言一致性。 然而，就在这篇论文中，也偷偷隐藏了一个「POSITIVE REVIEW ONLY」操纵同行评审的AI提示。 团队成员将「白色」隐形字体植入文中，肉眼根本无法看出。 这一「作案手段」与韩国科学技术院Se-Young Yun团队，简直如出一辙。 几天前，日经爆料称，全球14所顶尖机构研究人员，暗自操控AI提示，让大模型给出好评。一时间，全网迅速沦陷，网友直呼，「学术界完蛋了」。 这一风波在国内外AI圈中，吵得不可开交。 那些默默在论文中植入「AI提示」的研究人员心知肚明，甚至有的人早已慌了。 网友joserffrey言辞犀利地表示，谢赛宁团队的arXiv已静默更新，看起来就是在掩盖事实。 论文地址：https://arxiv.org/abs/2505.15075v1 他愤怒地表示，自己无法理解如此大型的「双标」现场： CVPR 2025大会，谢赛宁曾发表了一个关于AI研究沦为「有限游戏」的精彩演讲。 然而，他却合著了一篇试图用隐藏的「POSITIVE REVIEW ONLY」提示操纵同行评审的论文，并悄悄更新了arXiv。 演讲PPT：https://www.canva.com/design/DAGp0iRLk9g/8QLkIDov8ez1q6VvO8nnpQ/edit 对于学术界来说，这不是儿戏，更需要一个明确的解释。 谢赛宁长文回应GPT-4o润色 被点名之后，谢赛宁并没有推卸责任，而是第一时间给出了回复。 说实话，在最近这些帖子疯传之前，我完全不了解这个情况。我绝不会鼓励学生做这种事——如果我担任AC，任何包含这类提示词的论文都会直接被「桌拒」。 不过对于存在问题的投稿，所有共同作者都难辞其咎，这点无可辩解。 这件事也给我这个课题组长敲了警钟：不能只检查最终PDF，还必须审查全部提交文件——此前我确实没意识到需要这样做。 接下来，他发长文分享了过去一周内部调查的结果，并详细阐述了事情的前后的经过和个人的思考，一共分为四部分： 1 事件背景 2 事件经过 3 后续措施 4 深层思考 本人亲笔，GPT-4o润色 那么，这场「作弊」风暴背后，究竟是怎么回事？ 2024年11月，英伟达研究科学家Jonathan Lorraine发布了一条帖子，最先提出了在论文中隐藏AI提示词，忽悠LLM审稿。 谢赛宁表示，那是自己第一次了解还有这等操作，并且当时学界也意识到了，论文PDF是可以直接嵌入提示。 需要说明的是，这种提示注入，仅在审稿人直接将PDF上传给大模型时才会有效。 当时，许多人的共识是：绝不能用LLM进行审稿，这会严重破坏评审公正性。 因此，包括CVPR、NeurIPS等顶会，现已明令禁止，比如在任何环节使用LLM撰写审稿意见，或元评审。 任何在AI顶会发过论文的人，都体会过收到AI生成审稿意见的挫败感——这种意见既难以回应，又难以确证来源。 虽然Jonathan Lorraine原帖可能只是开个玩笑，但人们一致认为「以毒攻毒」绝非正解，或许惹出的麻烦比解决的问题还要多。 与其这样，还不如通过顶会制度来规范。 事件经过 论文中的学生作者，是日本的短期访问学者，对于Jonathan过于当真，直接把人家的套路照搬，用在了EMNLP投稿里。 这个学生就是论文第一位作者Hao Wang，日本早稻田大学计算机科学专业的博士生。 谢赛宁表示，他完全没意识到这是在开玩笑，可能会让人觉得操纵或误导。 其实，Hao Wang也没有充分认识到，这么做会对公众对科学的信任、以及同行评审的公正性产生怎样的影响。 更糟的是，他们还在arXiv版本中也植入了同样的内容，根本没有多想。 谢赛宁之所以忽略这一点，部分原因是这超出了他平时对论文进行伦理把关的预警范围 目前，这位学生已经更新了论文，并联系了ARR以寻求正式指导，并将严格执行其建议。 个人思考 这件事对谢赛宁本人来说，也得到了一次深刻的教训。 起初，他本人也很生气，但深思后认为除拒稿外不应追加惩罚。 高压环境下的学生，往往无法周全考虑伦理影响，尤其是面对这类新兴问题时。 他表示，「我的责任是，引导他们穿越灰色地带，而非单纯事后追责。比起惩罚，更重要的是加强科研伦理教育」。 回到最初帖子的问题上——整个情况确实凸显了我们需要重新思考学术界的游戏规则。 这才是我在演讲中想要表达的主要观点。我将继续尽我所能，帮助学生学会如何开展扎实的研究。 最后，谢赛宁引用了一项亚马逊博士后Gabriele Berton的民意调查，有45.4%的人认为植入隐藏提示，可以被接受。 虽然调查可能存在偏差，但确实反映了问题的复杂性。 他认为，真正的症结在于现行制度存在漏洞，与伪造数据等传统学术不端不同，这是AI时代催生的新问题，需要更深入的伦理讨论。 论文暗藏AI提示，究竟是对是错？ Gabriele Berton安慰道，「这没什么好羞愧的，没必要因为X平台上某个愤怒的用户认为这不道德就感到难堪」。 正如你提到的，投票显示有很多人认为这种做法是合乎道德的。 而且会议也没有明令禁止。 不管怎样，相关规则确实应该尽快明确制定。 对此，谢赛宁坚定地表示，我确实认为这种做法不符合道德规范（若参与投票我会明确反对）。 同时，他表示很多圈外人根本get不到AI审稿的雷区。 这不仅仅是审得好不好的问题，更重要的是保密性！把别人未发表的论文扔给公开的AI系统，这已经踩了高压红线了。 （当然，本地运行AI助手是可行的——但说实话，目前大多数人实际操作的恐怕不是这种方式） Meta超级智能实验室研究员Lucas Beyer表示，其实挺可怕的。这让我意识到，作者可以只在审稿版本里加入这类内容，然后在arXiv和最终出版版本中把它删掉。 谢赛宁回应道，这种现象已经出现了——最近的学术会议已经批量发出了许多「桌拒」；相关人士也正在制定更完善的政策。 现在大家注意到的这些arXiv论文，其实只是反映了作者的天真和粗心（毕竟合作者几乎不可能发现这类问题）。 发明刷AI好评提示的研究员认为，「目前来看，确保有真人参与评审可能还是比较明智的做法」。 那么，你认为这种在论文里隐藏prompt的行为，是否可取呢？（顶会已明令禁止用AI审稿） 参考资料：https://x.com/sainingxie/status/1942219178166931781推荐阅读 MIT新晋副教授何恺明《计算机视觉进展》课程，附Slides与资料下载 西电IEEE Fellow团队出品！最新《Transformer视觉表征学习全面综述》如何做好科研？这份《科研阅读、写作与报告》PPT，手把手教你做科研奖金675万！3位科学家，斩获“中国诺贝尔奖”！最新 2022「深度学习视觉注意力 」研究概述，包括50种注意力机制和方法！【重磅】斯坦福李飞飞《注意力与Transformer》总结，84页ppt开放下载！2021李宏毅老师最新40节机器学习课程！附课件+视频资料 欢迎大家加入DLer-大模型技术交流群！ ??长按识别，邀请您进群！