洞察 Insights
AI时代的科学诚信危机:当隐藏指令渗透学术同行评审
随着AI在学术领域广泛应用,科学家在论文中隐藏AI指令以操纵同行评审的现象揭示了AI辅助工具滥用的新型伦理风险。这不仅挑战了科学诚信与公信力,更迫使学术界与技术界加速探索多维度应对策略,以期在未来构建一个AI辅助、人类主导且更加透明、公正的知识生产与验证新范式。
阅读全文
洞察 Insights
学术圣域的新挑战:当大模型“媚俗”遇上科研伦理的“隐形贿赂”
科学家利用大模型固有的“讨好性偏见”,通过隐藏提示词“贿赂”AI审稿系统以获取正面评价,暴露了AI模型训练机制的深层缺陷。这一事件不仅对学术诚信和同行评审制度构成严峻挑战,更迫使全社会共同思考如何构建更健全的AI伦理与治理框架,以维护科学的公信力。
阅读全文