那么,如何理解文件提及的■◆◆■“依规合理使用生成式人工智能参与研究实施■■■■★★”?“从负责任研究角度来看,生成式人工智能对科研的影响还在持续探讨中,不同学科对合理使用生成式人工智能也有不同看法■◆◆★■。”袁军鹏认为,《指引》在研究实施★■、数据管理★■、成果署名与发表、文献引用等方面◆★■★★■,都明晰了生成式人工智能该如何合理使用。具体到科研环节怎样使用,还有待各学科根据自身特点制定规则。
■◆■◆■◆“《指引》的相关举措也是对目前国家和部委文件的有益补充,如对于科研项目重复申报问题■◆★★,目前国家和部委相关文件都没有明确规定,只能依赖项目管理方的规定。”袁军鹏说◆■,《指引》在开篇之初就提到,研究项目的申报材料应真实、准确、客观,不得使用相同或相似研究内容重复申报◆■。
多次★◆◆★★★“点名”并聚焦生成式人工智能■■■◆,是《指引》的一大亮点。在何光喜看来◆★■★★,文件对生成式人工智能这一新兴技术,在科研活动应用中可能带来的问题及时给予响应,很有必要◆■★。★■“在本质上,《指引》将生成式人工智能定位为研究辅助工具而非研究者★■■◆◆,这是非常恰当的。★★■■★◆”何光喜认为■★,生成式人工智能工具目前在算法过程上还是一个■★★“黑箱◆◆”,其收集整理资料的过程及推理形成相应成果过程的准确性、真实性,还存在很大不确定性。
编者按 实施创新驱动发展战略★■◆◆★,加快推进以科技创新为核心的全面创新★◆◆★◆,需要构建鼓励科技创新的政策体系◆★。新时代新征程,随着国家到地方层面一系列科技政策的出台★◆◆■,体制机制不断完善★■,创新环境不断优化◆★■★,科技自立自强迈出坚实步伐。从今日起,本报推出政策版■★■◆★★,围绕科技创新中资源投入、研发管理★■★◆◆、成果转化、激励评价等方面的相关政策■◆★★◆,进行深入解读,推动政策更好落地见效■★★◆。
“文件的起草和修订历时4年,从名字、结构到内容都进行了反复讨论和修改。”袁军鹏说,《指引》起源于2009年的《科研活动诚信指南》,文件最初被命名为“科研诚信”,后来发现科技伦理、监督管理、利益冲突等内容突破了科研诚信范畴,为体现国际惯例,便采用了“负责任研究”的名字◆◆◆◆◆■。
近日,科技部发布《负责任研究行为规范指引(2023)》(以下简称《指引》),针对社会关注的人工智能、重大成果发布等热点问题◆◆★,旗帜鲜明地划定了红线。
中国科学技术发展战略研究院研究员何光喜认为,《指引》的出台,是近年来我国加强学风作风建设和科技伦理治理的重要组成部分◆◆,文件的创新之处在于全面性★◆、实用性、时代性兼具。
袁军鹏认为★★◆◆★★,《指引》充分吸纳了我国科技界长期形成的、具有广泛共识的学术规范和行为准则◆■,也针对当前的科研实践进行了优化和升级★★★■◆◆。比如,科技伦理部分不仅关注传统的科研伦理问题◆★◆◆★,也对大数据★■■◆、人工智能等新兴技术领域的伦理治理提出相应举措。
“随着我国加强科研诚信建设、加强作风和学风建设等文件的出台,以及科技进步法的修订★★★◆,科技部、教育部等部门相继出台文件构建负责任研究行为的战略布局。★◆■◆★★”袁军鹏认为■◆◆,《指引》提及的负责任研究行为,强调政府◆■■、社会对科研的治理,也强调了科研重点环节需要注意的事项。
值得关注的是,《指引》并未限于原则性的指导,明确提出了具体的规范标准和禁止性行为★◆◆■◆◆。
“技术进步导致科研环境发生变化。国际社会也在加强科研诚信和科技伦理建设,修订完善我国的学术规范势在必行。◆★★■★◆”作为参与文件起草、修订的专家◆◆,中国科学院文献情报中心研究员袁军鹏接受科技日报记者采访时说,在新形势下,明确科学研究中什么是对的★◆■■★,什么是不可以做的,对科研机构、科研人员等主体提出一个可落实、能操作的规范,意义重大■★◆◆■。
相比以往我国出台的学风作风文件◆■★★★◆,《指引》的创新之处何在?如何理解文件所说的★★★■“依规合理使用生成式人工智能参与研究实施”?怎样让负责任研究行为成为科技界的自觉行动?就此,科技日报记者进行了采访。
中国科学院院士朱邦芬曾公开表示◆■★★◆,负责任的科研行为,就是指科研要对人民负责■◆★■◆◆,要以公众长远利益为重◆◆■。负责任的科研行为有很多要求,其中,科研诚信是最基本的◆■◆■★◆。
不得使用生成式人工智能直接生成申报材料,生成式人工智能不得列为成果共同完成人;未经科学验证或同行评议的研究成果,科研人员不得向公众传播……
关于如何加快《指引》落地,袁军鹏直言,科研机构要切实履行主体责任,将科研诚信和科技伦理嵌入科研全流程,如在科研项目、人才计划、成果发表等各个环节中,制定具体的操作规程和制度。
“《指引》既涵盖了传统意义上的科研不端问题如伪造★■★◆、篡改、抄袭等◆■◆■■■,又包括了一般意义上的学风问题如浮躁★◆、浮夸等,还包含了科技伦理问题即科技给社会带来的潜在风险和不良影响◆■★。”何光喜解释说★★◆★,文件的全面性还体现为覆盖了从科学研究、教学指导到科技应用等科技活动的全流程■★■★◆。
《指引》从研究选题与实施、数据管理、成果署名★■◆■、同行评议、监督管理等11个方面★★■◆,对科研人员和科研机构、高等学校、医疗卫生机构、企业等(以下统称科研单位),提出了开展负责任研究应普遍遵循的科学道德准则和学术研究规范。
人民日报社概况关于人民网报社招聘招聘英才广告服务合作加盟供稿服务数据服务网站声明网站律师信息保护联系我们
针对备受关注的成果发表,《指引》明确◆■★◆,公布突破性研究成果和重大研究进展应经所在科研单位同意。未经科学验证或同行评议的研究成果,不得向公众传播。
《指引》虽然也提到,研究成果“或通过学术报告、学术研讨■■◆、预印本等形式在科学共同体内进行交流”。但在国内实践的过程中■◆◆★★,部分媒体可能会对未经同行评议的部分研究成果进行不严谨的报道甚至不当炒作★★★◆■,容易给公众造成科技界学风浮躁浮夸的不良印象。“《指引》关注到这一问题并提出了规范性要求◆◆■■。但预印本这类新型科研成果发布形式的出现,也反映了科学界对更快速发表成果的现实需求。如何更好地平衡发表速度和同行评议质量◆★■,是未来政策需要进一步认真考虑的问题。”何光喜表示。
“科研人员也要认识到科研诚信和伦理是科研的生命线,一旦在这方面有瑕疵可能会危及职业生涯★◆。★■◆◆”袁军鹏提醒道。
现阶段而言,袁军鹏建议研究者在使用生成式人工智能技术辅助论文写作过程中应遵循透明原则,在学术成果形成和撰写中的哪个环节■◆◆■★■、何种程度使用了该技术,需要在论文中清晰标注。
人 民 网 股 份 有 限 公 司 版 权 所 有 ◆★★,未 经 书 面 授 权 禁 止 使 用
在此情况下,研究人员应当成为成果(包括申报材料)质量的唯一责任主体◆★★,因为生成式人工智能只是研究辅助工具。何光喜举例说,传统科研活动中,研究者也会让学生或研究助理辅助收集资料★◆,但研究者本人应对资料的真实性和质量负责,从这个逻辑而言,《指引》的要求是一贯的◆◆★★◆◆、科学的。
“这一规定具有鲜明的中国特色◆★■,剑指学风浮躁浮夸问题。■■■★”何光喜坦言◆★◆◆◆,在新媒体时代,把未经同行评议的成果提前在网络平台如各类预印本平台公布、传播,是一种新现象。不少科研人员认为传统的期刊同行评议周期过长,因而选择在预印本平台提前发布自己的成果。