2023-10-10

科技向善:《科技伦理审查办法(试行)》评析

作者: 傅鹏 赵卿梦 韦龙杰

长期以来,在部分前沿或敏感科技活动中,活动主体开展伦理审查,以降低技术研发和应用的不确定性风险,提升技术应用的公开透明度。此前相当一段时间,伦理审查的落地与嵌入相对偏向于垂直行业或特定领域,典型如涉及人类的生物医学研究领域。


近年来,以脑机接口为代表的各类前沿研发应用领域不断出现,而以AI大型语言模型为代表的成熟应用场景也不断增多。为确保新技术研发与应用“向上向善”,从法规与监管层面推动伦理审查制度在更广的行业与领域中完成监管规则构建和日常制度嵌入显得尤其重要。《科技伦理审查办法(试行)》(“《审查办法》”)在2023年半年内,从征求意见到2023年10月8日正式发文,见证了这一重要的监管里程碑。


同时,为了促进科技创新的内生动力,《审查办法》也意在确保监管工具成为研发应用的“守护者”而非“刹车片”,明确监管定位、关注实质风险,鼓励铺开务实、高效的日常合规机制链条。









一、发文背景与实践试点


《审查办法》的发布与科技伦理审查体系的建立并非是一个突然“从无到有”的过程。

从监管规则结构来看,《审查办法》依托于长期以来由《中华人民共和国科学技术进步法》(“《科学技术进步法》”)及其他规定所倡导、建立的科技伦理审查制度。

历史上,从行业角度,已经有生物医学、金融等领域现行展开伦理审查实践;从地域角度,黑龙江、海南、四川、湖南、福建等省也纷纷发文、开展试点。
《审查办法》发布后,一方面,各领域、各地方实践中与《审查办法》存在的不同之处,需要与《审查办法》的要求看齐、统一;另一方面,《审查办法》仍有许多未提及的实践细节,企业和组织仍需要参考、依赖现有的其他行业、地域的规则和试点实践,开展科技伦理审查工作。
因此,回顾科技伦理审查制度的顶层设计,以及各行业及地域的先行实践,对于指导后续科技伦理审查工作,具有重要意义。

1. 科技伦理审查制度的顶层设计

《中华人民共和国科学技术进步法》于2021年12月24日发布修订,并于2022年1月1日起正式施行,该法规明确提出国家建立科技伦理委员会,完善科技伦理制度规范,加强科技伦理教育和研究,健全审查、评估、监管体系。科学技术研究开发机构、高等学校、企业事业单位等应当履行科技伦理管理主体责任,按照国家有关规定建立健全科技伦理审查机制,对科学技术活动开展科技伦理审查。 
为完善《中华人民共和国科学技术进步法》的上述制度构建,2022年3月20日正式发布《关于加强科技伦理治理的意见》,该文件确立了我国科技伦理治理的指导思想,提出了加强科技伦理治理的五项基本要求——伦理先行、依法依规、敏捷治理、立足国情、开放合作;以及开展科技活动应当遵循的五项科技伦理原则——增进人类福祉、尊重生命权利、坚持公平公正、合理控制风险、保持公开透明。同时,该文件还为健全科技伦理治理体制、加强科技伦理治理制度保障、强化科技伦理审查和监管、开展科技伦理教育和宣传提出了纲领性指导。

2. 科技伦理审查制度的先行试点

A. 地方试点

自《关于加强科技伦理治理的意见》发布施行后,各地方加快建设科技伦理治理体系,规范管辖地科技活动科技伦理审查工作,例如:
· 2022年12月,黑龙江省科学技术厅印发《黑龙江省科技伦理审查中心备案管理办法(试行)》。
· 2023年2月,湖南省科技厅联合教育、工信等11个部门印发《湖南省区域科技伦理审查中心建设方案》,正式成立湖南省区域科技伦理审查中心。
· 2023年2月,四川省科技厅、省委宣传部、经济和信息化厅、教育厅、农业农村厅、省卫生健康委、省科协等14家部门和单位联合印发《关于健全科技伦理治理机制有效防控科技伦理风险的实施方案》。
· 2023年3月,海南省科学技术厅印发了《关于成立海南省科技伦理委员会的通知》,省科技厅、省委宣传部,省卫健委等十二个部门组成海南省科技伦理委员会。
· 2023年3月,福建省科技厅、卫健委、教育厅、工信厅、农业农村厅等九部门联合印发《关于贯彻落实加强科技伦理治理意见的任务分工》。

B. 企业试点

部分地区科技部门开展了科技伦理审查机构登记和科技伦理审查试点单位申报的工作,例如湖南省科技厅于2023年2月发布了《关于开展科技伦理审查机构登记和科技伦理审查试点单位申报工作的通知》。湖南省科技伦理审查中心于2023年9月前往申报试点单位——南华生物医药股份有限公司现场对企业科研能力、科技伦理委员会建设、科技伦理审查制度建设等条件进行审核。

C.  先行领域

伦理审查制度的最初应用领域是涉及人类的生物医学科研领域,例如2016年12月1日施行的《涉及人的生物医学研究伦理审查办法》以及2023年2月18日施行的《涉及人的生命科学和医学研究伦理审查办法》均聚焦于该等研究领域。
而后,一些其他行业也开始对科技活动进行伦理审查。并根据实践经验总结、颁布了一系列标准。例如,中国人民银行于2022年10月9日发布了《金融领域科技伦理指引(JR/T 0258-2022)》,该指引规定了在金融领域开展科技活动需要遵循的守正创新、数据安全、包容普惠、公开透明、公平竞争、风险防控和绿色低碳等价值理念和行为规范,用于指导金融领域从业机构开展科技伦理治理工作,预防和化解金融领域科技活动伦理风险。

二、什么活动需要进行科技伦理审查


《审查办法》对于何种活动需要进行科技伦理审查采用了“一般列举+专家复核活动清单”的模式,其中对于《审查办法》正文列举的科技活动,企业需要进行科技伦理审查;而对于附件清单列举的科技活动,需要经过企业委员会程序以外的专门的专家复核程序。同时,《审查办法》确立了对于清单的动态调整机制。

1. 进行科技伦理审查的主要科技活动类型

开展以下科技活动应进行科技伦理审查:

· 涉及以人为研究参与者的科技活动,包括以人为测试、调查、观察等研究活动的对象,以及利用人类生物样本、个人信息数据等的科技活动。

· 涉及实验动物的科技活动。

· 不直接涉及人或实验动物,但可能在生命健康、生态环境、公共秩序、可持续发展等方面带来伦理风险挑战的科技活动。

实践中,相对宽泛的科技活动会落入上述类型。例如,生物医药领域的相当部分的研发试验,因不可避免地以人为参与者,或者涉及实验动物,所以需要进行科技伦理审查。

再如,当前讨论、应用相对密集的人工智能研发领域,特别是基于大型语言模型的技术研发和应用测试,在相当大量场景下不可避免地涉及利用个人信息数据进行训练,所以需要进行科技伦理审查。

2. 应当进行专家复核的活动

《审查办法》规定,如下清单内的科技活动,需要开展伦理审查的专家复核。并规定了这一清单由科技部动态调整。

· 对人类生命健康、价值理念、生态环境等具有重大影响的新物种合成研究。

· 将人干细胞导入动物胚胎或胎儿并进一步在动物子宫中孕育成个体的相关研究。

· 改变人类生殖细胞、受精卵和着床前胚胎细胞核遗传物质或遗传规律的基础研究。

· 侵入式脑机接口用于神经、精神类疾病治疗的临床研究。

· 对人类主观行为、心理情绪和生命健康等具有较强影响的人机融合系统的研发。

· 具有舆论社会动员能力和社会意识引导能力的算法模型、应用程序及系统的研发。

· 面向存在安全、人身健康风险等场景的具有高度自主能力的自动化决策系统的研发。

值得特别关注的是,除伦理审查制度历来关注的对人和动物的生物、行为、精神等方面的科研活动外,清单将特定种类的“算法模型、应用程序及系统的研发”以及特定场景的“自动化决策系统的研发”也归入了需要开展科技伦理审查复核的科技活动中。

在实践中,人工智能研发及应用(特别是基于大型语言模型的人工智能研发和应用)的相当大量场景可能具有舆论属性、社会动员能力,需要根据《审查办法》的要求开展科技伦理审查,并且在申报单位通过科技伦理(审查)委员会的初步审查后,由该单位报请所在地方或相关行业主管部门组织开展专家复核。


三、什么主体需要进行科技伦理审查



根据《审查办法》规定,高等学校、科研机构、医疗卫生机构、企业等是本单位科技伦理审查管理的责任主体,其中:从事生命科学、医学、人工智能等科技活动的单位,研究内容涉及科技伦理敏感领域的,应设立科技伦理(审查)委员会;其他有科技伦理审查需求的单位可根据实际情况选择是否设立科技伦理(审查)委员会。
实践中,部分企业已根据地方科技部门的发文申请成为科技伦理审查机构试点单位,例如,湖南省科技伦理审查中心于2023年9月前往申报试点单位——南华生物医药股份有限公司现场,对企业科研能力、科技伦理委员会建设、科技伦理审查制度建设等条件进行审核;华大集团组织聘用数名生命科学、医学、信息和计算科学相关科研技术和管理人员以及社会代表担任委员,分别组成涉及人的生命科技伦理审查委员会、动物伦理和生态伦理审查委员会。

四、科技伦理审查机制:内外结合、“基于风险”的监管路径



 1. 组织内部的伦理审查机构主导 

A. 内部组织机构的设立要求

· 需要设立伦理委员会的情况
根据《审查办法》第四条的规定,“从事生命科学、医学、人工智能等科技活动的单位,研究内容涉及科技伦理敏感领域的,应设立科技伦理(审查)委员会。其他有科技伦理审查需求的单位可根据实际情况设立科技伦理(审查)委员会。”
因此,对于涉及科技伦理研究内容和敏感领域的生命科学、医学和人工智能等科技单位应当设立科技伦理(审查)委员会(以下亦简称“伦理委员会”)。
对于其他类型的企业,可以根据实际情况设立伦理委员会。例如,结合《JR/T 0258/2022 金融领域科技伦理指引》的规定以及《审查办法》的要求,对于涉及科技伦理敏感领域的金融企业,设立相应的伦理委员会将是遵守科技伦理相关法律法规的良好实践。
· 伦理委员会的人数
针对伦理委员会的设立要求,结合《审查办法》第七条的规定,伦理委员会人数应不少于7人,并应当设置主任委员1人。
同时,伦理委员会应当由具备相关科学技术背景的同行专家、伦理、法律等相应专业背景的专家组成,并应当有不同性别和非本单位的委员,涉及民族自治地方应有熟悉当地情况的委员。另外,伦理委员会的相关委员任期不超过5年,但是可以连任。
· 伦理委员会的职责
针对伦理委员会的主要职责,《审查办法》在第五条进行了明确说明,包括:制定完善伦理委员会的管理制度和工作规范;提供科技伦理咨询,指导科技人员开展科技伦理风险评估;开展科技伦理审查,按要求跟踪监督相关科技活动全过程;对拟开展的科技活动的清单范围作出判断;组织开展对委员的科技伦理审查业务培训和科技人员的科技伦理知识培训;受理并协助调查涉及科技伦理问题的投诉举报;根据法律法规的规定和监管要求进行登记和报告,并配合相应主管部门开展涉及科技伦理审查的相关工作等。
为履行伦理委员会的主要职责,根据《审查办法》第六条的规定,伦理委员会应首先制定章程以明确伦理委员会工作的基本要求,同时,应当结合公司现有合规制度体系建立健全审查、监督、保密管理、档案管理等制度规范等相关管理机制,以保障科技伦理审查合规、透明和可追溯要求。

B. 伦理审查的程序

为规范企业内部管理和科技伦理审查事项,《审查办法》第三章中规定了关于科技伦理审查的具体程序和要求;同时,鉴于企业不同科技项目涉及的研发要求、伦理问题、业务范围、影响程度等事项千差万别,《审查办法》规定了两种审查程序,即一般程序和简易程序。
无论一般程序还是简易程序,均要求相关企业的科技活动负责人向伦理委员会申请伦理审查,并根据《审查办法》第九条的规定提交申请材料。若申请材料不完整,伦理委员会有权要求相应负责人一次性补充相关材料以完成申请审查。在接收相关材料后伦理委员会应举行会议对相关文件进行审查,以确认是否对该等伦理审查进行受理。
如果企业伦理委员会无法胜任审查工作要求或者企业自身未设立伦理委员会以及无企业人员开展的科技活动需要进行伦理审查时,企业可以向其他伦理委员会提交材料并申请审查。
另外,如果相关科技项目涉及多国合作,应当通过合作各方所在国家相关的科技伦理审查后,方可开展相关活动。
在伦理委员会受理相关材料后,应当进行伦理审查,《审查办法》对一般程序和简易程序的规定具体如下:

(a) 伦理审查的一般程序

· 人员要求
在开展伦理审查时,应当由主任委员或其指定的副主任委员主持,同时,到会委员应不少于5人,且应包括相关科学技术背景的同行专家、伦理、法律等相应专业背景的专家委员。如果有必要,伦理委员会可以要求申请人到会并对相关科技项目进行解释说明,亦可要求与相关领域不存在直接利益关系的顾问专家到会以提供咨询意见。
· 形式和期限
在开展伦理审查时,一般程序的审查期限为申请受理后的30日,且应当通过举行会议的形式进行审查;如果遇到特殊情况,伦理委员会有权适当延长并明确延长的上述时限。
· 审查结论
在开展伦理审查过程中,伦理委员会可以作出批准、修改后批准、修改后再审或不予批准等决定,但是相关审查决定应当经由到会委员的三分之二以上同意。修改后批准或修改后再审的,伦理委员会应提出修改建议以明确修改要求;如果相关审查不予批准的,伦理委员会应当向相关申请人说明理由。同时,相关审查决定作出后,伦理委员会应当及时送达相关申请人。
另外,我们也注意到,结合上述一般程序的30日期限问题,鉴于目前《审查办法》并未明确如果出现修改后批准等事项的审核期限,我们理解一般而言相关伦理审查应当在30日内审核完毕,但是如果出现修改等特殊情况,则伦理委员会合理而言应有一定的审查期限中止、中断机制予以配套。
· 审查结论异议
在审查结束并通知申请人后,申请人可以向相关伦理委员会提出书面异议和申诉。申请人需要说明异议和申诉理由,并提供相关材料。如果相关理由和材料充分,则伦理委员会可以根据实际情况重新作出审查决定。
· 跟踪审查
在审查结束且申请人无异议的情况下,伦理委员会有权并应当在审查通过后进行跟踪审查,该等跟踪审查间隔期不得超过12个月。如果跟踪审查过程中发现违反科技伦理的相关情况,伦理委员会有权暂停或终止相关科技活动。
· 及时报告和重新审查
如果出现以下情况时,科技活动负责人应当及时向伦理委员会进行报告:第一,科技活动方案发生调整;第二,外部环境发生变化。此时,伦理委员会应当对相关科技活动的风险受益情况进行评估,并提出继续实施、暂停实施等意见。如果上述情形存在疑问并无法确认是否可以继续进行相关科技活动时,伦理委员会有权重新开展伦理审查。
· 多方合作项目的伦理审查协作机制
如果相关科技活动为多个合作机构开展,那么牵头企业或单位可以根据实际情况建立科技伦理审查协作机制和结果互认,加强科技伦理审查的协调管理。
我们理解,在该等情形下,相关企业之间可以通过科技伦理制度建设、签署合作协议等方式,对于科技活动合作项目中伦理审查事项进行规范和明确,以符合《审查办法》的规定和要求。

(b) 伦理审查的简易程序

为减轻企业合规压力,《审查办法》中亦规定了部分情况可以适用伦理审查简易程序和相关规范。因此,一般而言科技活动涉及伦理审查的应当采用一般程序进行审查,只有特别情况下才可适用简易程序。具体要求如下:
· 简易程序触发机制
根据《审查办法》第二十二条的规定,以下情况下可以适用伦理审查的简易程序:第一,科技活动伦理风险发生的可能性和程度不高于最低风险;第二,对已批准科技活动方案作较小修改且不影响风险受益比;第三,前期无重大调整的科技活动的跟踪审查。需说明的是,结合《审查办法》第五十二条的规定,适用简易程序情形的第一款中提及的“最低风险”是指日常生活中遇到的常规风险或与健康体检相当的风险。同时,《审查办法》第二十二条的规定,伦理委员会应当制定适用简易程序审查的工作规程。
因此,我们理解,企业在科技活动中若希望适用简易程序进行伦理审查,应当符合两个要件:相关科技活动触发适用伦理审查简易程序的情形;第二,企业已经制定简易程序伦理审查的相关工作规程。
· 简易程序审查要求
对于简易程序审查,《审查办法》仅强制要求规定需要伦理委员会制定指定两名或两名以上委员进行审查;同时,在审查决定相关文件中应当载明采取简易程序审查的理由和依据。对于审核期限、是否必须举行会议等其他内容,该《审查办法》并未强制要求,因此企业在贯彻落实伦理审查的简易程序时,宜在不违反法律法规的前提下建立内部的操作规范和流程,以合理运营审查的简易程序。
· 简易程序向一般程序的转化 
由于简易程序的审查内容和要求相对简单,因此《审查办法》第二十四条规定了在如下四种情况下需要调整为会议审查,并适用一般程序,具体包括:审查结果为否定性意见的;对审查内容有疑义的;伦理委员会委员之间意见不一致的;伦理委员会委员提出需要调整为会议审查的。因此,若出现上述情况,应当结合法律法规规定和内部建立的制度转化为一般程序进行伦理审查。

2. “基于风险”的外部专家审议和复核制度 

为加强科技伦理审查的规范、对高风险的科技活动进行伦理审查,《审查办法》规定了科技活动清单制度,也就是说在清单中列明的科技活动,均需要执行外部专家审议和复核制度。

A. 外部专家审议和复核制度的触发机制

如上文提及,凡是属于《审查办法》附件清单内的科技活动,均属于“可能产生较大伦理风险挑战的新兴科技活动”。这些科技活动在通过伦理委员会的初步审查后,由本单位报请所在地方或相关行业主管部门组织开展专家复核。
另外,根据《审查办法》的说明,相关清单会根据科技发展和监管趋势进行修订,因此企业应当根据相关清单的更新及时调整和优化科技伦理审查合规事项。

B. 专家审议和复核申请

如果企业开展纳入清单管理的科技活动,则在伦理委员会初步审查后,由企业报请所在地方或相关行业主管部门组织开展专家复核。如果相关科技活动是多个企业或单位参与时,则应当由牵头单位汇总相关文件材料,并向所在地方或相关行业主管部门申请专家复核。
相关复核材料,除了伦理委员会初步评审的材料外,伦理委员会初步审查意见或其未来复核单位要求提供的文件应当及时向相关部门提交。

C. 复核专家人员要求

地方或相关行业主管部门组织在收到审议和复核申请后,应当成立复核专家组。该等专家组应当由科技活动相关领域具有较高学术水平的同行专家以及伦理学、法学等方面的专家组成,且专家组人数不得少于5人。
同时,为避免利益输送,伦理委员会的委员不得参与相关复核工作;另外,相关专家组成员也应当主动申明是否与复核事项存在直接利益关系,以严格遵守保密规定和回避要求。

D. 外部专家审议和复核制度的流程和期限

根据《审查办法》第三十条的规定,复核专家组应当采取适当方式开展复核,如果专家组认为必要时,可以要求相关伦理委员会、科技人员解释说明有关情况。也就是说,专家审议和复审程序并未要求必须通过会议的方式进行。
复核专家组应当作出同意或不同意的复核意见,且该等复核意见应当经过全体复核专家的三分之二以上同意。同时,相关主管部门一般应在收到复核申请后30日内向申请单位反馈复核意见;相应地,相关企业的伦理委员会应当根据专家复核意见作出科技伦理审查决定。
由此可见,《审查办法》并没有规定审议和复核制度的特别情况延期规定,因此一般而言主管部门进行外部专家复核时期限为30日。

E. 跟踪审查和重大变化再复核

根据《审查办法》第三十三条的规定,伦理委员会应当加强对其企业开展的纳入清单管理的科技活动的跟踪审查和动态管理,同时,跟踪审查间隔一般不得超过6个月。也就是说,如果相关科技活动纳入清单管理后,相关跟踪审查的间隔期将由原先不得超过12个月缩短至不得超过6个月
如果企业科技活动的伦理风险发生重大变化时,应当重新开展伦理审查并申请专家复核。也就是说,企业应当根据一般程序中规定的重新审查程序进行伦理审查,并再次提请相关专家复核。

F. 不进行专家复核的情况

根据《审查办法》第三十四条的规定, 如果国家对相关纳入清单管理的科技活动已经实行监管措施,并且将符合伦理要求作为审批条件、监管内容的内容,则可不再开展专家复核。
例如,根据《涉及人的生命科学和医学研究伦理审查办法》第三十九条规定,国家卫生健康委会同有关部门共同负责全国涉及人的生命科学和医学研究伦理审查的监督管理。因此,我们理解关于生命科学和医学研究伦理审查若与《审查办法》规定的清单内容竞合,则应提请国家卫生健康委进行监督管理。

3. 委员会及伦理审查活动的登记和备案报告制度 

为对企业科技活动中的伦理审查进行监管,《审查办法》第四章着重对伦理委员会的相关审查活动进行了统筹管理。具体包括如下: 

A. 伦理委员会认证机制构建

根据《审查办法》第四十一条的规定,国家将推动建立伦理委员会认证机制,鼓励相关单位开展科技伦理审查认证。也就是说,在未来监管部门或其认可的第三方机构可能会根据其组织架构、内部制度以及人员管理情况,对企业的伦理委员会进行认证,以其伦理审查活动进行督导和支持。该等认证机制亦可能和个人信息保护认证机制的建立类似,通过办法的发布、认证机构的委托等方式进行统筹和构建。

B. 伦理委员会的备案要求

根据《审查办法》第四十二条的规定,科技部将建设国家科技伦理管理信息登记平台。同时,结合《审查办法》第四十三条的规定,企业在设立伦理委员会后30日内,应当通过国家科技伦理管理信息登记平台进行登记,登记的具体内容包括如下:
· 伦理委员会组成情况:该等事项包括伦理委员会的负责人、人员构成、负责事项、基本信息以及专业背景等内容。
· 伦理委员会章程:该等事项包括伦理委员会的职能、在相关企业中的具体定位、与其他部门或现有制度之间的衔接和映射等内容。
· 伦理委员会工作制度:该等事项包括伦理委员会在进行科技活动的伦理审查中的基本流程,由其是关于一般程序、简易程序以及外部专家审议和复核制度的具体操作流程和衔接映射等内容。
另外,如果上述内容发生变化时,相关企业应当在平台上及时更新相应内容,以满足监管要求。

C. 纳入清单管理的科技活动登记要求

根据《审查办法》第四十四条的规定,如果企业相关的纳入清单管理的科技活动获得伦理审查批准后,在该批准日的30日内,应当通过国家科技伦理管理信息登记平台进行登记。上述登记的内容应当包括科技活动实施方案、伦理审查情况以及复核情况等材料。如果相关内容发生变化时,相关企业应当在平台上及时更新相应内容,以满足监管要求和规定。

D. 伦理委员会年度报告要求  

根据《审查办法》第四十五条的规定,企业应当在每年3月31日前,向国家科技伦理管理信息登记平台提交上一年度的科技伦理(审查)委员会工作报告、纳入清单管理的科技活动实施情况报告等相应材料。
我们理解,该等年度报告要求是建立在企业已经将其伦理委员会在科技伦理管理信息登记平台上登记后的持续性义务;因此,企业应当首先及时根据《审查办法》的规定在监管平台上对其成立的伦理委员会进行登记,并根据实际情况及时更新登记内容。
同时,在每年截止日内,应当及时向监管平台报送上一年度的科技伦理(审查)委员会工作报告、纳入清单管理的科技活动实施情况报告和监管部门要求的其他材料,以满足监管及时审查和管理的要求。

 4. 科技伦理审查的审查标准 

关于科技伦理审查,《审查办法》中明确规定了一般程序、伦理跟踪审查以及复核专家审查的不同要点,为具体的伦理审查提供了基本纲要。

A. 一般程序的科技伦理审查要点

伦理委员会应按照如下的重点内容和标准开展审查:
· 拟开展的科技活动应符合本办法第三条规定的科技伦理原则,参与科技活动的科技人员资质、研究基础及设施条件等符合相关要求。
· 拟开展的科技活动具有科学价值和社会价值,其研究目标的实现对增进人类福祉、实现社会可持续发展等具有积极作用。科技活动的风险受益合理,伦理风险控制方案及应急预案科学恰当、具有可操作性。
· 涉及以人为研究参与者的科技活动,所制定的招募方案公平合理,生物样本的收集、储存、使用及处置合法合规,个人隐私数据、生物特征信息等信息处理符合个人信息保护的有关规定,对研究参与者的补偿、损伤治疗或赔偿等合法权益的保障方案合理,对脆弱人群给予特殊保护;所提供的知情同意书内容完整、风险告知客观充分、表述清晰易懂,获取个人知情同意的方式和过程合规恰当。
· 涉及实验动物的科技活动,使用实验动物符合替代、减少、优化原则,实验动物的来源合法合理,饲养、使用、处置等技术操作要求符合动物福利标准,对从业人员和公共环境安全等的保障措施得当。
· 涉及数据和算法的科技活动,数据的收集、存储、加工、使用等处理活动以及研究开发数据新技术等符合国家数据安全和个人信息保护等有关规定,数据安全风险监测及应急处理方案得当;算法、模型和系统的设计、实现、应用等遵守公平、公正、透明、可靠、可控等原则,符合国家有关要求,伦理风险评估审核和应急处置方案合理,用户权益保护措施全面得当。
· 所制定的利益冲突申明和管理方案合理。
· 科技伦理(审查)委员会认为需要审查的其他内容。

B. 伦理跟踪审查要点

伦理委员会在进行跟踪审查时,应当包括如下内容:第一,科技活动实施方案执行情况及调整情况;第二,科技伦理风险防控措施执行情况;第三,科技伦理风险的潜在变化及可能影响研究参与者权益和安全等情况;第四,其他需要跟踪审查的内容。同时,根据跟踪审查需要,伦理委员会可以要求科技活动负责人提交相关材料。

C. 复核专家审查要点

复核专家组应按照如下重点内容和标准开展复核:第一,初步审查意见的合规性;第二,初步审查意见的合理性;第三,复核专家组认为需要复核的其他内容。
可见,企业或组织在进行科技活动时,应当考虑公司整体、科技活动具象、对外合作等多重层面;同时,应当结合业务维度、合规维度、数据维度等多重维度对整体科技伦理予以考量。
以AI深度合成算法研发项目为例,在进行AI深度合成算法研发及应用时,应当考虑到公司整体科技伦理、项目具体目标科技伦理以及合作方科技伦理是否符合法律法规和社会价值体系要求。同时,应当考虑如下事项:
· 从数据安全和个人信息保护角度:应当满足法律法规的规定和基本要求,不得超范围收集、加工和共享相关数据和个人信息,并采取合理的技术手段处理相关数据和个人信息。
· 从算法设计角度:应当注意算法设计的包容性,防止不公平或歧视情况出现,并关注农村地区、偏远地区、老年人、残障人士或少数民族群体的需求以提供无障碍服务。
· 从公开透明角度:应当充分披露产品信息,对消费者适当性进行管理,自觉接受外部监督,并对内强化科技伦理教育。
· 从公平竞争角度:应当注意防止滥用数据和流量,以公平公正使用智能算法为目标,并鼓励算法依托的相关服务开放互通。
· 从风险防控的角度:应当树立风险底线意识,自觉履行风险监控责任,主动做好创新风险补偿机制,并创建创新退出机制和落实问责追责机制。
· 从绿色低碳角度:应当注重绿色发展、以发挥改善相关行业环境为目标,同时应注意促进节约资源高效利用,避免浪费。

五、未能遵守《审查办法》的后果



如果相关企业、科技人员、伦理委员会以及委员违反《审查办法》中的相关规定,应当承担相应的法律责任。具体情形如下:

· 科技活动承担单位和科技人员承担法律责任的情形包括:第一,以弄虚作假方式获得科技伦理审查批准,或者伪造、篡改科技伦理审查批准文件的;第二,未按照规定通过科技伦理审查和专家复核擅自开展纳入清单管理的科技活动的;第三,未按照规定获得科技伦理审查批准擅自开展科技活动的;第四,超出科技伦理审查批准范围开展科技活动的;第五,干扰、阻碍科技伦理审查工作的;第六,其他违反本办法规定的行为。
· 伦理委员会、委员承担法律责任的情形包括:第一,弄虚作假,为科技活动承担单位获得科技伦理审查批准提供便利的;第二,徇私舞弊、滥用职权或者玩忽职守的;第三,其他违反本办法规定的行为。
上述罚则未明确规定责任承担的具体内容,因此执法机构将从现有法律法规体系框架中对此予以观察和梳理。目前,现有法律法规体系框架中已经对违反科技伦理的处罚进行了一定的规定,例如:
· 根据《科学进步法》第一百一十二条,如果从事违背科技伦理的科学技术研究开发和应用活动的,科学技术人员可能会被责令改正、终止或撤销获得用于科学技术进步的财政性资金或者有违法所得、由有关主管部门向社会公布其违法行为、禁止一定期限内承担或者参与财政性资金支持的科学技术活动、申请相关科学技术活动行政许可等;并对直接负责的主管人员和其他直接责任人员依法给予行政处罚和处分。
· 根据《涉及人的生物医学研究伦理审查办法》第四十五条,医疗卫生机构未按照规定设立伦理委员会擅自开展涉及人的生物医学研究的可能会被监管部门要求责令限期整改、予以警告、处以罚款等;并对机构主要负责人和其他责任人员,依法给予处分。

由此可见,目前若违反《审查办法》中的相应规定,可能会触发现行法律法规中明确规定的罚则。但是鉴于科技创新和技术进步的步伐不断加快,亦存在部分领域未能实现完全监管的情况,因此我们倾向于认为,未来主管机关会通过相关法律法规的颁布和更新等方式对违反《审查办法》的情形进行间接规定,并通过援引方式实现全面监管

《科技伦理审查办法(试行)》管辖范围内的企业或组织宜为其相应的科技活动准确理解、尽快建设伦理审查委员会制度并完成相应登记。海问在此前处理大量人工智能、深度合成、脑机接口、生命科学等前沿领域项目经验的基础上,也将持续关注《科技伦理审查办法(试行)》为实践操作带来的更新,在项目中提供紧跟监管前沿、着眼于解决方案的法律服务。 







相关文章推荐

生成式人工智能新规六大特点及合规要点

驶向未来:自动驾驶立法与监管前沿研讨会暨《迈向自动驾驶时代:全球自动驾驶规则要览》发布会成功举办

《迈向自动驾驶时代:全球自动驾驶规则要览》新书发布

汽车出行行业数据合规监管年度报告(2022)

人工智能在量化投资中的应用和发展

生成式人工智能运营合规全景问答(一):范围与概览


联系我们
地址:北京市朝阳区东三环中路5号
财富金融中心20层(邮编100020)
电话:+86 10 8560 6888
传真:+86 10 8560 6999
邮件:haiwenbj@haiwen-law.com
地址:上海市南京西路1515号
静安嘉里中心一座2605室(邮编200040)
电话:+86 21 6043 5000
传真:+86 21 5298 5030
邮件:haiwensh@haiwen-law.com
地址:香港中环康乐广场8号交易广场 第一期11楼1101-1104室
电话:+852 3952 2222
传真:+852 3952 2211
邮件:haiwenhk@haiwen-law.com
地址:深圳市福田区中心四路1号
嘉里建设广场第三座3801室(邮编518048)
电话:+86 755 8323 6000
传真:+86 755 8323 0187
邮件:haiwensz@haiwen-law.com
地址:成都市高新区交子大道233号
中海国际中心C座20楼01、11-12单元(邮编610041)
电话:+86 28 6391 8500
传真:+86 28 6391 8397
邮件:haiwencd@haiwen-law.com