为进一步完善我国科技伦理体系，提升科技伦理治理能力，有效防控科技伦理风险，不断推动科技向善、造福人类，实现高水平科技自立自强，近日，中共中央办公厅、国务院办公厅印发了《关于加强科技伦理治理的意见》(以下简称《意见》)，从总体要求、明确科技伦理原则、健全科技伦理治理体制、加强科技伦理治理制度保障、强化科技伦理审查和监管、深入开展科技伦理教育和传播等方面对科技伦理治理工作做出了全面部署和指导。
目前，以人工智能（AI）为代表的新兴技术正加速进入医学领域，也逐渐形成了医学与新兴科技融合的交叉研究范式以及临床实践。复旦大学生命医学伦理研究中心主任王国豫教授表示，人工智能技术正在持续赋能医学的科学研究和临床实践，已在破解蛋白质结构方面已经取得了重大的突破，对于人类认识和理解生命的本质，开发新的临床药物具有重要的意义。而人工智能与医学影像的深度融合可以提高影像医师工作效率、降低漏诊率、均衡医疗资源，这对于缓解医疗卫生体系面临的重大压力、推动医疗公正都会产生积极的影响。另一方面，这些新技术的应用也会带来一系列新的伦理挑战。例如，在人工智能医学影像领域，大规模使用训练数据导致的数据隐私暴露的风险、采用深度学习进行算法训练带来的“黑箱问题”，都是未来人工智能在生命医学领域应用必须直面的挑战。
王国豫认为，如果要想让这些技术落地，就必须同步开展人工智能在生命医学领域应用的规范研究，明确人工智能系统在生命医学领域应用的可能性边界，构建和完善保护人类生命、保护个人生物信息和隐私的防火墙。为此，必须加强对相关科技活动的伦理规范性审查，通过教育和培训，提高相关科技人员的伦理意识和道德敏感性。
华东师范大学计算机科学技术学院副院长贺樑教授表示《意见》的发布对于科技创新健康机制的建立和制度保障体系的形成具有重要的推动作用，也是对国际社会注重建立科技伦理规范的积极响应。
贺樑同时认为当前开展科技伦理治理工作，加快推进科技伦理治理体系建设，也面临一些挑战。首先是人才缺乏的挑战，尤其是了解科技伦理，且又了解具体领域科技工作的交叉性人才非常稀缺；其次是观念的挑战，一部分科技工作组只顾埋头从技术角度看问题，习惯看眼前成果而非长远影响，要让政府、企业和科技人员接受并具有一定主动性是一个长期过程；第三是方法层面上的挑战，伦理问题本身并不容易界定，而且由于不少伦理问题产生的后果具有隐蔽性，所以在发现问题、改善问题，规范问题等方面总体上还是很缺乏方法学与技术层面上的好工具的；第四是不同科技领域之间的伦理问题具有较大的差异性，在应针对各个关键科技领域印发不同的治理框架的同时，能否把握住伦理审查时的“宽与松”问题也是一项挑战，加强科技伦理审查降低相关风险的同时，不应影响科技创新与发展的进程。
贺樑介绍到在人工智能领域，随着数据的积累、算力的提升以及算法的发展，人工智能技术近些年发展迅速，但随之而来的伦理风险越来越多。例如AI伪造越来越难识别、AI越来越能深度挖掘用户隐私、AI带来的信息茧房问题、AI的不可解释性引发的偏见问题和决策风险等等都需要高度关注。他表示建立基层伦理的机构是非常关键的，例如在企业层面，企业应具备伦理自查的能力，建立完善的科技伦理的管理制度，规范并落实智能产品从研究、设计、开发到使用等各个环节的伦理自查工作；加强对员工的培训，在企业内普及加强科技伦理治理的理念，推广伦理审查的相关技术与工具。在行业层面，应促进构建科技伦理的标准体系，推广第三方服务公司进行伦理审查与评估。
上海交通大学医学院附属第九人民医院放射科主任陶晓峰教授认为，生命科学、医学都是与人类健康密切相关的学科领域，因此，所有首次用于人体的新技术、新材料、新方法都必须经过严格的伦理论证。目前各个有资质的医学单位，都成立了由医学专家、生命科学专家、管理学专家等等组成的伦理委员会，负责审查和批准新的医疗行为是否符合伦理要求。所有在人体上使用新技术发表的文章也必须具有符合伦理要求的证明。这些工作对保障生命科学和医学领域的科技行为的合伦理性起到了非常积极的作用。
陶晓峰同时介绍到AI技术在推动并参与到生命科学研究和临床工作的进程中，伦理性评估依然面临巨大挑战，比如基因编辑技术在先天性基因病变的应用，病理的AI技术可否替代一些人工服务，AI影像技术的成熟可否单独用于临床诊断等等，都是当前亟需关注和解决的问题。在他看来，作为医学新兴科技领域的的科研人员，必须高度重视伦理问题，筑牢底线思维：一定要认识到我们的研究对象是人，必须把研究风险评估和伦理评估作为研究是否开展的首要问题。要严格遵守和执行伦理委员要求的研究框架，不得随意更改，加减研究内容。在研究过程中以及结束后应持续、及时向伦理委员会报告研究情况，确保潜在伦理风险被及时发现并采取防范措施。
陶晓峰最后表示科技伦理治理问题是个大问题，但又不能成为探索人类奥秘的绊脚石。在鼓励和大量发展新型技术的开放和推广的同时，要合理合规，依法办事，才能推动医学研究不断发展和不断创新。
《意见》不仅提出了包括增进人类福祉、尊重生命权利、坚持公平公正、合理控制风险和保持公开透明等五项基本原则，而且要求制定完善科技伦理规范和标准，即要求将科技伦理的原则转化行动的规则和指南，以引导科技机构和科技人员合规地开展科技活动。因此，在医学人工智能领域，应鼓励建立以伦理、科技和医学的多学科团队，制定指导细则。目前，王国豫教授团队近年来开展了《精准医学的伦理政策与法规框架研究》《国家自然科学基金伦理手册》等研究编撰，并正在联合上海人工智能实验室、复旦大学附属华山医院、华东师范大学等机构，共同组建跨学科研究团队编制《人工智能医学影像伦理手册》，希望通过这些规范研作为实践基石，提升科技人员的伦理意识，支撑科技人员合伦理合规地开展科技活动，推进科技活动伦理治理体系的建设。
（瞿晶晶、李郁欣、王祥丰、曹国英、金博）
责编：吴正丹
