|科技部：人工智能企业或需设立科技伦理审查委员会

7月28日，科技部发布《关于加强科技伦理治理的指导意见（征求意见稿）》（下称《意见》），向社会公开征求意见。《意见》旨在加大科技伦理治理力度，推动科技向善，《意见》明确了我国科技伦理治理的基本要求和原则，并对科技伦理治理体制、监管与审查做了规定。

文章插图

科技部发布《关于加强科技伦理治理的指导意见（征求意见稿）》。图自科技部网站
多位专家肯定了《意见》对科技伦理治理的重视，尤其是伦理审查体制的确立，是我国伦理治理的一大进步，为未来发展明确了方向。
有专家向南都采访人员表示，此次科技部出台的《意见》是一份指导性文件，在具体的领域，还是需要一些标准规范或法律法规，做出强制性规定和指导。
伦理先行，尊重生命权利
《意见》提出了我国科技伦理治理的基本要求。首先是伦理先行，要求科技伦理贯穿科学研究、技术开发等科技活动全过程，覆盖科技创新的各个领域。
敏捷治理也是基本要求之一，《意见》要求加强科技伦理的风险预警与跟踪研判，及时动态调整治理方式和伦理规范，快速、灵活应对科技创新带来的伦理挑战。早在2019年，我国发布《新一代人工智能治理原则》，就把敏捷治理作为一条治理原则。
《意见》的另外两个基本要求是立足国情、开放合作，积极推进全球科技伦理治理。社科院研究员段伟文对此评论，如何将科技伦理制度建设与促进国际科技的交流、开放、合作与共享有机结合起来，对于让科技更好造福人类和推动人类命运体的构建具有尤为重要的意义。
《意见》明确了科技伦理有增进人类福祉、尊重生命权利、坚持公平公正、合理控制风险、保持公开透明五大原则。
其中，在尊重生命权利方面，《意见》特别提到要最大限度地避免对人的生命安全、身体健康、精神和心理健康造成伤害或潜在威胁。科技活动要尊重人格尊严和个人隐私，并且要保障参与者的知情权和选择权，使其自主选择是否参加或退出。
近年来，安全和隐私问题屡屡引发技术伦理争议，自动驾驶汽车刹车失灵事故多次成为社会焦点，人脸识别等技术应用也引发公众对隐私问题的担忧。今年4月，《个人信息保护法（草案）》提请全国人大常委会二次审议，明确了处理个人信息须遵循知情同意原则。
清华大学教授梁正认为，尊重生命权利是科技发展的基本底线，任何情况下都不能侵犯。
《意见》还要求防止技术在不同社会群体中的歧视和偏见。
协同共治思想在《意见》中也有所体现。《意见》要求科技活动应建立利益相关方和社会公众的合理参与机制，建立在涉及重大、敏感伦理问题上的披露机制，保持公开透明。
明确伦理监管和审查机制
在具体的治理体制方面，《意见》从政府、创新主体、社会团体、科技人员四个维度分别提出治理要求。《意见》明确，国家科技伦理委员会是科技伦理最高咨询、审查、规制、组织协调机构，要求地方各级政府、各部门负责具体伦理治理工作。
创新主体指高等学校、科研机构、医疗机构、企业等。《意见》特别要求，从事生命科学、医学、人工智能等科技活动的机构，研究内容涉及科技伦理敏感领域的，应设立科技伦理（审查）委员会。
在监管方面，《意见》要求，要明晰科技伦理的监管职责，完善科技伦理监管流程和科技伦理审查、风险处置、违规处理等监管规则。同时，加强立法研究，及时将重要的科技伦理规范上升为法律法规，强化对违背科技伦理要求行为的责任追究。