刚刚落幕的2021年可谓是人工智能（AI）行业的资本市场盛宴之年，多家头部AI企业集中登陆资本市场，云从科技、旷视科技、格林深瞳、云天励飞、奥比中光等均顺利通过注册，拟在科创板上市。年底，“AI四小龙”之一的商汤科技则率先成功完成港股上市，为AI行业资本市场发展带来了新气象。
2021年，AI行业监管政策也紧锣密鼓。1月5日,全国信息安全标准化技术委员会发布《网络安全标准实践指南—人工智能伦理安全风险防范指引》（下称《防范指引》）； 9月25日，国家新一代人工智能治理专业委员会发布《新一代人工智能伦理规范》(下称《伦理规范》)，旨在将伦理道德融入人工智能全生命周期，为从事人工智能相关活动的自然人、法人和其他相关机构等提供伦理指引。12月17日，中央全面深化改革委员会审议通过《关于加强科技伦理治理的指导意见》(下称《指导意见》)，将伦理先行、敏捷治理、立足国情、开放合作作为科技活动的基本要求，为有效防范科技创新可能带来的伦理风险，推动科技向善指明方向。同年《数据安全法》和《个人信息保护法》的相继出台实施，也与监管层对AI行业要求的数据合规与科技伦理规范息息相关。
律师
天达共和律师事务所
在上述背景下，交易所IPO审核亦步亦趋。2021年4月，在旷视科技提交注册过程中，上交所首次对科技伦理进行了问询。问询函以“关于数据合规及科技伦理”为大标题，其中一个问题要求公司披露“在人工智能伦理方面的组织架构、核心原则、内部控制及执行情况”，并说明“公司在研发和业务开展过程中落实相关责任、遵守伦理相关规范和标准的措施及执行情况”，分析公司在保证人工智能技术可控、符合伦理规范的措施和规划，以及面临的伦理风险。
接下来的6月至7月，交易所陆续对云从科技、格林深瞳、奥比中光等AI企业进行问询，均要求说明“公司在保证人工智能技术可控、符合伦理规范的措施和规划”，部分还要求披露面临的伦理风险。而就在一年前，同为“AI四小龙”之一的依图科技上市时，尚未有关于科技伦理方面的问询。
率先完成港股发行的商汤科技，则在2021年8月提交的招股说明书中披露：公司坚守“可持续发展原则、以人为本的原则、技术可控原则”作为人工智能伦理原则，并披露“人工智能伦理举措”，通过组织架构及管治、内部举措及与第三方机构及智库的合作等方式来保证符合科技伦理规范。
通过以上对比分析，我们总结监管层对AI企业IPO审核关注要点如下：
（1）确保人工智能技术可控
正如《防范指引》中将“失控性风险”作为人工智能伦理安全的首要风险，《伦理规范》也将“确保可控可信”作为人工智能各类活动应遵循的基本伦理规范之一，确保人工智能始终处于人类控制之下。在这个层面上，资本市场监管机构重点关注拟IPO企业在制度、技术和内控机制等方面如何实现“可控”。
（2）研发和业务开展过程
目前可遵循的伦理规范主要包括前文所罗列的几个规范指引和指导意见，未上升到法律层面。正如《指导意见》在“健全科技伦理治理制度”时指出，今后要“加强科技伦理重点领域的立法研究，及时将重要的科技伦理规范上升为法律法规”。因此，目前监管机构主要关注的是，企业内部是否建立了科技伦理审查机制，是否能有效执行这一机制，是否能有效树立员工在科技伦理方面的意识等。
（3）企业应重点关注的伦理风险
《防范指引》指出，人工智能伦理安全风险主要包括失控性风险、社会性风险、侵权性风险、歧视性风险和责任性风险。从目前已公开披露的上述几家AI企业的招股说明书来看，更多地在描述技术滥用（误用）可能带来的责任性风险和社会性风险，对于其他风险的描述较少。
值得注意的是，《伦理规范》于2021年9月底出台，在上述IPO企业的问询回复及招股说明书中均未提到此规范。如果参照《伦理规范》，交易所或许会进行更严格的审核要求。因为《伦理规范》明确规定人工智能特定活动应遵守的伦理规范包括“管理规范、研发规范、供应规范和使用规范”，不仅仅是前面提到的“研发和业务开展过程”中需要遵守伦理相关规范和标准。
相应地，企业确保符合伦理规范的措施，也不能仅停留在建立内部伦理审查机制、员工培训与管理等层面，还必须包括对供应商、客户及合作伙伴的外部审查与管理，以满足供应规范和使用规范中规定的标准。
天达共和律师事务所律师黄辉
北京市朝阳区东三环北路8号
亮马河大厦写字楼1座20层 邮编：100004
电话: +86 10 6590 6639
传真: +86 10 6510 7030
电子信箱: huanghui@east-concord.com
