全球首个AI监管法律落地！交易商要做好哪些功课？

2024年5月21日，欧盟理事会正式批准了《欧盟人工智能法案》（EU AI Act）。一般来说，法案在经过欧洲议会和理事会主席签署后，将会很快在EU官方公报上公布，并于公布后的20日内生效。该法案成了全球范围内第一个正式的对于AI技术进行监管的法案。

该法案最早可以追溯到2020年。当年的2月，欧盟委员会发布了《人工智能白皮书》（White Paper on Artificial Intelligence）。当年10月，欧盟各国领导人在理事会首次对AI话题进行了辩论。

时间来到2021年4月21日，欧盟委员会正式在这天提出了《法案》。2022年12月6日，欧洲理事会通过了总体方向，允许和欧洲议会开始谈判。2023年12月6-9日，三天的马拉松会谈之后，欧盟理事会和议会终于达成了协议。

2024年3月13日，欧洲议会正式对该法律发起投票。投票结果是523票赞同、46票反对和49票期权，获得全面胜利。上周，即我们前面提到的5月21日，该法案获得了欧盟理事会的批准。但正如我们所述，此次此刻并不意味着该法案已经生效，不过无论如何，这已经只是时间问题了。

其实欧盟法案的概念源自风险管理，也就是说真正监管的不是AI技术，而是该技术在社会特定领域的使用方式所具备的风险。根据该法案条例，共分为五类风险：首先是“不可接受的风险（Unacceptable risk）”、“高风险（High risk）”、“一般目的AI（General-purpose AI）”、“有限风险（Limited risk）”和“最小风险（Minimal risk）”。

由于法案将AI技术定义为“以人为本”的技术，应作为人类的工具，以增进人类的福祉，所以许多使用情形都被禁止，其中就包括部分金融机构、交易商在KYC等流程中所可能涉及的使用情形：

比如，在“不可接受的风险”中，明确列入了包括“操纵人类行为的人工智能应用程序、在公共场所使用实时远程生物识别（包括面部识别）的人工智能应用程序以及用于社会评分的应用程序（根据个人特征、社会经济地位对人们进行排名） 状态或行为）。”以上这些应用场景必须得到豁免后才能使用，因此，这一类别会影响到对信用评分、风险评估和欺诈检测等金融决策过程非常重要AI应用程序。

此外，在“高风险”类别中，还包括生物识别系统、关键基础设施的运行以及AI支持的人力资源软件（如申请工作的软件）。

可以看到，《法案》为了保证AI使用场景的透明度、准确性和公平性，做出了全面的风险评估和风险环节措施的规定。对于交易商在内的金融机构而言，如要避免新《法案》生效后出现违规行为，一定要进行彻底的风险评估，并采用有效的风险缓解措施进入AI在交易中的各类使用场景。

这就包括确保AI系统的数据质量；留存详尽的文档以提高透明度；履行对于投资者的信息披露义务；以及建立一套行之有效的人工监督机制。

还有一点，根据法案中对于“有限风险”的规定，意味着交易商在向用户提供诸如“聊天机器人”和“生物识别分类系统”等AI应用时，所生成的音频、视频和图像内容一定要标记为“AI生成”，方便用户选择是否进一步进行交互，这样才能免去自身的责任。

对于交易商来说，《法案》的实施并不一味带来的是更高的合规成本，反而在AI监管框架内，交易商将比以往任何时候都更能赢得交易者的信任。毕竟，在保证AI运营符合法律规定和道德规范后，就有可能进一步实现市场竞争的差异化。

因此，交易商应尽快主动评估目前自身平台所使用的AI场景，以确定哪些场景更容易受到《法案》中高风险场景的影响，以及还有哪些新的监管需求尚未得到满足。