发布时间：2024-11-16 10:38:58 来源: sp20241116
文/冯玲玲
当地时间8月1日，欧盟《人工智能法案》正式生效。作为全球首部全面监管人工智能的法规，它的出台意味着人工智能的规范应用迈出重要一步。
正迎头赶上的中国人工智能企业，会否因此受到影响？
如何监管？
该法案采用风险分级管理的模式，将人工智能系统分为禁止、高风险、有限风险和最低风险四类，并据此设定不同的合规标准。
其中，关于高风险人工智能系统的界定和要求成为多方关注焦点。根据法案，自动驾驶汽车、医疗设备、贷款决策系统、教育评分和远程生物识别系统等均属于高风险人工智能系统，涉及医疗健康、公共安全、交通运输等关键领域，因此该法案对高风险人工智能系统规定了严格的透明度义务。
同时，复杂和广泛使用的人工智能系统也将受到新约束。法案要求，所有人工智能生成的内容(包括图像、音频或视频等)都要有明确标签，能够被检测为人工智能生成的内容，以解决人们对虚假信息的担忧。
此外，该法案规定，禁止使用被认为对用户基本权利构成明显威胁的人工智能系统。对有违规行为的企业，欧盟最高将对其处以3500万欧元或全球年营业额7%的罚款，取二者中的较高值。
按照计划，该法案相关规则将分阶段实施，主要是为了给企业留出一定过渡期。某些规则将在该法案通过6个月后或12个月后生效，而大部分规则将于2026年8月2日开始生效。
值得一提的是，该法案将不仅适用于欧盟境内，其效力还扩展至欧盟区域外运营的相关公司，具有广泛国际影响力。
影响几何？
随着法案各条款逐步实施，人工智能应用或将走向更加规范的轨道。
北京金杜律师事务所顾问方禹接受 中新社 国是直通车采访时指出，欧盟《人工智能法案》从约束内容到处罚规定，保持了一如既往的“高标准”，具有标杆性意义，将为世界其他地区和国家立法提供参考框架。
与此同时，业内也有很多观点认为，合规意味着成本上升，该法案实施将显著增加人工智能相关企业的合规成本。
据早期预测，该法案可能导致欧盟在未来五年内经济损失超300亿欧元，并使人工智能领域的支出增加近17%的合规成本。
北京大成(上海)律师事务所合伙人彭凯认为，《人工智能法案》对透明度、个人信息保护等方面提出了较高要求，于消费者而言是利好的。但同时，鉴于严格的监管要求，人工智能价值链上的参与者需要投入更多资源。部分企业可能因无法承担高昂的合规成本，需要调整其市场进入策略，甚至因此放弃进入欧盟市场。
在方禹看来，中国人工智能企业若要出海欧盟市场，面临的合规成本和压力将不可避免增加。在合规成本之外，他还强调企业或将面临“价值观成本”。
方禹认为，对出海企业而言，这部法案涉及的方面以及影响是复杂且多面的。该法案是基于风险的治理思路，但欧盟和中国彼此间对于“风险”的认识和界定存在一定差异。中国出海企业要面临的不单是制度上的合规，还需要在价值观等认识层面进行一定调整和平衡。
中国信息通信研究院人工智能研究所人工智能治理高级主管呼娜英表示，法案生效后，中国出海企业面临的挑战，一方面在于从内部调整自身业务与合规体系以同欧盟标准对齐，另一方面要从外部平衡好不同国家和司法区域之间的规则。
有观点担忧，由于监管和约束趋向严苛，该法案可能抑制技术创新，尤其是对初创企业和高风险人工智能系统供应商将构成较大压力。但有分析认为，随着合规体系完善，长远看将激发企业通过技术创新来降低合规成本，促进人工智能行业规范化发展。
对此，方禹表示，法案本身只是一种工具，且不同企业有不同的合规标准，不可绝对地一概而论。但如果过多企业或类别被列入高风险等级，将可能在一定程度上影响企业创新力。 【编辑:曹子健】