2021年4月，欧盟委员会发布了首个关于人工智能的监管提案，这是人工智能历史上的一个重要里程碑。考虑到人工智能在企业和消费者使用的技术中迅速普及，这是一个突出但并不意外的举动。
当前提案的状态
经过几年的准备，欧盟委员会公布了人工智能监管提案，为人工智能制定了潜在的规则。该提案是欧盟委员会提高数据透明度和控制战略的一部分，该时机是在去年提交的数据治理法案提案之后。
拟议的人工智能法规适用于:
- 在市场上放置或投入服务人工智能系统的服务提供商，无论这些提供商是在欧盟内部还是外部建立的(欧盟)
- 欧盟人工智能系统的用户
- 位于非欧盟国家的人工智能系统的服务提供商和用户，该系统产生的输出在欧盟使用
在这项提案成为法律之前，预计将在世界各地进行讨论和辩论，也许是在未来两年。
主要合规义务
拟议的人工智能法规侧重于高风险人工智能系统的合规义务，包括:
1)拟用于第三方事前合格评定产品的安全部件
2)对基本权利有影响
该提案的主要目标是考虑使用人工智能的风险，并允许人类理解和控制它。一些主要遵从性需求是:
- 数据和数据治理(第10条):用于训练人工智能系统的数据应遵循数据治理最佳实践，包括设计选择、数据收集、数据准备、数据集偏差和数据质量方面的考虑。
- 记录(第十二条):AI系统需要自动记录事件或日志，以便对AI系统的操作进行审计跟踪。日志记录要求必须包括，例如，记录操作时间的能力，并提供一个参考数据库来审查数据输入。
- 透明度(第13条):人工智能系统需要确保其预期目的的透明度，通过测试验证的准确性水平，以及预期的性能，使用户能够适当地解释和使用系统。
- 人力监督(第十四条):AI系统必须包含一个接口机制，供用户监控AI系统的操作，解释和覆盖其输出，并在必要时关闭系统。
违规者将被处以相当于该组织全球年营业额2%至6%的行政罚款。
对治理和隐私团队的影响
对于利用人工智能和机器学习技术来最大化数据价值的组织来说，拟议的人工智能法规具有更广泛的影响。他们需要评估当前管理数据准确性、偏见、透明度和人工智能治理的流程。遵守该提案需要采取战略性和深思熟虑的方法来管理这些义务。
建立一个数据智能基础以支持治理、数据质量和数据隐私倡议，与拟议的人工智能法规保持一致。
数据智能基础提供:
- 了解哪些数据有助于提高透明度
- 数据如何使用的背景，这将实现透明度和人为监督
- 信任数据的完整性和意义，以确保透明度
- 明确数据的所有权，以帮助进行人工监督
- 清楚如何使用和共享数据的审计跟踪
- 数据质量以识别数据异常
拟议中的人工智能法规将对人工智能的发展和使用产生深远影响，类似于GDPR对个人数据使用的影响。一个强大的数据智能平台可以帮助组织为他们越来越依赖的人工智能系统的未来需求做好准备。
