到目前为止，我在Collibra已经工作了新万博移动客户端将近4年，这意味着我对与Collibra相关的一切都非常精通治理。作为一名数据科学家，我和同事们一起建立预测模型。在这样做的时候，我得出的结论是缺少了一些东西。我们在使用什么数据、如何使用数据以及哪些特性最终被引入模型方面缺乏透明度。在构建成功的数据产品时，透明度至关重要创建数据产品的8步过程。这个过程的第6步要求您记录数据产品。这就是为什么我开始在Collibra平台内开发人工智能治理。新万博移动客户端
人工智能治理的好处
人工智能治理有几个优势，可以使在运营中使用人工智能的组织受益。其中一个关键的好处是能够消除围绕AI模型的“黑匣子”方面，允许利益相关者更好地理解模型如何工作，并对其使用做出明智的决定。此外，人工智能治理帮助数据科学家对模型进行分类，使他们能够轻松跟踪哪些模型被用于特定任务，以及它们是如何执行的。通过实现治理过程，组织还可以提高其查找、理解和信任用于训练模型的数据的能力，从而获得更准确和可靠的结果。此外，随着围绕人工智能使用的监管和审查越来越多，拥有一个强大的治理框架可以帮助组织证明他们对负责任地使用人工智能的合规性和承诺。
即将出台的人工智能法规
即将出台的人工智能法规我们和欧洲使得人工智能治理成为组织利用人工智能的更重要方面。为了努力保护为了防止个人从事有害或不道德的人工智能实践，已经提出了禁止某些技术的规定。例如，禁止使用可能对个人造成身体或心理伤害的潜意识技术，利用特定群体的弱点，以及根据人们的行为或特征使用人工智能评估其可信度。此外，在公共场所使用实时远程生物识别系统执法也仅限于特定情况，需要严格的保障措施和司法或独立行政当局的事先授权。重要的是要记录和验证这些禁令，以确保AI模型在各种情况下得到适当和合乎道德的使用。这些规定反映了对人工智能道德使用的日益关注，并优先考虑保护个人免受有害做法的影响。
人工智能治理的行动
让我们仔细看看应用于人工智能实现的人工智能治理。下面你可以看到在一眨眼的功夫你可以完全理解模型的来龙去脉。让我们从右边(黄色)开始，其中模式是特征集“客户流失模型训练数据”(红色)的基础。这个“流失模型训练数据”功能集正在被输入流失模型(蓝色)。
流失率模型的结果显示在两个仪表板中:“经理和执行仪表板”，让经理和执行人员对情况有一个全面的看法，以及“流失预测仪表板”，这是专门为每个客户成功经理(CSM)量身定制的。
注意，我们的csm在构建模型时是关键的涉众，通过图视图，他们可以非常清楚地了解模型是如何工作的，以及使用了哪些特性。此外，还可以将策略添加到模型中:使用、保留、版本控制、审计、遵从性和部署策略。我们还包含了一个隐私标准(Green)，以说明客户流失模型不是在PII数据上训练的，而是在聚合数据上训练的。这使我们能够理解可以应用该模型的上下文。
当然，每个组件都包含额外的信息，我将在这里放大“客户流失模型”资产。多个信息属性，如模型精度、精度、类型和再训练周期，都被添加到资产中，以供数据科学家使用。这将为记录模型提供一个中心位置，并允许在未来几个月发布的多个模型之间进行简单的比较，从而减少混乱。在此基础上，我们还添加了关于特性重要性的信息(这里我们故意隐藏了特性)。这有助于数据产品负责人和数据科学家之间的沟通。
为什么我们需要一个记录良好的模型
拥有记录良好的模型的重要性怎么强调都不为过。去年，当我的同事外出度假时，我没有做的一个模型出了故障，我不得不介入。幸运的是，由于Collibra中的详细文档，我能够快速理解输入和输出以及一切是如何运行的，使我能够新万博移动客户端快速解决问题并返回到我的任务中。
结论:人工智能治理的未来
随着GPT-3等技术的进步，以及将“形状值”(特征重要性指标)等复杂概念转化为自然语言的能力，人工智能治理的未来看起来很有希望博客。这将使人们在日常生活中更容易理解、交流和使用技术。此外，为数据科学家开发可购买的功能集将提高他们的工作效率和生产力。未来的另一个关键方面是Collibra的使用新万博移动客户端可靠的业务报告这将确保人工智能生成的预测和决策的准确性和可靠性。总的来说，人工智能的未来令人兴奋，在改善各个行业和我们生活的方方面面方面具有巨大潜力。
