它的说明不足：每个组织创建人工智能（AI）的责任是在道德上这样做。负责任或道德的AI是AI，它是公正，公平的，并且可以改善所触及的每个人的生活质量。实际上，它要求AI从业人员将道德框架应用于他们追求的每项AI努力，以确保利用人民，流程和工具服务于更大的使命。
在整个AI值链中，负责人AI可以并且应该发挥作用的关键接触点。如果AI开发人员忽略了任何接触点，他们将整个项目面临不符合公平和公平标准的风险。了解链中的每个链接如何影响下一个链接以及每个阶段中的考虑因素是针对AI从业者启动负责人AI的基本步骤。
AI开发周期
在启动任何AI项目之前，您的团队可以采取一些措施来建立道德AI产品。
- 请注意最终产品必须遵守的规定。这些因地理而异。这GDPR，例如，涵盖欧盟中的AI开发和应用。
- 创建一个反映负责AI镜头的AI治理框架。在此框架中包括指导问题，以帮助您解决AI开发生命周期沿线的关键考虑点。尤其是，鉴于其对模型性能的重大影响，数据治理应该是重点领域。
- 招募一个多样化的数据科学家和研究人员团队，他们可以为AI开发带来各种观点和经验。
完成这些初始步骤后，您可以在整个AI构建过程中做出负责任的决策。选择解决业务问题以解决后，AI值链从数据收集开始，并通过部署进行进展，然后在后期制作过程中一次又一次进行周期。我们将介绍每个阶段要考虑的关键AI注意事项：
数据采集
在采购数据时，将其目标是收集尽可能完整和包容的数据。数据中代表的最终用户（特别是它们各自的用例）越多，您的AI对各种组的表现就越好。道德AI的基于以下想法，即产品对每个人都公平地工作，而代表性数据是创建该权益的基础。
如果您要从第三方采购数据，理想情况下，确保数据公正是您的共同责任。不过，最好不要做任何假设。例如，如果您要收集科学家的图像数据，则不能假设所有类型的科学家都在数据集或所有人口统计中代表。即使您被告知很多，最终还是要仔细质量检查数据以覆盖所有可能的用例。
数据准备
通常，当我们谈论有关数据准备的负责人AI时，我们专注于注释过程本身，目的是应用准确，公正的标签。实际上，这在影响最终模型的性能偏见方面至关重要。此步骤的一个关键组成部分是招募一群多样的人（理想情况下是您最终用户的高度代表）来提供数据标签。更大的多样性促进了不同的观点，并减少了引入单方面判断的机会。
我们经常忽略数据准备的是对数据背后的人的处理。作为AI从业者，请确保这些人获得公平的待遇，因为他们是AI价值链的至关重要但被低估的部分。公平的待遇可能包括提供公平的薪水，保护其隐私权以及提供反馈的开放沟通线。（了解Appen如何解决我们贡献者的福祉，请参阅我们的人群道德准则）。
模型培训和测试
负责人的AI不仅与数据有关。建立模型并开始对准备好数据进行培训后，您将监视其性能。当然，性能测量中最常见的指标是模型预测的准确性（例如，它始终识别出人们在街道上可见的图像中的行人吗？）。
但是，需要更多的细微差别才能获得准确性。您需要专门针对每组最终用户评估模型的准确性。The groups you select will depend on the problem you’re trying to solve, but always be aware when you’re interfacing with protected classes of people (i.e., people who share a common trait, such as race or gender, that’s legally protected). Does your model perform equally well for protected classes vs. non-protected? If not, you likely need to retrain your model on additional data representing the underperforming classes.
除了测量模型的准确性之外，还要考虑包括直接测量偏差的度量。合并偏见度量可以帮助您快速捕获偏见的实例 - 尽管它不应取代人类进行的常规质量检查。请注意，如果您需要有关如何将其添加到仪表板中的进一步指导，则有一些可用的软件选项可提供此功能。
后期制作
部署模型后，继续评估其跨用户组的性能，并检查其按预期工作。重要的是要使您的用户轻松地提供反馈，以便您可以尽快捕获和解决问题。
预计如果您从不重新训练，您的模型性能会随着时间的推移而降低；大多数模型都无法在静态环境中运行，并且经常面临着以前从未遇到的数据。通过再次从数据收集开始并通过AI开发周期的其余部分来定期对新数据进行重新训练。
负责人AI的下一步
如果我们查看负责人AI的整体格局，仍然需要进步。越来越多的公司需要了解，负责人的AI对于成功和工作的一部分至关重要，而不仅仅是一个不错的工作。对这一想法的更大接受将减少对未来严格，潜在的阻碍法规的需求。
作为AI从业者，您现在还能做些什么来进一步促进负责人的AI的进步？保持最新的道德AI新闻，探索不同的行业，以了解他们如何接近该概念，并向客户和注释者寻求定期反馈。彻底记录您做出的选择以及您在开发中使用的工具，以帮助解决AI中解释性的问题，从而帮助我们所有人更好地了解这些创新的工作方式。最重要的是，在整个AI开发周期中，以对公平和包容的承诺接近每个项目。
-
学到更多！观看Callminer的网络研讨会跨价值链负责的AI听取包括Appen在内的行业代表听到这个重要主题的消息。
