如何减少AI中的偏差

推特
推特
LinkedIn
分享
脸谱网
fb-share-icon

克服和防止人工智能偏见的八种方法

算法偏差在AI中是一个普遍存在的问题。你可能还记得新闻中出现的带有偏见的算法例子,比如语音识别无法识别代词“她的”,却能够识别“他的”,或者人脸识别软件不太可能识别有色人种。虽然完全消除人工智能中的偏见是不可能的,但重要的是不仅要知道如何减少人工智能中的偏见,而且要积极地防止它。了解如何减轻AI系统中的偏差源于理解用于生成和演化模型的训练数据集。bob体育手机下载

在我们的《2020年人工智能和机器学习状态报告》在美国,只有15%的公司称其人工智能的数据多样性、偏见减少和全球规模“不重要”。尽管这很棒,但只有24%的人认为公正、多样化、全球人工智能是关键任务。这意味着许多公司仍然需要做出真正的承诺来克服人工智能方面的偏见,这不仅是成功的象征,而且在今天的背景下至关重要。

由于人工智能算法意在干预存在人类偏见的地方,它们通常被认为是没有偏见的。重要的是要记住,这些机器学习模型是由人编写的,并根据社会产生的数据进行训练。这带来了在模型中引入和放大现有人类偏见的挑战和风险,从而阻止人工智能真正为每个人工作。

负责任和成功的公司必须知道如何减少人工智能方面的偏见,并主动求助于他们的培训数据。bob体育手机下载为了尽量减少偏差,通过应用统计和数据探索来监测异常值。在基本层面上,通过比较和验证不同样本的训练数据的代表性来减少和防止AI偏差。bob体育手机下载没有这种偏见管理,任何人工智能计划最终都会失败。

这里有8种方法可以防止人工智能偏见潜入你的模型。

人工智能的偏见

如何减少AI中的偏差的8个步骤

  1. 定义和缩小你要解决的业务问题
    试图解决太多的场景通常意味着您将需要跨越大量难以管理的类的大量标签。首先,狭义地定义一个问题将帮助您确保您的模型由于您构建它的确切原因而运行良好。
  2. 结构数据收集,允许不同的意见
    一个数据点通常有多个有效的观点或标签。收集这些意见并考虑合理的、通常是主观的分歧将使你的模式更加灵活
  3. 理解你的训练数据bob体育手机下载
    学术和商业数据集都可以有类和标签,这些类和标签会在你的算法中引入偏见。你越了解和拥有你的数据,你就越不可能被讨厌的标签吓到。
  4. 召集一个多样化的ML团队,问不同的问题
    我们都把不同的经历和想法带到工作场所。来自不同背景的人——种族、性别、年龄、经历、文化等等——会问不同的问题,并以不同的方式与你的模型互动。这可以帮助您在模型投入生产之前捕获问题。
  5. 想想你所有的终端用户
    同样地,要明白你的最终用户不会和你或你的团队一样简单。善解人意。通过学习预测与你不同的人将如何与你的技术互动,以及他们这样做可能会出现什么问题,来避免人工智能的偏见。
  6. 注释与多样性
    分散你的注释者,你的观点就越多样化。这真的可以帮助减少偏差,无论是在最初的发布,还是在你继续培训你的模型的时候。
  7. 测试和部署时要考虑反馈
    模型很少在整个生命周期内是静态的。一个常见但主要的错误是部署模型时,终端用户无法就模型在现实世界中的应用情况向您提供反馈。开放一个讨论和反馈论坛将继续确保您的模型为每个人保持最佳的性能水平。

  8. 有一个具体的计划来改进你的模型吗
    您需要不断地检查您的模型,不仅要使用客户的反馈,还要使用独立的人员来审核更改、边缘情况、您可能遗漏的偏差实例等等。确保您从您的模型中获得反馈,并给它您自己的反馈,以改进它的性能,不断迭代以达到更高的精度。

如何用Appen减少AI中的偏差

在Appen,我们已经花了20多年的时间注释数据,利用我们多样化的人群来帮助确保您可以自信地部署您的人工智能模型。我们可以帮助你避免AI偏差,使你在有偏差的算法例子的列表上,不仅为你提供a平台有来自130个国家的超过100万的人群成员,但我们也可以设置你与我们的管理服务的专家团队为你的AI模型产生最好的训练数据。bob体育手机下载

部署AI与世界一流的培训数据的网站bob体育手机下载
语言