人工智能偏见：定义、发生、类型、原因和预防

[shukla7789]

人工智能偏见——定义、发生、类型、原因及预防
人工智能偏见是指人工智能算法倾向于模仿人类的错误。人工智能偏见也称为机器学习偏见或算法偏见。当算法由于在整个机器学习过程中建立的错误判断而反复生成歪曲信息时，就会出现人工智能偏见。

人工智能偏见的一些常见形式是算法偏见、样本偏见、偏见偏见、测量偏见、排除偏见、选择偏见和回忆偏见。算法偏见是指执行计算的算法中的缺陷。样本偏见表示模型的训练数据集存在问题。偏见偏见是指数据中反映的现有先入之见、刻板行为和不正确的社会信念。

测量偏差是由于数据可靠性以及用于收集或评估数据的方法存在根本问题而产生的。排除偏差是由于所使用的数据集中缺少关键数据点而产生的。选择偏差是由于训练数据太少或太不具代表性而产生的。回忆偏差则表现为根据主观感知随意分配标签。

人工智能或机器学习中的偏见是由设计和指导机器学习系统的专业人员引入的问题引起的。他们设计的算法代表了无意的认知偏见或实际偏见。用于训练和评估机器学习算法的不正确、有缺陷或有偏见的数据集会引起偏见。算法无意中受到从众效应、刻板印象、启动效应、确认偏见和选择性感知等形式的人工智能认知偏见的影响。

可以通过多种方式预防 AI 偏见。组织必须确定 AI 偏见的可能性，以便 广告数据库 将最佳实践付诸行动并消除偏见。预防 AI 偏见的一些方法包括：选择足够广泛的训练数据、测试和验证算法、关注机器学习系统以及使用其他资源评估和检查模型。通过建立数据收集机制、识别所使用的任何训练信息以及经常审查 ML 模型，可以预防 AI 偏见。

文章内容 显示
什么是人工智能偏见？
人工智能偏见，也称为机器学习偏见或算法偏见，是一种当算法在机器学习 (ML) 过程中根据错误假设生成系统性偏差结果时发生的现象。

机器学习偏见与实际事件有关，有些偏见会产生严重甚至致命的后果。Trishan Panch 和 Heather Mattie 在哈佛大学陈曾熙公共卫生学院的一门课程中首次给出了算法偏见的定义。从那时起，人工智能中的偏见就被认为是一种危险，并且仍然是一个难以解决的难题。

人工智能偏见有多种形式，例如年龄歧视、性别偏见和种族偏见。人工智能偏见最流行的分类是将其分为三类，即算法偏见、数据偏见和人类偏见。这些分类以偏见作为偏见的主要标准。

用于指导机器学习（人工智能的一个子集）的训练数据的口径、客观性和数量是关键因素。计算机科学中有句谚语“垃圾进，垃圾出”，表示输入的质量决定输出的质量。错误、不良或不充分的数据会导致不准确的预测。

大多数偏见有时是无意的，但它们仍然对机器学习系统产生重大影响。人工智能中的偏见通常会导致客户服务质量差、销售额和收益下降、涉嫌违法行为以及潜在的危险情况，具体取决于机器学习算法的使用。


人工智能偏见是如何产生的？
当人工智能 (AI) 系统或算法产生的结果对特定人群或群体存在系统性偏见或不公平时，就会出现人工智能偏见。人工智能中的偏见来自多种情况。一种是当存在偏见的训练数据时。由于人工智能系统是使用大量数据集进行训练的，因此训练数据中存在的偏见会延续到最终的人工智能模型中。

当代表性不足或样本不对称时，人工智能就会出现偏见。如果某些群体代表性不足或被排除在训练数据之外，人工智能系统有时无法理解如何处理或分类与这些群体有关的数据，从而导致结果出现偏差。

数据注释中人类的偏见会导致使用人工智能时出现偏差。参与数据注释过程的人类有时会将自己的偏见带入该过程。

人工智能偏见可能是由于开发团队缺乏多样性造成的。偏见是由创建人工智能系统的团队的构成造成的。如果团队在种族、性别或文化背景方面缺乏多样性，他们就会无意中将偏见添加到系统设计中，或者在开发和测试过程中无法识别潜在的偏见。

强化学习和反馈循环会导致人工智能产生偏见。采用强化学习方法的人工智能系统会出现偏见。如果训练过程包含有偏见的反馈或奖励，人工智能系统就会学会优先考虑某些结果或行为，从而维持和加剧现有的偏见。

当存在偏见的目标函数时，就会出现人工智能偏见。人工智能系统的目的或指标反映了扭曲的优先事项或社会不公正。如果目标函数没有精心构建以考虑公平性和包容性，人工智能系统有时会产生有偏见的结果。

由于各种原因，人工智能偏见在许多情况下都会出现。导致人工智能偏见的一些因素包括模型的历史、背景、训练数据、样本、反馈循环，甚至系统设计和劳动力的多样性。彻底的数据收集、多样化的表示、严格的算法选择、持续的监控和道德原则是提高系统公平性和减少偏见的一些方法。在人工智能系统的设计、训练和部署阶段，意识到这些因素并采取主动措施减少偏见至关重要。

人工智能偏见的常见类型有哪些？
常见的人工智能偏见类型包括历史偏见、抽样偏见、评估偏见、表征偏见、测量偏见、算法偏见、内容生产偏见和辛普森悖论偏见。

历史偏见是指用于训练人工智能系统的历史信息中存在的一种不完善之处，即过去的歧视趋势或不平等现象仍然存在。抽样偏差是指人工智能模型训练数据的扭曲或不平衡表示，不能代表整个人群。

在评估或验证人工智能系统期间引入的偏见称为评估偏见。如果评估指标或方法本身存在偏见或未完全反映预期，则会出现评估偏见。

表征偏差是指训练信息中对特定群体或观点的表征不足或过度而导致的偏差。表征偏差通常会导致对此类群体的理解不完整，从而产生有偏差的结果。

测量偏差是由于不可靠或有缺陷的测量技术而产生的偏见，会导致人工智能系统的数据输入错误或扭曲，并产生有偏差的结果。

算法偏见是指人工智能系统倾向于根据其底层算法做出不公平或有偏见的判断或预测。算法偏见是由于算法的内置约束、错误假设或有偏见的设计或实施而产生的。

人工智能系统的行为和结果受到内容生产偏见的影响。内容生产偏见是一种因创建有偏见的信息而产生的偏袒。

辛普森悖论偏差是指汇总数据呈现一种趋势，但当数据被分解成更小的组时，趋势会发生变化或逆转。当使用各种粒度级别分析数据时，辛普森悖论中的偏差会导致结果不准确或具有误导性。