根据最近的一项研究，人工智能(人工智能)能够通过射线扫描准确识别一个人的种族，这是人类专家无法复制的壮举。

首先报道的是有趣的工程，该研究表明，将种族整合到图像分析中可能会导致医疗领域进一步的种族偏见和差异。

该研究的第一作者、NIBIB数据和技术进步(Data)国家服务学者Judy Gich万博体育登录首页oya医学博士承认，人工智能在改变几种疾病和病症的治疗方面具有巨大的潜力。然而，她也强调，有必要了解人工智能算法是如何工作的，以确保它有益于所有患者。

AI系统中的偏见

人工智能系统中的偏见并不是一个全新的概念。研究表明，种族等人口因素会对人工智能的表现产生影响。

研究人员指出，使用不能代表患者群体的数据集，例如大多数患者是白人的数据集，是可能导致人工智能系统存在偏见的许多潜在原因之一研究报告的新闻稿．

此外,研究这种偏见可能是由混杂因素引起的，这些混杂因素是在亚群体中不成比例地普遍存在的特征或表型，例如乳房或骨密度的种族差异。

通过当前的研究强调了另一个可能导致人工智能算法中无意偏见的潜在因素x射线扫描．

惊人的发现

Gichoya和他的同事们首先试图看看他们是否可以创建人工智能模型，仅从胸部x光片中识别种族。他们发现，他们的算法可以使用三个涵盖不同患者群体的巨大数据集，以很高的准确度预测种族。

这是一个惊人的发现，因为人类专家无法通过研究x射线来做出这样的预测。

研究人员还发现，即使分辨率显著改变，照片被裁剪到原始大小的九分之一，或者图像几乎无法识别为x射线，人工智能也能够识别自我报告的种族。

研究团队随后测试了人工智能识别自我报告种族的能力，使用各种非胸部x光数据集，例如胸部计算机断层扫描(CT)扫描、乳房x光片和颈椎x光片，发现它不受扫描类型或解剖位置的影响。

读也:新的研究表明，人工智能驱动的招聘工具未能减少偏见

“隐藏信号”

Gichoya在一份声明中说:“我们的研究结果表明，医学图像中存在‘隐藏信号’，可以让人工智能预测种族。”

研究人员还研究了一系列变量，包括身体质量指数(BMI)、骨密度、乳房密度和疾病分布，这些变量可能会影响x射线图像的特征。

他们无法确定任何特定的因素，可以解释人工智能如何正确预测自我报告的种族。换句话说，虽然人工智能可以通过医学图像来推断种族，但目前还不清楚这些模型使用了哪些数据来做到这一点。

“有一种观点认为，如果开发人员在人工智能模型中‘隐藏’人口统计学因素，如种族、性别或社会经济地位，那么最终的算法将无法基于这些特征进行歧视，因此将是‘公平的’。这项工作强调，这种简单的观点并不是确保人工智能和机器学习公平的可行选择，”NIBIB DATA学者Rui Sá博士在一份声明中说。

相关文章:进攻机器人吗?实验发现有缺陷的人工智能造成种族和性别刻板印象

本文归科技时报所有万博体育登录首页

作者:华金·维克多·塔克拉