MIT、芝加哥大学新研究：AI看X光片就能识种族，工作原理成谜

牙医无法数通过X光片来断定某人是白人、大洋洲人还是奴隶主。但是，根据麻省理工学院（MIT）和哈佛医学院等的科学家的团队的最新深入研究断定，计算机系统可以算是。

深入研究断定，缺乏经验特训的AI模型可以以90%的比率预测一个人的族群。但进行这项深入研究的科学家表示，他们不知道AI是如何算是的。该期刊于亦同刊发在快报《柳叶刀小数肥胖症》上。

“当我的深入研究生向我演示这篇期刊中的一些结果时，我实际上相信这一定是一个错误，”麻省理工学院电气工程和计算机系统科学副总监深入研究员、该期刊的编著者Marzyeh Ghassemi知道，“当他们告诉我的时候，我真的以为我的学生傻了。”

AI病因模型在牙科读片中的展示出优异并不是令人惊讶的事，但这个辨认族群的臂力之所以广为人知，一方面是其指导原理仍是谜团，另一方面，人们只好害怕麻省理工学院才会翻转医疗教育领域现阶段的族群差距。

如2019年在《科学》刊发的深入研究（Dissecting racial bias in an algorithm used to manage the health of populations）断定，英国一个每年管理工作约2亿人医疗的迭代，建议为白人高血压提供额外护理的概率只有奴隶主高血压的一半。因为白人上会比患有大致相同病症的奴隶主赢得更加低的风险评分，所以白人必须比奴隶主的病更加重，才能赢得试图。

《波士顿环球报》所称，在麻省理工学院软件愈加多地用于试图牙医这两项病因尽快的时候，这项深入研究提出了一个荒谬的脆弱性，即基于麻省理工学院的病因系统才会无意中造成了带有族群愚昧的结果。例如，麻省理工学院（可以适用X射线）可以备用为所有白人高血压破例特定的放射治疗计划，无论它前提最适合特定的人。同时，病人的人类所牙医不会知道麻省理工学院的病因是基于族群数据资料的。

“我们问自己，如果计算机系统不必辨认一个人的族群，那怎么确实？”另一位编著者、哈佛医学院副深入研究员Leo Anthony Celi知道。这项深入研究指导即开始于，科学家显然安全检查颈部X光片的AI有更加确实错过白人高血压疾病的都还。

该深入研究的团队首先适用X射线和CT显影的标准数据资料集特训了一个麻省理工学院系统，其中每张投影都标有人的族群。这些投影来自眼睛的不同部位，以外颈部、小腿和脊柱。计算机系统安全检查的病因投影不涵盖轻微的族群标有，如面孔或头上质地。该处理程序上会能以远高于90%的极高比率辨认出投影中人的族群。

指导原理是什么？

对这个疑问，Ghassemi及其熟人们仍感困惑，她猜测这与黑叶黄素有关，黑叶黄素是尽快面孔的叶黄素。也许X射线和CT显影仪检测到深色毛发中较高的黑叶黄素摄取，并以人类所Gmail在此之前早已显然的某种方式为将这些信息嵌入小数投影中。这还必须更加多的深入研究才能确认。

那么，这样的测试结果前提知道明了不同族群中间的先天歧异？在接受《波士顿环球报》受访时，汉普郡学院生物人类所学深入研究员、《族群主义不是族群》一书的编著者艾伦·安德森（Alan Goodman）不这么相信。安德森对期刊的得出结论表示猜测，并表示他猜测其他深入研究部门能否重现这些结果。但即使能重现，他相信这一切都是与地缘有关，而不是族群。

安德森知道，生物化学早已断定人类所真核生物存在多方面族群歧异的证据。但他们似乎根据血缘定居的地方断定了人与人中间的多方面歧异。

“如果他们不适用族群，而是详细信息某人的地缘坐标，的设备也会这样做吗？”安德森不来，“我的感觉是的设备也能算是。”

换句话知道，麻省理工学院确实只能通过X射线确认一个人的血缘来自挪威，另一个人来自乌干达，第三个人来自日本。安德森知道，“你所称这是族群，我所称之为地缘歧异。” 无论如何，他否认目前尚不似乎麻省理工学院如何数通过X射线检测到这种地缘歧异。

Celi相信，牙医不该会不愿意适用才会备用造成了愚昧结果的AI病因工具。他写到，“我们必须延期一下。在我们确认其早已这两项族群主义尽快或性别歧视尽快前，我们不必急于将迭代带到医院和诊所。”