人们可以将自己的照片上传到名为ImageNet Roulette的项目中,在该项目中,他们与ImageNet的“人物”类别相匹配,ImageNet是10年前的照片数据库,是一些最大的机器学习工作的核心。然后,系统根据数据库中标记的相似照片对人进行分类。

如顶部插图所示,本文的作者进行了尝试,并被归类为“制图员,抽屉:熟练绘画的艺术家”,这几乎是错误的。

实际上,这就是该项目的重点,该项目由著名技术艺术家Trevor Paglen创建,他获得了MacArthur Fellowship“天才”资助。

帕格伦和他的联合创始人,纽约大学AI Now学院联合主任凯特·克劳福德(Kate Crawford)明确表示,该项目是“一项挑衅,旨在帮助我们了解人类在机器学习系统中的分类方式 ”。

Paglen和Crawford说:“这是有意设计的:我们希望阐明在对技术系统进行有问题的训练数据进行训练时会发生什么。” “被分类的人很少能看到AI的分类。ImageNet轮盘赌让我们瞥见了这一过程,并展示了出错的方式。”

该项目使用的巨型图像数据库ImageNet尚未直接解决该Web工具。但是随着该工具的普及,重新激发了有关人工智能系统发展以及可以通过现有数据集引入的偏见的争论,ImageNet本周宣布将清理其庞大的120万张图片中的一半以上。

ImageNet在一份声明中说:“科学是通过反复试验,通过理解过去结果的局限性和缺陷而进步的。” “我们认为ImageNet作为一个有影响力的研究数据集,应该进行严格审查,以便研究界设计更好的收集方法和构建更好的数据集。”