当前位置:亚洲城ca88手机版网页 > 自然科学 >

谷歌研究员质疑上海交大教授看脸识罪犯—新闻

发布时间:2017-12-04 阅读:

  谷歌研究人员质疑上海交大教授面对面的罪犯 - 新闻 - 科学网

  上海交通大学图像传播与网络工程研究所教授吴小林在过去的六个月中受到了无数的批评和电子邮件。许多媒体的报道也引用了一些专家学者的批评。但是这一次,三位美国研究人员在互联网上写了雄辩的长字,并且斥责他不合适,批评他研究科学种族主义。

  \\ u0026

  当地时间5月6日,名为“相识的新衣”的绰号在新媒体网站“媒体”上发布。2013年,三位着名机器学习工程师Blaise Agra和Arcas从微软转向谷歌;玛格丽特·米切尔也是Google的人工智能研究员; Alexander Todorov是普林斯顿大学神经科学教授。

  \\ u0026

  这一切都源自吴晓林及其博士生张曦的一篇论文,去年十一月在arXiv上发表题为“利用人脸图像犯罪的自动推论”。

  \\ u0026

  \\ u0026

  研究使用的照片样本。 A组是一个犯罪组,B组是非犯罪组。

  \\ u0026

  吴小林,张曦利用计算机视觉和机器学习技术,对1856名中国成年男子的面部照片进行了测试,其中近一半是被定罪的犯罪嫌疑人,实验结果表明,通过机器学习,分类器可以对两组进行分类的罪犯和非罪犯的概率较高,特别是罪犯与非罪犯之间在三个方面有明显的区别:眼角内外距离,上唇曲率,唇唇角度。平均而言,犯罪分子的内c角比一般人短5.6%,上唇弯曲率23.4%,鼻角小19.6%,同时发现犯罪分子的面部特征与非犯罪分子。

  \\ u0026

  \\ u0026

  \\ u0026

  平均而言,犯罪分子的内c角比普通人短5.6%,上唇弯曲率23.4%,鼻角小19.6%。

  \\ u0026

  三位美国学者在六个月的时间里评论道:随着人工智能和机器学习的飞速发展,我们迎来了一个科学种族主义的新时代。他们表示,写这篇深入的文章不仅仅是研究人员,工程师,记者和政策制定者,而是每个想要确保人工智能对人类都有好处的人。

  \\ u0026

  不过,吴先生在接受“澎湃新闻”专访时提到,他欢迎学术交流和讨论,并欢迎用数据来质疑他的结论。至于政治伦理问题,我们需要比他个人能够回答的更广泛的社会讨论。

  \\ u0026

  尽管Google的研究者万文昌的文章也提出了一些可能导致吴晓林实验数据错觉的技术问题,但是他的核心论点,除了论文的细节外,还从历史和伦理的角度来看,隐喻和它在机器学习时代的新形式受到了批评。

  \\ u0026

  机器阶段手术,新瓶旧酒

  \\ u0026

  美国三位学者的文章不是学术论文,在一万字以内讲述了相关科学的发展史,阐述了机器学习研究领域的一些基本情况,并对吴晓林和张曦为指标,指出如同他们的研究是对机织服装的掩饰,许多人类社会的歧视也可能被算法粉饰。

  \\ u0026

  在遭遇的历史上,他们开始谈论龙布罗索。

  \\ u0026

  1870年,意大利监狱医生隆布罗索(Lombroso)打开了意大利着名强盗领导人维拉拉(Vilala)尸体的头部,发现枕头部分明显凹陷。它的位置就像一个低级动物。这一发现引发了他的启发。他提出了先天肇事者的理论,认为肇事者与非肇事者有身体上的差异,可以通过测量卡尺等工具发现。 Robetho认为,行为人是一种祖先现象,具有许多可以继承的低级基元的特征。

  \\ u0026

  他的研究支持他的政治主张,意大利的南方人比北方人更文明。从那以后,罗森塔尔的追随者和先天罪犯也把他们自己的研究与某些政治主张联系在一起。塞缪尔·莫顿(Samuel Morton)对白人至上主义草图的倡导是在19世纪的美国对美国白人奴隶主进行投射,而德国儿童教授Der Giftpilz“他们的教科书将鼻子形状的犹太人定位在纳粹时代。

  \\ u0026

  \\ u0026

  被称为“实用性的判断”,1902年, 80。

  \\ u0026

  \\ u0026

  纳粹种族科学家正在做脸部测量。

  \\ u0026

  文章的作者指出,超现实主义的技巧试图从人的外表推断其内在的特征。尽管今天跖骨手术被认为是伪科学,但有些人仍然认为,脸部或身体的人可以识别下层人。然而,在有些历史时期,掩星也被纳入国家法律,为侵占土地,反移民,奴役和种族清洗提供了依据。关于阶段主义的伪科学是科学种族主义。

  \\ u0026

  他们认为上述这种研究是吴晓林在人工智能新纪元。在无处不在的计算和大数据时代,机器已经有了许多新的用途。因此,AI开发人员,评论家和用户都迫切需要了解技术的界限及其历史,今天它已经穿上了现代服装。

  \\ u0026

  机器学到了人的偏见

  \\ u0026

  这篇文章主要关注的是人类社会的一些歧视和偏见。作为一种训练模式被嵌入到机器学习之后,它被淘汰出局。毕竟,算法的输入和输出似乎是非常公平和客观的。

  \\ u0026

  吴晓林和张曦在论文中写道,人类观察者的主观判断会造成偏见。我们第一次排除了人为偏见的可能性,并探讨了基于面部特征自动推断罪犯。

  \\ u0026

  本文的作者认为,不管是否使用机器学习工具,形而上学,试图通过外观特征来预测行为特征,都基于以下三个隐藏的隐含假设:

  \\ u0026

  1,一个人的外表是由先天决定的;

  \\ u0026

  2,特定群体的自然属性的犯罪性质;

  \\ u0026

  3,刑事司法系统判决不受外观的影响。

  \\ u0026

  因此,文章驳斥了这三个假设。值得注意的是,吴晓林在论文中没有提到这三个假设中的任何一个,留给了社会科学学者对实验结果的解释空间。

  \\ u0026

  三位美国学者指出,首先,面部特征不是完全自然的,其发展和环境影响也很大。另外,摄影时的环境也会影响照片上呈现的脸部。正如吴晓林在2011年康奈尔大学心理学研究论文中所说的,犯罪分子以校园里的犯罪分子的照片作为研究材料,可能会干扰研究的结果。

  \\ u0026

  其次,犯罪阶级的概念在19世纪非常流行。为此,联合王国将罪犯放逐到澳大利亚,以降低英国的犯罪率。但事实证明,澳大利亚还没有变成一个充满犯罪的地狱。早些时候,有研究认为更高的睾酮水平会增加攻击性。但是,它们中没有一个是高度相关的。总之,目前的人类研究只能发现外表与行为之间可能存在微弱的相关性。

  \\ u0026

  最后,文章提到,在美国,黑人比白人更有可能被监禁七倍。犯同样罪行的黑人犯罪者经常受到更重的刑罚。因此,研究中使用的罪犯数据可能是法官偏见的结果。

  \\ u0026

  换句话说,吴晓林和张曦的实验并没有找到准确打破案件的捷径,而是揭示了人的判断,包括官方刑事判决中的不准确和系统的不公正。

  \\ u0026

  刺破窗户纸

  \\ u0026

  文章提到,学术界的许多人认为对吴ial林,张曦的研究本质上是非常伦理的,科学的。虽然三位作者也指出了一些技术上可能存在的漏洞,例如少于2000个样本容易导致机器过度学习,机器只能学习照片上的表情(例如,越来越多的犯罪嫌疑人,普通人的照片笑得更多),但是他们更加注重研究的伦理问题,机器学习对老百姓来说是一个强大而神秘的工具,吴的研究给了陈词滥调新的信誉。

  \\ u0026

  文章得出结论:在科学层面上,机器学习是一个前所未有的窗口,能够洞察自然和人的行为,使我们能够反思和系统地分析所谓的直觉和集体智慧。就像以前的一些研究一样,吴晓林和张曦的研究成果都刺穿了一层窗户纸,揭示了我们如何识别他人。

  \\ u0026

  在实践中,机器学习技术越来越多地涉及人类生活,并像许多强大的工具一样,经常帮助我们,包括更快更客观地分析数据。

  \\ u0026

  但是机器学习也可能被滥用,而这种滥用往往是无意的。太狭隘的技术问题可能会导致这种滥用,如:

  \\ u0026

  没有洞察到培训数据来源的偏见;

  \\ u0026

  没有仔细研究这个领域现有的研究,特别是在机器学习领域;

  \\ u0026

  没有考虑到可能导致衡量相关性的许多因果关系;

  \\ u0026

  本机器学习系统的应用场景及其社会影响尚未充分考虑。

  \\ u0026

  吴小林和张曦的文章充分显示了上述缺陷,但不幸的是,他们所衡量的相关性揭示了刑事判决中普遍存在的偏见,这一领域的研究引起了相当的关注,并且正在加入其中。五官不能作为加速司法公正的工具,如果是这样的话,只会让不公平存在。

  \\ u0026

  吴小林:核物理学家对原子弹造成的破坏负责吗?

  \\ u0026

  文章还预测,不久的将来也会出现类似的研究,偏见和偏见同样偏见和短视,并宣称自己是科学和客观的。这篇文章也因为批评Faception而得名,这家以色列初创公司使用脸部分析来识别恐怖分子,恋童癖者和白领犯罪分子。

  \\ u0026

  作为回应,吴晓林曾经告诉“新闻通讯”(www.thepaper.cn),确实有一些国际同行正在做类似的研究。他只是上传arXiv的论文,以抓住研究的重点。

  \\ u0026

  去年11月底,第一波民意调查中的吴晓林接受了“澎湃新闻”专访,并回答了很多核心问题。

  \\ u0026

  首先,吴小林对技术交流表示欢迎,并收到了很多宝贵的意见。例如,他们的样本量可能确实太小了。另外有人指出,样本中的犯罪分子和守法公民可能代表更多的经济地位差异。他们也采取了一些反馈作出调整。有人指出,囚犯为囚犯拍照的照相机可能有特定的参数,他们的照片增加了很多噪音,以减少他们的影响。

  \\ u0026

  其次,吴小林强调他从来没有任何申请的意向。即使有人想把这项研究付诸实践,考虑到中国社会几千分之一的犯罪背景概率,研究中超过80%的真实肯定的准确性也是非常低的。

  \\ u0026

  第三,吴晓林强调,他个人是反歧视。尽管他们一开始研究的目的是看看罗宾逊的研究和康奈尔大学2011年的心理学实验(当实验发现照片的犯罪识别成功率非常高时),好奇心想要伪造,但结果让他们感到惊讶。

  \\ u0026

  吴小林强调,他只是表现出了相互关联,他们之间的因果关系,即外表是出身犯罪还是人类社会造成的歧视,促成了学术界和舆论界的煎锅的出现。犯罪的概率,然后留给社会科学解释。

  \\ u0026

  至于这项研究是否应该在第一时间完成,在完成后不应该公布。这也属于社会科学讨论的范畴。吴小林说,他很难回答。对于人类社会的更高利益来说,并不是想要自律的科学家,而不是无辜的,世界争端已经开始,人工智能已经走到了这一步。会不会有一些禁区,研究人员不能碰它,坦率地说,我不知道。

  \\ u0026

  核物理学家是否对原子弹造成的损害负责?这是吴晓林已经回到腾讯的问题。

  \\ u0026

关键词: 自然科学