原题目:禁用人脸辨认之后,旧金山却用 AI 辅助查察官办案

【 图片起源: 所有者:THE VERGE 】

雷锋网新闻,2019 年 6 月 12 日,,旧金山公布了一个“削减成见的东西”,打算于 7 月 1 日开端实行,这个东西应用基础的人工智能技巧,可以或许主动修正警方陈述中可以或许辨认出嫌疑人种族的信息。

之所以设计出这个东西,是为了防止查察官在决议或人是否被控犯法时受到种族成见的影响。

旧金山地域查察官 George Gascón 在消息宣布会上表现,在美国被禁锢的人中,有色人种是不成比例的。此外,他还指出,当看到像 Hernandez 如许的名字时,查察官当即就会知道这小我是拉美裔,而这可能会影响成果。

此前,旧金山就已致力于不让查察官看到陈述中与种族相干的信息,但只是移除陈述的前两页内容,剩下的部门查察官仍是会看到,是以才想应用机械进修来削减成见。

据旧金山地域查察官办公室的说法,该东西不仅可以删除种族描写,还可以删除眼睛色彩和头发色彩等描写。那些可能有意或无意地向查察官流露嫌疑人有某各种族布景的人名、地址和社区也会被删除。不仅如斯,这个东西还会删除差人的具体信息,包含他们的警徽号码,以防查察官可巧熟悉,可能对他们的陈述有成见。

别的,值得一提的是,处所查察官办公室称这是“全国第一次”应用这项技巧,之前没有任何机构应用人工智能来做这件事。

这个将被美国初次利用的东西是 Alex Chohlas-Wood 和斯坦福盘算政策试验室的团队开辟的。Wood 说,这个新东西基础上只是一个轻量级的 web 利用法式,它应用几种算法来主动编纂差人陈述,应用盘算机视觉辨认陈述中的单词,并将其调换为通用版本,如地位、一号警官等。

此外,Wood 还表现这个东西已经进进了最后阶段,是由旧金山科技公司免费开辟的,将在几周内开放源代码,供其他公司采取。

今朝,因为没有看到这个体系在差人陈述上运行,所以还不明白后果若何。不外,当记者讯问假如男扮女装,或者女扮男装,这个东西是否还可以或许修正这些信息时,Gascón 只是表现今天是个出发点,这个东西会不竭成长的。

别的,这个东西也只是用于拘捕后的第一次审查,查察官的终极决议仍基于完全的未修订的陈述。而且,假如最初的指控证据是视频材料,仍是会很显明地揭示出嫌疑人的种族。

尽管这个东西是否能发生辅助尚未可知,但值得留意的是,在上个月,旧金山才方才发出 AI 人脸辨认的禁令(可拜见雷锋网此前报道),是全球首个宣布此项禁令的城市;而发出禁令的原因之一,就是人脸辨认技巧存在种族成见。

说到底,AI 是具有成见仍是可以或许打消成见,终极仍是取决于 AI 技巧,而就今朝 AI 频仍处于争议中的情形看来,雷锋网以为,AI 技巧的成长还有很长的路要走。

义务编纂: