据外媒报道，日前，旧金山宣布了一个“消除偏见的工具”，该工具通过使用基础AI技术自动编校警方报告中的信息从而识别出嫌疑人的种族。这么做则是为了防止检察官在决定某人是否被控犯罪时受到种族偏见的影响。
据悉，该套工具计划在7月1日投入使用。
据旧金山地区检察官办公室介绍称，该工具不仅可以删掉种族描述，还可以删掉眼睛、颜色和头发颜色等描述。那些可能有意或无意地向检察官透露嫌疑人有某种种族背景的人名、地点和社区也会被删掉。
旧金山地区检察官George Gascón在今天的新闻发布会上说道：“看看这个国家被监禁的人，有色人种的男女比例将不成比例。”他指出，当看到像Hernandez这样的名字时，检察官立即就会知道这个人是拉美裔，而这可能会影响结果。
另外，这套工具还会删掉警察的详细信息，这样做则是为了防止检察官认出是自己认识的人，进而可能影响他们的判断。
据了解，这套工具由Alex Chohlas-Wood和来自斯坦福计算政策实验室的团队共同开发，他们此前还曾帮助纽约警察局开发过可以自动搜索案件文件已发现犯罪模式的Patternizr系统。Wood指出，新工具只是一个轻量级的web应用，其使用数种算法自动编辑警察报告，另外还会通过使用计算机视觉功能识别报告中的单词并将其替换为通用版本。
Wood表示，目前这个工具已经进入了后开发阶段，它将在未来几周开放源代码。据其介绍，工具使用了一种名为命名实体识别(name-entity recognition)的特殊技术。
至于这个新工具是否真的有帮助则还有待观察，毕竟现在AI更出名的好像是引入偏见而不是消除偏见。
原标题：旧金山采用AI技术：减少在控告犯人时可能出现的偏见
我要评论