报告称，警察使用算法需要更强的保障措施来防止偏见

根据安全智库皇家联合服务学院（Rusi）的一份报告，根据安全智库的一份报告，使用分析和算法在英格兰和威尔士的使用需要更加紧密审查和监管。

该报告将于数据伦理和创新中心委托（CDEI），将用于向本组织向监管部门的算法偏见提供信息。

审查是预期的帮助，Cdei开发了使用数据分析在警务中使用数据分析的新守则，以减轻偏见的风险，并满足与本技术的使用有关的更广泛的法律和道德问题。

“CDEI的目标是支持对英国的警察部队，以确信他们对这些新兴技术的使用正在改善他们提供的服务，并将获得公共信任，”CDEI发言人表示。

“本报告的调查结果将有助于我们制定国家指导，这将有助于做到这一点。”

专注于使用机器学习在预测犯罪映射和史式风险评估中，该报告发现增加了对预防警务的重视，导致力量越来越关注数据驱动的风险评估，这可能出现偏见问题。

“在警察数据上培训的算法”可以复制（在某些情况下放大）数据集中固有的现有偏差，例如对某些社区的过度或不受监督，或反映缺陷或非法行为的数据“报告。

然后继续说，即使在选择具体犯罪地区是这些数据驱动评估的主题，也可以出现偏差。

报告称，“预测技术解决方案被批评关注低水平的”滋扰“犯罪，或犯罪水平较高的地区，”报告说。

“一个学术专家建议，通过警方对问题的概念可能出现偏见（因此输入数据只会反映这一概念）。”

该报告指出了“团伙”围绕一个人口统计诬陷的概念的例子，因为它在2011年托特纳姆骚乱与团伙矩阵之后的伦敦。

帮派矩阵

虽然在报告中没有明确提及，但大都会警察的团伙矩阵是史的一个例子，旨在突出警察对问题的概念可能具有严重后果的思考。

在矩阵的情况下，史式为基于警方信息有关过去逮捕，定罪和任何其他相关情报的自动化风险分数。

然而，一个被困在矩阵中的大赦国际报告发现，矩阵上有40％的人有零点为零，这意味着警察没有记录他们参与暴力犯罪，而64％的辛勤人则被标记为“绿色”，这意味着它们的风险非常低。

在数据库上列出的那些，78％是黑色的。

“该软件将可能的帮派活动记录为一个具体的数据，因此目前尚不清楚在它进入数据库中的数据库时，协议矩阵实际上可以对此智能进行突出，或确定性的突出，”jaime谢菲尔德霍拉姆大学法律高级讲师恩典，当时每周告诉电脑。

2018年11月，信息专员办公室发现矩阵“严重”违反了数据保护法。

该报告进一步断言，提高数据驱动风险评估的重点是部分地，部分地通过自2010年以来的重大减少资源。

这是与数字转型的特定资金相结合，为警方建立了强烈的激励措施，以框架关于技术的任何新的发展，因此他们可以获得更多的中央政府支持，为数字举措创造偏见。

“考虑到这一点，选择是否实施特定的新技术能力可能本身可能受到偏见，”报告说。

它还指出，在紧缩的背景下，还提出了使用算法警务技术的公正性，如果更有资源可以迫使这种资源可能是不必要的。

Rusi Report是第一个将作为该项目的一部分发布的论文中的第一个，其中预计将于2020年3月发布。

“迄今为止的采访证据了解数据分析领域的更清晰的国家指导和领导，并普遍承认和欣赏合法性，一致性，科学的有效性和监督的需要，”报告说。

“显而易见的是，在继续前进新技术的全面部署之前，需要对所要求保护的福利和缺点进行系统调查。”

报告的作者采访的一名警察将当前的技术景观描述为“拼凑而非，不协调并交付到不同的环境中的不同标准和不同的结果”。

该报告的结论是，警察使用算法工具的新的做法准则必须建立模型设计，开发，试验和部署的标准过程以及正在进行的监测和评估。

它也应该是技术不可知论，提供明确的运营指南，这些指南补充了现有的做法或代码，并为英国的执法人员提供了明确的角色和责任，包括政策，国家警察司长和家庭。办公室。

该报告由Rusi和Harion Oswald的国家安全研究中的研究员亚历山大巴布塔撰写，该等教育厅副校长诺福利大学博览会高级法律法院副主席。