移民的权利活动家将办公室与法院签证算法
移民权益活动人员向本办公室提出了司法审查,挑战其在签证应用中处理选择性算法。
移民福利联合委员会(JCWI)表示,“流动工具”为申请保护签证的某些国民创造了一个不公平的环境。
移民的权利慈善机构希望法院宣布使用算法非法使用,并停止存储签证申请的目前的方法,称之为违反2010平等法案。
但是家庭办公室保持其“完全符合”所有相关立法。
据信是英国对算法决策系统的第一个法院的挑战。
该算法首先在访问谢菲尔德签证加工中心的一组律师的律师们展示时出现了公众的关注。
流媒体工具的风险级别为红色,黄色或绿色。一旦由算法标记,就会以逐个案例考虑资格。
JCWI的通信总监Sarah Marcus表示,许多被过滤原因的辛辛格可能是“来自非洲国家”。
本办公室承认其有一个国家名单更有可能被视为“风险”,但选择不公开识别这些所在。
边界和移民的独立首席督察2016年报告表示,虽然分割申请人“更有效地管理它们”可能是明智的,但算法将成为“事实上决策工具”的风险。
但是家庭办公室发言人表示,流媒体工具是“仅用于分配应用程序,而不是决定它们”。该部门表示,数据用于指示应用程序是否需要或多或少地审查,允许签证申请“尽可能有效地处理”。
JCWI的法律政策总监柴Patel表示,流媒体工具作为“数字敌对环境”,多年来已经对谁有“重大影响有权来到这里工作,学习或看到亲人”。这个工具“[单打]出了一些人作为”嫌疑人“和其他人,因为更多的是值得信赖的,只是因为他们来自哪里”,他说。
Martha Dark,技术司法倡导集团Foxglove的总监指出,算法不是中立的,而是反映建立和使用它们的人的偏好。
“此Visa算法在家庭办公室中没有突然在家庭办公室中创造偏差,但由于其反馈回路,它确实加速和加强[偏见]。家庭办公室应该废除流动工具,并为每个人提供公平的计划,无论颜色还是信条,“她说。
本办公室表示,关于目前的法律程序将是“不合适的评论”。