<kbd id="zm5vy"><rt id="zm5vy"></rt></kbd>
<label id="zm5vy"><track id="zm5vy"><menu id="zm5vy"></menu></track></label>
  • <rp id="zm5vy"></rp>

  • <dd id="zm5vy"></dd>

  • <tbody id="zm5vy"><track id="zm5vy"></track></tbody>
  • 设为书签 Ctrl+D将本页面保存为书签,全面了解最新资讯,方便快捷。 您也可下载桌面快捷方式。点击下载 | 新浪科技 | 新浪首页 | 新浪导航

    假如人的命运要被算法决定

    2019-05-03 10:00:00    创事记 微博 作者:   

    文 | 光谱 编辑 | Vicky Xiao

    或许大多数人都可以同意,现在探讨人类被 AI 机器赶尽杀绝的“天网”式终局为时尚早。实际上,最强大的 AI 仍需要人类投入巨量精力开发,远未达到无需“输入”即可自行运转,以及智能超过人类的“究极状态”。

    不过,如果你关注了下面几条近期美国新闻,可能仍然无法对机器放下警惕:

    1

    加州“一键清除犯罪记录”

    从今年开始,加州好几个县宣布开始消除违法使用大麻犯罪者的相关犯罪记录。2016年,Proposition 64 通过正式成为加州法律,不但让消遣用大麻成人使用合法化,还允许过去某些特定大麻类犯罪者的犯罪记录被消除或减轻。

    总体上来讲这是一件好事,毕竟在过去即便是个人使用/持有大麻这样的轻罪,都会作为犯罪记录留在资料上跟着人一辈子;而现在人们投票让个人消遣使用大麻合法,也应当给有犯罪记录者一次洗刷罪名的机会,否则他们将在住房、就业等问题上持续遭遇阻碍。

    然而问题在于,根据加州司法部的数据全加州总共100万人有大麻类犯罪记录,其中约22-25万人符合消除犯罪记录的标准,而另一项法案 AB-1793 规定州政府要在今年6月底完成案件审核,并交由县政府进行补充复核。众所周知,加州政府公共部门办事效率极其低下,案件审核都不一定审核得完,消除记录更不知道要到猴年马月了。这也是为什么旧金山有大约1万人符合消除记录的标准,但截至4月底,前来递交申请的只有23人。

    前来消除犯罪记录的前科人员 图片来源/BBC

    一家名叫 Code for America 的非营利机构站了出来。它开发了一个由算法驱动的软件 Clear My Record,可以接入了政府的公务系统,大量读取犯罪记录,并自动判定谁符合、谁不符合消除犯罪记录的标准。

    根据 BBC 报道[1],这个软件在几分钟内就读取了旧金山全部的大麻类犯罪记录,并找到了8,132名符合标准的前科人员,然后自动为他们生成了犯罪记录消除申请书。

    4月3日,一位旧金山的法官在这一批自动生成的申请书上签了字,将这8,132人的大麻类犯罪记录正式一笔勾销。

    Clear My Record 的工作原理

    这样做的最大优势无疑是快。旧金山地区检察官 乔治·加斯孔透露,如果纯人工来审核的话,将会耗费巨大的时间。按照 AB-1793 的规定,每个县的地区检察官办公室都将积压少则数千,多则十万份犯罪记录等待审核。

    Code for America 高级项目主管伊凡·席尔瓦透露,如果没有她们所开发的软件,一个前科人员从启动申请流程,到能和受理案件的公设辩护律师说上话,至少要等三个月。

    但是,使用算法来清除犯罪记录仍有存在争议的地方。比如,它的整个过程都是自动化的,得出结果之后人工审核的能力有限,可行性不高(如果要审核,耗时跟不用该算法可能差不多,)如果被大规模推广,可能会面临错放走有罪之人的风险。

    任何计算机程序都不可能保证百分之百给出正确的结果。按照最低的比例,旧金山的八千人里错误评估并放走了一人;而当这项技术大规模使用,如果全加州的100万大麻类前科人员都被它过一遍,意味着可能有125人本不应该消除或减轻的犯罪记录,被消除或减轻了。

    这并非耸人听闻。首先,不仅旧金山,现在洛杉矶、圣华金等加州多个县都在和 Code for America 合作,而后者宣称将在今年内处理至少25万人;其次,Clear My Record 将不仅用于大麻类犯罪记录,该组织的计划是在全美国范围内支持所有法律允许消除或减轻的罪行。

    Clean My Record 的代码截图

    需要明确的是,Clear My Record 仍然是一项非常优秀和值得推广的技术。在美国(特别是加州)政府办公效率低下,很大一部分原因也是因为计算机和自动化系统年久失修或干脆缺失,导致办公效率跟不上时代。而 Clear My Record 的出现,让人们看到政府还是有革新的意愿和能力的。

    但是,在大规模推广由技术驱动的执政方式的同时,我们是否也应该建立某种应对可能恶性结果的机制呢?或者从另一个角度来看,至少关于这个算法的准确性等技术细节,人们应该得到更多公开的信息,才能对其报以信任。毕竟,这个社会上还有更多奉公守法者,他们的利益同样应该得到保护。

    2

    亚马逊“用算法清理团队”

    如果说 Clear My Record 是一项在争议中试图行善的技术,那么亚马逊正在使用一项的算法可能就是纯粹的“作恶”了。

    根据科技媒体 The Verge 获得的文件[2],在遍布全美的仓库物流中心 (fulfillment center) 里,亚马逊正在使用一套全自动的算法来追踪员工(主要为体力劳动者)的绩效。

    当发现其绩效不合格时,算法将自动对员工发出警告,甚至终止合同。尽管主管人员可以撤销上述结果,但通常整个过程中无需人工介入。

    在2017年8月到2018年9月的一年多时间里,亚马逊通过这种方式仅在巴尔的摩BWI2号仓库物流中心里就开除了约300名员工。该中心的员工总数约2,500人,意味着算法开除掉了超过一成的员工。

    非营利机构 Institute of Local Self-Reliance 的负责人斯泰茜·米切尔因此抨击亚马逊:“在效率上,这些员工被当成机器人使唤,这是因为他们本身就是在机器人的监控下工作。”(They are monitored and supervised by robots.)

    在亚马逊仓库物流中心工作的体力劳动者,往往都是当地的低收入阶层。正是因为他们急需赚钱,亚马逊才可以和他们签订相对更不平等的用工合同,进而在算法认为“必要”的时候终止合同。

    美国政府下属机构国家劳工关系委员会正在对亚马逊的相关行为进行调查。前述文件是亚马逊委托的律师回应该委员会质询所提交的报告。亚马逊宣称这份报告中的表格出了错:这个表格显示——不是300人——而是900人因为“显示出低效率的趋势”(productivity_trend) 而被自动解雇。

    作为营利性商业机构和上市公司,亚马逊有义务向投资人负责,而通过提高订单完成效率的方式改进用户体验,进而提高收入是最典型的方式之一。但是与此同时,部分仓库物流中心的员工反映,亚马逊公司对效率的过度要求,已经干涉了法律赋予他们的权利。

    比如,通常亚马逊对员工的指标是每小时打包240个包裹,到了旺季可能高达400个/小时。而一些穆斯林员工指出,这种要求导致他们无法完成每天五次定时的祈祷。

    亚马逊员工卡德拉·易卜拉欣告诉美国媒体 Vox[3],为了完成指标,她只能趁解手的时间在厕所里祈祷。其他员工曾因为在斋月期间达不到工作指标而被亚马逊开除——试想如果你在春节期间被要求工作,只能在厕所里给家人送去祝福,易卜拉欣的情况比你糟的多。

    类似的情况难免发生,员工通常的期待是向主管表达难处并寻求同情、帮助和改正的机会,然而在公司创办后多年以来,亚马逊的文化一没有太多提及同理心的部分,即便对位于西雅图总部的“高级员工”也是如此;面临类似情况,绝大部分美国公司都会考虑招募更多的员工来缓解个人的绩效压力。亚马逊没有这样做,而是用高强度的绩效考核和同样高员工辞退换新率,从而在较低的人力成本下维持极高的效率。

    现在,它对效率愈发执迷不悟,推广用算法来监督并自动化开除员工的管理方式,只会让劳资关系变得更加紧张,加重员工和公司之间的割裂。

    这也不是亚马逊第一次在用算法这件事上走弯路。据 PingWest品玩报道,最早从2014年开始,

    (声明:本文仅代表作者观点,不代表新浪网立场。)

    分享到:
    保存   |   打印   |   关闭
    香港马会彩开奖-香港马会精淮一肖中特-香港马会开奖挂牌