去世九个月竟然“国庆闯红灯”，人工智能冤枉死人的闹剧深思后更加可怕！

时间：2020-10-22 07:21:05 点击：次来源：旗帜中流作者：佚名 - 小 + 大

据媒体报道，上海浦东区谢老伯2020年1月去世，但家属最近收到交通罚单，说谢老伯2020年10月1日在某个路口过马路闯红灯，罚款20元。交警部门发现这一乌龙后，到谢家登门致歉，表示将尽快升级更新系统，增加人工核查比对手段，尽可能提高识别准确率。
这是一次很有意思、也耐人寻味的交警智能系统误判案例。
它的讨论方向有两个关键点：
第一，这次是因为谢老伯去世，无可辩驳地证明系统出错，如果系统误中活着的人，要怎么洗清冤枉，解除莫名其妙的罚单？
第二，将路口作为搜集公民生物信息的场所，并将隐私信息公之于众，这样真没问题吗？
按照警方的解释，是因为电脑系统将其他闯红灯的人误作谢老伯，系统在定位他时，匹配到的是没有更新的户籍数据。
人闯红灯天眼拍照，人脸识别后寄送罚单，一气呵成。效率确实是提高了，但要兼顾的那些重要原则与隐私界限呢？一个人即使闯了红灯，就该被放大显示在路口屏幕上？就该丧失相关的隐私，接受无言的示众？
从人工智能到人工智障，幸亏谢老伯“以死明志”了，否则真难说得清。换成其他人遇到这样的错误，被系统判定为“破坏公共秩序”的违法分子，估计自证清白将是一件非常麻烦的事。
交警部门或者支持人工智能系统的会说，相较于它可能犯下错误，它的效率更高，所以即使有错认的，也是利大于弊。
相信这套工具理性的逻辑很有市场。你看上海交警部门登门致歉之后，提到的改进方向，并非节制系统的使用，着眼点依旧不是系统对人的侵犯，而是继续提高效率，让系统更加厉害。
当你在大街上行走时，人工智能就会采集你的生物信息，像研究小白鼠一样……

责任编辑：

觉得这个帖子好，那就赞赏鼓励一下小编吧！

赞赏