道德伦理人脸识别“热”中的冷思考

手机游戏
kkatlas.com

道德伦理:人脸识别“热”中的冷思考

人脸识别系统已经给我们的城市带来诸多方便。然而,在许多国家,对人脸识别的抵抗声也在不断高涨。研究人员、公民自由倡导者和法律学者都受到人脸识别技术兴起的困扰。他们正在跟踪其使用,揭露其危害并开展运动以寻求保障甚至是彻底禁止技术的使用。然而,技术发展的潮流浩浩荡荡,更多人认为该技术的存在是“不可避免的”,但是其背后存在的道德伦理问题值得我们深思。

致力于人脸识别或分析技术的研究人员指出,人脸识别有很多用途,比如寻找走失的儿童,追踪罪犯,更方便地使用智能手机和自动取款机,通过识别机器人的身份和情绪来帮助机器人与人类互动,在一些医学研究中,还可以帮助诊断或远程跟踪同意的参与者。

“涉案财物管理实现‘实物静止,手续流转’和‘区别管理,实物上缴’。”北京市公安局法制总队涉案财物管理支队民警宋建杰介绍,在这种模式下,既可以让办案人员“少跑腿”,减少过去流转环节中复杂的环节,又能够实现对贵重类、少量特殊类物品的专业保管。

人脸识别技术有好处,但这些好处需要根据风险进行评估,这就是为什么它需要得到适当和细致的监管。

信用交通建设,为人们的出行安全保驾护航。从对严重违法失信超限超载运输行为经营者实施联合惩戒,到治理重点场站、景区出租汽车不打表、拒载、绕道等不规范经营顽疾;从加强信息归集精准发力,到公示公开强化监管,相关部门不断完善以信用为基础的交通运输新型监管机制。今年10月1日,全国铁路、公路、水路、民航发送旅客总量突破6586万人次,达到疫情防控以来的峰值。各大站点人潮涌动,各条交通线路上川流不息,平稳有序运行的背后,信用交通起到了重要的支撑作用。“一处失信,处处受限”的信用惩戒大格局,对企业违法客运、乘客“霸座”“车闹”“机闹”,以及干扰司机驾驶等违规失信行为形成了巨大威慑力,大幅减少了类似行为的发生。

受访者强烈认为,应该有其他法规来规范公共机构使用人脸识别技术。超过40%的人则希望禁止实时大规模监视。

马萨诸塞州波士顿东北大学研究面部监控的计算机科学家、法学教授伍德罗·哈特佐格说视人脸识别技术为“史上最危险的发明”,说如果美国立法者允许公司使用人脸识别,他们应该编写规则,从健身房到餐厅都应当禁止“面部指纹”的收集和储存,并禁止将人脸识别技术与自动化决策(如预测性警务、广告定位和就业)结合使用。

密歇根州立大学东兰辛分校的计算机科学家阿尼尔·贾恩说:“在我们的社会中,我们需要大量正当而合法的人脸和生物识别应用。”但一些科学家表示,研究人员也必须认识到,在人们不知情的情况下对人脸进行远程识别或分类的技术从根本上是危险的,应该努力抵制其被用来控制人们的做法。

在涉案财物管理中心,记者还见到了一台“示证台”,能够实现涉案财物不离开中心即可远程示证,既确保了涉案财物的绝对安全,又大大节省了人力物力。

近期,《自然》杂志的一系列报道对人脸识别系统背后的道德伦理学进行了探讨。一些科学家正在分析人脸识别技术固有的不准确和偏见,对其背后存在的歧视发出警告,并呼吁加强监管、提高技术透明度。

对办案民警来讲,“流程再造”带来真正意义上的规范和高效。丰台公安分局民警马国欣介绍,过去,涉案物品在案件侦办过程中频繁流转,消耗了很大的人力。“比如涉案物品是几万页的小广告,交接给检察院的时候要对着物品清单清点,返还的时候还要重新清点。”马国欣说,还有的物证由于前期保管比较混乱,造成交接时失误,最终影响了质证环节。

在《自然》杂志的480位受访者中,当被问及对应用面部识别方法从外表识别或预测个人特征(如性别、年龄或种族)的研究有何看法时,约三分之二的人表示,此类研究只能在获得面部识别者知情同意的情况下进行,或者在与可能受到影响的群体代表讨论后进行。

从法律上讲,目前尚不清楚欧洲的科学家是否可以未经人们的同意而收集个人人脸的照片以进行生物识别研究。欧盟的通用数据保护条例并没有为研究人员提供明显的法律依据。在美国,一些州表示,商业公司未经其同意使用个人的生物识别数据是非法的。

为了使人脸识别算法正常工作,必须对大型图像数据集进行训练和测试,理想情况下,必须在不同的光照条件和不同的角度多次捕获这些图像。过去,科学家普遍招募志愿者,只为收集各种角度的照片;但现在,大多数人未经许可即被收集人脸图像。

领导NIST图像小组的电气工程师克雷格·沃森认为,这种不准确很可能反映了每家公司培训数据库构成的不平衡,一些公司可能已经开始解决这个问题。

作为人工智能领域的首要会议之一,神经信息处理系统会议是今年首次要求进行这种道德考量,即提交有关人脸识别论文的科学家必须添加一份声明,说明他们的工作中存在的伦理问题和潜在的负面后果。

人无信不立,业无信不兴,国无信不强。作为市场经济的重要基石,信用正成为个人和社会的宝贵财富,是个人干事创业、社会高质高效运行的刚需。面对即将到来的“十四五”时期,把诚信文化建设融入行业发展的各个方面,共筑诚信文化,培育交通文明,擦亮“信用交通”这张名片,才能让诚信文化成为加快建设交通强国的稳固基石,为人民群众的美好生活添彩赋能。

此外,《自然机器智能》杂志也在试图要求一些机器学习论文的作者在文章中加入一项声明,考虑到更广泛的社会影响和伦理问题。

日前,记者来到位于北京市东五环外的北京市公安局涉案财物管理中心。今年6月,这里的智能化库管系统已经建设完毕,交由这里保管的涉案财物均标记了RFID射频识别标签,提取、保管、流转和处置全流程纳入信息化管理之中。

习近平总书记主持召开中央财经委员会第八次会议时强调,流通体系在国民经济中发挥着基础性作用,构建新发展格局,必须把建设现代流通体系作为一项重要战略任务来抓。落实这一重要要求,既要抓住交通设施这个“硬件”,也要建好信用体系这个“软件”。近年来,交通运输诚信缺失问题时有发生,比如少数市场主体经营管理不规范、货车超限超载、乘客在飞机或高铁上“霸座”闹事等,影响了群众切身利益,也破坏了行业市场秩序。消除乱象,发展和完善社会信用体系,是规范市场秩序、优化营商环境、推动高质量发展的内在要求,也与每个人息息相关。信用交通建设作为国家信用体系建设的重要组成部分,是构建诚信文化、诚信经济、诚信生活的题中应有之义。

信用交通助力现代流通体系发展,为中国经济带来强劲活力。不久前,2020年我国第600亿件快件正式诞生,比去年提前了近两个月,便是最好的证明。流则通,通则兴,人便其行、货畅其流,市场才能兴旺,经济才能繁荣。信用交通是现代流通体系的润滑剂,建立健全以信用为基础的新型监管机制,推动形成统一开放的交通运输市场,将为加快形成新发展格局提供支撑。当前,借助区块链、大数据、人工智能等技术手段,信用建设在交通运输等社会各个领域的推动作用更加凸显。对各类市场主体实施差异化的精准、高效监管,有助于形成“守信者得益、失信者吃亏”的正向激励,促进更多市场主体讲信用、守信用。

《自然》杂志对480位从事人脸识别、人工智能和计算机科学领域研究的研究人员的调查显示,人们对人脸识别研究的伦理学普遍存在担忧,但也存在分歧。

人脸识别系统通常是专有的并且保密,但是专家说,大多数系统涉及一个多阶段过程,该过程通过深度学习对大量数据进行大规模神经网络训练。

美国国家标准技术研究院(NIST)在去年年底发布的报告中称,人脸识别的准确率有了显著提高,深度神经网络在识别图像方面效果明显。但NIST同时也证实,相对于有色人种或女性,大多数人脸识别对于白人男性面孔的准确性更高。特别是,在NIST的数据库中被归类为非裔美国人或亚裔的面孔被误认的可能性是那些被归类为白人的面孔的10—100倍。与男性相比,女性误报的可能性更高。

大多数人认为,使用人脸识别软件的研究应事先获得伦理审查机构(例如机构审查委员会)的批准。他们认为,对于在学校、工作场所或由私人公司监视公共场所时使用人脸识别进行实时监视感到最不舒服,但是他们通常会支持警察在刑事调查中使用人脸识别系统。

目前,许多研究人员以及谷歌、亚马逊、IBM和微软等公司都呼吁在人脸识别系统方面出台更严格的监管措施。

有些未经同意获取数据

纽约伊萨卡市康奈尔大学从事技术伦理研究的社会学家凯伦·利维认为,研究人脸识别的学者意识到道德伦理问题,“感觉像是科学界真正的觉醒”。

记者近日采访了解到,为从根本上解决这一问题,北京市公安局深入贯彻落实中央司法体制改革部署,于近日挂牌成立“北京市公安局涉案财物管理中心”,并加快推进区级涉案财物管理中心建设,统筹规范全局涉案财物管理工作。据介绍,年底前,市区两级涉案财物管理中心建设完成率将达到70%,首都公安涉案财物管理从机制、模式、基层基础以及信息化建设多方面形成了全新体系,建起了涉案财物管理“明白账”。

北京市公安局法制总队相关负责人介绍,为保障涉案财物管理新体系的运行,北京市公安局先后制定《办理刑事案件适用查封、扣押、冻结措施实施细则》等13项制度规定。同时,突出专业化教育培训,全面提升涉案财物管理人员的思想认识和素质能力,专项培训已累计达2万余人次。

存在性别和种族偏见现象

Related Post