人脸识别、基因检测、虚拟人类……来看这些可怕的技术

快公司2019.2.19

在科技密集型的经济体之中,现实世界日益融入了《黑镜》(Black Mirror)式无休止的“自选冒险”剧集之中。此时此刻,人类最重大、最可怕的创新或许是基于你手中的“黑镜”所建立的大数据经济。不仅谷歌、Facebook亚马逊以及硅谷其他公司正在逐步“吸干”用户排放的“数字化废气”,越来越多的企业出于盈利目的,也盯紧了我们的一举一动,捕捉所有相关信息,这可能在不知不觉间对我们造成负面影响。

就连一向乐观的福特未来学家谢丽尔·康纳利(Sheryl Connelly)也对未来感到担忧。她表示,面对日益加剧的经济不平等、不断扩大的数字鸿沟和持续发生的隐私侵犯,“这是一个酷似‘1984’的年代,你不得不猜想最终结果什么时候会发生。”

在许多国家,关于个人数据的收集和潜在滥用几乎不存在任何法律框架。去年,就在Facebook的剑桥分析公司(CambridgeAnalytica)丑闻爆发几个月后,欧洲开始通过新的《通用数据保护条例》(General data Protection Regulation,简称GDPR),设法落实关于数据收集的新规定。此后不久,加州通过了美国影响最深远的数据隐私法,计划于2020年生效。

新法律对于个人隐私保护而言是重要的胜利,毕竟在过去一年里,科技行业的丑闻、失误不断,各种不光彩的事件勾出了创新可怕的一面。以下是今年值得关注的一些最新科技进展:

人脸识别

机场、商店、赌场等无数场所引进(甚至实时使用)人脸识别技术,借助庞大而模糊的数据库搜索可疑人员。澳大利亚即将推出一个全国性的面部扫描系统,中国则利用人脸识别技术把混入啤酒节的罪犯逮捕归案。去年12月,亚马逊因出售Rekognition服务持续面临批评,其人工智能竞争对手之一强烈呼吁监管介入。微软总裁布拉德•史密斯(Brad Smith)写道:“我们不认为,一场逐底的商业竞争——科技公司被迫在社会责任和市场成功之间做出选择——将最有利给予世界。”

情感识别

所谓的“情感识别软件”不仅仅被用于评估求职者。警方也开始求助于人工智能系统,根据一个人的面部表情和声音判断他是否存在风险。有些专家将这种系统称为现代面相学。

虚拟人类

当李尔·米凯拉(Lil Michaela)的账号第一次出现在Instagram时,全世界为之着迷,而这仅仅是个开始。如今,我们有了模拟电视新闻主播,谷歌Duplex等数字助理还能代用户给餐厅和发型师打电话。Duplex人性化程度极高,以致不少人指责谷歌造假;《快公司》试用这项服务时,它似乎也达到了广告宣传的效果。有人提议让模拟人类从事客户服务和类似岗位,然而,在大活人都分不清虚构与现实的环境里,它们的出现可能进一步模糊二者之间的界限。

数字造假

和虚拟人技术一样,Deepfakes——旨在让观众误以为某人说过某句话、做过某件事(或者跳过某段舞蹈)的伪造视频——深度换脸技术最近也被新技术取而代之,比如Deep Video Portraits“换脸术”和接近照片真实感的物理空间模拟。在美国国防部高级研究计划局(DARPA)等机构的支持下,许多专家向高科技数字造假行为宣战,与此同时,不少专家也提醒大众警惕一种相对简单的攻击方式:虚假数据和欺诈性文件的传播。

人类机器化

算法建议满天飞的世界里,谷歌自动完成了我们的搜索句子。方便固然方便,但在我们一步步接近谷歌想法的同时,人类可能也渐渐被推入机器人的领域。技术伦理学家大卫·波尔加(David Polgar)告诉《快公司》的马克·威尔逊(MarkWilson),“大量预测分析直接击中一个核心问题:我们是否拥有自由意志的?选择下一步的主动权在我手里,还是在谷歌手里?如果它能预测我的下一步,那么这说明了什么呢?”

职场监视

企业跟踪员工的位置和对话内容已有多年时间,但如今,这种跟踪的侵入性越来越强,且日益贴近员工的身体。去年,亚马逊获得了一项腕带专利,在员工可能准备犯错的时候,此腕带可以利用触觉反馈纠正他们。此外,有些公司在办公室周围部署传感器,以跟踪员工活动和空间利用情况。

家庭监控

2018年,智能家居设备蓬勃发展,为家庭带来了更多的摄像头和面部识别技术。Facebook推出了视频聊天智能显示设备Portal,谷歌扩大了Home Hub智能家居控制系列,亚马逊发布了智能门铃服务Ring,大举进军家居领域。(上周,该公司表示,搭载Alexa的设备已售出逾1亿部。)Alexa理解用户对话的能力已经引起了我们的担忧,而现在,亚马逊还准备把面部识别技术整合到设备里,美国公民自由联盟(ACLU)称,这预示着一个“危险的时代即将到来”。当然,一步步深入人类家庭生活的不仅仅是苹果、谷歌和亚马逊,就连智能电视也在注视着我们。

基因滥用

使用CRISPR等工具进行基因组编辑,有望为人类健康带来极大改善,但同时也引出了惊人的医学和伦理问题,可能会给它们的潜在益处蒙上阴影。去年10月,一名中国研究人员宣布,他利用CRISPR培育出了新的人类婴儿,这些婴儿未来的后代将具备抵抗艾滋病病毒的能力。这项研究引起了全球研究界的普遍谴责——在许多国家,生殖系基因编辑以及将胚胎植入人类母亲子宫属于非法操作——但也提醒我们,基因改造的工具正在普及,且在此过程中可能向生态系统传播重大风险。2017年,我们采访了CRISPR先驱者詹妮弗·杜德纳(Jennifer Doudna),了解了她最担心的威胁。

基因检测

随着DNA检测市场的爆炸式增长——预计到2022年将增长至3.1亿美元——人们越来越担心基因数据的意外使用和滥用。许多消费者没有意识到,他们从DNA检测公司获取的基因数据可能会与制药公司等一系列第三方共享,而这一细节信息被隐藏在了难以解读的隐私政策之中。这些公司坚称,只有在征得用户同意的前提下,它们才会分享匿名数据,但监管机构可能不会相信:今年6月,《快公司》报道称,美国联邦贸易委员会正在调查几家DNA检测公司,可能是出于隐私方面的考虑。与此同时,DNA网站也是黑客们垂涎的攻击目标,这引出了一个令人不安的前景:你的基因信息可能遭遇与信用评级机构Equifax类似的大规模泄露事件。

公众和隐私倡导者呼吁对企业收集数据的方式加大监管,政府也采取了更多法律保护措施,此时,科技公司内部出现了一线希望:通过抗议和上书,越来越多员工要求雇主对自身的行为和产品的风险负责。在强有力的法规出台之前,防止“恐怖”技术沦为危险工具,开发者责无旁贷。

相关阅读

技术主宰了人类的生活,我们是否还应该继续下去?

监控摄像头总是存在安全隐患?这家初企让黑客无从下手

设计人体,复活灭绝物种,致使生物不育,CRISPR基因编辑将使大自然屈服人类意志?

文 | RUTH READER

排版 | 宣卷卷

在刚刚过去的2018年,我们为您带来了一场别具一格的创新之路——破局·狂奔——在流荡世代中挖掘商业机会,如猎豹般瞄准目标便全力以赴。

为了帮助大家在2019年更好地投入工作、学习和生活中,《快公司FastCompany》还精心准备了效率秘籍专题,购买跨年刊杂志,让你先人一步投入高效“战斗中”!