如何用真相阻止怪物
E.M. 福斯特1909年的经典之作《机器停止了》,描述了一个人类生活在地下、与自然世界隔绝的未来,消除了“机器”不断壮大并最终称霸的一切障碍。每个人都生活在私人房间里,借助“机器”提供的视频通话,身体上的接触已变得多余。所有身体需求——食物、衣物、医疗协助——都由你猜对了,由“机器”来照顾。
“机器”是一个寓言——一个象征——象征着一个复杂到无人能够理解、更不用说控制的系统。有一个人类政府,一个中央委员会,名义上负责管理“机器”。但中央委员会不过是一个提线木偶,其丝线由无所不能的“机器”所操纵。
人类痴迷于“观念”,一些不再服务于人类繁荣的模糊概念;相反,当时的知识分子将“机器”的进步等同于人类的进步。简而言之,人类“被自己编织的衣物所勒死”。
“机器”的修复装置发生故障,地下世界裂开,一股空气洪流将那些早已进化到不再能从自然空气中汲取力量的人群窒息而死。
福斯特的故事充满了非凡的先见之明,其中不乏一个比Skype早90年的视频通话系统。但除了具体的技术之外,福斯特还预示了一个世界:人类管理被程序化的中介——算法——所取代,它们用数以百万计的无形指令操纵着这个世界。这是一个我们都能认出来的世界,因为我们就生活在其中。
蒂姆·莫恩(Tim Maughan)在OneZero上的文章《现代世界终于变得复杂到我们任何人都无法理解》描述了令我们所有人不堪重负的复杂性。“我在这里要告诉你们,世界上如此多的东西之所以看起来令人费解,是因为它们确实令人费解,”莫恩说道。
莫恩详细描述了一个全球供应链,在任何给定时刻,有五到六百万个由算法管理的集装箱正穿越海洋。在供应链以及每一项商业活动的背后,是一个深不可测的全球金融系统。
而我们所有人都会对这样一个前景感到焦虑:穷尽一生去处理浩瀚信息海洋中的一滴水。原始数据这头巨兽甚至更加可怕,根据Domo的数据,平均每人每秒会产生1.7 MB的数据。
我们那深不可测的系统失控,是虚构作品中一个流行的主题,部分原因在于这是一个如此真实的威胁。任何一个记事清楚的人,都记得2008年金融危机,都明白由人类设计的系统一旦出现故障,能给其创造者带来多大的痛苦。
请不要误解,我们并不是在宣称现代世界的复杂性对人类不利。供应链和全球金融体系,象征着财富与舒适的辉煌繁荣。相反,我们呼吁在“机器”变成怪物之前,致力于将透明和问责的系统构建到我们的“机器”之中。
可穿戴设备对我们身体和社交生活的不断侵蚀,预示着一个未来:算法管理者将引导我们的一举一动。你的Google Fitbit提醒你站起来,这是一个有用的健康提示。你的Amazon Halo告诉你改变语气,则显得有些冒犯,但也可能是深刻的沟通建议。
当你的设备给出的建议无伤大雅时,你或许不会去担心它们得出这些建议所使用的手段,但当Google告诉你该和谁结婚,或者该投票给谁时呢?这些已不再是科幻小说作家才会思考的问题,而是科技公司每天都在做出的真实设计决策。
Twitter和Square的CEO杰克·多西(Jack Dorsey),一个比几乎所有人都更了解科技现状的人,在三月与安德鲁·杨(Andrew Yang)的访谈中这样说道:“Google比我们自己更清楚我们的偏好……这些算法将开始做出越来越多的这类决定……为什么我的手表刚刚让我站起来?我们基本上正在完全放弃我们的能动性。”
解决方案之一是监管:强制科技公司告诉我们,他们的算法是如何做出决策的,以及他们掌握了我们哪些数据。加利福尼亚州和欧洲赋予消费者权利,让他们了解私营公司所持有的数据并可以选择退出。纽约州提出的一项立法,称为NYPA,则更进一步——将数据归类为个人财产,并赋予用户选择加入数据共享的权力。
但是,打造从设计之初就透明、以人为本的技术,才是将新兴创新与人类福祉进步紧密相连的最佳方式。要实现这一目标,我们至少需要采取两个主要步骤:第一是确保数据安全可信,第二是确保处理过程本身——即算法——透明可信。
如今,配备所谓“可信执行环境(TEE)”的物联网设备——它今天被用于你的手机中,以安全存储你的指纹——可以在将数据广播到数据库、或发送给算法进行即时处理之前,安全地收集并签署数据。这种签署,你可以将其想象成一种数字水印,它是一种信任之根,能帮助我们完成第一步。
TEE与区块链、(修复链接)机密计算等其他技术相结合,可以形成一条延伸至最终用户的数据溯源链,用户随后便可以验证信息的来源,并在他们愿意的情况下审查算法给出的建议。机密计算确保代码执行发生在CPU内一个防篡改的、被隔离出来的区域内,该区域将始终严格按照其声明的方式运行,
这些都是刚刚开始进入主流应用的全新技术,但随着机密计算、安全硬件与区块链的结合,未来一片光明。这些技术共同提供了一种既透明又可问责的端到端解决方案;确保关于谁说了算这一问题永远不会有任何疑问:人类凌驾于机器之上。
关于IoTeX
IoTeX成立于2017年,作为一个开源平台,正在建设可信物联网(Internet of Trusted Things)****,一个开放的生态系统,让所有“事物”——人类、机器、企业和DApp——都能以信任和隐私的方式进行互动。IoTeX由一支由30多位顶尖研究科学家和工程师组成的全球团队提供支持,将区块链、安全硬件与机密计算相结合,以支持下一代物联网设备、网络和经济体系。IoTeX将通过“逐块连接物理世界”,为未来的去中心化经济赋能。