真実によって怪物を止める方法
E.M.フォースターの1909年の古典『機械は止まる』,は、人類が地下で暮らし、自然界から切り離され、「機械」の成長と最終的な覇権へのあらゆる障害が排除された未来を描いている。誰もが個室で暮らし、機械のおかげで実現するビデオ通話によって物理的な交流は不要になる。食料、衣服、医療支援といった身体的な必要はすべて、そう、機械が面倒を見てくれるのだ。
機械とは、一人の人間には理解できないほど――ましてや制御できないほど――複雑化したシステムの寓話、象徴である。機械を管理する責任を表向き負う中央委員会という人間の政府は存在する。しかし中央委員会は、全能の機械によって糸を引かれる操り人形にすぎない。
人類は「思想」に取り憑かれているが、それはもはや人類の繁栄に資さない曖昧な概念であり、当時の知識人たちは機械の進歩を人類の進歩と同一視している。要するに、人類は「自らが織り上げた衣に絞め殺されている」のだ。
機械の修理装置が壊れ、地下世界は崩壊し、自然な空気の酸素からもはや力を得られないよう進化した住民たちを、流れ込んだ空気が窒息させる。
フォースターの物語には驚くべき先見性が満ちている。中でも特筆すべきは、Skypeより90年も前にビデオ通話システムを描いていたことだ。しかし特定のテクノロジーを超えて、フォースターは人間による管理がプログラムされた仲介者――アルゴリズム――に取って代わられ、それが何百万もの目に見えない命令によって世界を操る未来を予見している。これは私たち全員が見覚えのある世界だ。なぜなら、私たちはまさにその中に生きているからだ。
OneZeroに掲載されたティム・モーハンの記事「現代世界はついに私たち誰にも理解できないほど複雑になった」は、私たち全員を圧倒する複雑さを描いている。「世界の多くが理解不能に見える理由は、それが実際に理解不能だからだと、ここで申し上げておきたい」とモーハンは述べる。
モーハンは、常時500万から600万個のアルゴリズムによって管理されたコンテナが海を渡っているグローバルサプライチェーンについて詳述する。サプライチェーンと、その他あらゆる商取引の背後には、把握しきれないほど複雑なグローバル金融システムが存在する。
そして私たちは皆、膨大な情報の海のなかのわずか一滴を処理するだけで一生を費やすかもしれないという見通しに不安を覚える。生データの怪物はさらに恐ろしく、Domoによれば、一人当たり毎秒平均1.7MBのデータが生成されているという。
私たちの理解を超えたシステムが暴走するというテーマはフィクションで人気だが、それはこれが現実の脅威だからでもある。2008年の金融危機を覚えているくらいの年齢の人なら誰でも、人間が設計したシステムの機能不全が、その創造主にどれほどの苦しみをもたらしうるかを知っているはずだ。
誤解のないように言っておくが、私たちは現代世界の複雑さが人類にとって悪いものだと主張しているわけではない。サプライチェーンとグローバル金融システムは、富と快適さの輝かしい繁栄と同義である。むしろ私たちが求めているのは、私たちの機械が怪物と化す前に、透明性と説明責任のあるシステムを構築するという決意である。
ウェアラブルデバイスが私たちの身体や社会生活に侵入してくることは、アルゴリズムによる管理者が私たちの一挙手一投足を導く未来を予兆している。Google Fitbitがあなたに立ち上がるよう促すのは有益な健康アドバイスだ。Amazon Haloがあなたの口調を変えるよう促すのは、押しつけがましくはあるが、深遠なコミュニケーション上の助言になりうる。
それらの提案が無害なものである限り、デバイスがどのような手段でその提案に至ったかを心配することはないかもしれない。しかしGoogleがあなたに誰と結婚すべきか、あるいは誰に投票すべきかを教えてきたらどうだろうか。これらはもはやSF作家のための問いではなく、テクノロジー企業が日々下している実際の設計上の判断なのだ。
TwitterとSquareのCEOであり、テクノロジーの現状をほぼ誰よりも理解している人物であるジャック・ドーシーは、3月に行われたアンドリュー・ヤンとのインタビューでこう語っている。「Googleは私たち自身よりも、私たちが何を好むかをよく理解している……こうしたアルゴリズムがますます多くの決定を下すようになるだろう……なぜ私の腕時計は突然立つよう指示してきたのか?私たちは自らの主体性を、ほぼ完全に手放しつつあるのだ。」
一つの解決策は規制である。テクノロジー企業に対し、そのアルゴリズムがどのように決定に至るのか、また私たちについてどのようなデータを保有しているのかを開示するよう義務付けるのだ。カリフォルニア州とヨーロッパは、消費者に対し、民間企業が保有するデータについて知る権利、およびそのオプトアウトの権利を与えている。ニューヨーク州で提案されている、NYPAと呼ばれる法案は、さらに一歩踏み込んで――データを個人財産として分類し、ユーザーに自身のデータ共有へのオプトイン権を付与している。
しかし、透明性があり人間中心の設計を最初から備えたテクノロジーを創造することこそ、新たな革新を人類の福祉向上に結びつける最良の方法である。そこに至るために、少なくとも二つの大きなステップを踏む必要がある。第一に、データが安全で信頼できるものであることを確保すること、第二に、処理そのもの――アルゴリズム――が透明で信頼できるものであることを確保することだ。
いわゆる「信頼実行環境(TEE)」を搭載したIoTデバイス――今日ではあなたのスマートフォンで指紋を安全に保存するために使われている――は、データベースに送信したり、即時処理のためにアルゴリズムに渡したりする前に、安全にデータを収集し署名することができる。デジタルの透かしのようなものと考えられるこの署名こそが、第一段階を超えるための信頼の起点(root-of-trust)である。
TEEは、ブロックチェーンや(リンク修正) コンフィデンシャルコンピューティングなど他の技術と組み合わさることで、エンドユーザーにまで及ぶデータ来歴の連鎖を形成できる。ユーザーは望めば情報の来歴を検証し、アルゴリズムによる推奨内容を検査することができるのだ。コンフィデンシャルコンピューティングは、コード実行がCPU内部の改ざん不可能な隔離領域で行われることを保証し、そこでは常に述べられた通りのことが確実に実行される。
これらはまさに主流採用が始まったばかりの真新しい技術だが、コンフィデンシャルコンピューティング、セキュアハードウェア、ブロックチェーンの組み合わせによって未来は明るい。これらの技術が一体となることで、透明性と説明責任を兼ね備えたエンドツーエンドのソリューションが提供され、誰が主導権を握っているのかについて疑問の余地がなくなることが保証される。すなわち、機械に対する人間の優位である。
IoTeXについて
**2017年にオープンソースプラットフォームとして設立されたIoTeXは、******信頼できるモノのインターネット(Internet of Trusted Things)****を構築している。これは、人間、機械、企業、DApp――あらゆる「モノ」が信頼とプライバシーを保ちながら相互作用できるオープンなエコシステムだ。30名を超えるトップクラスの研究科学者およびエンジニアからなるグローバルチームに支えられ、IoTeXはブロックチェーン、セキュアハードウェア、コンフィデンシャルコンピューティングを組み合わせることで、次世代のIoTデバイス、ネットワーク、経済を実現する。IoTeXは「物理世界をブロックごとに繋げる」ことにより、未来の分散型経済に力を与えていく。