Klasik E.M. Forster tahun 1909 The Machine Stops, menggambarkan masa depan di mana umat manusia hidup di bawah tanah, terpisah dari dunia alami, menghilangkan semua hambatan terhadap pertumbuhan dan hegemoni akhir dari "Mesin." Setiap orang hidup di ruang pribadi, dan interaksi fisik menjadi usang dengan panggilan video yang dimungkinkan oleh Mesin. Semua kebutuhan fisik — makanan, pakaian, bantuan medis — diurus oleh, Anda tebak, Mesin.

Mesin adalah alegori — simbol — dari sistem yang menjadi begitu kompleks sehingga tidak ada satu orang pun yang bisa memahaminya, apalagi mengendalikannya. Ada pemerintahan manusia, sebuah Komite Pusat, yang ostensif bertanggung jawab atas pengelolaan Mesin. Namun Komite Pusat tidak lebih dari sekadar boneka yang senar-senarnya ditarik oleh Mesin yang sangat berkuasa.

Umat manusia terobsesi dengan "ide-ide," konsep kabur yang tidak lagi berada dalam pelayanan kemakmuran manusia; sebaliknya, para intelektual zaman ini menyamakan kemajuan Mesin dengan kemajuan manusia. Singkatnya, umat manusia "dicekik dalam pakaian yang telah mereka tenun."

Perangkat perbaikan Mesin rusak, dunia bawah tanah retak terbuka, dan banjir udara mencekik populasi yang telah berevolusi untuk tidak lagi menarik kekuatan dari oksigen udara alami.

Kisah Forester dipenuhi dengan ramalan yang luar biasa, yang di antaranya adalah sistem panggilan video 90 tahun sebelum Skype. Tetapi lebih dari teknologi tertentu, Forester memprediksi dunia di mana manajemen manusia digantikan oleh perantara yang diprogram - algoritma - yang mengarahkan dunia dengan jutaan perintah tak terlihat. Ini adalah dunia yang bisa kita semua kenali karena kita hidup di dalamnya.

Kisah Tim Maughan di OneZero: “Dunia Modern Akhirnya Menjadi Terlalu Kompleks untuk Dipahami Semua Orang,” menggambarkan kompleksitas yang mengalahkan kita semua. “Saya di sini untuk memberi tahu Anda bahwa alasan banyak aspek dunia tampak tidak dapat dipahami adalah karena itu tidak dapat dipahami,” kata Maughan.

Maughan merinci rantai pasokan global di mana lima hingga enam juta kontainer yang dikelola secara algoritmik melintasi lautan pada waktu tertentu. Di balik rantai pasokan dan setiap tindakan komersial lainnya adalah sistem keuangan global yang kompleks tak tertembus.

Dan kami semua merasa cemas dengan prospek seumur hidup yang dihabiskan untuk memproses satu tetesan kecil di lautan informasi yang sangat besar. Raksasa data mentah bahkan lebih mengerikan, dengan rata-rata 1,7 MB dihasilkan per detik per orang menurut Domo.

Sistem kita yang tidak dapat dipahami bermasalah adalah tema populer dalam fiksi, sebagian karena itu merupakan ancaman yang sangat nyata. Siapa pun yang cukup tua untuk mengingat krisis keuangan 2008 sadar akan bagaimana malfungsi dari sistem yang dirancang oleh manusia bisa menyebabkan penderitaan besar bagi penciptanya.

Jangan salah, kami tidak mengklaim bahwa kompleksitas dunia modern itu buruk untuk umat manusia. Rantai pasokan dan sistem keuangan global identik dengan kemakmuran dan kenyamanan yang gemilang. Sebaliknya, kami menyerukan komitmen untuk membangun sistem transparansi dan akuntabilitas ke dalam Mesin kami sebelum itu menjadi monster.

Pengaruh perangkat yang dapat dikenakan pada tubuh kita dan dalam kehidupan sosial kita meramalkan masa depan di mana manajer algoritmik membimbing setiap langkah kita. Google Fitbit Anda yang memberitahu Anda untuk berdiri adalah tip kesehatan yang membantu. Amazon Halo Anda yang memberi tahu Anda untuk mengubah nada bicara adalah intrusif, namun bisa jadi merupakan nasihat komunikasi yang mendalam.

Anda mungkin tidak khawatir tentang cara perangkat Anda sampai pada rekomendasi mereka ketika mereka tidak bermasalah, tetapi bagaimana ketika Google memberi tahu Anda siapa yang harus dinikahi, atau siapa yang harus dipilih? Ini bukan lagi pertanyaan untuk para penulis fiksi ilmiah, tetapi keputusan desain yang sebenarnya dibuat oleh perusahaan teknologi setiap hari.

CEO Twitter dan Square Jack Dorsey, seorang pria yang memahami keadaan teknologi lebih baik daripada hampir siapa pun, mengatakan ini dalam sebuah wawancara dengan Andrew Yang pada bulan Maret: “Google memiliki pemahaman yang lebih baik tentang apa yang kita sukai daripada kita… algoritma ini akan mulai mengambil lebih banyak dan lebih banyak keputusan ini… Mengapa jam tangan saya baru saja mengatakan untuk berdiri? Kita pada dasarnya menyerahkan agensi kita sepenuhnya.”

Salah satu solusinya adalah regulasi: memaksa perusahaan teknologi untuk memberi tahu kami bagaimana algoritma mereka sampai pada keputusan dan data apa yang mereka miliki tentang kami. California dan Eropa memberikan hak kepada konsumen untuk mengetahui tentang, dan memilih keluar dari, data yang dimiliki oleh perusahaan swasta. Legislatif yang diusulkan di negara bagian New York, disebut NYPA, melangkah lebih jauh — mengklasifikasikan data sebagai properti pribadi dan memberikan pengguna kekuatan untuk setuju untuk membagikan data mereka.

Namun menciptakan teknologi yang transparan dan berfokus pada manusia secara desain adalah cara terbaik untuk mengaitkan inovasi baru untuk kemajuan kesejahteraan manusia. Ada setidaknya dua langkah utama yang perlu kita ambil untuk mencapainya: Yang pertama adalah memastikan data aman dan dapat dipercaya, yang kedua adalah memastikan pengolahan itu sendiri — algoritma — transparan dan dapat dipercaya.

Perangkat IoT yang dilengkapi dengan yang disebut "Lingkungan Eksekusi Terpercaya (TEE)," yang digunakan saat ini di ponsel Anda untuk secara aman menyimpan sidik jari Anda, dapat mengumpulkan dan menandatangani data dengan aman sebelum disiarkan ke basis data, atau ke algoritma untuk pemrosesan langsung. Penandatanganan ini, yang bisa Anda anggap seperti tanda air digital, adalah akar kepercayaan yang membawa kita melewati langkah pertama.

TEE yang dikombinasikan dengan teknologi lain seperti blockchain dan (perbaiki tautan) komputasi rahasia dapat membentuk rantai asal data yang membentang hingga pengguna akhir, yang kemudian dapat memverifikasi asal informasi dan memeriksa rekomendasi algoritmik jika mereka mau. Komputasi rahasia memastikan bahwa eksekusi kode terjadi di dalam area yang tidak dapat diubah, yang dipisahkan di dalam CPU yang akan selalu melakukan apa yang dikatakan akan dilakukannya.

Ini adalah teknologi baru yang baru mulai diadopsi secara umum, tetapi masa depan terlihat cerah dengan kombinasi komputasi rahasia, perangkat keras yang aman, dan blockchain. Bersama-sama, teknologi ini menawarkan solusi end-to-end yang transparan dan akuntabel; memastikan tidak ada pertanyaan tentang siapa yang mengendalikan: Manusia di atas Mesin.

Tentang IoTeX

Didirikan sebagai platform sumber terbuka pada tahun 2017, IoTeX sedang membangun Internet dari Hal-Hal Terpercaya, ekosistem terbuka di mana semua “hal” — manusia, mesin, bisnis, dan DApps — dapat berinteraksi dengan kepercayaan dan privasi. Didukung oleh tim global dari 30+ ilmuwan dan insinyur penelitian terkemuka, IoTeX menggabungkan blockchain, perangkat keras yang aman, dan komputasi rahasia untuk memungkinkan perangkat IoT generasi berikutnya, jaringan, dan ekonomi. IoTeX akan memberdayakan ekonomi terdesentralisasi masa depan dengan “menghubungkan dunia fisik, blok demi blok”.

Pelajari lebih lanjut: Situs Web | Twitter | Telegram | Medium | Reddit