Karya klasik E.M. Forster tahun 1909, The Machine Stops, menggambarkan masa depan di mana umat manusia hidup di bawah tanah, terpisah dari alam, dan menyingkirkan semua hambatan bagi pertumbuhan serta hegemoni akhir “The Machine” (Sang Mesin). Semua orang tinggal di kamar pribadi, dan interaksi fisik menjadi usang berkat panggilan video yang disediakan oleh The Machine. Semua kebutuhan jasmani — makanan, pakaian, bantuan medis — dipenuhi oleh, tentu saja, The Machine.

The Machine adalah sebuah alegori — sebuah simbol — dari sistem yang tumbuh begitu kompleks sehingga tidak ada satu orang pun yang dapat memahaminya, apalagi mengendalikannya. Ada pemerintahan manusia, sebuah Komite Pusat, yang konon bertanggung jawab mengelola The Machine. Namun Komite Pusat tidak lebih dari sebuah boneka yang talinya ditarik-tarik oleh The Machine yang mahakuasa.

Umat manusia terobsesi dengan “gagasan”, konsep-konsep samar yang tidak lagi melayani kesejahteraan manusia; sebaliknya, para intelektual zaman itu menyamakan kemajuan The Machine dengan kemajuan manusia. Singkatnya, umat manusia “tercekik oleh pakaian yang mereka tenun sendiri.”

Perangkat perbaikan The Machine rusak, dunia bawah tanah retak terbuka, dan banjir udara mencekik populasi yang telah berevolusi sehingga tidak lagi mampu memperoleh kekuatan dari oksigen udara alami.

Kisah Forester penuh dengan firasat yang luar biasa, tidak terkecuali sistem panggilan video 90 tahun sebelum Skype. Namun di luar teknologi tertentu, Forester meramalkan dunia di mana manajemen manusia digantikan oleh perantara yang diprogram — algoritma — yang mengendalikan dunia dengan jutaan perintah tak kasatmata. Ini adalah dunia yang kita semua kenali karena kita hidup di dalamnya.

Tulisan Tim Maughan di OneZero: “The Modern World Has Finally Become Too Complex for Any of Us to Understand,” menggambarkan kompleksitas yang membebani kita semua. “Saya di sini untuk memberi tahu Anda bahwa alasan begitu banyak hal di dunia tampak tak dapat dipahami adalah karena memang tak dapat dipahami,” kata Maughan.

Maughan merinci rantai pasokan global di mana lima hingga enam juta kontainer yang dikelola secara algoritmik menyeberangi lautan pada waktu tertentu. Di balik rantai pasokan dan setiap aktivitas komersial lainnya terdapat sistem keuangan global yang kompleksitasnya tak tertembus.

Dan kita semua merasa cemas membayangkan seumur hidup dihabiskan untuk memproses satu tetes saja dari lautan informasi yang luas. Raksasa data mentah bahkan lebih mengerikan: rata-rata 1,7 MB dihasilkan setiap detik per orang menurut Domo.

Sistem kita yang tak terselami menjadi liar adalah tema populer dalam fiksi, sebagian karena hal itu merupakan ancaman yang begitu nyata. Siapa pun yang cukup umur untuk mengingat krisis keuangan 2008 tahu betapa kegagalan fungsi sistem yang dirancang manusia dapat menyebabkan begitu banyak penderitaan bagi penciptanya.

Jangan salah paham, kami tidak mengklaim bahwa kompleksitas dunia modern buruk bagi umat manusia. Rantai pasokan dan sistem keuangan global identik dengan berkembangnya kekayaan dan kenyamanan secara gemilang. Sebaliknya, kami menyerukan komitmen untuk membangun sistem transparansi dan akuntabilitas ke dalam Mesin kita sebelum ia menjadi monster.

Merambahnya perangkat wearable ke tubuh dan kehidupan sosial kita menandakan masa depan di mana manajer algoritmik memandu setiap gerakan kita. Google Fitbit yang menyuruh Anda berdiri adalah tips kesehatan yang berguna. Amazon Halo yang menyuruh Anda mengubah nada bicara memang mengganggu, tetapi berpotensi menjadi saran komunikasi yang mendalam.

Anda mungkin tidak khawatir tentang cara perangkat Anda sampai pada rekomendasinya ketika rekomendasi itu tidak berbahaya, tetapi bagaimana jika Google memberi tahu Anda siapa yang harus dinikahi, atau siapa yang harus dipilih? Ini bukan lagi pertanyaan bagi penulis fiksi ilmiah, melainkan keputusan desain nyata yang dibuat oleh perusahaan teknologi setiap hari.

CEO Twitter dan Square, Jack Dorsey, seorang pria yang memahami kondisi teknologi lebih baik daripada hampir siapa pun, mengatakan hal ini dalam wawancara dengan Andrew Yang pada bulan Maret: “Google lebih memahami apa yang kita sukai daripada kita sendiri… algoritma-algoritma ini akan mulai membuat semakin banyak keputusan… Mengapa jam tangan saya baru saja menyuruh saya berdiri? Pada dasarnya kita menyerahkan kendali diri kita sepenuhnya.”

Salah satu solusinya adalah regulasi: memaksa perusahaan teknologi untuk memberi tahu kita bagaimana algoritma mereka mengambil keputusan dan data apa yang mereka miliki tentang kita. California dan Eropa memberi konsumen hak untuk mengetahui, dan menolak, data yang disimpan oleh perusahaan swasta. Rancangan undang-undang di negara bagian New York, yang disebut NYPA, melangkah lebih jauh — mengklasifikasikan data sebagai properti pribadi dan memberi pengguna kuasa untuk memilih ikut serta (opt-in) dalam berbagi data mereka.

Namun menciptakan teknologi yang transparan dan berfokus pada manusia sejak tahap desain adalah cara terbaik untuk mengikat inovasi baru pada kemajuan kesejahteraan manusia. Setidaknya ada dua langkah besar yang perlu kita ambil untuk mencapainya: Pertama, memastikan data aman dan tepercaya; kedua, memastikan pemrosesan itu sendiri — algoritmanya — transparan dan tepercaya.

Perangkat IoT yang dilengkapi dengan apa yang disebut “Trusted Execution Environments (TEE)”, yang saat ini digunakan di ponsel Anda untuk menyimpan sidik jari dengan aman, dapat mengumpulkan dan menandatangani data secara aman sebelum menyiarkannya ke basis data, atau ke algoritma untuk diproses segera. Penandatanganan ini, yang dapat Anda bayangkan seperti tanda air digital, adalah akar kepercayaan (root-of-trust) yang membawa kita melewati langkah pertama.

TEE yang dipadukan dengan teknologi lain seperti blockchain dan (fix link) komputasi rahasia (confidential computing) dapat membentuk rantai asal-usul data yang membentang hingga ke pengguna akhir, yang kemudian dapat memverifikasi asal-usul informasi dan memeriksa rekomendasi algoritmik jika mereka menghendakinya. Komputasi rahasia memastikan bahwa eksekusi kode terjadi di dalam area CPU yang terisolasi dan tahan manipulasi, yang akan selalu melakukan persis apa yang dikatakannya akan dilakukan,

Ini adalah teknologi yang benar-benar baru dan baru mulai diadopsi secara luas, tetapi masa depan tampak cerah dengan kombinasi komputasi rahasia, perangkat keras yang aman, dan blockchain. Bersama-sama, teknologi ini menawarkan solusi end-to-end yang transparan sekaligus akuntabel; memastikan tidak pernah ada keraguan tentang siapa yang memegang kendali: Manusia di atas Mesin.

Tentang IoTeX

Didirikan sebagai platform sumber terbuka pada tahun 2017, IoTeX sedang membangun Internet of Trusted Things**, sebuah ekosistem terbuka di mana semua “benda” — manusia, mesin, bisnis, dan DApp — dapat berinteraksi dengan kepercayaan dan privasi. Didukung oleh tim global yang terdiri dari 30+ ilmuwan riset dan insinyur terkemuka, IoTeX memadukan blockchain, perangkat keras yang aman, dan komputasi rahasia untuk memungkinkan perangkat, jaringan, dan ekonomi IoT generasi berikutnya. IoTeX akan memberdayakan ekonomi terdesentralisasi masa depan dengan “menghubungkan dunia fisik, blok demi blok”.**

Pelajari lebih lanjut: Situs web | Twitter | Telegram | Medium | Reddit