Pemerintah dan AI
Oleh Yuval Noah Harari
Ceramah Yuval Harari ini disampaikan pada tanggal 7 November 2019, di Escola Nacional de Administração Pública – Enap (Sekolah Administrasi Publik Nasional) Brasillia, dalam acara Pekan Inovasi: Pemerintah untuk Warga
Sangat menyenangkan bagi saya hari ini berada di sini ini bersama Anda. Saya ingin menggunakan kesempatan ini untuk berbicara tentang hal yang dapat dilakukan pemerintah dengan revolusi AI (Artificial Intelligence). Revolusi kecerdasan buatan, di masa mendatang, akan mengubah ekonomi manusia, juga sistem politik, bahkan mungkin akan mengubah tubuh dan pikiran kita sendiri. Banyak tanggung jawab pemerintah untuk melakukan sesuatu terhadap kemungkinan bahaya yang melekat dalam perkembangan ini.
Ada tiga hal yang sangat penting yang harus pemerintah lakukan. Pertama, pemerintah harus melindungi warga negara dari krisis ekonomi akibat guncangan Revolusi AI. Kedua, pemerintah semestinya melindungi warga negara dari bahaya politik yang melekat dalam Revolusi AI, dan ketiga, pemerintah juga harus membangun kerja sama global untuk membantu melindungi kemanusiaan secara keseluruhan, di seluruh dunia, dari ancaman eksistensial bahwa Revolusi AI berpose untuk spesies kita, untuk Homo Sapiens.
Jadi mari kita mulai dengan tugas pemerintah pertama, yaitu melindungi warga negara dari guncangan ekonomi. Tidak ada yang benar-benar tahu seperti apa ekonomi dan pasar kerja akan terlihat seperti tahun 2050. Kecuali bahwa mereka akan sangat berbeda dari hari ini. AI dan robotika kemungkinan akan mengubah hampir setiap profesi. Ada banyak, jika tidak sebagian besar, pekerjaan yang dilakukan orang saat ini akan hilang atau berubah secara mendasar pada tahun 2050. Tentu saja, saat pekerjaan lama menghilang, pekerjaan baru kemungkinan besar akan muncul. Namun kita tidak tahu apakah cukup pekerjaan baru akan muncul dan masalah yang sangat besar adalah melatih kembali orang untuk mengisinya dengan pekerjaan baru. Misalkan Anda seorang pengemudi truk berusia empat puluh tahun dan Anda kehilangan pekerjaan karena adanya mobil self-driving. Ada pekerjaan baru sebagai desainer kode komputer, atau mungkin sebagai pengajar yoga. Tapi bagaimana seorang pengemudi truk berusia empat puluh tahun menemukan kembali dirinya atau dirinya sebagai guru yoga atau sebagai insinyur software? Dan bahkan jika Anda berhasil melatih diri Anda untuk mengisi pekerjaan baru, ini tidak akan menjadi solusi jangka panjang. Karena revolusi otomasi tidak akan menjadi peristiwa tunggal. Pasar kerja akan menetap ke dalam keseimbangan baru.
Sebaliknya, itu akan menjadi gangguan yang lebih besar. Bukan berarti kita akan memiliki Revolusi AI pada tahun 2025 dan kemudian kita mengalami periode yang sulit ketika semua orang menyesuaikan situasi, dan lalu semuanya berakhir. Tidak, kita sama sekali tidak mendekati potensi penuh kompleksitas AI. Ini baru permulaan. Jadi, kita akan mengalami revolusi otomatisasi besar pada tahun 2025. Tapi kemudian yang lebih besar lagi pada tahun 2035 dan yang lebih besar lagi pada tahun 2045. Banyak pekerjaan (lama) akan menghilang. Pekerjaan baru akan muncul, tetapi pekerjaan baru juga akan terus berubah dan kelak lenyap. Jadi, orang harus melatih kembali dan menemukan kembali diri mereka sendiri, tidak hanya sekali, tetapi berulang-ulang sepanjang hidup mereka. Pemerintah harus masuk dalam problem ini dan membantu orang-orang untuk terlibat mengelola masa transisi yang sulit. Berikutnya, dengan murah hati memberikan tunjangan bagi pengangguran dan membantu dengan mendanai semua pelatihan atau pendidikan ulang bagi orang dewasa.
Sekadar mengingatkan, pada abad ke-20, (banyak) pemerintah membangun secara besar-besaran sistem pendidikan untuk kaum muda. Pada abad ke-21, kelak mereka harus membangun sistem pendidikan yang masif untuk orang dewasa. Mungkin itu saja tidak cukup. Karena masalah terbesar adalah mungkin bersifat psikologis. Bahkan jika Anda memiliki dukungan keuangan yang diperlukan untuk menemukan kembali diri Anda pada usia 40 tahun, entahlah, apakah anda akan memiliki ketahanan mental.
Perubahan selalu membuat stres. Menemukan kembali diri Anda pada usia 40 dan lagi pada usia 50 dan sekali lagi pada usia 60 tahun mungkin terlalu berlebihan bagi banyak orang, terlalu membuat stres. Jadi meskipun sangat jelas bahwa banyak pekerjaan baru akan muncul pada tahun 2050, namun kita mungkin akan melihatnya penciptaan kelas baru, kelas baru yang masif, kelas yang tidak berguna. Orang-orang yang tidak berguna, bukan dari sudut pandang teman dan keluarga, tidak ada yang pernah tidak berguna dari sudut pandang orang yang mereka cintai, melainkan, orang-orang yang tidak berguna dari sudut pandang sistem ekonomi dan politik.
Di masa lalu, orang harus terus berjuang melawan eksploitasi. Yang besar perjuangan di abad ke-21 mungkin merupakan perjuangan melawan ketidakrelevanan. Kapan menghadapi krisis ini, motto pemerintah seharusnya "jangan lindungi pekerjaan, lindungi rakyat". Bantu mereka melatih kembali dan menemukan kembali diri mereka sendiri dan menemukan yang baru pekerjaan. Jika pemerintah gagal dalam misi ini, hasilnya bukan hanya konsentrasi kekayaan di tangan yang sangat sedikit, tetapi juga konsentrasi kekuasaan di tangan seorang elit kecil. Jika Anda berpikir, misalnya, tentang pasar transportasi.
Jadi hari ini, jutaan pengemudi taksi dan pengemudi bus dan truk pengemudi memiliki sebagian kecil, masing-masing, memiliki sebagian kecil dari kekayaan dan kekuatan pasar transportasi. Mereka mencari nafkah darinya dan mereka juga dapat berserikat dan pergi mogok untuk memajukan kepentingan mereka. Sekarang, maju cepat 20 atau 30 tahun dan kita mungkin melihat situasi di mana semua ini kekayaan dan semua kekuatan ini dimiliki oleh beberapa miliarder siapa yang memiliki perusahaan, siapa yang memiliki algoritme yang menggerakkan semua kendaraan. Jadi bukan hanya kekayaannya! Pikirkan tentang Uber tanpa harus membayar apa pun kepada pengemudi mana pun, karena semua mobil itu bisa mengemudi sendiri.
Tetapi pikirkan juga tentang miliarder yang memiliki perusahaan, bahwa para pekerja tidak bisa mogok dan melumpuhkan pasar transportasi karena algoritma jangan pernah menyerang. Tetapi para miliarder, jika terjadi sesuatu yang tidak mereka sukai, mereka dapat menekan sebuah tombol dan segera mematikan seluruh transportasi pasar. Hasilnya mungkin masyarakat yang paling tidak setara yang pernah ada. AI Revolusi dapat menciptakan ketidaksetaraan yang belum pernah terjadi sebelumnya tidak hanya antar kelas, tetapi juga antar kelas juga antar negara yang berbeda. Kita sudah berada di tengah perlombaan senjata AI dengan Amerika Serikat dan Cina memimpin perlombaan dan sebagian besar negara tertinggal jauh. Jika kita tidak hati-hati, kita akan melihat pengulangan dari apa yang terjadi di abad ke-19 dengan revolusi industri. Pada abad ke-19, beberapa negara, seperti Inggris, Prancis dan Jepang, yang terindustrialisasi terlebih dahulu dan mereka kemudian mampu menaklukkan, mendominasi, dan mengeksploitasi seluruh dunia.
Hal yang sama mungkin terjadi lagi di abad ke-21 dengan AI. Negara yang tidak mengambil tindakan sekarang, mungkin kehilangan kendali atas masa depan mereka. Pada tahun 1840, Inggris sedang membangun rel kereta api dan kapal uap. Banyak negara lain mengatakan "kami tidak peduli dengan kapal uap atau rel kereta api, kami memiliki masalah yang jauh lebih mendesak berurusan dengan". 30 tahun kemudian, negara-negara ini menjadi jajahan Inggris. Saat ini, semua negara-negara, bahkan yang paling miskin sekalipun, harus sangat peduli dengan ras AI, karena kemungkinan akan membentuk masa depan ekonomi dan politik mereka sendiri. Sangat mungkin terjadi bahwa Revolusi AI akan menciptakan kekayaan baru yang luar biasa di pusat teknologi tinggi, seperti Amerika Serikat dan China, di mana dampak terburuknya akan dirasakan di negara-negara berkembang negara. Pada abad ke-20, negara-negara berkembang biasanya dapat membuat kemajuan ekonomi dengan menjual tenaga kerja murah dari pekerja tidak terampil mereka.
Tetapi jika otomatisasi mengurangi permintaan akan tenaga kerja tidak terampil, dan jika negara-negara berkembang kekurangan sumber daya untuk melatih kembali tenaga kerja, apa yang akan mereka lakukan di abad ke-21? Akan ada lebih banyak pekerjaan untuk insinyur perangkat lunak di California atau Shanghai, tetapi lebih sedikit pekerjaan untuk pekerja tekstil dan pengemudi truk di Honduras atau di Bangladesh. Setiap kali orang bertanya apa dampak AI terhadap ekonomi atau di pasar kerja, Anda harus selalu ingat, ini akan memiliki dampak yang sangat berbeda di berbagai negara. Ini bukan akan menjadi sama di seluruh dunia.
Hasil akhirnya mungkin sebagian besar negara akan dijajah oleh para pemimpin Revolusi AI. Sama seperti industrialisasi yang mengarah pada imperialisme, demikian pula otomatisasi mungkin mengarah pada jenis imperialisme atau kolonialisme baru. Pada abad ke-19, revolusi industri di negara-negara seperti Inggris dipicu oleh eksploitasi bahan baku dari banyak negara lain di dunia, seperti Brasil. Ini mungkin terjadi lagi dengan data. Data sekarang menjadi bahan baku UDARA Revolusi dan data vital yang mendorong pembangunan di Amerika Serikat Amerika Serikat, Cina, dan kekuatan AI terkemuka lainnya, datang dari seluruh dunia dunia. Tetapi kekuatan dan kekayaan yang dihasilkan biasanya tidak didistribusikan kembali.
Pemerintah, di negara-negara ini, perlu mengambil tindakan sekarang sebelum terlambat terlambat. Peran penting kedua pemerintah adalah melindungi warga negara dari bahaya politik dari Revolusi AI. Ancaman politik dapat diringkas sebagai berikut dengan persamaan tunggal, yang mungkin merupakan persamaan yang menentukan dari abad ke-21: B X C X D = AHH. Artinya: pengetahuan biologi berlipat ganda dengan daya komputasi dikalikan dengan data sama dengan kemampuan meretas manusia.
Penggabungan Infotech dan biotech, yang merupakan teknologi seperti sensor biometrik, berarti segera, setidaknya beberapa pemerintah dan perusahaan akan cukup mengetahui biologi, memiliki daya komputasi yang cukup dan akan memiliki cukup data untuk meretas jutaan orang secara sistematis. Apa artinya untuk meretas manusia? Berarti membuat algoritma yang memahami kita lebih baik daripada kita memahami diri kita sendiri.
Algoritma ini kemudian dapat memprediksi perasaan dan keputusan kita, dapat memanipulasi kita perasaan dan keputusan dan pada akhirnya dapat membuat keputusan untuk kita atau menggantikan kita semua bersama-sama. Untuk melakukan semua itu, algoritme tidak harus mengenal kita dengan sempurna. Itu tidak mungkin. Tidak mungkin mengetahui apa-apa, apalagi menjadi manusia yang sempurna. Tetapi algoritmanya tidak perlu sempurna. Mereka hanya perlu mengenal kita lebih baik daripada kita mengenal diri kita sendiri, yang bukan tidak mungkin karena kebanyakan orang tidak mengetahuinya mengenal diri mereka sendiri dengan sangat baik. Cukup sering, orang tidak tahu yang paling penting hal-hal tentang diri mereka sendiri. Saya tahu ini untuk pengalaman pribadi saya sendiri. Itu hanya ketika saya berusia 21 tahun, saya akhirnya menyadari bahwa saya gay, setelah hidup dalam penyangkalan cukup lama jumlah tahun. Saya terus memikirkan waktu ketika saya berusia 15 atau 16 tahun dan saya bertanya saya sendiri bagaimana saya bisa melewatkannya, seharusnya sudah sangat jelas. Saya tidak tahu bagaimana caranya, tetapi kenyataannya adalah saya merindukannya, mungkin karena saya tumbuh dalam keluarga yang sangat homofobia masyarakat. Tapi itu hampir tidak luar biasa. Banyak pria gay menghabiskan seluruh masa remajanya bertahun-tahun tidak mengetahui sesuatu yang sangat penting tentang diri mereka sendiri.
Sekarang bayangkan situasinya: dalam beberapa tahun ketika sebuah algoritma dapat memberi tahu apa pun remaja persis di mana dia berada dalam spektrum gay-straight dengan mengumpulkan dan menganalisis data. Salah satu cara untuk melakukannya mungkin dengan melacak mata gerakan. Komputer dapat melacak gerakan mata saya dan menganalisis apa yang terjadi mata saya tertuju ketika saya melihat seorang pria seksi dan seorang gadis seksi berjalan dengan pakaian renang di pantai. Di mana tepatnya mata saya fokus dan di mana mereka berlama-lama? Seperti yang saya berjalan menyusuri pantai, di jalan, atau saat saya menjelajahi web atau menonton televisi, algoritma dapat secara diam-diam dan terus menerus memantau dan menganalisis saya dan meretas saya untuk melayani pemerintah atau beberapa perusahaan.
Mungkin saya masih belum tahu bahwa saya gay, tapi Coca-Cola sudah tahu tahu itu. Dia tahu itu sebelum aku. Jadi lain kali Coca-Cola menunjukkan kepada saya iklan untuk beberapa minuman baru, ia memilih untuk menunjukkan versi dengan pria bertelanjang dada dan bukan versi dengan gadis berbikini. Dan keesokan harinya ketika saya pergi ke toko, saya memilih untuk membeli Coke daripada Pepsi dan saya bahkan tidak tahu mengapa.
Tapi Coca-Cola akan tahu dan informasi ini akan bernilai miliaran. Ini informasi tentu saja dapat memiliki konsekuensi yang jauh lebih serius. Di Iran, misalnya contohnya, ada hukuman mati untuk homoseksualitas. Apa artinya itu agar seorang pria gay di Iran terdeteksi dan diretas oleh algoritme pemerintah? Setiap orang memiliki beberapa rahasia. Tentu saja, tidak semua orang gay, tapi semua orang gay memiliki beberapa rahasia. Banyak rahasia yang perlu diketahui. Untuk melindungi orang dari bahaya-bahaya ini, pemerintah pertama-tama harus menahan diri mereka sendiri kekuatan. Pada abad ke-21, setiap pemerintahan di Bumi akan menghadapi godaan untuk membangun sistem pengawasan total ini untuk memantau mereka sendiri warga. Bahkan jika Anda tidak terlalu berkembang, Anda selalu dapat membelinya dari Cina atau dari Amerika Serikat atau dari negara maju lainnya.
Pemerintah harus menahan godaan ini. Jika tidak, hasilnya akan jadilah penciptaan rezim totaliter terburuk yang pernah ada. Rezim yang jauh lebih buruk bahkan daripada Nazi Jerman, Uni Soviet. Tentu saja, itu tidak cukup. Bagi pemerintah untuk menahan penggunaan mereka sendiri atas hal tersebut teknologi, penting juga bagi pemerintah untuk melindunginya warga negara dari pemerintah asing dan dari perusahaan asing, yang mungkin menggunakan teknologi ini untuk meretas warganya sendiri.
Bahkan jika pemerintah Brasil tidak menciptakan total rezim pengawasan untuk memantau warganya, Brasil warga mungkin masih menjadi korban pengawasan oleh Pemerintah Cina, Amerika atau Rusia, atau secara besar-besaran perusahaan kuat seperti Amazon, Baidu, Facebook, atau Alibaba. Coba bayangkan lagi, maju cepat 20 atau 30 tahun. Coba bayangkan politik Brasil pada tahun 2050.
Ketika seseorang di Beijing atau di San Francisco memiliki seluruh pribadi dan catatan medis setiap politisi, jurnalis, hakim, perwira militer, mengatakan orang-orang yang sekarang berusia 15 atau 16 tahun dan tinggal online dan terus dipantau, di 30 tahun mereka adalah calon dalam pemilihan, atau mereka adalah calon untuk Mahkamah Agung, dan seseorang memiliki seluruh catatan seksualnya sejak kapan mereka berusia 20 tahun. Reputasi hampir tidak ada orang yang bisa bertahan dari ini, jadi mereka nasib, masa depan mereka ada di tangan sistem luar ini. Apakah negara masih merdeka dalam skenario seperti itu atau menjadi merdeka koloni data, ini pertanyaan yang sulit. Jika Anda memiliki cukup data, Anda dapat kontrol sebuah negara tanpa perlu mengirim tentara dan tentara dari luar negeri. Untuk mencegah hal tersebut, pemerintah perlu mengatur kepemilikan data. Siapa yang memiliki data pribadi saya? Siapa yang memiliki data medis saya?
Untuk itu pertama-tama kita perlu menyadari bahwa data sekarang menjadi aset terpenting dalam dunia. Pada zaman kuno, tanah adalah aset terpenting. Politik adalah perjuangan untuk menguasai tanah. Jika terlalu banyak lahan terkonsentrasi di tangan seorang individu, seperti kaisar besar atau bangsawan kecil, lalu Anda punya kediktatoran. Dalam 200 tahun terakhir, mesin dan pabrik diganti tanah sebagai aset terpenting. Politik menjadi perjuangan untuk menguasai mesin, dan jika terlalu banyak mesin yang dimiliki oleh pemerintah atau oleh beberapa perusahaan atau elit kecil, itu adalah kediktatoran modern.
Sekarang, data menggantikan lahan dan mesin sebagai yang paling banyak aset penting di dunia, dan politik semakin menjadi tentang mengontrol aliran data di dunia. Jika terlalu banyak data dikendalikan oleh pemerintah atau oleh beberapa perusahaan, kemudian kita akan melihat munculnya kediktatoran jenis baru: digital kediktatoran. Masalahnya adalah kita tidak benar-benar memiliki pekerjaan model untuk mengatur kepemilikan data. Kami memiliki ribuan pengalaman bertahun-tahun mengatur kepemilikan tanah. Kami memiliki beberapa abad pengalaman dalam mengatur kepemilikan mesin dan pabrik dan mencegah konsentrasi berlebihan.
Tetapi kami hampir tidak memiliki pengalaman dalam mengatur kepemilikan data. Itu dia tantangan yang sangat besar bagi para insinyur, pengacara, filsuf. Tapi di atas segalanya kepada pemerintah, karena sudah menjadi tugas mereka untuk mengatur kepemilikan data. Ini adalah bukan sesuatu yang bisa kita andalkan dari perusahaan untuk kita lakukan. Bagaimanapun, ini korporasi tidak benar-benar mewakili siapa pun, kami tidak memilih mereka. The negara-negara yang tertinggal dalam perlombaan senjata AI jelas memiliki insentif terbesar untuk melakukannya mengatur kepemilikan data dan kekuatan AI. Untuk melakukannya secara efektif, banyak negara-negara harus bekerja sama. Dengan sendirinya, Brasil mungkin tidak akan bisa melakukannya tahan Amerika Serikat, Cina, Google, dan Baidu. Tetapi jika Brasil bergabung dengan kekuatan lain negara-negara seperti Argentina, Afrika Selatan, India, dan Uni Eropa, kemudian blok semacam itu memiliki peluang yang jauh lebih baik untuk mengatur kepemilikan data, karena perkembangan teknologi surveilans dalam AI di seluruh dunia.
Itu membawa saya ke misi penting ketiga pemerintah dalam menghadapi Revolusi AI. Pemerintah harus menciptakan kerja sama global yang efektif, karena hanya kerja sama global yang dapat menghadapi ancaman eksistensial yang AI berpose untuk kemanusiaan. Seperti yang saya sebutkan, kita membutuhkan kesepakatan global tentang pengawasan dan kepemilikan data. Demikian pula, kita membutuhkan jaring pengaman global untuk melindungi semua manusia dari guncangan ekonomi yang kemungkinan besar akan ditimbulkan oleh AI. Otomatisasi akan menciptakan kekayaan luar biasa di beberapa negara sekaligus merusak negara lain negara. Kecuali kita menemukan solusi di tingkat global untuk gangguan yang ditimbulkan oleh AI, maka seluruh negara bisa runtuh dan mengakibatkan kekacauan, kekerasan dan gelombang imigrasi akan mengguncang seluruh dunia.
Negara-negara miskin tidak akan mampu mengatasinya dengan sendiri. Kerja Sama Global juga diperlukan untuk mencegah pengembangan senjata baru yang berbahaya, seperti otonom sistem senjata. Tidak ada bangsa yang dapat melakukannya dengan sendirinya karena tidak ada bangsa mengontrol semua ilmuwan dan insinyur di dunia. Jika kamu pikirkan tentang perlombaan senjata saat ini dalam mengembangkan otonomi sistem senjata, robot pembunuh, mungkin yang paling berbahaya teknologi yang saat ini dikembangkan oleh industri senjata, hampir setiap negara akan mengatakan ini adalah teknologi yang sangat berbahaya Robot. Kami tidak ingin mengembangkannya. Kami adalah orang-orang baik. Tapi kita tidak bisa mempercayai saingan kita untuk tidak melakukannya, jadi kita harus melakukannya terlebih dahulu.
Kita harus melakukannya sebelum mereka. Jika kita membiarkan perlombaan senjata AI seperti itu berkembang, itu tidak masalah siapa yang memenangkan perlombaan senjata, yang kalah adalah umat manusia. Satu-satunya hal yang dapat mencegah perlombaan senjata berbahaya seperti itu bukanlah membangun tembok antar negara, yang saat ini sedang dalam mode. Melainkan membangun kepercayaan antar negara, dan itu bukan tidak mungkin. Jika hari ini, misalnya, Orang Jerman datang ke Prancis dan memberi tahu mereka, "percayalah pada kami, kami tidak membangun pembunuh robot di beberapa laboratorium rahasia di bawah Pegunungan Alpen", orang Prancis sangat mungkin melakukannya percayai Jerman, terlepas dari sejarah mengerikan antara kedua negara ini. Kita perlu membangun kepercayaan seperti itu secara global. Kita perlu mencapai suatu titik ketika China dan AS dapat saling percaya seperti Jerman dan Prancis. Kami sedang berlari di arah yang berlawanan saat ini, tapi bukan tidak mungkin.
Teknologi merupakan ancaman, tantangan. Tidak hanya untuk ekonomi global dan untuk perdamaian global, tetapi juga untuk makna kemanusiaan dan yang paling mendasar aturan hidup. Selama 4 miliar tahun, tidak ada perubahan mendasar dalam aturan dasar permainan kehidupan. Selama 4 miliar tahun, apakah Anda seorang amuba atau dinosaurus, a tomat atau homo sapiens, Anda tunduk pada aturan biokimia organik karena Anda terbuat dari senyawa organik dan Anda berevolusi menurut dengan aturan seleksi alam. Ini adalah dua sistem aturan yang setiap organisme tunduk pada. Biokimia organik dan seleksi alam. Namun dalam abad ke-21, seleksi alam kemungkinan akan digantikan oleh desain cerdas. Kami desain cerdas akan menjadi kekuatan pendorong baru evolusi.
Pada saat yang sama kehidupan mungkin juga keluar dari organik yang terbatas alam ke dalam luasnya alam anorganik. Kita mungkin mulai untuk merancang dan memproduksi bentuk kehidupan anorganik pertama. Setelah 4 miliar tahun kehidupan organik dibentuk oleh seleksi alam, kita akan memasuki era kehidupan anorganik yang dibentuk oleh desain cerdas. Dalam prosesnya spesies kita sendiri, Homo sapiens, kemungkinan besar akan menghilang.
Dalam 200 tahun atau lebih, sangat mungkin planet Bumi akan didominasi oleh entitas yang jauh lebih berbeda dari kita daripada kita berbeda dari simpanse. Ini adalah bukan berarti kita akan menghancurkan diri kita sendiri, kita akan mengubah diri kita secara dramatis. Hari ini kami masih membaginya dengan simpanse. Sebagian besar struktur tubuh kita, fisik kita kemampuan, kemampuan mental kita. Namun dalam 200 tahun, kombinasi AI dan bioteknologi mungkin benar-benar mengubah tubuh kita, otak kita, dan kita pikiran. Kesadaran itu sendiri mungkin terputus dari struktur organik. Atau alternatifnya, kita mungkin menyaksikan pemisahan kesadaran dari kecerdasan. Kecerdasan adalah kemampuan untuk memecahkan masalah. Kesadaran adalah kemampuan untuk merasakan hal-hal seperti rasa sakit dan kesenangan serta cinta dan benci pada manusia dan semua hewan lainnya. Mereka pergi bersama.
Namun dalam 200 tahun, Bumi mungkin didominasi oleh entitas superintelligent yang sepenuhnya tidak sadar. Bagaimana kita harus menghadapi ini perkembangan yang menakjubkan? Kita mungkin membuat kesalahan dalam skala kosmik, dan jika kita membuatnya seperti itu kesalahan, tidak ada yang akan turun tangan untuk menyelamatkan kita.
Secara khusus, pemerintah, perusahaan, dan tentara kemungkinan besar akan menggunakan teknologi baru untuk meningkatkan keterampilan manusia yang mereka membutuhkan, seperti kecerdasan dan disiplin. Sementara mengabaikan keterampilan manusia lainnya seperti welas asih, kepekaan artistik, dan spiritualitas. Oleh karena itu, hasilnya mungkin adalah penciptaan manusia super yang sangat cerdas dan sangat disiplin yang kekurangan belas kasih, tidak memiliki kepekaan artistik dan tidak memiliki kedalaman spiritual. Kita bisa kehilangan sebagian besar potensi manusia kita bahkan tanpa menyadarinya menyadari kami memilikinya. Alih-alih meningkatkan manusia, teknologi akan menurunkan peringkat kita.
Untuk membuat keputusan yang bijaksana, kita perlu berpikir secara global tentang kepentingan dari seluruh spesies manusia dan bahkan seluruh ekosistem, bukan hanya berfokus pada kepentingan langsung dari perusahaan tertentu atau perusahaan tertentu bangsa. Nasionalisme tidak perlu membuktikan penghalang yang mustahil untuk itu pemikiran global atau untuk kerja sama global semacam itu. Saya tahu bahwa beberapa politisi seperti Presiden AS berpendapat bahwa ada kontradiksi yang melekat antara nasionalisme dan globalisme, dan bahwa kita harus memilih nasionalisme dan menolak globalisasi. Tapi ini adalah kesalahan mendasar. Tidak ada kontradiksi antara nasionalisme dan globalisasi.
Karena nasionalisme bukan tentang membenci orang asing. Nasionalisme adalah tentang mencintai rekan senegaranya. Pada abad ke-21, satu-satunya cara untuk menjaga kemakmuran dan keamanan rekan senegaranya adalah dengan bekerja sama dengan orang asing. Tidak masalah bagaimana situasinya sebelumnya. Pada abad ke-21, kaum nasionalis yang baik harus juga menjadi globalis. Globalisme tidak berarti mengabaikan semua loyalitas nasional dan tradisi. Itu tidak berarti membuka perbatasan untuk imigrasi tanpa batas. Globalisme berarti hal-hal yang jauh lebih sederhana dan masuk akal. Pertama-tama, itu berarti a komitmen terhadap beberapa aturan global. Aturan yang tidak menyangkal keunikan masing-masing bangsa, melainkan mengatur hubungan antar bangsa.
Model yang bagus untuk bagaimana melakukannya bisa jadilah Piala Dunia sepak bola. The Piala Dunia adalah kompetisi antara bangsa dan orang sering menunjukkan sikap galak loyalitas kepada tim nasionalnya.
Tetapi pada saat yang sama, Piala Dunia juga merupakan tampilan global yang luar biasa harmoni. Brasil tidak bisa bermain sepak bola melawan Prancis kecuali Brasil dan Prancis pertama-tama menyetujui aturan yang sama untuk permainan tersebut. Itulah globalisasi beraksi. Jika Anda menyukai Piala Dunia, Anda sudah menjadi seorang globalis. Bahkan jika Anda dapat memenangkan piala dengan membius pemain sepak bola Anda, yang seharusnya tidak Anda lakukan itu, karena jika Anda melakukannya maka semua orang akan meniru teladan Anda dan sangat sebentar lagi Piala Dunia akan menjadi kompetisi antar ahli biokimia. Sementara olahraga akan hancur.
Jadi seperti di sepak bola, juga di bidang ekonomi, kita perlu menyeimbangkan nasional dan global minat. Bahkan di dunia yang terglobalisasi, sebagian besar pajak yang Anda bayarkan akan tetap pergi untuk memberikan perawatan kesehatan, pendidikan, dan keamanan kepada orang-orang di negara Anda. Namun terkadang negara-negara akan setuju untuk memperlambat pembangunan ekonomi mereka dan perkembangan teknologi untuk mencegah bencana perubahan iklim dan untuk mencegah penyebaran teknologi berbahaya. Untuk menyimpulkan, kemudian, AI revolusi menghadirkan tantangan yang belum pernah terjadi sebelumnya bagi pemerintah. Tapi aku ingin tekankan bahwa berbagai skenario menakutkan yang saya sebutkan bukanlah ramalan. Itu hanya kemungkinan. Jika Anda takut dengan beberapa skenario ini, Anda masih bisa melakukan sesuatu. Karena salah satu hal terpenting untuk ingat tentang teknologi adalah bahwa teknologi tidak pernah deterministik. Kita bisa selalu gunakan teknologi yang sama untuk menciptakan jenis masyarakat yang sangat berbeda.
Misalnya, pada abad ke-20, orang menggunakan teknologi kereta api yang sama, radio dan listrik, untuk membangun berbagai jenis masyarakat: kediktatoran komunis, rezim fasis, demokrasi liberal, semuanya dibangun dengan teknologi yang sama. Anda benar-benar dapat melihat perbedaannya dari luar angkasa. Itu adalah gambar yang diambil dari sebuah satelit di luar angkasa Asia Timur pada malam hari. Anda lihat di sini, Korea Selatan adalah lautan cahaya. Cina adalah lautan cahaya lainnya, dan di tengahnya, bagian gelapnya bukanlah laut. Ini Korea Utara. Anda benar-benar dapat melihat perbedaan antara Korea Selatan dan Korea Selatan dan Korea Utara sangat mudah dari luar angkasa. Perbedaannya bukan teknologi.
Bukannya Korea Selatan tahu tentang listrik dan Korea Utara tidak memiliki teknologi ini. Mereka berdua memiliki akses ke teknologi yang persis sama, tetapi mereka memilih untuk melakukannya lakukan hal yang sangat berbeda. Itu akan sama dengan yang baru teknologi abad ke-21. Revolusi kembar bioteknologi dan Teknologi Informasi akan tentu saja mengubah dunia, tetapi mereka tidak memiliki satu pun hasil deterministik. Kita dapat menggunakan teknologi ini untuk menciptakan surga atau neraka. Bagaimana cara menggunakannya dengan bijak mungkin pertanyaan paling penting yang kita hadapi saat ini.
Saya sangat berharap Anda dalam karir masa depan Anda dan dalam kehidupan masa depan Anda akan membantu kami membuat keputusan yang baik dan bijaksana. Terima kasih.
DIOGO: Terima kasih. Sekarang mari kita pilih beberapa pertanyaan yang Anda kirim ke Yuval. Profesor, terima kasih banyak untuk presentasi. Saya pikir ini sangat provokatif, terutama berbicara dengan sekelompok pegawai negeri sipil yang sebenarnya bekerja di pemerintahan dan harus sadar sebagai warga negara dan sebagai PNS konsekuensi dari teknologi pada pemerintah. Tetapi mengingat itu, saya akan mengajukan pertanyaan ini kepada Anda. Haruskah pemerintah kurang berinovasi? Kita berada di minggu ini inovasi dalam pelayanan publik dan banyak dari apa yang kami miliki telah berdiskusi selama beberapa hari terakhir persis bagaimana caranya memperkenalkan teknologi baru kepada pemerintah. Apakah itu a namun, ancaman bagi masyarakat?
YUVAL: Tidak, maksud saya, Anda perlu beradaptasi dengan perubahan kondisi pasar swasta masyarakat. Ini sangat berbahaya jika pemerintah tidak berinovasi dan tertinggal karena memiliki peran yang sangat krusial yang dibutuhkannya untuk mengatur semua teknologi baru ini dan untuk itu diperlukan untuk memahaminya. Tentu saja kita juga harus mengharapkan perusahaan dan insinyur yang mengembangkan teknologi baru untuk bertanggung jawab dalam cara mereka melakukannya. Tapi pada akhirnya, tanggung jawab sebenarnya ada pada pemerintah karena ia memiliki kekuatan untuk melakukannya dan ia memiliki mandat dari warga. Kami tidak memilih para insinyur. Kami tidak melakukannya pilih pengusaha atau miliarder yang memiliki perusahaan mereka. Kami memilih pemerintah dengan harapan bahwa hal itu akan melindungi kepentingan warga dalam puasa ini mengubah dunia.
DIOGO: Saya pikir ada pertanyaan tentang jenis apa cerita yang harus kita ceritakan pada diri kita sendiri dan seseorang menanyakan apakah kisah pesimisme - dan saya rasa Anda tidak anggap diri Anda seorang pesimis -, tetapi jika kisah pesimisme juga dapat membawa konsekuensi buruk bagi masyarakat, bagaimana kita lihat diri kita sendiri dan jika kita harus memiliki kisah aspirasi optimisme entah bagaimana.
YUVAL HARARI: Saya pikir kita harus realistis di atas segalanya. Maksudku pesimisme, ya, maksud saya, jika Anda hanya pergi dan menyebarkan ramalan tentang Malapetaka dan mengatakan tidak ada yang bisa kita lakukan, maka ini menyebabkan keputusasaan. Ketika saya pergi dan memberikan ceramah seperti itu di tempat yang berbeda, saya fokus pada skenario negatif. Sebagian besar karena ada pembagian kerja di akademi, dalam beasiswa. Anda tahu Anda memiliki semua insinyur dan orang-orang di departemen ilmu komputer dan pengusaha mengembangkan teknologi ini. Jadi secara alami, mereka fokus pada semua hasil potensial positif dan semua janji, terutama jika Anda perlu meningkatkan investasi untuk startup Anda, Anda tidak akan pergi dan memberi tahu para investor semua hal buruk yang bisa terjadi terjadi dari penemuan Anda. Karena mereka kebanyakan fokus pada skenario positif, itu menjadi pekerjaan sejarawan, filsuf dan kritik sosial untuk memperingatkan orang - orang tentang skenario berbahaya. Tapi tidak dalam semacam ramalan kiamat bahwa kita semua tersesat. Tidak ada yang bisa dilakukan selain meningkatkan kewaspadaan tentang bahaya kemungkinan dengan harapan kita mengambil tindakan untuk mencegahnya.
Saya banyak fokus, misalnya, dalam penggunaan AI untuk menciptakan rezim pengawasan. Tapi AI dapat digunakan dengan berbagai cara. Teknologi yang sama dapat digunakan oleh diktator pemerintah dan perusahaan besar untuk memantau warga dan pelanggan, tetapi Anda dapat mengembangkan teknologi yang bekerja dengan cara lain, yang memantau perusahaan dan pemerintah dalam pelayanan warga. AI dapat bekerja dua arah. Untuk contohnya, jika Anda memikirkan masalah seperti korupsi di pemerintahan. Katakanlah itu para politisi menunjuk kerabat dan sepupu mereka untuk semua pekerjaan. Untuk warga negara pribadi, untuk memantau bahwa itu sangat sulit, bahkan jika saya memiliki akses hukum ke informasi tersebut, saya tidak miliki waktu dan kemampuan untuk membahas semua nama dan melihat siapa yang terkait dengan siapa dan sebagainya. Tetapi jika Anda membangun sistem AI yang tepat, secara teknis sangat mudah untuk melakukannya membangun sistem AI yang hanya memantau siapa yang ditunjuk sebagai pegawai negeri dan pemerintah harus membuka pengetahuan kepada publik, sehingga cukup mudah untuk mengetahuinya siapa yang terkait dengan siapa, dengan cara apa, dan sebagai warga negara pribadi, Anda bisa pergi ke komputer, ketik nama politisi atau Menteri atau apapun, dan langsung lihat semua kerabat yang dia tunjuk dan bandingkan dengan politisi yang berbeda misalnya. AI bisa juga melakukan itu. Di sebagian besar rezim diktator, Anda tidak akan pernah menemukan alat seperti itu. Tapi itu tergantung pada jenis teknologi apa yang akan dikembangkan dan bagaimana menggunakannya.
DIOGO: Apakah menurut Anda, dalam arti yang berlawanan, besar teknologi harus lebih disukai daripada startup yang lebih kecil, mengingat teknologi besar itu biasanya lebih mudah diatur dan dikendalikan, mereka lebih responsif terhadap kontrol sosial dan kontrol pemerintah? Facebook lebih mudah dikelola dari 4Chan atau 8Chan dan biasanya juga lebih sedikit inovatif. Facebook dan Google telah berinovasi dengan membeli startup yang lebih kecil. Apakah Anda berpikir bahwa di sana harus menjadi penghalang masuk yang lebih tinggi untuk startup dan itu pemerintah harus memiliki kebijakan yang berpihak pada mereka dikelola dengan baik, perusahaan besar?
YUVAL HARARI: Tentu saja ada juga yang besar bahaya bagi perusahaan besar, baik dengan melobi dan merongrong pemerintah, atau bahkan mengambil alih pemerintah. Juga konsentrasi yang sangat besar dari data yang berkuasa di satu tempat sangat berbahaya. I jangan berpikir bahwa ada keuntungan yang melekat atau itu pemerintah seharusnya lebih memilih tech leviathans atas perusahaan baru yang kecil. Kuncinya sebenarnya tidak ukurannya, tapi kebijakannya. Sekali lagi, di sini masalahnya adalah bahwa pemerintah, menurut saya, tidak pernah mengalami hal ini masalah sedemikian rupa. Teknologi berubah begitu cepat. Pada saat pemerintah mengerti teknologi baru, implikasinya, memikirkan regulasi dan kemudian Anda harus mengesahkan undang-undang. Oleh saat semua proses ini selesai, teknologinya telah berubah tiga atau empat kali.
Peraturan tersebut mungkin sudah tidak relevan lagi. Misalnya, satu bahaya yang kita hadapi - di semua negara, tidak hanya negara-negara diktator, juga di negara-negara demokrasi bebas-apakah itu semakin banyak keputusan tentang hidup kita, dan sudah diambil, dengan algoritma. Saya tidak tahu bagaimana keadaannya di Brasil, tapi di banyak negara Anda mengajukan permohonan ke bank untuk mendapatkan pinjaman dan aplikasi Anda tidak diproses oleh bankir manusia, itu diproses oleh suatu algoritma. Algoritma memutuskan apakah akan memberi Anda pinjaman atau tidak. Katakanlah algoritme mengatakan tidak, jangan berikan pinjaman kepada orang ini. Anda pergi ke bank dan bertanya "mengapa tidak, ada apa denganku?"dan bank berkata," kami tidak ketahuilah, algoritme mengatakan tidak dan kami memercayai algoritme kami.” Ini sangat berbahaya karena itu berarti orang-orang kehilangan kendali atas hidup mereka. Mungkin ada begitu banyak bias ditulis ke dalam algoritma. Kami sudah memiliki algoritme rasis, terkadang secara tidak sengaja. Salah satu contoh terkenal adalah mobil self-driving, sebuah algoritma untuk mobil self-driving, yang dikembangkan pada tahun Silicon Valley akhir-akhir ini. Ternyata itu mengenali putih pejalan kaki lebih mudah dari pejalan kaki kulit hitam. Mengapa? Karena data yang dilatih untuk mengemudi di sekitar Mountain View dan semuanya tempat-tempat ini di Silikon, hanya ada sedikit pejalan kaki kulit hitam di sana. Akhirnya itu berarti 10% lebih buruk dalam mengenali pejalan kaki kulit hitam, yang di masa depan dapat mengarah pada peningkatan yang lebih besar kematian, lebih banyak kecelakaan. Itu bahkan tidak disengaja. Tapi bagaimana caranya kita tahu apakah algoritmanya bias, katakanlah secara rasial?
Uni Eropa baru saja mengeluarkan peraturan atau undang-undang yang mengatakan bahwa warga negara memiliki hak untuk penjelasan. Jika nasib Anda, seperti pinjaman bank, jika keputusan itu diambil dengan algoritma, Anda berhak mendapatkan penjelasan dari bank. The bank tidak bisa hanya mengatakan " oh, algoritmanya mengatakan tidak."Tapi di sini masalahnya dengan perkembangan teknologi. Kedengarannya bagus di atas kertas. Tapi bank kemudian hanya bisa mengatakan "oke, kami bisa memberikan penjelasannya, ini 1.000.000 halaman, a cetak semua data yang dikumpulkan algoritme pada Anda dan berdasarkan itu itu menemukan pola dan membandingkan Anda dengan satu juta orang lainnya, itu mencapai kesimpulan bahwa Anda tidak layak kredit". Masalahnya adalah algoritma hanya membuat keputusan dengan cara yang sangat berbeda dari manusia. Seorang bankir manusia, ketika itu membuat keputusan, biasanya hanya memperhitungkan empat atau lima fitur yang menonjol.
Bisa jadi fitur yang relevan seperti riwayat kredit Anda sebelumnya; bisa jadi jadilah fitur yang bias, seperti ras atau jenis kelamin Anda. Tapi manusia tidak bisa pertimbangkan ratusan faktor. Keuntungan besar dari AI adalah bahwa ia mampu membuat keputusan berdasarkan ratusan hal yang berbeda faktor. Hanya memberi orang hak untuk penjelasan, jika Anda tidak mengerti cara kerja teknologi, undang-undang ini benar-benar tidak relevan.
DIOGO: Apa pendapat Anda tentang proposal Facebook memiliki dewan pengawas, semacam Mahkamah Agung atas keputusan CEO? Anda pikir jenis-jenis ini mekanisme tata kelola bisa menjadi baik atau lebih baik solusi, setidaknya dari yang lain?
YUVAL HARARI: Ini adalah langkah ke arah yang benar, terutama karena pesatnya perkembangan teknologi. Ini akan sangat sulit bagi pemerintah, setidaknya dalam demokrasi
negara-negara, untuk secara efektif mengatur teknologi semacam ini perkembangan tanpa kerjasama dari korporasi, dari para insinyur. Karena secara sederhana mereka tidak di garis depan penelitian, dan terkadang mereka kekurangan pengetahuan ilmiah dan teknis yang diperlukan. Saya pikir itu akan terjadi jadilah baik. Saya tidak berpikir bahwa Facebook adalah musuh dan kami hanya perlu melawannya, tetapi pada akhirnya tanggung jawabnya ada pada pemerintah dan bukan Facebook.
DIOGO: Seseorang juga bertanya apa itu keseimbangan yang tepat antara kekuatan perusahaan dan kekuasaan pemerintah dalam sistem global.
YUVAL HARARI: Saya akan lebih mempercayai pemerintah daripada korporasi. Karena korporasi, sekali lagi, mereka tidak mewakili siapa saja. Tidak ada yang memilih mereka. Loyalitas mereka sebagian besar adalah pada akhirnya untuk keuntungan mereka dan model bisnis mereka. Terkadang mereka memiliki CEO yang bagus, tetapi Anda tidak dapat mengandalkannya. Saya tidak berpikir kita harus mengecualikan perusahaan dari dialog atau melawan mereka. Tetapi tanggung jawab utama untuk mengatur bahaya ini perkembangan adalah dari pemerintah.
DIOGO: Saya tahu Anda tidak menganggap diri Anda pesimis teknologi lagi, tetapi ada jenis penulis lain yang waspada akan bahaya teknologi tetapi, bukan kemajuan dan percepatan teknologi, tetapi perlambatan teknologi, seperti Robert Gordon, Tyler Cowen, dan lainnya, yang mengira bahwa kita sebenarnya stagnan dari segi energi; energi menjadi lebih mahal; energi nuklir, yang merupakan janji, menjadi sangat tidak disukai. Dan saat kamu melihat transportasi di mana Anda benar-benar bergerak lebih lambat dari biasanya tahun 70-an karena lalu lintas dan juga teknologi tidak banyak berkembang. Concord ditinggalkan pada tahun 2003. Apakah Anda melihat bahwa ada, setidaknya di masyarakat, perlambatan teknologi di bidang-bidang tertentu yang juga bisa menjadi perhatian?
YUVAL HARARI: Di area tertentu, ya, tapi begitulah caranya bahwa sejarah teknologi berkembang. Bahwa Anda memiliki terobosan di bidang tertentu dan banyak kemajuan di sana, dan akhirnya melambat dan ada terobosan dalam daerah lain. Jadi ya, dalam transportasi dalam hal terbang antar negara-negara, kita belum banyak maju dalam beberapa dekade terakhir. Tapi kemudian, alih-alih datang ke sini dengan pesawat terbang, mungkin dalam 20 tahun saya akan bisa saja berada di sini sebagai hologram, sebagai avatar, dan menyelamatkan seluruh biaya transportasi, polusi dan lain sebagainya. Pemikiran bahwa kemajuan harus linier - kami menemukan pesawat terbang dan sekarang seharusnya ada pesawat yang lebih cepat dan lebih cepat dan lebih cepat – biasanya tidak bekerja seperti itu. Terkadang perkembangan baru datang dari sudut yang sama sekali berbeda, yang membuat seluruh garis ini pengembangan menjadi usang.
DIOGO: Kami adalah sekolah pemerintahan dan kami mengajar pegawai negeri sipil. Apa yang akan Anda katakan bahwa sekolah kami harus mengajarkan angkatan pegawai negeri sipil berikutnya untuk mempersiapkan mereka untuk masa depan?
YUVAL HARARI: Banyak hal. Mungkin yang paling penting hal yang perlu disadari adalah bahwa tidak ada yang tahu seperti apa dunia ini nantinya seperti dalam 20 atau 30 tahun. Tidak ada yang tahu bagaimana pasar kerja, bagaimana perekonomian akan terlihat, bagaimana sistem politik akan terlihat seperti. Model pendidikan lama... Kami memberikan siswa keterampilan tertentu yang kemudian akan mereka gunakan di seluruh hidup mereka, sepanjang karir mereka. Ini semakin meningkat menjadi usang, karena Anda tidak benar-benar tahu apa keterampilan pegawai negeri sipil atau siapa pun akan dibutuhkan pada tahun 2040 atau 2050. Satu hal yang pasti mereka butuhkan adalah kemampuan untuk berlatih kembali diri mereka sendiri, menemukan kembali diri mereka sendiri, dan beradaptasi sepenuhnya situasi dan masalah yang tidak diketahui. Saya akan mengatakan bahwa penekanan harus pada itu. Asumsi bahwa, jika Anda ajarkan kursus tentang apa saja dan Anda mengajarkan contoh-contoh tertentu dan keterampilan, asumsinya adalah bahwa pada tahun 2050 hal ini dapat terjadi sama sekali tidak relevan. Yang benar-benar Anda butuhkan adalah kemampuan untuk mempelajari hal-hal baru dan menghadapi situasi yang tidak diketahui. Seperti pada akhir tahun, ujian yang baik, ujian yang baik tidak akan "Oke, selama setahun penuh kamu telah mempelajari keterampilan tertentu; sekarang selesaikan persamaan ini atau beri tahu saya fakta-fakta yang Anda miliki belajar sepanjang tahun."Sebaliknya, ujian terbaiknya adalah" ini dia situasi yang sama sekali baru, yang tidak kami katakan apa-apa sepanjang tahun, bagaimana Anda mempelajarinya dan menyelesaikannya?"Jadi apa yang benar-benar Anda peroleh sepanjang tahun adalah keterampilan bagaimana mendekati masalah baru, dan itu tidak materi dalam ujian apakah Anda menyelesaikan masalah atau tidak. The pertanyaan kuncinya adalah apa pendekatan Anda? Bagaimana Anda mendekati situasi baru dan tidak dikenal?
DIOGO: Sangat bagus. Apakah menurut Anda ada indikatornya yang harus kita perhatikan saat kita memodulasi optimisme dan pesimisme kita? Jika ada distopia indeks, angka seperti apa yang harus dimasukkan di sana agar kita sadar akan bahaya yang ditimbulkan oleh masa depan?
YUVAL HARARI: Karena saya pikir kunci untuk memecahkan sebagian besar masalah terbesar kami adalah kerja sama global, maka salah satu indikatornya pesimisme atau optimisme adalah tingkat kepercayaan dan kerjasama dalam dunia. Jika ada cukup kepercayaan dan kerja sama, saya pikir kemanusiaan dapat memecahkan hampir semua masalah, dan dapat menangani hampir semua ancaman itu wajah. Tetapi jika tingkat kerja sama dan kepercayaan turun di bawah titik kritis level, maka ini adalah skenario dystopian. Coba pikirkan tentang tahun 2008 krisis keuangan. Jangan bicara tentang skenario AI yang futuristik. Mari kita katakan bahwa sesuatu yang mirip dengan krisis keuangan tahun 2008 melanda dunia besok pagi. Dunia sama sekali tidak siap untuk itu, berbeda dengan tahun 2008. Pada tahun 2008, ketika krisis melanda, ekonomi terbesar di dunia mampu bekerja sama bersama untuk mencegah yang terburuk hasilnya karena mereka cukup percaya satu sama lain. Meskipun ada ketegangan dan persaingan, ada cukup kepercayaan. Sekarang tidak ada yang seperti itu kepercayaan. Saya pikir, tidak ada yang akan mengikuti AS hari ini, pada tahun 2019. Pada dasarnya, dalam tiga tahun terakhir, Amerika Serikat, yang, untuk puluhan tahun setidaknya, mengaku sebagai pemimpin dunia atau pemimpin dari dunia bebas, pada dasarnya datang dan berkata, " kami mengundurkan diri, terima kasih, tapi kami tidak menginginkan pekerjaan ini lagi, mulai sekarang, kami peduli hanya satu hal, yaitu diri kita sendiri."Tidak ada yang mau mengikuti a pemimpin yang motonya adalah "aku dulu."Dan itulah situasi kita saat ini sekarang. Tidak ada pemimpin alternatif saat ini. Saya pikir hal yang baik apakah dunia harus belajar bagaimana bekerja sama tanpa Amerika kepemimpinan, tetapi ini juga tidak terjadi.
Harapan terbaik saya adalah dunia akan belajar bagaimana bekerja sama lebih baik tanpa bergantung pada AS. Tidak peduli apa yang akan terjadi hasil pemilu 2020. Dunia tidak bisa berada dalam situasi di mana semua orang ingin setiap empat tahun untuk melihat siapa orang Amerika memilih kali ini. Kami membutuhkan yang jauh lebih kuat sistem kepercayaan dan kerja sama global, yang tidak bergantung pada pada satu negara. Saat ini, kami berlari ke arah yang berlawanan arah. Ada ketidakpercayaan yang semakin besar. Ini adalah penyebab untuk pesimisme, tapi saya harap kita bisa membalikkan tren ini.
DIOGO: Tingkat kepercayaan terhadap pemerintah di Brasil telah sangat rendah selama beberapa tahun terakhir - di Kongres, di eksekutif kekuasaan - dan sekarang ada upaya untuk mendapatkan kembali kepercayaan ini yang merupakan fundamental untuk kerja sama. Apa yang Anda sarankan bahwa apa yang dapat dilakukan pemerintah untuk memulihkan kepercayaan dari masyarakat?
YUVAL HARARI: Saya bukan ahli politik atau masyarakat Brasil, jadi saya tidak bisa benar benar memberikan apapun. Secara umum, saya pikir, kita melihatnya sebagai krisis di seluruh dunia dunia. Saya pikir di satu sisi, ini juga merupakan krisis persatuan nasional, yang kita lihat di seluruh dunia. Ada banyak pembicaraan tentang jenis kebangkitan nasionalisme, tetapi sebenarnya, apa yang kita lihat di seluruh dunia adalah melemahnya nasionalisme. Seperti yang saya katakan dalam ceramah saya, nasionalisme sejati bukanlah nasionalisme tentang membenci orang asing, ini tentang mencintai rekan senegaranya. Tidak ada kurangnya kebencian terhadap orang asing di dunia.
Tapi ada semakin kurangnya cinta terhadap rekan senegaranya. Banyak dari para pemimpin yang menggambarkan diri seolah mereka sebagai nasionalis, padahal secara akal sehat sebenarnya anti nasionalis. Mereka secara aktif dan sengaja merusak persatuan nasional di banyak negara dengan memecah-belah kebijakan dengan retorika yang menghasut. Saya pikir, misalnya, tentang Amerika Serikat. Di Amerika Serikat saat ini, orang Amerika takut dan benci pada sesama orang Amerika, serta jauh lebih takut dan membenci orang Rusia atau orang Cina. Komunitas nasional Amerika sedang hancur dan ini adalah inti dari krisis pemerintahan dan demokrasi semua di seluruh dunia. Ini adalah sesuatu yang seharusnya jauh lebih relatif mudah dipecahkan. Itu tergantung pada kepemimpinan. Bukan kepemimpinan yang menentukan tujuannya sendiri untuk memecah belah dan memerintah, dan untuk memecah belah masyarakat lebih jauh lagi dan mengobarkan kebencian dan ketakutan di antara warga, untuk memperkuat mereka kekuasaan; melainkan kepemimpinan yang menetapkan tujuan untuk mencoba menjembatani perpecahan ini. Saya sangat menekankan bahwa nasionalisme yang baik adalah tentang mencintai rekan senegaranya.
DIOGO: Yuval, terima kasih banyak. Waktu kita sudah habis. Terima kasih banyak.
Ceramah Yuval Harari ini disampaikan pada tanggal 7 November 2019, di Escola Nacional de Administração Pública – Enap (Sekolah Administrasi Publik Nasional) Brasillia, dalam acara Pekan Inovasi: Pemerintah untuk Warga
Moderator/Presenter kuliah:
Diogo G. R. Costa
Abstrak: Profesor Yuval Harari dalam ceramahnya yang bertema “Pemerintah dan AI” berbicara perihal pemerintah di seluruh dunia yang harus prihatin dengan perkembangan teknologi baru agar tidak sekadar untuk mengatur, tetapi juga untuk melindungi warganya dari kemungkinan masalah yang mungkin timbul, seperti pemantauan dan hilangnya privasi.
Kata kunci: AI, pemerintahan, algoritma, data
#yuvalnoahharari #harari #KussIndarto #KusIndarto #AI #pemerintah #negara #state #pidatoilmiah #ceramah #kuliahumum
