Abstrak
[Draf Kasar dari Pekerjaan yang Sedang Berlangsung.]
Gagasan tentang mesin yang hampir identik dengan manusia begitu menggoda sehingga telah menarik imajinasi para pemikir terbaik serta orang awam selama setidaknya satu setengah abad, atau mungkin lebih. Tepat setelah Kecerdasan Buatan (AI) muncul, sudah menjadi rahasia umum bahwa kita akan segera dapat membuat Robot Humanoid. Hal ini juga menimbulkan beberapa spekulasi serius tentang 'transhumanisme'. Sejauh ini, tampaknya kita belum mencapai tujuan tersebut. Mungkin sekarang saatnya untuk bertanya apakah hal itu mungkin terjadi. Serangkaian argumentasi kami sampaikan bahwa tidak mungkin menciptakan atau membangun Robot Humanoid atau Kecerdasan Humanoid, dimana kecerdasan tersebut dapat menggantikan manusia dalam situasi apapun dimana manusia dibutuhkan atau ada.
1. Kecerdasan Humanoid, Singularitas dan Transhumanisme
Sebelum kita melanjutkan untuk membahas istilah-istilah dalam judul bagian ini dan argumen-argumen dalam bagian berikut ini, pertama-tama kita definisikan istilah-istilah dasarnya hingga tingkat tertentu yang ringkas dan tepat:
1. Kehidupan Manusia: Segala sesuatu yang mampu dilakukan oleh seluruh umat manusia, baik secara individu maupun kolektif. Hal ini tidak hanya mencakup perilaku atau pemecahan masalah, namun keseluruhan keseluruhan kemampuan, emosi, keinginan, tindakan, pikiran, kesadaran, hati nurani, empati, kreativitas dan sebagainya dalam diri seorang individu, serta keseluruhan asosiasi dan hubungan, dan struktur sosial, politik dan ekologi, kerajinan tangan, seni dan sebagainya yang dapat ada dalam masyarakat atau masyarakat manusia. Hal ini berlaku tidak hanya pada saat tertentu, namun sepanjang kehidupan planet ini. Mungkin hal ini bahkan harus mencakup pengalaman spiritual dan 'wahyu' atau 'delusi', seperti yang diisyaratkan dalam cerita Philip K. Dick, Holy Quarrel [Dick et al., 1985].
2. Berbentuk manusia: Makhluk hidup dan berkembang biak yang hampir identik dengan manusia, baik bertubuh mirip manusia maupun tanpa tubuh, pada substrat berbeda (di dalam komputer).
3. Kecerdasan: Segala sesuatu yang mampu dilakukan oleh seluruh umat manusia, baik secara individu maupun kolektif, serta secara sinkronis dan diakronis. Hal ini tidak hanya mencakup perilaku atau pemecahan masalah, namun keseluruhan kehidupan sebagaimana didefinisikan.
4. Singularitas: Titik teknologi yang memungkinkan untuk menciptakan (atau memiliki) kecerdasan yang Humanoid atau lebih baik dari Humanoid.
5. Transhumanisme: Gagasan bahwa, setelah singularitas, kita dapat memiliki masyarakat yang jauh lebih maju, menjadi lebih baik, dibandingkan masyarakat manusia saat ini dan di masa lalu. Dari tahun 1910 hingga 1927, dalam tiga jilid Principia Mathematica [1925–1927], Whitehead dan Russell berusaha membuktikan bahwa matematika, dalam arti tertentu, dapat direduksi menjadi logika. Hal ini menjadi mustahil ketika Godel menerbitkan teorema ketidaklengkapannya pada tahun 1931 [Sheppard, 2014, Nagel et al., 2001]. Pada masa asal mula Ilmu Komputer modern, sebelum dan awal tahun 1930-an, mudah untuk berasumsi bahwa mesin komputasi pada akhirnya akan memecahkan masalah apa pun. Hal ini juga terbukti tidak mungkin dengan teorema ketidakpastian Turing [Hopcroft et al., 2006] dan tesis komputabilitas Church-Turing [Copeland dan Shagrir, 2018]. Sejak itu, jenis masalah lain terbukti tidak dapat diselesaikan.
Sekarang kita seharusnya cukup dekat dengan Singularitas [Kurzweil, 2006] sehingga hal itu dapat terjadi dalam masa hidup sejumlah besar umat manusia, mungkin inilah saatnya untuk bertanya pada diri kita sendiri apakah kecerdasan yang sebenarnya, khususnya Kecerdasan Humanoid (sebagai didefinisikan di atas) dimungkinkan sama sekali. Kami berpendapat bahwa terdapat cukup argumen untuk 'membuktikan' (dalam arti informal) bahwa membangun, menciptakan, atau memiliki Kecerdasan Humanoid adalah hal yang mustahil. Kami berpendapat bahwa meskipun Singularitas memang mungkin terjadi, bahkan mungkin sangat mungkin terjadi (kecuali kita menghentikannya), namun hal tersebut mungkin tidak terjadi sebagaimana mestinya. Dugaan yang disajikan di sini adalah bahwa Singularitas tidak mungkin bersifat jinak, betapa pun kuat atau canggihnya Singularitas tersebut. Ini mengikuti gagasan tentang ketidakmungkinan Kecerdasan Humanoid.
2 Beberapa Catatan tentang Dugaan
Kami belum menggunakan istilah teorema Ketidakmungkinan dan alasannya harus jelas dari argumen yang kami sajikan. Secara khusus, kami tidak, dan mungkin tidak bisa, menggunakan notasi formal untuk tujuan ini. Bahkan istilah dugaan digunakan dalam pengertian informal. Penggunaan istilah di sini lebih dekat dengan bahasa hukum dibandingkan dengan bahasa matematika, karena itulah hal terbaik yang dapat dilakukan di sini. Hal ini mungkin lebih jelas dari argumen Definisi dan Cerita. Hal ini disebabkan oleh alasan yang sama bahwa istilah 'ketidaklengkapan' tidak digunakan dan, sebaliknya, ketidakmungkinan digunakan, yang lebih sesuai untuk tujuan kita di sini, meskipun istilah Godel 'pada dasarnya tidak lengkap' adalah apa yang kita perdebatkan secara informal tentang AI Humanoid. , dan mungkin AI secara umum. Tidak ada klaim yang dibuat mengenai apakah pembuktian formal mungkin dilakukan di masa depan atau tidak. Apa yang kami sajikan adalah bukti informal. Bukti ini harus dipusatkan pada perbedaan antara Micro-AI (AI pada tingkat entitas individu yang otonom cerdas) dan Makro-AI (sistem otonom cerdas yang sangat besar, yang mungkin mencakup seluruh umat manusia atau dunia). Sejauh pengetahuan kami, pembedaan seperti itu belum pernah diajukan sebelumnya. Meskipun ada beberapa karya yang mengarah ke arah ini [Brooks, 1998, Signorelli, 2018, Yampolskiy, 2020], karena kurangnya ruang, kami tidak dapat menjelaskan perbedaan karya ini dari karya-karya sebelumnya, kecuali dengan mencatat bahwa argumentasi dan beberapa istilah-istilah tersebut masih baru, mirip dengan argumen yang mendukung atau menentang keberadaan Tuhan, yang pertanyaannya telah berulang kali diperdebatkan oleh para filsuf terbaik selama ribuan tahun, dan seperti yang akan kita lihat di bagian akhir, relevan dengan diskusi kita.
3 Argumen Dugaan Ketidakmungkinan Mikro-AI
Argumen Definisi): Bahkan Aritmatika Peano [Nagel dkk., 2001] didasarkan pada tiga istilah yang tidak terdefinisi (nol, bilangan, dan penerus dari ), yang merupakan istilah yang relatif sepele dibandingkan dengan istilah yang tak terhitung banyaknya yang diperlukan untuk AI (istilah inti seperti kecerdasan dan manusia, atau istilah seperti kategori emosi, apalagi istilah seperti kesadaran).
Argumen Kategori: Sebagian besar AI adalah tentang mengklasifikasikan sesuatu ke dalam beberapa kategori, namun sebagian besar kategori ini (misalnya kemarahan, rasa jijik, baik atau buruk) tidak memiliki batasan yang ditentukan secara ilmiah. Hal ini terkait dengan argumen berikut.
Argumen Cerita: Saat ini sudah hampir dipastikan bahwa banyak konsep penting peradaban kita adalah fiksi atau cerita yang mudah dipahami [Harari, 2015] dan konsep-konsep ini sering membentuk kategori dan digunakan dalam definisi.
Argumen Konsep Budaya: Banyak istilah, konsep dan cerita merupakan konstruksi budaya. Mereka mempunyai sejarah panjang, yang sebagian besar tidak diketahui, tanpanya mereka tidak dapat dijadikan model.
Individualitas, atau Argumen Alam: Entitas otonom cerdas individu harus unik dan berbeda dari semua entitas serupa lainnya. Ia berasal dari alam dan kita tidak tahu bagaimana ia bisa berasal dari mesin. Kami bahkan tidak yakin apa sebenarnya individualitas ini. Namun, sepanjang sejarah, kita telah menetapkan tingkat akuntabilitas tertentu pada individu manusia dan kita memiliki ketentuan ketat untuk menghukum individu berdasarkan hal ini, yang menunjukkan bahwa kita percaya pada konsep 'diri' atau 'individu yang otonom', bahkan ketika kita menyangkal keberadaannya, seperti yang sedang populer saat ini.
Argumen determinisme genetik: Individualitas tidak sepenuhnya ditentukan oleh alam (misalnya oleh gen kita) pada saat kelahiran atau penciptaan untuk selamanya. Ia juga berkembang dan berubah secara konstan seiring dengan interaksinya dengan lingkungan, menjaga keunikannya.
Argumen Sistem Pengorganisasian Mandiri: Manusia dan masyarakat manusia kemungkinan besar merupakan sistem yang terorganisir sendiri [Shiva dan Shiva, 2020] dan organik, atau merupakan sistem yang kompleks dan tidak seimbang [Nicolis dan Prigogine, 1977]. Jika demikian, kemungkinan besar mereka tidak dapat dimodelkan untuk replikasi atau reproduksi yang tepat. Lingkungan, atau Argumen Pengasuhan: Baik kecerdasan maupun individualitas bergantung pada lingkungan (atau alam). Oleh karena itu, mereka tidak dapat dimodelkan tanpa memodelkan lingkungan sepenuhnya, misalnya menggunakan Makro-AI. Memori, atau Argumen Kepribadian: Baik kecerdasan maupun individualitas adalah aspek kepribadian, yang diketahui bergantung pada memori hidup yang lengkap (sadar dan tidak sadar) dari makhluk cerdas. Tidak ada cukup bukti yang memungkinkan untuk memulihkan atau memodelkan sejarah memori temporal dan lingkungan yang lengkap ini. Banyak dari ingatan kita, dan oleh karena itu individualitas dan kepribadian kita, terhubung secara integral dengan ingatan tubuh kita.
Argumen yang mendukung: Seringkali dianggap remeh bahwa kecerdasan dapat dipisahkan dari substrat dan ditanam pada substrat yang berbeda. Ini mungkin anggapan yang salah. Mungkin kecerdasan kita terikat secara integral dengan substrat dan tidak mungkin memisahkan tubuh dari pikiran, mengikuti argumen sebelumnya.
Argumen Kausalitas: Hanya ada sedikit kemajuan dalam pemodelan kausalitas. Pada akhirnya, penyebab suatu peristiwa atau kejadian bukan hanya satu, melainkan banyak, bahkan mungkin seluruh sejarah alam semesta.
Argumen Kesadaran: Demikian pula, tidak ada teori kesadaran yang cukup baik bahkan untuk pemahaman manusia. Sangat kecil kemungkinannya kita dapat sepenuhnya memodelkan kesadaran manusia, juga tidak ada alasan kuat untuk percaya bahwa kesadaran tersebut dapat muncul secara spontan dalam kondisi yang tepat (kondisi yang mana?).
Argumen Ketidaklengkapan/Degenerasi Sumber Pembelajaran dan Representasinya: Tidak peduli berapa banyak data atau pengetahuan yang kita miliki, data atau pengetahuan tersebut akan selalu tidak lengkap dan merosot, sehingga mustahil untuk memodelkan kecerdasan sepenuhnya.
Argumen Penjelasan: Jaringan saraf dalam, yang merupakan teknologi AI tercanggih, memiliki masalah serius dalam kemampuan menjelaskan bahkan untuk masalah tertentu yang terisolasi. Tanpanya, kita tidak bisa yakin apakah model kita berkembang ke arah yang benar.
Argumen Ketidaklengkapan Tes: Ukuran kinerja yang sempurna tidak tersedia bahkan untuk masalah seperti terjemahan mesin. Kami tidak tahu apa yang akan menjadi ukuran keseluruhan dari Kecerdasan Humanoid. Itu mungkin selalu tidak lengkap dan tidak sempurna, sehingga menimbulkan ketidakpastian tentang kecerdasan.
Argumen Mesin Parasit: Mesin sepenuhnya bergantung pada pembelajaran manusia dan data serta pengetahuan yang diberikan manusia. Namun manusia hanya mengungkapkan atau mewujudkan sebagian kecil dari kemampuan kecerdasannya. Jadi mesin tidak bisa sepenuhnya belajar dari manusia tanpa terlebih dahulu menjadi secerdas manusia.
Argumen Bahasa: Kecerdasan Manusia (oid) dan pemodelannya pada dasarnya bergantung pada bahasa manusia. Tidak ada teori yang diterima secara universal tentang cara kerja bahasa.
Argumen Interpretasi Persepsi: Pembelajaran membutuhkan persepsi dan persepsi bergantung pada interpretasi (dan sebaliknya), yang merupakan masalah yang hampir sama sulitnya dengan pemodelan kecerdasan itu sendiri.
Argumen Replikasi: Kita sedang menghadapi krisis replikasi ilmiah bahkan untuk masalah-masalah yang terisolasi. Bagaimana kita bisa yakin akan replikasi Kecerdasan Humanoid, yang menjaga keunikan individu?
Argumen Asimetri Espitemik Manusia-Manusia: Terdapat kesenjangan yang luas dalam masyarakat tidak hanya dalam hal uang dan kekayaan, namun juga dalam hal pengetahuan dan manfaatnya. Hal ini tidak hanya akan tercermin dalam pemodelan, namun akan membuat pemodelan menjadi lebih sulit.
Argumen Representasi Keberagaman: Kecerdasan Humanoid yang benar-benar berfungsi harus memodelkan keragaman keberadaan manusia dalam segala aspeknya, yang sebagian besar bahkan tidak diketahui atau didokumentasikan. Setidaknya mereka harus melestarikan keberagaman tersebut, yang merupakan hal yang sulit.
Argumen Kolonialisme Data: Data adalah minyak baru. Mereka yang memiliki lebih banyak kekuasaan, uang, dan pengaruh (Tritunggal Mahakudus yang Materialistis) dapat memperoleh lebih banyak data dari orang lain, tanpa membagikan data mereka sendiri. Ini adalah situasi kolonial klasik dan akan menghambat perkembangan Intelegensi Humanoid.
Argumen Etis-Politik: Mengingat beberapa argumen di atas, dan banyak argumen lainnya seperti bias data, potensi persenjataan, dll., ada banyak alasan etis dan politis yang harus dipertimbangkan saat mengembangkan Intelijen Humanoid. Kami tidak yakin apakah semuanya dapat diatasi sepenuhnya.
Argumen Preskriptif: Kini diketahui bahwa teknologi 'cerdas' yang diterapkan dalam skala besar tidak hanya memantau perilaku, namun juga mengubahnya [Zuboff, 2018]. Ini berarti kita mengubah hal yang ingin kita modelkan, dan dengan demikian menetapkan aturan mekanis baru tentang apa artinya menjadi manusia.
Argumen Pemenuhan Keinginan (atau Ramalan yang Terpenuhi Sendiri): Karena preskriptivisasi kehidupan itu sendiri oleh mesin yang tidak sempurna dan tidak cukup cerdas, masalah pemodelan Kecerdasan Humanoid menjadi sebuah ramalan yang terwujud dengan sendirinya, di mana kita pada akhirnya tidak memodelkan kehidupan manusia, namun beberapa bentuk kehidupan yang rusak dan disederhanakan yang kita wujudkan dengan bantuan mesin. mesin 'cerdas'.
Argumen Intervensi Manusia: Tidak ada alasan untuk percaya bahwa Kecerdasan Humanoid akan berkembang dengan sendirinya dan tidak akan dipengaruhi oleh campur tangan manusia, yang kemungkinan besar akan dipengaruhi oleh kepentingan pribadi. Hal ini akan melumpuhkan perkembangan Kecerdasan Humanoid yang sebenarnya. Intervensi ini dapat berbentuk kerahasiaan, pengaruh finansial (seperti pendanaan penelitian) dan paksaan hukum atau struktural.
Argumen Deepfake: Meskipun kita belum memiliki mesin yang benar-benar cerdas, kita dapat menghasilkan data melalui deepfake yang tidak dapat dikenali sebagai data palsu oleh manusia. Data deepfake ini akan berkembang biak dan akan menjadi bagian dari data yang dipelajari oleh mesin, dan secara efektif tidak memodelkan kehidupan manusia, melainkan sesuatu yang lain.
Argumen Reaksi Berantai (atau Argumen Hukum Pertumbuhan Eksponensial): Ketika mesin menjadi lebih 'cerdas', mereka semakin memengaruhi kehidupan dan mengubahnya, bahkan sebelum mencapai kecerdasan sejati. Kecepatan perubahan ini akan meningkat secara eksponensial dan akan menimbulkan reaksi berantai, yang menimbulkan konsekuensi yang tidak terduga, yang tentunya mempengaruhi pemodelan Kecerdasan Humanoid.
4 Implikasi dari Ketidakmungkinan
Berdasarkan argumen di atas, Singularitas pada tingkat Micro-AI tidak mungkin dilakukan. Dalam upaya mencapai hal tersebut, dan untuk mengatasi argumen di atas, satu-satunya hasil yang mungkin adalah Singularly di tingkat Makro-AI. Singularitas seperti itu tidak akan mengarah pada replikasi kecerdasan manusia atau peningkatannya, melainkan sesuatu yang sama sekali berbeda. Hal ini, kemungkinan besar, akan menyebabkan kepunahan (atau setidaknya ketundukan, perbudakan) kecerdasan manusia. Untuk mencapai Kecerdasan Humanoid (AI Mikro Individu Manusia), bahkan jika tidak lebih dari itu, sistem AI yang dibutuhkan harus sesuai dengan gagasan umum tentang Tuhan Yang Maha Esa. Singularitas pada tingkat makro sebenarnya akan menjadikan sistem AI, atau siapa pun yang mengendalikannya, baik secara individu atau (kemungkinan kecil) kolektif, menjadi Tuhan Yang Maha Esa untuk semua tujuan praktis, sejauh menyangkut umat manusia. Namun ini bukanlah Tuhan Yang Maha Kuasa, dan bukan Tuhan yang Baik, karena Tuhan Yang Maha Kuasa dalam jangkauan umat manusia yang terbatas dan yang dapat memberikan dampak bagi umat manusia, dan Dia hanya akan berbaik hati pada dirinya sendiri, atau bahkan mungkin tidak pada dirinya sendiri. . Ini mungkin analog dengan Tuhan dalam cerita Phiilip K. Dick, Faith of Our Fathers [Dick and Lethem, 2013], atau dengan cerita Big Brother of Orwell tahun 1984 [Orwell, 1950]. Tentu saja, kita tidak bisa memastikan hasilnya, namun kemungkinan besar hasil tersebut sama dengan hasil lainnya. Hal ini merupakan alasan yang cukup untuk mewaspadai pengembangan Kecerdasan Humanoid dan varian apa pun darinya.
Referensi
Philip K. Dick, Paul Williams, dan Mark. Hutan kecil. Saya harap saya akan segera tiba / Philip K. Dick; diedit oleh Mark Hurst dan Paul Williams. Doubleday New York, edisi pertama. edisi 1. ISBN 1985.
Alfred North Whitehead dan Bertrand Russel. Prinsip Mathematica. Pers Universitas Cambridge, 1925–1927.
Barnaby Sheppard. Teorema Ketidaklengkapan Gödel, halaman 419–428. Cambridge University Press, 2014. doi: 10.1017/CBO9781107415614.016.
E. Nagel, JR Newman, dan DR Hofstadter. Bukti Godel. NYU Press, 2001. ISBN 9780814758014. URL https://books.google.co.in/books?id=G29G3W_hNQkC.
John E. Hopcroft, Rajeev Motwani, dan Jeffrey D. Ullman. Pengantar Teori Automata, Bahasa, dan Komputasi (Edisi ke-3). Addison-Wesley Longman Publishing Co., Inc., AS, 2006. ISBN 0321455363.
B.Jack Copeland dan Oron Shagrir. Tesis yang mengubah gereja: Batasan logis atau penghalang yang bisa ditembus? Komunitas. ACM, 62(1):66–74, Desember 2018. ISSN 0001-0782. doi: 10.1145/3198448. URL https://doi.org/10.1145/3198448.
Ray Kurzweil. Singularitas Sudah Dekat: Ketika Manusia Melampaui Biologi. Penguin (Non-Klasik), 2006. ISBN 0143037889.
Rodney Brooks. Prospek kecerdasan tingkat manusia untuk robot humanoid. 07 1998. Camilo Miguel Signorelli. Bisakah komputer menjadi sadar dan mengalahkan manusia? Perbatasan dalam Robotika dan AI, 5:121, 2018. doi: 10.3389/frobt.2018.00121. URL https://www.frontiersin. org/artikel/10.3389/frobt.2018.00121.
Roman V.Yampolskiy. Ketidakpastian ai: Tentang ketidakmungkinan memprediksi secara akurat semua tindakan agen yang lebih cerdas. Jurnal Kecerdasan dan Kesadaran Buatan, 07(01):109–118, 2020. doi: 10.1142/S2705078520500034.
YN Harari. Sapiens: Sejarah Singkat Umat Manusia. Harper, 2015. ISBN 9780062316103. URL https://books.google.co.in/books?id=FmyBAwAAQBAJ.
V. Siwa dan K. Siwa. Kesatuan Vs. 1 Persen: Menghancurkan Ilusi, Menyemai Kebebasan. PUB HIJAU CHELSEA, 2020. ISBN 9781645020394. URL https://books.google.co.in/books?
id=4TmTzQEACAAJ.
G. Nicolis dan I. Prigogine. Pengorganisasian Mandiri dalam Sistem Nonequilibrium: Dari Struktur Disipatif ke Keteraturan Melalui Fluktuasi. Publikasi Wiley-Interscience. Wiley, 1977. ISBN 9780471024019. URL https://books.google.co.in/books?id=mZkQAQAAIAAJ.
Shoshana Zuboff. Era Kapitalisme Pengawasan: Perjuangan untuk Masa Depan Manusia di Perbatasan Kekuasaan Baru. Edisi pertama, 1. ISBN 2018.
PK Dick dan J. Lethem. Kisah Pilihan Philip K. Dick. Houghton Mifflin Harcourt, 2013. ISBN 9780544040540. URL https://books.google.co.in/books?id=V1z9rzfTb2EC.
George Orwell. 1984. Perpustakaan Tandem, seratus tahun. edisi 1950. ISBN 0881030368. URL http://www.amazon.de/1984-Signet-Classics-George-Orwell/dp/0881030368.
***
Awalnya diterbitkan pada anileklavya.net pada 7 November 2020.
ZNetwork didanai semata-mata melalui kemurahan hati para pembacanya.
Menyumbangkan
2 komentar
Nah, itu mengarah pada argumen pertama.
Saya mencoba memperbaiki artikel ini. Tetap saja, terima kasih sudah menunjukkannya, sehingga saya bisa menguraikannya lebih lanjut.
'3. Intelegensi: Segala sesuatu yang mampu dilakukan oleh seluruh umat manusia, baik secara individu maupun kolektif, serta secara sinkronis dan diakronis. Hal ini tidak hanya mencakup perilaku atau pemecahan masalah, namun keseluruhan kehidupan sebagaimana didefinisikan.'
Definisi ini tampaknya terlalu kabur bagi saya. Akan sangat sulit untuk berbicara banyak tentang AI jika kita tidak mengetahui apa yang dimaksud dengan bagian 'saya'.