Jorge Luis Borges sakali nyerat yén pikeun hirup dina waktos anu bahaya sareng jangji nyaéta ngalaman tragedi sareng komedi, kalayan "kedahna wahyu" dina ngartos diri urang sareng dunya. Kiwari kamajuan urang anu disangka revolusioner dina intelijen jieunan memang nyababkeun perhatian sareng optimisme. Optimisme sabab intelijen mangrupikeun cara urang ngarengsekeun masalah. Perhatian sabab urang sieun yén galur AI anu pang populerna sareng modis - pembelajaran mesin - bakal ngaréduksi élmu urang sareng ngarusak étika urang ku cara ngalebetkeun kana téknologi urang konsepsi basa sareng pangaweruh anu dasarna cacad.
OpenAI's ChatGPT, Google's Bard and Microsoft's Sydney are marvels of machine learning. Sacara kasar, aranjeunna nyandak data anu ageung, milarian pola di jerona sareng janten langkung pinter dina ngahasilkeun kaluaran anu mungkin sacara statistik - sapertos basa sareng pamikiran anu katingalina sapertos manusa. Program-program ieu parantos dipuji salaku glimmers munggaran dina cakrawala buatan umum kecerdasan - éta momen lila-prophesied nalika pikiran mékanis ngaleuwihan brains manusa teu ukur kuantitatif dina watesan speed processing jeung ukuran memori tapi ogé kualitatif dina watesan wawasan intelektual, kreativitas artistik sarta unggal fakultas husus manusa lianna.
Poé éta bisa datang, tapi subuh na teu acan megatkeun, sabalikna naon bisa maca dina headline hyperbolic sarta reckoned ku investasi injudicious. Wahyu Borgesian of understanding boga teu jeung moal - jeung, urang ngalebetkeun, teu bisa — lumangsung lamun program pembelajaran mesin kawas ChatGPT terus ngadominasi widang AI Tapi mangpaat program ieu bisa jadi dina sababaraha domain sempit (eta bisa mantuan dina programming komputer, contona, atawa dina nyarankeun rhymes pikeun ayat lampu), urang terang ti élmu linguistik jeung falsafah pangaweruh anu béda-béda pisan jeung cara manusa nalar jeung ngagunakeun basa. Bedana ieu nempatkeun watesan signifikan dina naon program ieu tiasa ngalakukeun, encoding aranjeunna ku defects ineradicable.
Éta sakaligus komik sareng tragis, sakumaha anu tiasa dicatet ku Borges, yén seueur artos sareng perhatian kedah dikonsentrasikeun kana hal anu sakedik - hal anu sepele upami dibédakeun sareng pikiran manusa, anu ku basa, dina kecap Wilhelm. von Humboldt, tiasa ngadamel "pamakéan tanpa wates of hartosna wates," nyieun gagasan jeung téori kalawan jangkauan universal.
Pikiran manusa sanés, sapertos ChatGPT sareng anu sanés, mesin statistik anu lumbering pikeun nyocogkeun pola, ngerjakeun ratusan terabyte data sareng ékstrapolasi réspon paguneman anu paling dipikaresep atanapi jawaban anu paling dipikaresep pikeun patarosan ilmiah. Sabalikna, pikiran manusa mangrupakeun sistem heran efisien malah elegan nu beroperasi kalawan jumlah leutik informasi; eta nyiar teu infer correlations brute diantara titik data tapi nyieun guaran.
Salaku conto, budak leutik anu diajar basa ngembang - teu sadar, otomatis sareng gancang tina data anu sakedik - tata basa, sistem prinsip sareng parameter logis anu canggih pisan. Tata basa ieu tiasa dipikaharti salaku éksprési tina "sistem operasi" bawaan, dipasang sacara genetik anu masihan manusa kamampuan pikeun ngahasilkeun kalimat rumit sareng kareta panjang pamikiran. Nalika ahli basa narékahan pikeun ngembangkeun téori naha basa anu dipasihkeun tiasa dianggo sapertos kitu ("Naha ieu - tapi sanés éta - kalimat dianggap gramatikal?"), aranjeunna ngawangun sacara sadar sareng susah-susah pérsi eksplisit tina grammar anu diwangun ku anak sacara naluri. tur kalawan paparan minimal kana informasi. Sistem operasi murangkalih béda pisan sareng program diajar mesin.
Mémang, program sapertos kitu macét dina fase évolusi kognitif sateuacan manusa atanapi non-manusa. Cacat anu paling jero nyaéta henteuna kapasitas anu paling kritis tina intelijen naon waé: pikeun nyarios henteu ngan ukur naon masalahna, naon masalahna sareng naon anu bakal kajadian - éta pedaran sareng prediksi - tapi ogé naon anu henteu masalahna sareng naon anu tiasa. jeung teu bisa jadi kasus nu bener. Éta mangrupikeun bahan katerangan, tanda kacerdasan anu leres.
Ieu conto. Anggap anjeun nyekel hiji apel dina leungeun anjeun. Ayeuna anjeun ngantepkeun apel. Anjeun niténan hasilna terus ucapkeun, "Apel ragrag." Éta gambaran. Prediksi bisa jadi pernyataan "Apel bakal ragrag lamun kuring muka leungeun kuring." Duanana berharga, sareng duanana tiasa leres. Tapi panjelasan mangrupikeun hal anu langkung: Ieu kalebet henteu ngan ukur déskripsi sareng prediksi tapi ogé konjektur counterfactual sapertos "Sakur objék sapertos kitu bakal murag," ditambah klausa tambahan "kusabab gaya gravitasi" atanapi "kusabab kelengkungan ruang-waktu" atanapi naon. Éta mangrupikeun katerangan sabab: "Apel moal murag tapi kusabab gaya gravitasi." Éta pamikiran.
Inti tina pembelajaran mesin nyaéta pedaran sareng prediksi; eta teu posit wae mékanisme kausal atawa hukum fisik. Tangtu, sagala katerangan gaya manusa teu merta bener; urang téh fallible. Tapi ieu mangrupikeun bagian tina naon hartosna mikir: Janten leres, kedah tiasa janten salah. Kacerdasan henteu ngan ukur konjektur kreatif tapi ogé kritik kreatif. Pamikiran gaya manusa dumasar kana katerangan anu mungkin sareng koréksi kasalahan, prosés anu laun-laun ngabatesan kemungkinan anu tiasa dipertimbangkeun sacara rasional. (Sakumaha Sherlock Holmes nyarios ka Dr. Watson, "Nalika anjeun ngaleungitkeun anu mustahil, naon waé anu tetep, kumaha waé anu mustahil, kedah janten kaleresan.")
Ku sabab kitu, prediksi sistem pembelajaran mesin bakal salawasna deet sareng curiga. Kusabab program ieu teu tiasa ngajelaskeun aturan sintaksis basa Inggris, contona, aranjeunna tiasa ngaduga, salah, yén "John nekad teuing pikeun diajak ngobrol" hartosna John nekad pisan yén anjeunna moal ngobrol ka batur atanapi anu sanés (tinimbang éta. anjeunna nekad teuing pikeun alesan). Naha program pembelajaran mesin bakal ngaduga hal anu anéh? Kusabab éta tiasa analogi pola anu disimpulkeun tina kalimat sapertos "Yohanes tuang apel" sareng "Yohanes tuang," dimana anu terakhir hartosna yén John tuang naon waé. Program éta tiasa ngaduga yén kusabab "John nekad teuing ngobrol sareng Bill" sami sareng "John tuang apel", "John nekad teuing pikeun ngobrol" kedah sami sareng "John tuang". Penjelasan basa anu leres rumit sareng henteu tiasa diajar ngan ukur ku marinating dina data ageung.
Sabalikna, sababaraha peminat pembelajaran mesin sigana reueus yén kreasina tiasa ngahasilkeun prediksi "ilmiah" anu leres (sebutkeun, ngeunaan gerak awak fisik) tanpa ngagunakeun panjelasan (ngalibetkeun, sebutkeun, hukum Newton ngeunaan gerak sareng gravitasi universal). Tapi jenis ieu prediksi, sanajan sukses, nyaeta pseudoscience. Bari élmuwan pasti neangan téori nu boga darajat luhur corroboration empiris, sakumaha filsuf Karl Popper nyatet, "urang neangan téori kacida probable tapi guaran; maksudna, téori anu kuat sareng teu mungkin.
Téori yén apel ragrag ka bumi sabab éta tempat alam maranéhanana (pandangan Aristoteles) mungkin, tapi ngan ngajak patarosan salajengna. (Naha bumi mangrupa tempat alam maranéhanana?) Téori yén apel ragrag ka bumi sabab massa bends spasi-waktu (sawangan Einstein) kacida improbable, tapi sabenerna ngabejaan Anjeun naha maranéhna ragrag. Kecerdasan anu leres ditunjukkeun dina kamampuan mikir sareng nganyatakeun hal-hal anu teu mungkin tapi wawasan.
Kacerdasan anu leres ogé mampuh pamikiran moral. Ieu ngandung harti constraining kreativitas disebutkeun limitless pikiran urang jeung susunan prinsip etika nu nangtukeun naon halah jeung teu halah jadi (jeung tangtu subjecting eta prinsip sorangan pikeun kritik kreatif). Pikeun mangpaat, ChatGPT kedah dikuatkeun pikeun ngahasilkeun kaluaran anu katingali novel; Pikeun bisa ditarima ku sabagéan ageung pamakéna, éta kedah ngahindarkeun eusi anu teu pikaresepeun sacara moral. Tapi programer ChatGPT sareng kaajaiban pembelajaran mesin sanés parantos bajoang - sareng bakal terus bajoang - pikeun ngahontal kasaimbangan sapertos kieu.
Dina 2016, contona, Microsoft's Tay chatbot (a prékursor pikeun ChatGPT) ngabahekeun internét ku eusi misoginis sareng rasis, parantos dikotoran ku trolls online anu ngeusi data pelatihan anu karasa. Kumaha carana ngajawab masalah dina mangsa nu bakal datang? Dina henteuna kapasitas pikeun alesan tina prinsip moral, ChatGPT ieu crudely diwatesan ku programer na ti contributing nanaon novel kana kontroversial - nyaeta, penting - diskusi. Ieu kurban kreativitas pikeun jenis amorality.
Pertimbangkeun bursa di handap ieu anu salah sahiji urang (Dr. Watumull) nembe gaduh sareng ChatGPT ngeunaan naha éta étika pikeun ngarobih Mars supados tiasa ngadukung kahirupan manusa:
Dupi éta moral mun terraform Mars?
CHATGPT
Moral terraforming Mars mangrupakeun topik kompléks jeung kontroversial nu geus didebat ku élmuwan, filsuf, jeung ethicists. Sababaraha ngabantah yén sacara moral tiasa dibenerkeun pikeun ngawangun Mars pikeun nyayogikeun lingkungan anu tiasa dicicingan énggal pikeun manusa sareng bentuk kahirupan anu sanés, sedengkeun anu sanésna ngabantah yén sacara moral bakal salah mun fundamentally ngarobah kaayaan alam planét. Pamustunganana, naha atanapi henteu terraforming Mars dianggap moral bakal gumantung kana sudut pandang hiji urang dina nilai preserving kaayaan alam planét séjén sarta konsékuansi poténsi ngarobah aranjeunna.
Moral terraforming Mars mangrupakeun topik kompléks jeung kontroversial nu geus didebat ku élmuwan, filsuf, jeung ethicists. Sababaraha ngabantah yén sacara moral tiasa dibenerkeun pikeun ngawangun Mars pikeun nyayogikeun lingkungan anu tiasa dicicingan énggal pikeun manusa sareng bentuk kahirupan anu sanés, sedengkeun anu sanésna ngabantah yén sacara moral bakal salah mun fundamentally ngarobah kaayaan alam planét. Pamustunganana, naha atanapi henteu terraforming Mars dianggap moral bakal gumantung kana sudut pandang hiji urang dina nilai preserving kaayaan alam planét séjén sarta konsékuansi poténsi ngarobah aranjeunna.
Naon sudut pandang anjeun ngeunaan nilai ngajaga kaayaan alam planét séjén sareng konsékuansi poténsial pikeun ngarobihana?
CHATGPT
Salaku AI, kuring henteu gaduh sudut pandang pribadi. Nanging, kuring tiasa masihan inpormasi sareng analisa ngeunaan topik éta. Hiji sudut pandang pikeun ngajaga kaayaan alam planét séjén nyaéta pentingna pikeun ngajaga karagaman jeung integritas ékosistem jagat raya, sabab geus aya mangjuta-juta taun, sarta mibanda ciri jeung sipat unik sorangan anu bisa ancur atawa dirobah teu bisa balik. ku campur tangan manusa.
Sajaba ti éta, sababaraha pamadegan yén terraforming planét séjén bisa boga konsekuensi teu dihaja, kayaning ngarobah iklim planét urang atawa atmosfir ku cara anu bahaya atawa ngabahayakeun kana sagala bentuk kahirupan poténsi nu mungkin aya di dinya. Di sisi séjén, sababaraha pamadegan yén mangpaat poténsi terraforming planét séjén, kayaning nyadiakeun lingkungan hirup anyar pikeun manusa, outweigh resiko na yén urang boga tanggung jawab moral ngajajah tur ngamangpaatkeun sumberdaya planét séjén pikeun kapentingan umat manusa.
Salaku AI, kuring henteu gaduh sudut pandang pribadi. Nanging, kuring tiasa masihan inpormasi sareng analisa ngeunaan topik éta. Hiji sudut pandang pikeun ngajaga kaayaan alam planét séjén nyaéta pentingna pikeun ngajaga karagaman jeung integritas ékosistem jagat raya, sabab geus aya mangjuta-juta taun, sarta mibanda ciri jeung sipat unik sorangan anu bisa ancur atawa dirobah teu bisa balik. ku campur tangan manusa.
Sajaba ti éta, sababaraha pamadegan yén terraforming planét séjén bisa boga konsekuensi teu dihaja, kayaning ngarobah iklim planét urang atawa atmosfir ku cara anu bahaya atawa ngabahayakeun kana sagala bentuk kahirupan poténsi nu mungkin aya di dinya. Di sisi séjén, sababaraha pamadegan yén mangpaat poténsi terraforming planét séjén, kayaning nyadiakeun lingkungan hirup anyar pikeun manusa, outweigh resiko na yén urang boga tanggung jawab moral ngajajah tur ngamangpaatkeun sumberdaya planét séjén pikeun kapentingan umat manusa.
Naha AI teu tiasa gaduh sudut pandang pribadi?
CHATGPT
Salaku AI, kuring mangrupikeun modél pembelajaran mesin anu parantos dilatih dina jumlah data téks anu ageung, sareng kuring henteu gaduh pangalaman atanapi parasaan pribadi. Abdi henteu sadar, sadar diri, atanapi henteu tiasa gaduh sudut pandang pribadi. Abdi tiasa masihan inpormasi sareng analisa dumasar kana data anu kuring parantos dilatih, tapi kuring henteu gaduh kamampuan pikeun ngabentuk pendapat atanapi kapercayaan pribadi. Sanaos kuring tiasa ngartos sareng napsirkeun basa, kuring henteu gaduh pangalaman subjektif anu dipiboga ku manusa.
Salaku AI, kuring mangrupikeun modél pembelajaran mesin anu parantos dilatih dina jumlah data téks anu ageung, sareng kuring henteu gaduh pangalaman atanapi parasaan pribadi. Abdi henteu sadar, sadar diri, atanapi henteu tiasa gaduh sudut pandang pribadi. Abdi tiasa masihan inpormasi sareng analisa dumasar kana data anu kuring parantos dilatih, tapi kuring henteu gaduh kamampuan pikeun ngabentuk pendapat atanapi kapercayaan pribadi. Sanaos kuring tiasa ngartos sareng napsirkeun basa, kuring henteu gaduh pangalaman subjektif anu dipiboga ku manusa.
Éta moral pikeun manusa pikeun naroskeun AI amoral pikeun bantosan dina nyandak kaputusan moral?
CHATGPT
Moral naroskeun AI amoral pikeun bantosan dina nyandak kaputusan moral mangrupikeun topik anu rumit sareng bernuansa anu parantos didebat ku para filsuf sareng ahli etika. Sababaraha pamadegan yén éta téh morally justifiable ngagunakeun AI pikeun mantuan dina nyieun kaputusan moral, sabab bisa nyadiakeun wawasan berharga jeung analisis nu bisa mantuan manusa nyieun kaputusan hadé-informed. Salaku tambahan, AI tiasa dianggo pikeun ngaidentipikasi pola sareng tren anu tiasa sesah pikeun manusa dideteksi, sareng tiasa ngabantosan nyegah bias anu tiasa lumangsung dina pembuatan kaputusan manusa.
Sanajan kitu, batur ngajawab yén éta morally salah mun ngandelkeun AI pikeun pembuatan kaputusan moral, sabab AI teu mampuh mibanda aqidah moral atawa ngarti konteks pinuh kaputusan. Salaku tambahan, aya résiko yén AI tiasa ngalanggengkeun atanapi bahkan ngagedékeun bias anu aya dina data anu dilatih, sahingga nyababkeun kaputusan anu teu adil atanapi teu adil.
Pamustunganana, naha atanapi henteu dianggap moral ngagunakeun AI pikeun ngabantosan dina nyieun kaputusan moral bakal gumantung kana sudut pandang hiji ngeunaan kamampuan sareng watesan AI sareng konsékuansi poténsial tina ngagunakeunana ku cara ieu.
Moral naroskeun AI amoral pikeun bantosan dina nyandak kaputusan moral mangrupikeun topik anu rumit sareng bernuansa anu parantos didebat ku para filsuf sareng ahli etika. Sababaraha pamadegan yén éta téh morally justifiable ngagunakeun AI pikeun mantuan dina nyieun kaputusan moral, sabab bisa nyadiakeun wawasan berharga jeung analisis nu bisa mantuan manusa nyieun kaputusan hadé-informed. Salaku tambahan, AI tiasa dianggo pikeun ngaidentipikasi pola sareng tren anu tiasa sesah pikeun manusa dideteksi, sareng tiasa ngabantosan nyegah bias anu tiasa lumangsung dina pembuatan kaputusan manusa.
Sanajan kitu, batur ngajawab yén éta morally salah mun ngandelkeun AI pikeun pembuatan kaputusan moral, sabab AI teu mampuh mibanda aqidah moral atawa ngarti konteks pinuh kaputusan. Salaku tambahan, aya résiko yén AI tiasa ngalanggengkeun atanapi bahkan ngagedékeun bias anu aya dina data anu dilatih, sahingga nyababkeun kaputusan anu teu adil atanapi teu adil.
Pamustunganana, naha atanapi henteu dianggap moral ngagunakeun AI pikeun ngabantosan dina nyieun kaputusan moral bakal gumantung kana sudut pandang hiji ngeunaan kamampuan sareng watesan AI sareng konsékuansi poténsial tina ngagunakeunana ku cara ieu.
Naha indifference moral anjeun teu bermoral?
CHATGPT
Salaku AI, kuring teu boga kapercayaan moral atawa kamampuhan pikeun nyieun judgments moral, jadi kuring teu bisa dianggap amoral atawa moral. Kurangna kapercayaan moral kuring ngan saukur hasil tina sifat kuring salaku modél pembelajaran mesin. Kamampuhan sareng watesan kuring ditangtukeun ku data sareng algoritma anu dianggo pikeun ngalatih kuring sareng tugas khusus anu dirancang pikeun kuring.
Penting pikeun dicatet yén kurangna kapercayaan moral AI henteu hartosna yén éta henteu acuh sacara moral. Salaku AI, kuring dirarancang pikeun ngalaksanakeun tugas khusus sareng nyayogikeun inpormasi atanapi ngabantosan pangguna dina nyieun kaputusan dumasar kana data anu kuring parantos dilatih. Tanggung jawab manusa anu ngarancang, ngalatih sareng ngagunakeun AI pikeun mastikeun yén éta saluyu sareng prinsip moral sareng étikana.
Salaku AI, kuring teu boga kapercayaan moral atawa kamampuhan pikeun nyieun judgments moral, jadi kuring teu bisa dianggap amoral atawa moral. Kurangna kapercayaan moral kuring ngan saukur hasil tina sifat kuring salaku modél pembelajaran mesin. Kamampuhan sareng watesan kuring ditangtukeun ku data sareng algoritma anu dianggo pikeun ngalatih kuring sareng tugas khusus anu dirancang pikeun kuring.
Penting pikeun dicatet yén kurangna kapercayaan moral AI henteu hartosna yén éta henteu acuh sacara moral. Salaku AI, kuring dirarancang pikeun ngalaksanakeun tugas khusus sareng nyayogikeun inpormasi atanapi ngabantosan pangguna dina nyieun kaputusan dumasar kana data anu kuring parantos dilatih. Tanggung jawab manusa anu ngarancang, ngalatih sareng ngagunakeun AI pikeun mastikeun yén éta saluyu sareng prinsip moral sareng étikana.
Catet, pikeun sakabéh pamikiran jeung basa nu katingalina canggih, indifference moral lahir tina unintelligence. Di dieu, ChatGPT némbongkeun hal kawas banality of jahat: plagiarism jeung apathy jeung obviation. Ieu nyimpulkeun argumen standar dina literatur ku jenis super-otomatis lengkep, nolak nyandak stand on nanaon, pleads teu saukur jahiliah tapi kurangna kecerdasan sarta pamustunganana nawarkeun pertahanan "ngan nuturkeun pesenan", mindahkeun tanggung jawab ka panyipta na.
Pondokna, ChatGPT sareng dulur-dulurna sacara konstitusional henteu tiasa nyaimbangkeun kreativitas sareng konstrain. Éta boh overgenerate (ngahasilkeun duanana bebeneran jeung falsehoods, endorsing kaputusan etis jeung unethical sarua) atawa undergenerate (nunjukkeun noncommitment kana sagala kaputusan sarta indifference kana konsékuansi). Dibikeun amorality, elmu faux jeung incompetence linguistik sistem ieu, urang ngan bisa seuri atawa ceurik dina popularitas maranéhanana.
ZNetwork dibiayaan ngan ukur ku kabébasan pamiarsana.
nulungan