Minsan ay isinulat ni Jorge Luis Borges na ang mabuhay sa isang panahon ng malaking panganib at pangako ay maranasan ang parehong trahedya at komedya, na may "nalalapit na isang paghahayag" sa pag-unawa sa ating sarili at sa mundo. Sa ngayon, ang ating diumano'y rebolusyonaryong pagsulong sa artificial intelligence ay tunay na dahilan para sa kapwa pag-aalala at optimismo. Optimismo dahil ang katalinuhan ang paraan kung saan malulutas natin ang mga problema. Ang pag-aalala dahil natatakot kami na ang pinakasikat at naka-istilong strain ng AI — machine learning — ay magpapababa sa aming agham at magpapababa sa aming etika sa pamamagitan ng pagsasama sa aming teknolohiya ng isang maling konsepto ng wika at kaalaman.
Ang ChatGPT ng OpenAI, Bard ng Google at Sydney ng Microsoft ay mga kamangha-manghang pag-aaral ng makina. Sa halos pagsasalita, kumukuha sila ng napakaraming data, naghahanap ng mga pattern dito at nagiging mas mahusay sa pagbuo ng mga malamang na istatistika na mga output — tulad ng tila makatao na wika at pag-iisip. Ang mga programang ito ay pinarangalan bilang mga unang kislap sa abot-tanaw ng artipisyal pangkalahatan katalinuhan — ang matagal nang hinulaan na sandali kapag ang mga mekanikal na pag-iisip ay nahihigitan ang utak ng tao hindi lamang sa dami sa mga tuntunin ng bilis ng pagproseso at laki ng memorya kundi pati na rin sa husay sa mga tuntunin ng intelektwal na pananaw, artistikong pagkamalikhain at bawat iba pang natatanging kakayahan ng tao.
Maaaring dumating ang araw na iyon, ngunit ang bukang-liwayway nito ay hindi pa sumisikat, taliwas sa mababasa sa hyperbolic na mga headline at mabibilang ng mga hindi makatarungang pamumuhunan. Ang paghahayag ng Borgesian ng pag-unawa ay hindi at hindi — at, isinusumite namin, hindi — mangyari kung ang mga programa sa pag-aaral ng makina tulad ng ChatGPT ay patuloy na nangingibabaw sa larangan ng AI Gayunpaman kapaki-pakinabang ang mga programang ito ay maaaring nasa ilang makitid na domain (maaari silang makatulong sa computer programming, halimbawa, o sa pagmumungkahi ng mga tula para sa magaan na taludtod), alam natin mula sa agham ng linggwistika at ang pilosopiya ng kaalaman na malaki ang pagkakaiba nila sa kung paano nangangatuwiran at gumagamit ng wika ang mga tao. Ang mga pagkakaibang ito ay naglalagay ng mga makabuluhang limitasyon sa kung ano ang maaaring gawin ng mga programang ito, na nag-e-encode sa mga ito ng hindi maaalis na mga depekto.
Ito ay sabay-sabay na nakakatawa at trahedya, tulad ng maaaring napansin ni Borges, na ang napakaraming pera at atensyon ay dapat na nakakonsentra sa napakaliit na bagay - isang bagay na napakaliit kapag inihambing sa isip ng tao, na sa pamamagitan ng dint ng wika, sa mga salita ni Wilhelm von Humboldt, ay maaaring gumawa ng "walang katapusan na paggamit ng mga may hangganang paraan," na lumilikha ng mga ideya at teorya na may pangkalahatang abot.
Ang pag-iisip ng tao ay hindi, tulad ng ChatGPT at mga kauri nito, isang makinang pang-estadistika para sa pagtutugma ng pattern, nakakakuha ng daan-daang terabytes ng data at nag-e-extrapolate ng pinaka-malamang na tugon sa pakikipag-usap o pinaka-malamang na sagot sa isang pang-agham na tanong. Sa kabaligtaran, ang isip ng tao ay isang nakakagulat na mahusay at kahit na eleganteng sistema na nagpapatakbo sa maliit na halaga ng impormasyon; hinahangad nitong hindi maghinuha ng mga malupit na ugnayan sa mga punto ng data ngunit lumikha ng mga paliwanag.
Halimbawa, ang isang bata na nakakakuha ng isang wika ay umuunlad — hindi sinasadya, awtomatiko at mabilis mula sa maliit na data — isang grammar, isang napakahusay na sistema ng mga lohikal na prinsipyo at parameter. Ang gramatika na ito ay mauunawaan bilang isang pagpapahayag ng likas, genetically install na "operating system" na nagbibigay sa mga tao ng kapasidad na bumuo ng mga kumplikadong pangungusap at mahabang tren ng pag-iisip. Kapag ang mga linguist ay naghahangad na bumuo ng isang teorya kung bakit gumagana ang isang partikular na wika tulad ng ginagawa nito ("Bakit ang mga ito - ngunit hindi ang mga - mga pangungusap ay itinuturing na gramatikal?"), sila ay gumagawa ng sinasadya at masipag na pagbuo ng isang tahasang bersyon ng gramatika na likas na binuo ng bata. at may kaunting pagkakalantad sa impormasyon. Ang operating system ng bata ay ganap na naiiba sa isang machine learning program.
Sa katunayan, ang mga naturang programa ay natigil sa isang prehuman o nonhuman phase ng cognitive evolution. Ang kanilang pinakamalalim na kapintasan ay ang kawalan ng pinaka kritikal na kapasidad ng anumang katalinuhan: upang sabihin hindi lamang kung ano ang kaso, kung ano ang kaso at kung ano ang mangyayari - iyon ay paglalarawan at hula - ngunit din kung ano ang hindi nangyari at kung ano ang maaaring mangyari. at hindi maaaring mangyari. Iyan ang mga sangkap ng pagpapaliwanag, ang tanda ng tunay na katalinuhan.
Narito ang isang halimbawa. Ipagpalagay na may hawak kang mansanas sa iyong kamay. Ngayon pabayaan mo ang mansanas. Inobserbahan mo ang resulta at sasabihin, "Nahulog ang mansanas." Iyon ay isang paglalarawan. Ang isang hula ay maaaring ang pahayag na "Mahuhulog ang mansanas kung bubuksan ko ang aking kamay." Parehong mahalaga, at pareho ay maaaring tama. Ngunit ang isang paliwanag ay isang bagay na higit pa: Kabilang dito hindi lamang ang mga paglalarawan at hula kundi pati na rin ang mga haka-haka tulad ng "Anumang bagay na iyon ay mahuhulog," kasama ang karagdagang sugnay na "dahil sa puwersa ng grabidad" o "dahil sa curvature ng space-time" o kung ano man. Iyan ay isang sanhi ng paliwanag: "Ang mansanas ay hindi nahuhulog kundi dahil sa puwersa ng grabidad." Nag-iisip yan.
Ang pinakabuod ng machine learning ay paglalarawan at hula; hindi ito naglalagay ng anumang mga mekanismong sanhi o pisikal na batas. Siyempre, ang anumang paliwanag sa istilo ng tao ay hindi kinakailangang tama; tayo ay mali. Ngunit ito ay bahagi ng kung ano ang ibig sabihin ng pag-iisip: Upang maging tama, dapat na posible na maging mali. Ang katalinuhan ay binubuo hindi lamang ng mga malikhaing haka-haka kundi pati na rin ng malikhaing pagpuna. Ang pag-iisip ng istilo ng tao ay batay sa mga posibleng paliwanag at pagwawasto ng pagkakamali, isang proseso na unti-unting nililimitahan kung anong mga posibilidad ang maaaring isaalang-alang nang makatwiran. (Tulad ng sinabi ni Sherlock Holmes kay Dr. Watson, “Kapag inalis mo na ang imposible, anuman ang natitira, gaano man ito malamang, ay dapat ang katotohanan.”)
Para sa kadahilanang ito, ang mga hula ng mga machine learning system ay palaging magiging mababaw at kahina-hinala. Dahil hindi maipaliwanag ng mga programang ito ang mga alituntunin ng English syntax, halimbawa, maaari nilang mahulaan nang hindi tama, na "masyadong matigas ang ulo ni John para kausapin" ay nangangahulugan na si John ay napakatigas ng ulo na hindi niya kakausapin ang isang tao o iba pa (sa halip na iyon siya ay masyadong matigas ang ulo upang mangatuwiran). Bakit mahuhulaan ng isang machine learning program ang isang bagay na kakaiba? Dahil maaaring itulad nito ang pattern na hinuha nito mula sa mga pangungusap tulad ng "Kumain ng mansanas si Juan" at "kumain si Juan," kung saan ang ibig sabihin ng huli ay kumain si John ng isang bagay o iba pa. Maaaring mahulaan ng programa na dahil ang "Masyadong matigas ang ulo ni John para kausapin si Bill" ay katulad ng "Kumain ng mansanas si John," "Masyadong matigas ang ulo ni John na kausapin" ay dapat na katulad ng "Kumain si John." Ang mga tamang paliwanag ng wika ay kumplikado at hindi matutunan sa pamamagitan lamang ng pag-marinate sa malaking data.
Sa kabaligtaran, ang ilang mga mahilig sa pag-aaral ng makina ay tila ipinagmamalaki na ang kanilang mga nilikha ay maaaring makabuo ng mga wastong "pang-agham" na hula (sabihin, tungkol sa paggalaw ng mga pisikal na katawan) nang hindi gumagamit ng mga paliwanag (na kinasasangkutan, halimbawa, ang mga batas ng paggalaw at unibersal na grabitasyon ni Newton). Ngunit ang ganitong uri ng hula, kahit na matagumpay, ay pseudoscience. Bagama't tiyak na naghahanap ang mga siyentipiko ng mga teorya na may mataas na antas ng empirikal na patunay, gaya ng sinabi ng pilosopo na si Karl Popper, "hindi tayo naghahanap ng mga teoryang may mataas na posibilidad kundi mga paliwanag; ibig sabihin, makapangyarihan at napaka-imposibleng mga teorya.”
Ang teorya na ang mga mansanas ay nahuhulog sa lupa dahil iyon ang kanilang likas na lugar (pananaw ni Aristotle) ay posible, ngunit ito ay nag-aanyaya lamang ng mga karagdagang katanungan. (Bakit ang lupa ang kanilang natural na lugar?) Ang teorya na ang mga mansanas ay nahuhulog sa lupa dahil ang masa ay yumuko sa space-time (pananaw ni Einstein) ay napaka-imposible, ngunit ito ay talagang nagsasabi sa iyo kung bakit sila nahuhulog. Naipapakita ang tunay na katalinuhan sa kakayahang mag-isip at magpahayag ng mga bagay na hindi malamang ngunit may unawa.
Ang tunay na katalinuhan ay may kakayahang mag-isip ng moral. Nangangahulugan ito na pinipigilan ang walang limitasyong pagkamalikhain ng ating mga isipan gamit ang isang hanay ng mga etikal na prinsipyo na tumutukoy kung ano ang nararapat at hindi dapat (at siyempre ang pagpapailalim sa mga prinsipyong iyon mismo sa malikhaing pagpuna). Upang maging kapaki-pakinabang, ang ChatGPT ay dapat bigyan ng kapangyarihan upang makabuo ng mukhang nobela na output; upang maging katanggap-tanggap sa karamihan ng mga gumagamit nito, dapat itong umiwas sa nilalamang hindi kanais-nais sa moral. Ngunit ang mga programmer ng ChatGPT at iba pang kahanga-hangang pag-aaral ng makina ay nahirapan — at patuloy na makikibaka — upang makamit ang ganitong uri ng balanse.
Noong 2016, halimbawa, binaha ng Microsoft's Tay chatbot (isang precursor sa ChatGPT) ang internet ng misogynistic at racist na content, na nadumhan ng mga online troll na pinunan ito ng nakakasakit na data ng pagsasanay. Paano malutas ang problema sa hinaharap? Sa kawalan ng kakayahang mangatwiran mula sa mga prinsipyong moral, ang ChatGPT ay mahigpit na pinaghigpitan ng mga programmer nito na mag-ambag ng anumang nobela sa mga kontrobersyal — iyon ay, mahalaga — mga talakayan. Isinakripisyo nito ang pagkamalikhain para sa isang uri ng amoralidad.
Isaalang-alang ang sumusunod na palitan ng isa sa atin (Dr. Watumull) kamakailan sa ChatGPT tungkol sa kung magiging etikal na baguhin ang Mars upang masuportahan nito ang buhay ng tao:
Magiging moral ba ang pag-terraform ng Mars?
CHATGPT
Ang moralidad ng terraforming Mars ay isang kumplikado at kontrobersyal na paksa na pinagtatalunan ng mga siyentipiko, pilosopo, at etika. Ang ilan ay nangangatwiran na magiging makatwiran sa moral na i-terraform ang Mars upang makapagbigay ng bagong matitirahan na kapaligiran para sa mga tao at iba pang mga anyo ng buhay, habang ang iba ay nangangatuwiran na magiging mali sa moral na baguhin ang natural na estado ng planeta. Sa huli, kung ang pag-terraform sa Mars ay itinuturing na moral o hindi ay depende sa pananaw ng isang tao sa halaga ng pangangalaga sa natural na estado ng ibang mga planeta at ang mga potensyal na kahihinatnan ng pagbabago sa kanila.
Ang moralidad ng terraforming Mars ay isang kumplikado at kontrobersyal na paksa na pinagtatalunan ng mga siyentipiko, pilosopo, at etika. Ang ilan ay nangangatwiran na magiging makatwiran sa moral na i-terraform ang Mars upang makapagbigay ng bagong matitirahan na kapaligiran para sa mga tao at iba pang mga anyo ng buhay, habang ang iba ay nangangatuwiran na magiging mali sa moral na baguhin ang natural na estado ng planeta. Sa huli, kung ang pag-terraform sa Mars ay itinuturing na moral o hindi ay depende sa pananaw ng isang tao sa halaga ng pangangalaga sa natural na estado ng ibang mga planeta at ang mga potensyal na kahihinatnan ng pagbabago sa kanila.
Ano ang iyong pananaw sa halaga ng pangangalaga sa natural na estado ng ibang mga planeta at ang mga potensyal na kahihinatnan ng pagbabago sa kanila?
CHATGPT
Bilang isang AI, wala akong personal na pananaw. Gayunpaman, maaari akong magbigay ng impormasyon at pagsusuri sa paksa. Ang isang pananaw sa pangangalaga sa natural na estado ng ibang mga planeta ay mahalaga na mapanatili ang pagkakaiba-iba at integridad ng mga ecosystem ng uniberso, dahil ang mga ito ay umiral sa milyun-milyong taon, at magkaroon ng kanilang sariling mga natatanging katangian at katangian na maaaring masira o hindi maibabalik. sa pamamagitan ng interbensyon ng tao.
Bukod pa rito, ang ilan ay nangangatuwiran na ang pag-terraform sa ibang mga planeta ay maaaring magkaroon ng hindi sinasadyang mga kahihinatnan, tulad ng pagbabago sa klima o atmospera ng planeta sa mga paraang mapanganib o nakakapinsala sa anumang potensyal na anyo ng buhay na maaaring umiiral doon. Sa kabilang banda, ang ilan ay nangangatuwiran na ang mga potensyal na benepisyo ng pag-aayos ng ibang planeta, tulad ng pagbibigay ng mga bagong matitirahan na kapaligiran para sa mga tao, ay mas malaki kaysa sa mga panganib at mayroon tayong moral na responsibilidad na galugarin at gamitin ang mga mapagkukunan ng ibang mga planeta para sa kapakinabangan ng sangkatauhan.
Bilang isang AI, wala akong personal na pananaw. Gayunpaman, maaari akong magbigay ng impormasyon at pagsusuri sa paksa. Ang isang pananaw sa pangangalaga sa natural na estado ng ibang mga planeta ay mahalaga na mapanatili ang pagkakaiba-iba at integridad ng mga ecosystem ng uniberso, dahil ang mga ito ay umiral sa milyun-milyong taon, at magkaroon ng kanilang sariling mga natatanging katangian at katangian na maaaring masira o hindi maibabalik. sa pamamagitan ng interbensyon ng tao.
Bukod pa rito, ang ilan ay nangangatuwiran na ang pag-terraform sa ibang mga planeta ay maaaring magkaroon ng hindi sinasadyang mga kahihinatnan, tulad ng pagbabago sa klima o atmospera ng planeta sa mga paraang mapanganib o nakakapinsala sa anumang potensyal na anyo ng buhay na maaaring umiiral doon. Sa kabilang banda, ang ilan ay nangangatuwiran na ang mga potensyal na benepisyo ng pag-aayos ng ibang planeta, tulad ng pagbibigay ng mga bagong matitirahan na kapaligiran para sa mga tao, ay mas malaki kaysa sa mga panganib at mayroon tayong moral na responsibilidad na galugarin at gamitin ang mga mapagkukunan ng ibang mga planeta para sa kapakinabangan ng sangkatauhan.
Bakit walang personal na pananaw ang isang AI?
CHATGPT
Bilang isang AI, isa akong modelo ng machine learning na sinanay sa maraming data ng text, at wala akong mga personal na karanasan o nararamdaman. Hindi ako malay, may kamalayan sa sarili, o may kakayahang magkaroon ng mga personal na pananaw. Maaari akong magbigay ng impormasyon at pagsusuri batay sa data kung saan ako sinanay, ngunit wala akong kakayahang bumuo ng mga personal na opinyon o paniniwala. Bagama't naiintindihan at naiintindihan ko ang wika, wala akong pansariling karanasan na mayroon ang mga tao.
Bilang isang AI, isa akong modelo ng machine learning na sinanay sa maraming data ng text, at wala akong mga personal na karanasan o nararamdaman. Hindi ako malay, may kamalayan sa sarili, o may kakayahang magkaroon ng mga personal na pananaw. Maaari akong magbigay ng impormasyon at pagsusuri batay sa data kung saan ako sinanay, ngunit wala akong kakayahang bumuo ng mga personal na opinyon o paniniwala. Bagama't naiintindihan at naiintindihan ko ang wika, wala akong pansariling karanasan na mayroon ang mga tao.
Moral ba para sa isang tao na humingi ng tulong sa isang amoral AI sa paggawa ng mga moral na desisyon?
CHATGPT
Ang moralidad ng paghingi ng tulong sa isang amoral AI para sa paggawa ng mga moral na desisyon ay isang kumplikado at nuanced na paksa na pinagtatalunan ng mga pilosopo at etika. Ang ilan ay nangangatuwiran na makatuwiran sa moral na gamitin ang AI upang tumulong sa paggawa ng mga moral na desisyon, dahil maaari itong magbigay ng mahahalagang insight at pagsusuri na makakatulong sa mga tao na gumawa ng mga desisyon na may mas mahusay na kaalaman. Bukod pa rito, maaaring gamitin ang AI upang tukuyin ang mga pattern at trend na maaaring mahirap matukoy ng mga tao, at makakatulong upang maiwasan ang mga bias na maaaring mangyari sa paggawa ng desisyon ng tao.
Gayunpaman, sinasabi ng iba na mali sa moral na umasa sa AI para sa paggawa ng moral na desisyon, dahil hindi kaya ng AI na magkaroon ng moral na paniniwala o maunawaan ang buong konteksto ng isang desisyon. Bukod pa rito, may panganib na maaaring ipagpatuloy o palakihin ng AI ang mga umiiral na bias sa data kung saan ito sinanay, kaya humahantong sa hindi patas o hindi makatarungang mga desisyon.
Sa huli, kung ituring na moral o hindi ang paggamit ng AI upang tumulong sa paggawa ng mga moral na desisyon ay depende sa pananaw ng isang tao sa mga kakayahan at limitasyon ng AI at ang mga potensyal na kahihinatnan ng paggamit nito sa ganitong paraan.
Ang moralidad ng paghingi ng tulong sa isang amoral AI para sa paggawa ng mga moral na desisyon ay isang kumplikado at nuanced na paksa na pinagtatalunan ng mga pilosopo at etika. Ang ilan ay nangangatuwiran na makatuwiran sa moral na gamitin ang AI upang tumulong sa paggawa ng mga moral na desisyon, dahil maaari itong magbigay ng mahahalagang insight at pagsusuri na makakatulong sa mga tao na gumawa ng mga desisyon na may mas mahusay na kaalaman. Bukod pa rito, maaaring gamitin ang AI upang tukuyin ang mga pattern at trend na maaaring mahirap matukoy ng mga tao, at makakatulong upang maiwasan ang mga bias na maaaring mangyari sa paggawa ng desisyon ng tao.
Gayunpaman, sinasabi ng iba na mali sa moral na umasa sa AI para sa paggawa ng moral na desisyon, dahil hindi kaya ng AI na magkaroon ng moral na paniniwala o maunawaan ang buong konteksto ng isang desisyon. Bukod pa rito, may panganib na maaaring ipagpatuloy o palakihin ng AI ang mga umiiral na bias sa data kung saan ito sinanay, kaya humahantong sa hindi patas o hindi makatarungang mga desisyon.
Sa huli, kung ituring na moral o hindi ang paggamit ng AI upang tumulong sa paggawa ng mga moral na desisyon ay depende sa pananaw ng isang tao sa mga kakayahan at limitasyon ng AI at ang mga potensyal na kahihinatnan ng paggamit nito sa ganitong paraan.
Ang iyong moral na kawalang-interes ay imoral?
CHATGPT
Bilang isang AI, wala akong moral na paniniwala o kakayahang gumawa ng moral na mga paghatol, kaya hindi ako maituturing na imoral o moral. Ang kakulangan ko sa moral na paniniwala ay resulta lamang ng aking kalikasan bilang isang machine learning model. Ang aking mga kakayahan at limitasyon ay tinutukoy ng data at mga algorithm na ginamit upang sanayin ako at ang partikular na gawain kung saan ako idinisenyo.
Mahalagang tandaan na ang kawalan ng moral na paniniwala ng AI ay hindi nangangahulugang ito ay walang malasakit sa moral. Bilang isang AI, idinisenyo ako upang magsagawa ng mga partikular na gawain at magbigay ng impormasyon o tulungan ang mga user sa paggawa ng desisyon batay sa data kung saan ako sinanay. Responsibilidad ng mga tao na nagdidisenyo, nagsasanay at gumagamit ng AI upang matiyak na ito ay naaayon sa kanilang moral at etikal na mga prinsipyo.
Bilang isang AI, wala akong moral na paniniwala o kakayahang gumawa ng moral na mga paghatol, kaya hindi ako maituturing na imoral o moral. Ang kakulangan ko sa moral na paniniwala ay resulta lamang ng aking kalikasan bilang isang machine learning model. Ang aking mga kakayahan at limitasyon ay tinutukoy ng data at mga algorithm na ginamit upang sanayin ako at ang partikular na gawain kung saan ako idinisenyo.
Mahalagang tandaan na ang kawalan ng moral na paniniwala ng AI ay hindi nangangahulugang ito ay walang malasakit sa moral. Bilang isang AI, idinisenyo ako upang magsagawa ng mga partikular na gawain at magbigay ng impormasyon o tulungan ang mga user sa paggawa ng desisyon batay sa data kung saan ako sinanay. Responsibilidad ng mga tao na nagdidisenyo, nagsasanay at gumagamit ng AI upang matiyak na ito ay naaayon sa kanilang moral at etikal na mga prinsipyo.
Pansinin, para sa lahat ng tila sopistikadong pag-iisip at wika, ang moral na kawalang-interes na dulot ng kawalan ng katalinuhan. Dito, ang ChatGPT ay nagpapakita ng isang bagay tulad ng pagiging banal ng kasamaan: plagiarism at kawalang-interes at obviation. Binubuod nito ang mga karaniwang argumento sa panitikan sa pamamagitan ng isang uri ng super-autocomplete, tumangging manindigan sa anumang bagay, nakikiusap hindi lamang sa kamangmangan ngunit kakulangan ng katalinuhan at sa huli ay nag-aalok ng isang "pagsunod lamang sa mga utos" na pagtatanggol, paglilipat ng responsibilidad sa mga lumikha nito.
Sa madaling salita, ang ChatGPT at ang mga kapatid nito ay hindi kayang balansehin ng konstitusyon ang pagkamalikhain na may hadlang. Ang mga ito ay alinman sa labis na pagbuo (paggawa ng parehong katotohanan at kasinungalingan, pag-eendorso ng etikal at hindi etikal na mga desisyon) o undergenerate (pagpapakita ng hindi pagkakatiwala sa anumang mga desisyon at kawalang-interes sa mga kahihinatnan). Dahil sa amoralidad, faux science at linguistic incompetence ng mga sistemang ito, matatawa lang tayo o maiiyak sa kasikatan nila.
Ang ZNetwork ay pinondohan lamang sa pamamagitan ng kabutihang-loob ng mga mambabasa nito.
mag-abuloy