Ang artificial intelligence (AI) ay lumalaganap sa mundo. Binabago nito ang bawat lakad ng buhay at itinataas sa proseso ang mga pangunahing etikal na alalahanin para sa lipunan at sa kinabukasan ng sangkatauhan. Ang ChatGPT, na nangingibabaw sa social media, ay isang chatbot na pinapagana ng AI na binuo ng OpenAI. Isa itong subset ng machine learning at umaasa sa tinatawag na Large Language Models na maaaring makabuo ng mga tugon na tulad ng tao. Ang potensyal na aplikasyon para sa naturang teknolohiya ay talagang napakalaki, kung kaya't mayroon nang mga tawag upang i-regulate ang AI tulad ng ChatGPT.
Maaari bang daigin ng AI ang mga tao? Naghahatid ba ito ng banta sa publiko? Sa katunayan, maaari bang maging isang umiiral na banta ang AI? Ang kilalang linguist sa mundo Noam Chomsky, at isa sa mga pinaka-iginagalang na pampublikong intelektuwal sa lahat ng panahon, na ang intelektwal na tangkad ay inihambing sa kina Galileo, Newton, at Descartes, ay tumatalakay sa mga tanong na ito sa kasunod na panayam.
CJ Polychroniou: Bilang isang siyentipikong disiplina, ang artificial intelligence (AI) ay itinayo noong 1950s, ngunit sa nakalipas na ilang dekada ay pumapasok ito sa lahat ng uri ng larangan, kabilang ang pagbabangko, insurance, pagmamanupaktura ng sasakyan, musika, at pagtatanggol. Sa katunayan, ang paggamit ng mga diskarte sa AI ay ipinakita sa ilang pagkakataon upang malampasan ang mga kakayahan ng tao, tulad ng sa isang laro ng chess. Ang mga makina ba ay malamang na maging mas matalino kaysa sa mga tao?
Noam Chomsky: Para lang linawin ang terminolohiya, ang ibig sabihin ng terminong “machine” dito programa, karaniwang isang teorya na nakasulat sa isang notasyon na maaaring isagawa ng isang computer–at isang hindi pangkaraniwang uri ng teorya sa mga kawili-wiling paraan na maaari nating isantabi dito.
Maaari tayong gumawa ng magaspang na pagkakaiba sa pagitan ng purong engineering at agham. Walang matalim na hangganan, ngunit ito ay isang kapaki-pakinabang na unang pagtataya. Ang purong inhinyero ay naglalayong gumawa ng isang produkto na maaaring may ilang gamit. Ang siyensya ay naghahanap ng pang-unawa. Kung ang paksa ay katalinuhan ng tao, o mga kakayahan sa pag-iisip ng iba pang mga organismo, hinahanap ng agham ang pag-unawa sa mga biological system na ito.
Sa pagkakaintindi ko sa kanila, itinuring ito ng mga tagapagtatag ng AI–Alan Turing, Herbert Simon, Marvin Minsky, at iba pa– bilang agham, bahagi ng umuusbong na mga agham na nagbibigay-malay, na gumagamit ng mga bagong teknolohiya at pagtuklas sa matematikal na teorya ng pagtutuos sa maagang pag-unawa. Sa paglipas ng mga taon, nawala ang mga alalahaning iyon at higit na naalis sa pamamagitan ng isang oryentasyong inhinyero. Ang mga naunang alalahanin ay karaniwang binabalewala na ngayon, kung minsan ay nakakahiya, bilang GOFAI–magandang makalumang AI.
Sa pagpapatuloy ng tanong, malamang na ang mga programa ay gagawa ng higit pa sa mga kakayahan ng tao? Kailangan nating mag-ingat sa salitang "mga kakayahan," para sa mga kadahilanang babalik ako. Ngunit kung gagamitin natin ang termino na tumutukoy sa pagganap ng tao, ang sagot ay: tiyak na oo. Sa katunayan, matagal na silang umiral: ang calculator sa isang laptop, halimbawa. Ito ay maaaring lumampas sa kung ano ang magagawa ng mga tao, kung dahil lamang sa kakulangan ng oras at memorya. Para sa mga saradong sistema tulad ng chess, naiintindihan nang mabuti noong '50s na sa madaling panahon, sa pagsulong ng napakalaking kapasidad sa pag-compute at mahabang panahon ng paghahanda, isang programa ay maaaring gawin upang talunin ang isang grandmaster na naglalaro na may nakatali sa memorya. at oras. Ang mga nakamit na taon mamaya ay medyo PR para sa IBM. Maraming mga biyolohikal na organismo ang lumalampas sa mga kakayahan ng tao sa mas malalim na paraan. Ang mga langgam sa disyerto sa aking likod-bahay ay may maliliit na utak, ngunit higit na lumampas sa mga kakayahan ng tao sa pag-navigate, sa prinsipyo, hindi lamang sa pagganap. Walang Great Chain of Being na may mga tao sa itaas.
Ang mga produkto ng AI engineering ay ginagamit sa maraming larangan, para sa mas mabuti o para sa mas masahol pa. Kahit na ang mga simple at pamilyar ay maaaring maging kapaki-pakinabang: sa lugar ng wika, mga program tulad ng autofill, live na transcription, google translate, bukod sa iba pa. Sa napakalaking kapangyarihan sa pag-compute at mas sopistikadong programming, dapat mayroong iba pang mga kapaki-pakinabang na aplikasyon, sa mga agham din. Mayroon nang ilan: Ang pagtulong sa pag-aaral ng pagtitiklop ng protina ay isang kamakailang kaso kung saan ang napakalaking at mabilis na teknolohiya sa paghahanap ay nakatulong sa mga siyentipiko na harapin ang isang kritikal at mahirap na problema.
Ang mga proyekto sa engineering ay maaaring maging kapaki-pakinabang, o nakakapinsala. Ang parehong mga katanungan ay lumitaw sa kaso ng engineering AI. Ang kasalukuyang gawain sa Large Language Models (LLMs), kabilang ang mga chatbot, ay nagbibigay ng mga tool para sa disinformation, paninirang-puri, at panlilinlang sa mga walang alam. Ang mga banta ay pinahusay kapag pinagsama ang mga ito sa mga artipisyal na larawan at pagtitiklop ng boses. Sa iba't ibang alalahanin sa isip, sampu-sampung libong mga mananaliksik ng AI ang mayroon kamakailan tinatawag para sa isang moratorium sa pag-unlad dahil sa mga potensyal na panganib na kanilang nakikita.
Gaya ng dati, ang mga posibleng benepisyo ng teknolohiya ay kailangang timbangin laban sa mga potensyal na gastos.
Iba't ibang tanong ang lumalabas kapag bumaling tayo sa AI at agham. Dito kailangan ang pag-iingat dahil sa labis at walang ingat na pag-aangkin, na kadalasang pinalalakas sa media. Upang linawin ang mga isyu, isaalang-alang natin ang mga kaso, ilang hypothetical, ilang totoo.
Nabanggit ko ang pag-navigate sa insekto, na isang kamangha-manghang tagumpay. Malaki ang pag-unlad ng mga siyentipikong insekto sa pag-aaral kung paano ito nakakamit, kahit na ang neurophysiology, isang napakahirap na bagay, ay nananatiling mailap, kasama ang ebolusyon ng mga sistema. Totoo rin ito sa kamangha-manghang mga gawa ng mga ibon at pagong sa dagat na naglalakbay ng libu-libong milya at walang-kamali na bumalik sa pinanggalingan.
Ipagpalagay na si Tom Jones, isang tagapagtaguyod ng engineering AI, ay sumama at nagsabi: "Ang lahat ng iyong trabaho ay pinabulaanan. Ang problema ay nalutas. Ang mga piloto ng komersyal na airline ay nakakamit ng pareho o mas mahusay na mga resulta sa lahat ng oras."
Kung nag-aabala man sumagot, matatawa kami.
Kunin ang kaso ng mga pagsasamantala sa paglalayag ng mga Polynesian, na nabubuhay pa sa mga tribong Katutubo, gamit ang mga bituin, hangin, agos upang mapunta ang kanilang mga bangka sa isang itinalagang lugar na daan-daang milya ang layo. Ito rin ang naging paksa ng maraming pananaliksik upang malaman kung paano nila ito ginagawa. May sagot si Tom Jones: “Ihinto ang pag-aaksaya ng iyong oras; ginagawa ito ng mga sasakyang pandagat sa lahat ng oras."
Parehong tugon.
Let's now turn to a real case, language acquisition. Ito ay naging paksa ng malawak at lubos na nagbibigay-liwanag na pananaliksik sa mga nakalipas na taon, na nagpapakita na ang mga sanggol ay may napakayaman na kaalaman sa ambient na wika (o mga wika), na higit pa sa kung ano ang kanilang ipinapakita sa pagganap. Ito ay nakakamit na may kaunting ebidensya, at sa ilang mahahalagang kaso ay wala. Sa pinakamaganda, tulad ng ipinakita ng maingat na istatistikal na pag-aaral, ang mga available na data ay kalat-kalat, lalo na kapag ang rank-frequency ("Zipf's law") ay isinasaalang-alang.
Ipasok ang Tom Jones: "Ikaw ay pinabulaanan. Sa hindi pagbibigay pansin sa iyong mga natuklasan, ang mga LLM na nag-scan ng astronomical na dami ng data ay makakahanap ng mga istatistikal na regularidad na ginagawang posible na gayahin ang data kung saan sila sinanay, na gumagawa ng isang bagay na halos kamukha ng normal na pag-uugali ng tao. Chatbots.”
Ang kasong ito ay naiiba sa iba. Una, ito ay totoo. Pangalawa, hindi tumatawa ang mga tao; sa totoo lang, marami ang humanga. Pangatlo, hindi tulad ng mga hypothetical na kaso, ang aktwal na mga resulta ay malayo sa kung ano ang inaangkin.
Ang mga pagsasaalang-alang na ito ay nagdadala ng isang maliit na problema sa kasalukuyang kasiglahan ng LLM: ang kabuuang kahangalan nito, tulad ng sa mga hypothetical na kaso kung saan kinikilala natin ito nang sabay-sabay. Ngunit may mga mas malubhang problema kaysa sa kahangalan.
Ang isa ay ang mga sistema ng LLM ay idinisenyo sa paraang hindi nila masasabi sa amin ang anumang bagay tungkol sa wika, pag-aaral, o iba pang aspeto ng katalusan, isang bagay na may prinsipyo, hindi na mababago. Doblehin ang terabytes ng data na na-scan, magdagdag ng isa pang trilyong parameter, gumamit ng higit pa sa enerhiya ng California, at ang simulation ng pag-uugali ay gaganda, habang mas malinaw na inilalantad ang kabiguan sa prinsipyo ng diskarte upang magbunga ng anumang pag-unawa. Ang dahilan ay elementarya: Ang mga sistema ay gumagana nang maayos sa mga imposibleng wika na hindi maaaring makuha ng mga sanggol tulad ng sa mga nakuha nila nang mabilis at halos reflexively.
Para bang sasabihin ng isang biologist: “Mayroon akong isang mahusay na bagong teorya ng mga organismo. Naglilista ito ng maraming umiiral at marami na hindi maaaring umiral, at wala akong masasabi sa iyo tungkol sa pagkakaiba.”
Muli, magtawanan kami. O dapat.
Hindi Tom Jones–ang tinutukoy ngayon ay ang mga aktwal na kaso. Sa pagpupursige sa kanyang radikal na pag-alis sa agham, si Tom Jones ay tumugon: "Paano mo malalaman ang alinman sa mga ito hanggang sa maimbestigahan mo ang lahat ng mga wika?" Sa puntong ito ang pag-abandona sa normal na agham ay nagiging mas malinaw. Sa pamamagitan ng pagkakapareho ng argumento, maaari nating itapon ang genetics at molecular biology, ang teorya ng ebolusyon, at ang iba pang mga biological science, na hindi nakapagsample ng higit sa isang maliit na bahagi ng mga organismo. At para sa mabuting sukat, maaari nating palayasin ang lahat ng pisika. Bakit naniniwala sa mga batas ng paggalaw? Gaano karaming mga bagay ang aktwal na naobserbahan sa paggalaw?
Mayroong, bukod pa rito, ang maliit na bagay ng burden of proof. Ang mga nagmumungkahi ng isang teorya ay may responsibilidad na ipakita na ito ay may katuturan, sa kasong ito, na nagpapakita na ito ay nabigo para sa mga imposibleng wika. Hindi responsibilidad ng iba na pabulaanan ang panukala, bagaman sa kasong ito ay tila madaling gawin ito.
Ilipat natin ang atensyon sa normal na agham, kung saan nagiging kawili-wili ang mga bagay. Kahit na ang isang halimbawa ng pagkuha ng wika ay maaaring magbunga ng mayamang pananaw sa pagkakaiba sa pagitan ng posible at imposibleng mga wika.
Ang mga dahilan ay diretso, at pamilyar. Ang lahat ng paglaki at pag-unlad, kabilang ang tinatawag na "pag-aaral," ay isang proseso na nagsisimula sa isang estado ng organismo at binabago ito nang sunud-sunod hanggang sa mga susunod na yugto.
Ang pagkuha ng wika ay isang proseso. Ang paunang estado ay ang biyolohikal na endowment ng faculty ng wika, na malinaw na umiiral, kahit na ito ay, tulad ng paniniwala ng ilan, isang partikular na kumbinasyon ng iba pang mga kapasidad. Malamang na hindi iyon para sa mga kadahilanang matagal nang naiintindihan, ngunit hindi ito nauugnay sa aming mga alalahanin dito, kaya maaari naming isantabi ito. Malinaw na mayroong biological endowment para sa human faculty of language. Ang pinakakatotohanan.
Ang paglipat ay nagpapatuloy sa isang medyo matatag na estado, binago lamang sa mababaw na lampas: kaalaman sa wika. Ang panlabas na data ay nag-trigger at bahagyang hinuhubog ang proseso. Sa pag-aaral sa estadong natamo (kaalaman sa wika) at sa panlabas na datos, makakagawa tayo ng malalayong konklusyon tungkol sa paunang estado, ang biyolohikal na endowment na ginagawang posible ang pagkuha ng wika. Ang mga konklusyon tungkol sa paunang estado ay nagpapataw ng pagkakaiba sa pagitan ng posible at imposibleng mga wika. Ang pagkakaiba ay nagtataglay para sa lahat ng mga nakikibahagi sa paunang estado-lahat ng mga tao, sa abot ng nalalaman; tila walang pagkakaiba sa kapasidad na makakuha ng wika sa mga umiiral na pangkat ng tao.
Ang lahat ng ito ay normal na agham, at nakamit nito ang maraming resulta.
Ipinakita ng eksperimento na ang matatag na estado ay nakuha nang napakaaga, sa pamamagitan ng tatlo hanggang apat na taong gulang. Mahusay din na itinatag na ang faculty ng wika ay may mga pangunahing katangian na partikular sa mga tao, kaya ito ay isang tunay na pag-aari ng species: karaniwan sa mga pangkat ng tao at sa mga pangunahing paraan ay isang natatanging katangian ng tao.
Marami ang naiwan sa schematic account na ito, lalo na ang papel ng natural na batas sa paglago at pag-unlad: sa kaso ng isang computational system tulad ng wika, mga prinsipyo ng computational efficiency. Ngunit ito ang kakanyahan ng bagay. Muli, normal na agham.
Mahalagang maging malinaw tungkol sa pagkakaiba ni Aristotle sa pagitan ng pagkakaroon ng kaalaman at paggamit ng kaalaman (sa kontemporaryong terminolohiya, kakayahan at pagganap). Sa kaso ng wika, ang matatag na estado na nakuha ay ang pagkakaroon ng kaalaman, na naka-code sa utak. Tinutukoy ng internal system ang isang walang hangganang hanay ng mga structured na expression, na ang bawat isa ay maaari nating ituring na bumubuo ng isang kaisipan, bawat isa ay externalizable sa ilang sensorimotor system, kadalasan ay tunog kahit na ito ay sign o kahit na (na may kahirapan) touch.
Ang panloob na naka-code na sistema ay naa-access sa paggamit ng kaalaman (pagganap). Kasama sa pagganap ang panloob na paggamit ng wika sa pag-iisip: pagninilay, pagpaplano, paggunita, at marami pang iba. Sa istatistika, iyon ay ang napakaraming paggamit ng wika. Ito ay hindi naa-access sa pagsisiyasat ng sarili, kahit na marami tayong matututuhan tungkol dito sa pamamagitan ng mga normal na pamamaraan ng agham, mula sa "labas," sa metaporikal na pagsasalita. Ang tinatawag na "panloob na pananalita" ay, sa katunayan, mga fragment ng externalized na wika na may naka-mute na articulatory apparatus. Isa lamang itong malayuang pagmuni-muni ng panloob na paggamit ng wika, mga mahahalagang bagay na hindi ko maaaring ituloy dito.
Ang iba pang anyo ng paggamit ng wika ay ang persepsyon (pag-parse) at produksyon, ang huli ay napakahalagang kinasasangkutan ng mga katangian na nananatiling misteryoso sa atin ngayon tulad noong sila ay itinuturing na may pagkamangha at pagkamangha ni Galileo at ng kanyang mga kontemporaryo sa bukang-liwayway ng modernong agham.
Ang pangunahing layunin ng agham ay upang matuklasan ang panloob na sistema, kapwa sa paunang estado nito sa kakayahan ng tao ng wika at sa mga partikular na anyo na ipinapalagay nito sa pagkuha. Sa lawak na nauunawaan ang panloob na sistemang ito, maaari tayong magpatuloy sa pagsisiyasat kung paano ito pumapasok sa pagganap, nakikipag-ugnayan sa maraming iba pang mga salik na pumapasok sa paggamit ng wika.
Ang data ng pagganap ay nagbibigay ng katibayan tungkol sa likas na katangian ng panloob na sistema, lalo na kapag ang mga ito ay pinino sa pamamagitan ng eksperimento, tulad ng sa karaniwang gawain sa larangan. Ngunit kahit na ang pinaka-napakalaking koleksyon ng data ay kinakailangang nakaliligaw sa mga mahahalagang paraan. Pinananatili nito ang karaniwang ginagawa, hindi ang kaalaman sa wikang naka-code sa utak, ang pangunahing bagay na sinisiyasat para sa mga gustong maunawaan ang kalikasan ng wika at ang paggamit nito. Tinutukoy ng panloob na bagay na iyon ang walang katapusang maraming posibilidad ng isang uri na hindi gagamitin sa normal na pag-uugali dahil sa mga salik na hindi nauugnay sa wika, tulad ng mga limitasyon sa panandaliang memorya, mga paksang pinag-aralan 60 taon na ang nakakaraan. Kasama rin sa naobserbahang data ang marami sa labas ng system na naka-code sa utak, kadalasang may kamalayan sa paggamit ng wika sa mga paraan na lumalabag sa mga panuntunan para sa mga layunin ng retorika. Ito ay mga katotohanang alam ng lahat ng mga manggagawa sa larangan, na umaasa sa mga diskarte sa elicitation na may mga impormante, karaniwang mga eksperimento, upang magbunga ng isang pinong corpus na hindi kasama ang mga hindi nauugnay na paghihigpit at mga deviant na pagpapahayag. Totoo rin kapag ginagamit ng mga linggwista ang kanilang sarili bilang mga impormante, isang ganap na makatwiran at normal na pamamaraan, karaniwan sa kasaysayan ng sikolohiya hanggang sa kasalukuyan.
Sa karagdagang pagpapatuloy sa normal na agham, nakita namin na ang mga panloob na proseso at elemento ng wika ay hindi matukoy sa pamamagitan ng inspeksyon ng mga naobserbahang phenomena. Kadalasan ang mga elementong ito ay hindi man lang lumilitaw sa pagsasalita (o pagsulat), kahit na ang mga epekto nito, kadalasang banayad, ay maaaring makita. Iyon ay isa pang dahilan kung bakit ang paghihigpit sa mga naobserbahang phenomena, tulad ng sa LLM approaches, ay mahigpit na nililimitahan ang pag-unawa sa mga panloob na proseso na mga pangunahing bagay ng pagtatanong sa kalikasan ng wika, ang pagkuha at paggamit nito. Ngunit hindi iyon nauugnay kung ang pagmamalasakit sa agham at pag-unawa ay tinalikuran pabor sa iba pang mga layunin.
Sa pangkalahatan sa mga agham, sa loob ng millennia, ang mga konklusyon ay naabot ng mga eksperimento–kadalasang pag-iisip na mga eksperimento–bawat isa ay isang radikal na abstraction mula sa mga phenomena. Ang mga eksperimento ay batay sa teorya, na naglalayong itapon ang hindi mabilang na hindi nauugnay na mga salik na pumapasok sa mga naobserbahang phenomena–tulad ng linguistic na pagganap. Ang lahat ng ito ay napaka elementarya na ito ay bihirang pag-usapan. At pamilyar. Tulad ng nabanggit, ang pangunahing pagkakaiba ay bumalik sa pagkakaiba ni Aristotle sa pagitan ng pagkakaroon ng kaalaman at paggamit ng kaalaman. Ang una ay ang pangunahing bagay ng pag-aaral. Ang mga pangalawang (at medyo seryoso) na pag-aaral ay nag-iimbestiga kung paano ang panloob na nakaimbak na sistema ng kaalaman ay ginagamit sa pagganap, kasama ang maraming di-linguistic na mga kadahilanan kaysa sa pagpasok sa kung ano ang direktang sinusunod.
Maaari rin nating maalala ang isang obserbasyon ng evolutionary biologist na si Theodosius Dobzhansky, na sikat lalo na sa kanyang trabaho kasama si Drosophila: Ang bawat species ay natatangi, at ang mga tao ay ang natatangi sa lahat. Kung interesado tayong unawain kung anong uri tayo ng mga nilalang–pagsunod sa utos ng Delphic Oracle 2,500 taon na ang nakalilipas–pangunahing mag-aalala tayo sa kung ano ang dahilan kung bakit ang mga tao ang natatangi sa lahat, pangunahin ang wika at kaisipan, malapit na magkakaugnay, gaya ng kinikilala sa isang mayamang tradisyon na bumalik sa klasikal na Greece at India. Karamihan sa mga pag-uugali ay medyo nakagawian, kaya sa ilang mga lawak ay mahuhulaan. Ang nagbibigay ng tunay na insight sa kung bakit tayo natatangi ay kung ano ang hindi nakagawian, na nakikita natin, minsan sa pamamagitan ng eksperimento, minsan sa pamamagitan ng pagmamasid, mula sa mga normal na bata hanggang sa mahuhusay na artista at siyentipiko.
Isang huling komento sa koneksyon na ito. Ang lipunan ay sinalanta sa loob ng isang siglo ng napakalaking corporate campaign para hikayatin ang paghamak sa agham, mga paksang mahusay na pinag-aralan ni Naomi Oreskes bukod sa iba pa. Nagsimula ito sa mga korporasyon na ang mga produkto ay nakamamatay: tingga, tabako, asbestos, kalaunan ay mga fossil fuel. Ang kanilang mga motibo ay naiintindihan. Ang layunin ng isang negosyo sa isang kapitalistang lipunan ay tubo, hindi ang kapakanan ng tao. Iyan ay isang institusyonal na katotohanan: Huwag maglaro at ikaw ay nasa labas, na papalitan ng isang taong gagawin.
Maagang nakilala ng mga corporate PR departments na isang pagkakamali na tanggihan ang tumataas na siyentipikong ebidensya ng mga nakamamatay na epekto ng kanilang mga produkto. Madaling mapabulaanan iyon. Mas mabuting maghasik ng pag-aalinlangan, hikayatin ang kawalan ng katiyakan, paghamak para sa mga matulis na terno na ito na hindi kailanman nagpinta ng bahay ngunit bumaba mula sa Washington upang sabihin sa akin na huwag gumamit ng pintura ng tingga, na sinisira ang aking negosyo (isang tunay na kaso, madaling dumami). Iyon ay nagtrabaho nang husto. Sa ngayon ay inaakay tayo nito sa landas tungo sa pagkawasak ng organisadong buhay ng tao sa lupa.
Sa mga intelektwal na bilog, ang mga katulad na epekto ay ginawa ng postmodern na pagpuna sa agham, lansag ni Jean Bricmont at Alan Sokal, ngunit buhay pa rin sa ilang mga lupon.
Maaaring hindi mabait na imungkahi ang tanong, ngunit, sa palagay ko, makatarungang itanong kung ang mga Tom Jones at ang mga walang pasubali na umuulit at nagpapalaki pa ng kanilang mga walang ingat na pagpapahayag ay nag-aambag sa parehong mga masamang tendensya.
CJP: Ang ChatGPT ay isang natural-language-driven na chatbot na gumagamit ng artificial intelligence upang payagan ang mga pag-uusap na parang tao. Sa isang kamakailang artikulo sa Ang New York Times, kasabay ng dalawa pang may-akda, isinara mo ang mga bagong chatbot bilang isang hype dahil hindi nila kayang pantayan ang kakayahan sa wika ng mga tao. Gayunpaman, hindi ba posible na ang mga inobasyon sa hinaharap sa AI ay makakagawa ng mga proyektong pang-inhinyero na tutugma at marahil ay hihigit pa sa mga kakayahan ng tao?
NC: Ang kredito para sa artikulo ay dapat ibigay sa aktwal na may-akda, si Jeffrey Watumull, isang mahusay na mathematician-linguist-pilosopo. Ang dalawang nakalistang co-authors ay mga consultant, na sumasang-ayon sa artikulo ngunit hindi ito isinulat.
Totoo na ang mga chatbot sa prinsipyo ay hindi maaaring tumugma sa linguistic na kakayahan ng mga tao, para sa mga kadahilanang inulit sa itaas. Ang kanilang pangunahing disenyo ay humahadlang sa kanila na maabot ang pinakamababang kondisyon ng kasapatan para sa isang teorya ng wika ng tao: ang pagkakaiba ng posible mula sa mga imposibleng wika. Dahil iyon ay isang pag-aari ng disenyo, hindi ito maaaring madaig ng mga inobasyon sa hinaharap sa ganitong uri ng AI. Gayunpaman, lubos na posible na ang mga proyektong pang-inhinyero sa hinaharap ay magkatugma at higit pa sa mga kakayahan ng tao, kung ang ibig nating sabihin ay ang kakayahan ng tao na kumilos, ang pagganap. Gaya ng nabanggit sa itaas, matagal nang ginawa ng ilan: mga awtomatikong calculator halimbawa. Higit na kawili-wili, tulad ng nabanggit, ang mga insekto na may maliliit na utak ay higit sa mga kapasidad ng tao na nauunawaan bilang kakayahan.
CJP: Sa nabanggit na artikulo, napagmasdan din na ang mga proyekto ng AI ngayon ay walang moral na faculty ng tao. Ginagawa ba nitong malinaw na katotohanan na ang mga robot ng AI ay hindi gaanong banta sa sangkatauhan? Inaasahan ko na ang argumento ay maaaring ito ay maaaring maging higit pa sa kanila.
NC: Ito ay talagang isang malinaw na katotohanan, ang pag-unawa sa "moral faculty" nang malawak. Maliban kung maingat na kinokontrol, ang AI engineering ay maaaring magdulot ng matinding banta. Ipagpalagay, halimbawa, ang pangangalaga sa mga pasyente ay awtomatiko. Ang hindi maiiwasang mga pagkakamali na malalampasan ng paghatol ng tao ay maaaring makabuo ng isang nakakatakot na kuwento. O ipagpalagay na ang mga tao ay inalis mula sa pagsusuri ng mga banta na tinutukoy ng mga automated missile-defense system. Bilang isang nakagigimbal na rekord sa kasaysayan informs sa amin, iyon ang magiging katapusan ng sibilisasyon ng tao.
Maliban kung maingat na kinokontrol, ang AI engineering ay maaaring magdulot ng matinding banta.
CJP: Ang mga regulator at ahensyang nagpapatupad ng batas sa Europe ay naglalabas ng mga alalahanin tungkol sa pagkalat ng ChatGPT habang ang isang kamakailang isinumiteng piraso ng batas ng European Union ay sinusubukang harapin ang AI sa pamamagitan ng pag-uuri ng mga naturang tool ayon sa kanilang nakikitang antas ng panganib. Sumasang-ayon ka ba sa mga nag-aalala na ang ChatGPT ay nagdudulot ng malubhang banta sa publiko? Bukod dito, sa palagay mo ba ay maaaring ihinto ang karagdagang pag-unlad ng mga tool ng AI hanggang sa maipakilala ang mga pag-iingat?
NC: Madali akong nakikiramay sa mga pagsisikap na subukang kontrolin ang mga banta na dulot ng advanced na teknolohiya, kabilang ang kasong ito. Ako, gayunpaman, ay nag-aalinlangan tungkol sa posibilidad na gawin ito. Hinala ko na wala sa bote ang genie. Ang mga nakakahamak na aktor–institusyonal o indibidwal–ay maaaring makahanap ng mga paraan upang maiwasan ang mga pananggalang. Ang ganitong mga hinala ay siyempre walang dahilan upang hindi subukan, at mag-ehersisyo ng pagbabantay.
Ang ZNetwork ay pinondohan lamang sa pamamagitan ng kabutihang-loob ng mga mambabasa nito.
mag-abuloy