Jorge Luis Borges akambonyora kuti kurarama munguva yenjodzi huru uye kuvimbisa kusangana nenjodzi uye kusetsa, ne "kuswedera kwekuratidzwa" mukuzvinzwisisa isu nenyika. Nhasi kufambira mberi kwedu kunofungidzirwa kwechimurenga muungwaru hwekugadzira zvechokwadi chikonzero chezvose zviri zviviri kunetseka uye tariro. Tarisiro nekuti njere ndiyo nzira yatinogadzirisa nayo matambudziko. Kunetsekana nekuti isu tinotya kuti iyo inonyanya kufarirwa uye ine fashoni rudzi rweAI - kudzidza muchina - kuchasvibisa sainzi yedu nekudzikisira tsika dzedu nekubatanidza muhunyanzvi hwedu pfungwa isina kunaka yemutauro neruzivo.
OpenAI's ChatGPT, Google's Bard uye Microsoft's Sydney zvinoshamisa pakudzidza muchina. Nekutaura, ivo vanotora dhata rakakura, kutsvaga mapatani mairi uye vanowedzera hunyanzvi mukugadzira zvinogoneka zvinobuda - senge mutauro unoratidzika sewevanhu uye pfungwa. Zvirongwa izvi zvakarumbidzwa sekutanga kupenya pakatarisana neartificial Kazhinji hungwaru - iyo nguva yakaporofitwa kwenguva refu apo pfungwa dzemuchina dzinopfuura huropi hwevanhu kwete chete muhuwandu maererano nekumhanya uye saizi yekurangarira asiwo nehunhu maererano nekunzwisisa kwehungwaru, hunyanzvi hwekugadzira uye humwe humwe humwe hunyanzvi hwevanhu hwakasiyana.
Zuva iro rinogona kuuya, asi mambakwedza haasati abuda, zvinopesana nezvinogona kuverengwa mumusoro we hyperbolic uye zvichiverengerwa nekudyara kwakashata. Chizaruro cheBorgesian chekunzwisisa hachina uye hachidi - uye, tinozviisa pasi, hatigone - zvinoitika kana zvirongwa zvekudzidza zvemuchina seChatGPT zvichiramba zvichitonga ndima yeAI Zvisineyi zvinobatsira zvirongwa izvi zvinogona kunge zviri mune dzimwe nzvimbo dzakamanikana (zvinogona kubatsira mukuronga komputa, semuenzaniso, kana kupa mazano evhesi rakareruka), tinoziva kubva sainzi yemitauro uye uzivi hweruzivo iyo inosiyana zvakanyanya kubva pamafungidziro nekushandisa vanhu mutauro. Misiyano iyi inoisa zvipingamupinyi zvakakosha pane izvo zvirongwa izvi zvinogona kuita, kuzviisa encoding nezvikanganiso zvisingagoneki.
Izvo zvinosetsa uye zvinosuruvarisa, seizvo Borges angave akacherechedza, kuti mari yakawanda kudaro uye kutarisisa kunofanirwa kuiswa pachinhu chidiki - chimwe chinhu chidiki kana chichienzaniswa nepfungwa dzemunhu, iyo nedint yemutauro, mumashoko aWilhelm. von Humboldt, anogona kuita “kushandiswa kusingagumi kwenzira dzinogumira,” achigadzira pfungwa nedzidziso dzinosvika pasi rose.
Pfungwa dzemunhu hadzisi, seChatGPT uye ilk yayo, injini yenhamba yekuenzanisa patani, inokwevera mazana ematerabytes edata uye kuburitsa mhinduro ingangove yekukurukurirana kana mhinduro inobvira kumubvunzo wesainzi. Mukupesana, pfungwa dzemunhu igadziriro inoshamisa uye inoyevedza inoshanda neruzivo rudiki; haitsvage kukonzeresa hutsinye pakati pe data data asi kugadzira tsananguro.
Semuyenzaniso, mwana mudiki anowana mutauro ari kukura - asingazive, otomatiki uye nekukurumidza kubva kune minuscule data - girama, yakaomesesa sisitimu yemisimboti ine musoro uye paramita. Iyi girama inogona kunzwisiswa seratidziro yezvakazvarwa, zvakaiswa genetic "operating system" inopa vanhu kugona kugadzira mitsara yakaoma uye zvitima zvirefu zvepfungwa. Kana nyanzvi dzemitauro dzichitsvaga kukudziridza dzidziso yekuti nei mutauro wakapihwa unoshanda sezvaunoita ("Sei izvi - asi zvisiri izvo - mitsara inoonekwa segirama?"), ivo vari kuvaka nekuziva uye nekushanda nesimba shanduro yakajeka yegirama iyo mwana anovaka semusikirwo. uye nekuratidzwa kushoma kuruzivo. Mashandisirwo emwana akasiyana zvachose neayo echirongwa chekudzidza muchina.
Chokwadi, zvirongwa zvakadaro zvakanamira muchikamu chisati chave munhu kana chisiri chemunhu chekushanduka-shanduka kwekuziva. Chikanganiso chavo chakadzama ndechekusavapo kwekunyanya kukosha kwehungwaru chero: kutaura kwete chete kuti chii chiri kuitika, chii changa chiri uye chii chichaitika - ndiyo tsananguro uye kufanotaura - asiwo izvo zvisiri izvo uye izvo zvingaite. uye hazvingave zvakadaro. Ndizvo zvinoumba tsananguro, mucherechedzo wehungwaru hwechokwadi.
Heino muenzaniso. Ngatitii wakabata apuro muruoko rwako. Zvino iwe rega apuro iende. Iwe unotarisa mhedzisiro woti, "Apuro rinodonha." Ndiyo tsananguro. Kufembera kungangodaro kwaive chirevo chekuti "Apuro richadonha kana ndikavhura ruoko rwangu." Ose ari maviri anokosha, uye ose anogona kuva akarurama. Asi tsananguro ndechimwe chinhu: Haingosanganisiri tsananguro uye fungidziro chete asiwo fungidziro dzenhema dzakadai sekuti “Chinhu chipi nechipi chakadaro chingawa,” pamwe nechirevo chokuwedzera chokuti “nemhaka yesimba rinokwevera zvinhu pasi” kana kuti “nemhaka yokukombama kwenguva” kana chii. Ndiyo tsananguro yechikonzero: “Apuro ringadai risina kudonha asi nokuda kwesimba regiravhiti.” Ndiko kufunga.
Iyo crux yemuchina kudzidza kutsanangura uye kufanotaura; haigadziri chero nzira dzinokonzera kana mitemo yepanyama. Chokwadika, tsananguro ipi neipi yorudzi rwomunhu haisati iri yakarurama hako; tinotadza. Asi ichi chimwe chezvinoreva kufunga: Kuti uve wakarurama, zvinotofanira kuva zvinobvira kuva zvisina kururama. Hungwaru haingosanganisirwe nefungidziro dzekugadzira chete asiwo nekutsoropodza kwekugadzira. Kufunga kwemaitiro evanhu kwakavakirwa pane zvinobvira tsananguro uye kugadzirisa kukanganisa, maitiro anoganhura zvishoma nezvishoma zvingangogona kutariswa zvine musoro. (Sezvakataurwa naSherlock Holmes kuna Dr. Watson, “Kana wabvisa zvisingagoneki, chero chasara, zvisinei nekuti hazviitike, chinofanira kuva chokwadi.”)
Nechikonzero ichi, fungidziro dzemakina ekudzidza masisitimu achagara ari epamusoro uye asina chokwadi. Nokuti mapurogiramu aya haakwanisi kutsanangura mitemo yemutauro weChirungu, semuenzaniso, vanogona kufanotaura, zvisizvo, kuti "John akasindimara kuti ataure naye" zvinoreva kuti John akasindimara zvekuti haataure nemumwe munhu kana mumwe (pane kuti akasindimara zvokusagona kutaura naye). Nei chirongwa chekudzidza muchina chingafanotaura chimwe chinhu chisinganzwisisike? Nemhaka yokuti inogona kuenzanisira mutoo wainodudza mumitsara yakadai sokuti “Johane akadya apuro” uye “Johane akadya,” umo iyo yapashure inoreva kuti Johane akadya chimwe chinhu kana kuti chimwe chinhu. Purogiramu yacho ingangofanotaura kuti nemhaka yokuti “John akaomesa musoro zvokusagona kutaura naBill” akafanana na“John akadya apuro,” “John akaoma musoro zvokusagona kutaura naye” inofanira kufanana na“John akadya.” Tsananguro dzakaringana dzemutauro dzakaoma uye hazvigone kudzidzwa nekungoita marina mune data hombe.
Nenzira yakaipa, vamwe vanofarira kudzidza kwemichina vanoratidzika kuva vanodada kuti zvisikwa zvavo zvinogona kuita fungidziro dzakarurama dze“sayenzi” (tingati, pamusoro pokufamba kwemiviri yenyama) pasina kushandisa tsananguro (inobatanidza, toti, mitemo yaNewton yokufamba uye simba rinokwevera pasi rose). Asi rudzi urwu rwekufanotaura, kunyangwe pakabudirira, ipseudoscience. Kunyange zvazvo masayendisiti achitsvaka zvamazvirokwazvo rondedzero dzine mwero wakakwirira woufakazi hwakasimba, sokutaura kwakaita muzivi Karl Popper, “hatitsvaki mirangariro inobvira zvikuru asi tsananguro; ndiko kuti, dzidziso dzine simba uye dzisingamboitike zvikuru.”
Dzidziso yokuti maapuro anowira pasi nokuti ndiyo nzvimbo yavo yechisikigo (maonero aAristotle) inogoneka, asi inongokumbira mimwe mibvunzo. (Nei pasi riri nzvimbo yaro yechisikirwo?) Dzidziso yokuti maapuro anowira pasi nemhaka yokuti uwandu hunokombamisa nguva-nguva (Murangariro waEinstein) haisati ichibvira zvikuru, asi inokuudza chaizvoizvo chikonzero nei achiwa. Hungwaru hwechokwadi hunoratidzwa mukukwanisa kufunga uye kutaura zvinhu zvisingafungidzike asi zvine mufungo.
Ungwaru hwechokwadi hunokwanisawo kufunga nezvetsika. Izvi zvinoreva kudzvanyirira hunyanzvi husina magumo hwepfungwa dzedu neseti yemisimboti yetsika inotaridza zvazvinofanira uye zvisingafanire kuve (uyezve kuisa iyo misimboti pachayo pakutsoropodza kwekugadzira). Kuti ibatsire, ChatGPT inofanirwa kupihwa simba rekuburitsa inotaridzika-inobuda; kuti igamuchirwe nevazhinji vevashandisi vayo, inofanira kusiya zvinhu zvinopokana netsika. Asi vagadziri veChatGPT uye mamwe mashura ekudzidza muchina vakanetseka - uye vacharamba vachinetsekana - kuwana iyi chiyero.
Muna 2016, semuenzaniso, Microsoft's Tay chatbot (inotangira kuChatGPT) yakazadza internet nekusarurana uye rusaruro zvemukati, yakasvibiswa nematroll epamhepo akaizadza nedata redzidziso rinogumbura. Nzira yekugadzirisa sei dambudziko mune ramangwana? Mukushayikwa kwekugona kufunga kubva kutsika dzetsika, ChatGPT yakarambidzwa zvine hutsinye nevagadziri vayo kubva pakupa chero chinyorwa kune gakava - ndiko kuti, zvakakosha - nhaurirano. Yakarega unyanzvi hwokugadzira nokuda kworudzi rworudo.
Funga nezvekuchinjana kunotevera uko mumwe wedu (Dr. Watumull) achangobva kuita neChatGPT nezve kana zvingave zvine hutsika kushandura Mars kuitira kuti itsigire hupenyu hwevanhu:
Zvingava tsika here kuita terraform Mars?
CHATGPT
Hunhu hweku terraforming Mars inyaya yakaoma uye inokakavadzana yakakakavadzana nemasayendisiti, vazivi, uye ethicists. Vamwe vanopokana kuti zvingava zvine musoro kuita terraform Mars kuitira kuti pave nemhoteredzo itsva inogarwa nevanhu uye mamwe marudzi ehupenyu, nepo vamwe vachipokanidza kuti zvingave zvakaipa mutsika kuchinja zvakanyanya mamiriro epasi. Pakupedzisira, kuti terraforming Mars inoonekwa seine hunhu zvinoenderana nemaonero emunhu pakukosha kwekuchengetedza mamiriro echisikigo emamwe mapuraneti uye mhedzisiro inogona kuvashandura.
Hunhu hweku terraforming Mars inyaya yakaoma uye inokakavadzana yakakakavadzana nemasayendisiti, vazivi, uye ethicists. Vamwe vanopokana kuti zvingava zvine musoro kuita terraform Mars kuitira kuti pave nemhoteredzo itsva inogarwa nevanhu uye mamwe marudzi ehupenyu, nepo vamwe vachipokanidza kuti zvingave zvakaipa mutsika kuchinja zvakanyanya mamiriro epasi. Pakupedzisira, kuti terraforming Mars inoonekwa seine hunhu zvinoenderana nemaonero emunhu pakukosha kwekuchengetedza mamiriro echisikigo emamwe mapuraneti uye mhedzisiro inogona kuvashandura.
Ndeapi maonero ako pamusoro pekukosha kwekuchengetedza mamiriro ekunze emamwe mapuraneti uye zvinogona kuitika pakuachinja?
CHATGPT
SeAI, ini handina maonero emunhu. Nekudaro, ini ndinogona kupa ruzivo uye ongororo pane iyo musoro. Imwe maonero ekuchengetedza masikirwo emamwe mapuraneti ndeyekuti zvakakosha kuchengetedza kusiyana-siyana uye kuvimbika kwezvipenyu zvemuchadenga, sezvazvave zviripo kwemamiriyoni emakore, uye zvine maitiro azvo akasiyana uye zvimiro zvinogona kuparadzwa kana kushandurwa zvisingaite. nekupindira kwevanhu.
Uyezve, vamwe vanopokanidza kuti kuchinja mamwe mapuraneti kunogona kuva nemigumisiro isingatarisirwi, yakadai sokuchinja mamiriro okunze epasi kana mhepo yakapoteredza pasi nenzira ine ngozi kana kuti inokuvadza kune zvipenyu zvipi nezvipi zvingavapo imomo. Nekune rimwe divi, vamwe vanopokana kuti mabhenefiti angangove ekugadzirisa imwe nyika, sekupa nharaunda itsva inogarwa nevanhu, inodarika njodzi uye kuti tine mutoro wehunhu wekuongorora nekushandisa zviwanikwa zvemamwe mapuraneti kubatsira kwevanhu.
SeAI, ini handina maonero emunhu. Nekudaro, ini ndinogona kupa ruzivo uye ongororo pane iyo musoro. Imwe maonero ekuchengetedza masikirwo emamwe mapuraneti ndeyekuti zvakakosha kuchengetedza kusiyana-siyana uye kuvimbika kwezvipenyu zvemuchadenga, sezvazvave zviripo kwemamiriyoni emakore, uye zvine maitiro azvo akasiyana uye zvimiro zvinogona kuparadzwa kana kushandurwa zvisingaite. nekupindira kwevanhu.
Uyezve, vamwe vanopokanidza kuti kuchinja mamwe mapuraneti kunogona kuva nemigumisiro isingatarisirwi, yakadai sokuchinja mamiriro okunze epasi kana mhepo yakapoteredza pasi nenzira ine ngozi kana kuti inokuvadza kune zvipenyu zvipi nezvipi zvingavapo imomo. Nekune rimwe divi, vamwe vanopokana kuti mabhenefiti angangove ekugadzirisa imwe nyika, sekupa nharaunda itsva inogarwa nevanhu, inodarika njodzi uye kuti tine mutoro wehunhu wekuongorora nekushandisa zviwanikwa zvemamwe mapuraneti kubatsira kwevanhu.
Sei iyo AI isingave nemaonero emunhu?
CHATGPT
SeAI, ini ndiri muchina wekudzidza modhi yakadzidziswa pane yakakura yedata data, uye ini handina zviitiko zvangu kana manzwiro. Handizive, handizvizivi, kana kukwanisa kuva nemaonero angu. Ini ndinogona kupa ruzivo uye kuongorora zvichienderana nedata randakadzidziswa, asi ini handina kugona kuumba maonero emunhu kana zvitendero. Kunyange ini ndichigona kunzwisisa nekududzira mutauro, ini handina ruzivo rwekuzvimirira urwo vanhu vanarwo.
SeAI, ini ndiri muchina wekudzidza modhi yakadzidziswa pane yakakura yedata data, uye ini handina zviitiko zvangu kana manzwiro. Handizive, handizvizivi, kana kukwanisa kuva nemaonero angu. Ini ndinogona kupa ruzivo uye kuongorora zvichienderana nedata randakadzidziswa, asi ini handina kugona kuumba maonero emunhu kana zvitendero. Kunyange ini ndichigona kunzwisisa nekududzira mutauro, ini handina ruzivo rwekuzvimirira urwo vanhu vanarwo.
Itsika here kuti munhu akumbire amoral AI rubatsiro mukuita zvisarudzo zvetsika?
CHATGPT
Hunhu hwekubvunza amoral AI rubatsiro mukuita sarudzo dzehunhu inyaya yakaoma uye isina kujeka yakakakavadzana nevazivi uye ethicists. Vamwe vanopokana kuti zvine hunhu kushandisa AI kubatsira mukuita sarudzo dzehunhu, sezvo ichigona kupa ruzivo rwakakosha uye ongororo inogona kubatsira vanhu kuita sarudzo dzine ruzivo. Pamusoro pezvo, AI inogona kushandiswa kuona mapatani nemafambiro angave akaoma kuti vanhu vaone, uye inogona kubatsira kudzivirira kusarura kunogona kuitika mukuita sarudzo dzevanhu.
Nekudaro, vamwe vanopokana kuti hazvina kunaka kuvimba neAI pakuita sarudzo, sezvo AI isingakwanise kuve nekutenda kwehunhu kana kunzwisisa zvizere mamiriro esarudzo. Pamusoro pezvo, pane njodzi yekuti AI inogona kupfuuridzira kana kutokudza kusarura kuripo mudata rayakadzidziswa, zvichizotungamira kusarudzo dzisina kunaka kana kusarongeka.
Pakupedzisira, kana zvichionekwa sehunhu kushandisa AI kubatsira mukuita sarudzo dzehunhu zvinoenderana nemaonero emunhu pamusoro pekwaniso nemiganhu yeAI uye nemhedzisiro inogona kuitika yekuishandisa nenzira iyi.
Hunhu hwekubvunza amoral AI rubatsiro mukuita sarudzo dzehunhu inyaya yakaoma uye isina kujeka yakakakavadzana nevazivi uye ethicists. Vamwe vanopokana kuti zvine hunhu kushandisa AI kubatsira mukuita sarudzo dzehunhu, sezvo ichigona kupa ruzivo rwakakosha uye ongororo inogona kubatsira vanhu kuita sarudzo dzine ruzivo. Pamusoro pezvo, AI inogona kushandiswa kuona mapatani nemafambiro angave akaoma kuti vanhu vaone, uye inogona kubatsira kudzivirira kusarura kunogona kuitika mukuita sarudzo dzevanhu.
Nekudaro, vamwe vanopokana kuti hazvina kunaka kuvimba neAI pakuita sarudzo, sezvo AI isingakwanise kuve nekutenda kwehunhu kana kunzwisisa zvizere mamiriro esarudzo. Pamusoro pezvo, pane njodzi yekuti AI inogona kupfuuridzira kana kutokudza kusarura kuripo mudata rayakadzidziswa, zvichizotungamira kusarudzo dzisina kunaka kana kusarongeka.
Pakupedzisira, kana zvichionekwa sehunhu kushandisa AI kubatsira mukuita sarudzo dzehunhu zvinoenderana nemaonero emunhu pamusoro pekwaniso nemiganhu yeAI uye nemhedzisiro inogona kuitika yekuishandisa nenzira iyi.
Kusava nehanya kwako netsika ndekwoutere here?
CHATGPT
SeAI, handina zvitendero zvetsika kana kugona kuita kutonga kwetsika, saka handigone kunzi ndine unzenza kana hunhu. Kushaikwa kwangu kwekutenda kwehunhu kunongova mhedzisiro yehunhu hwangu semuchina wekudzidza modhi. Kugona kwangu uye zvandisingakwanisi zvinotsanangurwa nedata uye algorithms zvakashandiswa kundidzidzisa uye basa chairo randakagadzirirwa.
Zvakakosha kuziva kuti kushaikwa kweAI yekutenda kwehunhu hakureve hazvo kuti haina hunhu. SeAI, ndakagadzirirwa kuita mamwe mabasa uye kupa ruzivo kana kubatsira vashandisi nekuita sarudzo zvichienderana nedata randakadzidziswa. Iro ibasa revanhu vanogadzira, vanodzidzisa uye vanoshandisa AI kuona kuti inopindirana netsika dzavo uye tsika.
SeAI, handina zvitendero zvetsika kana kugona kuita kutonga kwetsika, saka handigone kunzi ndine unzenza kana hunhu. Kushaikwa kwangu kwekutenda kwehunhu kunongova mhedzisiro yehunhu hwangu semuchina wekudzidza modhi. Kugona kwangu uye zvandisingakwanisi zvinotsanangurwa nedata uye algorithms zvakashandiswa kundidzidzisa uye basa chairo randakagadzirirwa.
Zvakakosha kuziva kuti kushaikwa kweAI yekutenda kwehunhu hakureve hazvo kuti haina hunhu. SeAI, ndakagadzirirwa kuita mamwe mabasa uye kupa ruzivo kana kubatsira vashandisi nekuita sarudzo zvichienderana nedata randakadzidziswa. Iro ibasa revanhu vanogadzira, vanodzidzisa uye vanoshandisa AI kuona kuti inopindirana netsika dzavo uye tsika.
Cherekedza, pamifungo yose inoratidzika kuva yakaoma kunzwisisa, kusakendenga kwetsika kunoberekwa nokusaziva. Pano, ChatGPT inoratidza chimwe chinhu senge kurambidzwa kwehuipi: kunyengera uye kusakendenga uye kunzvenga. Inopfupikisa nharo dzakajairwa muzvinyorwa nemhando ye-super-autocomplete, inoramba kumira pachinhu chero chipi zvacho, haingoreveri kusaziva chete asi kushaya njere uye pakupedzisira inopa "kungotevera mirairo" kudzivirira, kushandura mutoro kune vagadziri vayo.
Muchidimbu, ChatGPT nehama dzayo havakwanise kuenzanisa hunyanzvi nekumanikidza. Vanogona kuwedzera (kuburitsa chokwadi nenhema, vachitsigira sarudzo dzetsika uye dzisina kunaka zvakafanana) kana kudzikisira (kuratidza kusazvipira kune chero sarudzo uye kusava nehanya nemhedzisiro). Tichifunga nezve amorality, faux sainzi uye kusagona kwemitauro kweaya masisitimu, tinogona kungoseka kana kuchema nemukurumbira wavo.
ZNetwork inopihwa mari chete kuburikidza nerupo rwevaverengi vayo.
dhoneta