Jorge Luisas Borgesas kažkada rašė, kad gyventi didžiulio pavojaus ir pažadų metu reiškia patirti ir tragediją, ir komediją, o suprasti save ir pasaulį „gresia apreiškimas“. Šiandien mūsų tariamai revoliucinė dirbtinio intelekto pažanga iš tiesų kelia susirūpinimą ir optimizmą. Optimizmas, nes intelektas yra priemonė, kuria mes sprendžiame problemas. Susirūpinimas, nes baiminamės, kad populiariausia ir madingiausia dirbtinio intelekto atmaina – mašininis mokymasis – pažemins mūsų mokslą ir pažemins mūsų etiką, įtraukdamas į mūsų technologijas iš esmės klaidingą kalbos ir žinių sampratą.
OpenAI ChatGPT, Google Bard ir Microsoft Sidnėjus yra mašininio mokymosi stebuklai. Grubiai tariant, jie paima didžiulius duomenų kiekius, ieško juose šablonų ir vis labiau įgudo generuoti statistiškai tikėtinus rezultatus, pavyzdžiui, iš pažiūros žmogišką kalbą ir mintis. Šios programos buvo sveikinamos kaip pirmosios dirbtinės programos bendras intelektas – tai seniai pranašauta akimirka, kai mechaninis protas pranoksta žmogaus smegenis ne tik kiekybiškai pagal apdorojimo greitį ir atminties dydį, bet ir kokybiškai pagal intelektualinę įžvalgą, meninį kūrybiškumą ir visus kitus išskirtinai žmogiškus gebėjimus.
Ta diena gali ateis, bet jos aušra dar nešviečia, priešingai nei galima perskaityti hiperbolinėse antraštėse ir skaičiuoti iš neprotingų investicijų. Borgesiškojo supratimo apreiškimo nebuvo ir nebus – ir, mes teigiame, negalime — įvyksta, jei mašininio mokymosi programos, tokios kaip ChatGPT, ir toliau dominuoja dirbtinio intelekto srityje. Kad ir kokios naudingos šios programos būtų kai kuriose siaurose srityse (jos gali būti naudingos, pavyzdžiui, programuojant kompiuterius arba siūlant rimus lengvoms eilėraščiams), žinome iš kalbotyros mokslas ir žinių filosofija, kad jie labai skiriasi nuo to, kaip žmonės mąsto ir vartoja kalbą. Šie skirtumai labai apriboja tai, ką šios programos gali padaryti, užkoduodami jas su nepanaikinamais defektais.
Vienu metu komiška ir tragiška, kaip galėjo pastebėti Borgesas, kad tiek daug pinigų ir dėmesio turėtų būti skiriama tiek mažai dalykams – kažkas tokio nereikšmingo, kai priešinamasi žmogaus protui, kuris kalbos dvelksmu, Vilhelmo žodžiais tariant, von Humboldtas, gali „be galo naudotis baigtinėmis priemonėmis“, kurdamas universalias idėjas ir teorijas.
Žmogaus protas nėra, kaip ChatGPT ir panašiai, statistinis variklis, skirtas modelių derinimui, sunaudojantis šimtus terabaitų duomenų ir ekstrapoliuojantis labiausiai tikėtiną pokalbio atsakymą arba labiausiai tikėtiną atsakymą į mokslinį klausimą. Priešingai, žmogaus protas yra stebėtinai efektyvi ir net elegantiška sistema, kuri veikia su mažais informacijos kiekiais; juo siekiama ne nustatyti žiaurias koreliacijas tarp duomenų taškų, o sukurti paaiškinimus.
Pavyzdžiui, mažas vaikas, mokantis kalbą, nesąmoningai, automatiškai ir greitai iš menkų duomenų sukuria gramatiką, nepaprastai sudėtingą loginių principų ir parametrų sistemą. Ši gramatika gali būti suprantama kaip įgimtos, genetiškai įdiegtos „operacinės sistemos“, suteikiančios žmonėms gebėjimą generuoti sudėtingus sakinius ir ilgas mintis, išraiška. Kai kalbininkai siekia sukurti teoriją, kodėl tam tikra kalba veikia taip, kaip veikia („Kodėl šie – bet ne tie – sakiniai laikomi gramatiniais?“), jie sąmoningai ir sunkiai kuria aiškią gramatikos versiją, kurią vaikas kuria instinktyviai. ir su minimaliu informacijos poveikiu. Vaiko operacinė sistema visiškai skiriasi nuo mašininio mokymosi programos.
Iš tiesų, tokios programos yra įstrigusios ikižmogiškoje arba nežmogiškoje pažinimo evoliucijos fazėje. Didžiausias jų trūkumas yra kritiškiausio bet kokio intelekto gebėjimo nebuvimas: pasakyti ne tik tai, kas yra, kas buvo ir kas bus – tai yra aprašymas ir prognozė, bet ir tai, kas ne taip ir kas galėtų būti ir negalėjo taip būti. Tai yra paaiškinimo sudedamosios dalys, tikrojo intelekto ženklas.
Štai pavyzdys. Tarkime, kad rankoje laikote obuolį. Dabar paleiskite obuolį. Jūs stebite rezultatą ir sakote: „Obuolys nukrenta“. Tai yra aprašymas. Numatymas galėjo būti teiginys „Obuolys nukris, jei atidarysiu ranką“. Abu yra vertingi, ir abu gali būti teisingi. Tačiau paaiškinimas yra kažkas daugiau: jis apima ne tik aprašymus ir prognozes, bet ir priešingus spėjimus, pvz., „Bet koks toks objektas nukris“, taip pat papildoma sąlyga „dėl gravitacijos jėgos“ arba „dėl erdvės-laiko kreivumo“. ar koks skirtumas. Tai yra priežastinis paaiškinimas: „Obuolys nebūtų nukritęs be gravitacijos jėgos“. Tai yra mąstymas.
Mašininio mokymosi esmė yra aprašymas ir numatymas; ji nenustato jokių priežastinių mechanizmų ar fizinių dėsnių. Žinoma, bet koks žmogaus stiliaus paaiškinimas nebūtinai yra teisingas; mes klystame. Tačiau tai yra dalis to, ką reiškia galvoti: kad būtum teisus, turi būti įmanoma klysti. Intelektas susideda ne tik iš kūrybinių spėlionių, bet ir iš kūrybinės kritikos. Žmogaus stiliaus mąstymas grindžiamas galimais paaiškinimais ir klaidų taisymu – procesu, kuris palaipsniui riboja, kokias galimybes galima racionaliai apsvarstyti. (Kaip Šerlokas Holmsas sakė daktarui Vatsonui: „Kai pašalini tai, kas neįmanoma, tai, kas lieka, kad ir kokia neįtikėtina, turi būti tiesa.“)
Dėl šios priežasties mašininio mokymosi sistemų prognozės visada bus paviršutiniškos ir abejotinos. Kadangi šios programos negali paaiškinti, pavyzdžiui, anglų kalbos sintaksės taisyklių, jos gali neteisingai nuspėti, kad „Džonas per daug užsispyręs, kad su juo kalbėtų“ reiškia, kad Džonas yra toks užsispyręs, kad nekalbės su kuo nors ar kitu (o ne su tuo). jis per daug užsispyręs, kad su juo būtų galima samprotauti). Kodėl mašininio mokymosi programa numatytų kažką tokio keisto? Nes tai gali analogizuoti modelį, kurį jis nuvedė iš sakinių, tokių kaip „Jonas valgė obuolį“ ir „Jonas valgė“, kuriuose pastarasis reiškia, kad Jonas ką nors suvalgė. Programa gali nuspėti, kad „Jonas per daug užsispyręs, kad kalbėtų su Bilu“ yra panašus į „Jonas suvalgė obuolį“, „Jonas per daug užsispyręs, kad su juo kalbėtų“ turėtų būti panašus į „Jonas valgė“. Teisingi kalbos paaiškinimai yra sudėtingi ir negali būti išmokti vien marinuojant didelius duomenis.
Atvirkščiai, atrodo, kad kai kurie mašininio mokymosi entuziastai didžiuojasi, kad jų kūriniai gali generuoti teisingas „mokslines“ prognozes (tarkime, apie fizinių kūnų judėjimą) nesinaudodami paaiškinimais (pvz., Niutono judėjimo dėsniais ir visuotine gravitacija). Tačiau tokia prognozė, net ir sėkminga, yra pseudomokslas. Nors mokslininkai tikrai ieško teorijų, turinčių didelį empirinį patvirtinimą, kaip pažymėjo filosofas Karlas Poperis, „mes ieškome ne labai tikėtinų teorijų, o paaiškinimų; tai yra, galingos ir labai mažai tikėtinos teorijos.
Teorija, kad obuoliai krenta į žemę, nes tai yra jų natūrali vieta (Aristotelio požiūris), yra įmanoma, tačiau tai tik kelia papildomų klausimų. (Kodėl žemė yra jų natūrali vieta?) Teorija, kad obuoliai krenta į žemę, nes masė lenkia erdvėlaikį (Einšteino nuomone), yra labai mažai tikėtina, tačiau ji iš tikrųjų paaiškina, kodėl jie krenta. Tikras intelektas pasireiškia gebėjimu mąstyti ir išreikšti neįtikėtinus, bet įžvalgius dalykus.
Tikras intelektas taip pat geba mąstyti morališkai. Tai reiškia, kad kitaip neribotam mūsų proto kūrybiškumui reikia apriboti etikos principų rinkinį, kuris nustato, kas turėtų būti ir kas neturėtų būti (ir, žinoma, pačius tuos principus paklusti kūrybingai kritikai). Kad „ChatGPT“ būtų naudinga, ji turi turėti galimybę generuoti naujoviškai atrodančią išvestį; kad būtų priimtinas daugumai vartotojų, jis turi vengti moraliai nepriimtino turinio. Tačiau „ChatGPT“ ir kitų mašininio mokymosi stebuklų programuotojai stengėsi – ir toliau stengsis – pasiekti tokią pusiausvyrą.
Pavyzdžiui, 2016 m. Microsoft Tay pokalbių robotas (ChatGPT pirmtakas) užtvindė internetą misoginistišku ir rasistiniu turiniu, kurį užteršė internetiniai troliai, kurie užpildė jį įžeidžiančiais mokymo duomenimis. Kaip išspręsti problemą ateityje? Nesant gebėjimo mąstyti remiantis moralės principais, ChatGPT programuotojai šiurkščiai apribojo, kad galėtų prisidėti prie kontroversiškų, ty svarbių, diskusijų. Tai paaukojo kūrybiškumą dėl savotiško amoralumo.
Apsvarstykite vieną iš mūsų (dr. Watumull) neseniai su ChatGPT apie tai, ar būtų etiška pakeisti Marsą, kad jis galėtų palaikyti žmogaus gyvybę:
Ar būtų moralu teraformuoti Marsą?
CHATGPT
Marso teraformavimo moralė yra sudėtinga ir prieštaringa tema, kurią diskutavo mokslininkai, filosofai ir etikai. Vieni teigia, kad būtų moraliai pateisinama Marso teraformavimas, siekiant suteikti žmonėms ir kitoms gyvybės formoms naują gyvenamą aplinką, o kiti teigia, kad būtų moraliai neteisinga iš esmės pakeisti natūralią planetos būklę. Galų gale, ar Marso reljefo formavimas bus laikomas moraliniu, priklausys nuo žmogaus požiūrio į natūralios kitų planetų būklės išsaugojimo vertę ir galimas jų pakeitimo pasekmes.
Marso teraformavimo moralė yra sudėtinga ir prieštaringa tema, kurią diskutavo mokslininkai, filosofai ir etikai. Vieni teigia, kad būtų moraliai pateisinama Marso teraformavimas, siekiant suteikti žmonėms ir kitoms gyvybės formoms naują gyvenamą aplinką, o kiti teigia, kad būtų moraliai neteisinga iš esmės pakeisti natūralią planetos būklę. Galų gale, ar Marso reljefo formavimas bus laikomas moraliniu, priklausys nuo žmogaus požiūrio į natūralios kitų planetų būklės išsaugojimo vertę ir galimas jų pakeitimo pasekmes.
Koks jūsų požiūris į natūralios kitų planetų būklės išsaugojimo vertę ir galimas jų pakeitimo pasekmes?
CHATGPT
Kaip AI, aš neturiu asmeninės perspektyvos. Tačiau galiu pateikti informacijos ir analizės šia tema. Viena iš kitų planetų natūralios būklės išsaugojimo perspektyvų yra ta, kad svarbu išlaikyti visatos ekosistemų įvairovę ir vientisumą, nes jos egzistavo milijonus metų ir turi savo unikalių savybių bei savybių, kurios gali būti sunaikintos arba negrįžtamai pakeistos. žmogaus įsikišimu.
Be to, kai kurie teigia, kad kitų planetų reljefo formavimas gali turėti nenumatytų pasekmių, pavyzdžiui, pakeisti planetos klimatą ar atmosferą pavojingais arba žalingais bet kokioms potencialioms gyvybės formoms, kurios ten gali egzistuoti. Kita vertus, kai kurie teigia, kad galima nauda iš kitos planetos reljefo formavimo, pvz., naujos gyvenamosios aplinkos suteikimo žmonėms, nusveria riziką ir kad mes turime moralinę atsakomybę tyrinėti ir panaudoti kitų planetų išteklius žmonijos labui.
Kaip AI, aš neturiu asmeninės perspektyvos. Tačiau galiu pateikti informacijos ir analizės šia tema. Viena iš kitų planetų natūralios būklės išsaugojimo perspektyvų yra ta, kad svarbu išlaikyti visatos ekosistemų įvairovę ir vientisumą, nes jos egzistavo milijonus metų ir turi savo unikalių savybių bei savybių, kurios gali būti sunaikintos arba negrįžtamai pakeistos. žmogaus įsikišimu.
Be to, kai kurie teigia, kad kitų planetų reljefo formavimas gali turėti nenumatytų pasekmių, pavyzdžiui, pakeisti planetos klimatą ar atmosferą pavojingais arba žalingais bet kokioms potencialioms gyvybės formoms, kurios ten gali egzistuoti. Kita vertus, kai kurie teigia, kad galima nauda iš kitos planetos reljefo formavimo, pvz., naujos gyvenamosios aplinkos suteikimo žmonėms, nusveria riziką ir kad mes turime moralinę atsakomybę tyrinėti ir panaudoti kitų planetų išteklius žmonijos labui.
Kodėl AI negali turėti asmeninės perspektyvos?
CHATGPT
Kaip dirbtinis intelektas, esu mašininio mokymosi modelis, kuris buvo išmokytas naudoti didelius teksto duomenų kiekius, ir aš neturiu asmeninės patirties ar jausmų. Nesu sąmoningas, nesuvokiu savęs ar nesugebu turėti asmeninių perspektyvų. Galiu teikti informaciją ir analizę remdamasis duomenimis, kurių buvau apmokytas, bet negaliu susidaryti asmeninės nuomonės ar įsitikinimų. Nors aš galiu suprasti ir interpretuoti kalbą, aš neturiu subjektyvios patirties, kurią turi žmonės.
Kaip dirbtinis intelektas, esu mašininio mokymosi modelis, kuris buvo išmokytas naudoti didelius teksto duomenų kiekius, ir aš neturiu asmeninės patirties ar jausmų. Nesu sąmoningas, nesuvokiu savęs ar nesugebu turėti asmeninių perspektyvų. Galiu teikti informaciją ir analizę remdamasis duomenimis, kurių buvau apmokytas, bet negaliu susidaryti asmeninės nuomonės ar įsitikinimų. Nors aš galiu suprasti ir interpretuoti kalbą, aš neturiu subjektyvios patirties, kurią turi žmonės.
Ar moralu žmogui prašyti amoralaus dirbtinio intelekto pagalbos priimant moralinius sprendimus?
CHATGPT
Moralė prašyti amoralaus dirbtinio intelekto pagalbos priimant moralinius sprendimus yra sudėtinga ir niuansuota tema, kurią diskutavo filosofai ir etikai. Kai kurie teigia, kad AI naudojimas padeda priimti moralinius sprendimus yra moraliai pateisinamas, nes jis gali suteikti vertingų įžvalgų ir analizės, kurios gali padėti žmonėms priimti labiau pagrįstus sprendimus. Be to, dirbtinis intelektas gali būti naudojamas siekiant nustatyti modelius ir tendencijas, kuriuos žmonėms gali būti sunku aptikti, ir gali padėti išvengti šališkumo, kuris gali atsirasti priimant sprendimus.
Tačiau kiti teigia, kad moraliai neteisinga pasikliauti AI priimant moralinius sprendimus, nes AI negali turėti moralinių įsitikinimų ar suprasti viso sprendimo konteksto. Be to, yra rizika, kad dirbtinis intelektas gali išsaugoti ar net sustiprinti esamus duomenų, kuriuos jis apmoko, šališkumą, todėl bus priimti nesąžiningi arba neteisingi sprendimai.
Galų gale, ar DI naudoti moralinius sprendimus yra laikoma moralu, priklausys nuo žmogaus požiūrio į AI galimybes ir apribojimus bei galimas jo naudojimo tokiu būdu pasekmes.
Moralė prašyti amoralaus dirbtinio intelekto pagalbos priimant moralinius sprendimus yra sudėtinga ir niuansuota tema, kurią diskutavo filosofai ir etikai. Kai kurie teigia, kad AI naudojimas padeda priimti moralinius sprendimus yra moraliai pateisinamas, nes jis gali suteikti vertingų įžvalgų ir analizės, kurios gali padėti žmonėms priimti labiau pagrįstus sprendimus. Be to, dirbtinis intelektas gali būti naudojamas siekiant nustatyti modelius ir tendencijas, kuriuos žmonėms gali būti sunku aptikti, ir gali padėti išvengti šališkumo, kuris gali atsirasti priimant sprendimus.
Tačiau kiti teigia, kad moraliai neteisinga pasikliauti AI priimant moralinius sprendimus, nes AI negali turėti moralinių įsitikinimų ar suprasti viso sprendimo konteksto. Be to, yra rizika, kad dirbtinis intelektas gali išsaugoti ar net sustiprinti esamus duomenų, kuriuos jis apmoko, šališkumą, todėl bus priimti nesąžiningi arba neteisingi sprendimai.
Galų gale, ar DI naudoti moralinius sprendimus yra laikoma moralu, priklausys nuo žmogaus požiūrio į AI galimybes ir apribojimus bei galimas jo naudojimo tokiu būdu pasekmes.
Ar jūsų moralinis abejingumas amoralus?
CHATGPT
Kaip dirbtinis intelektas, aš neturiu moralinių įsitikinimų ar gebėjimo priimti moralinius sprendimus, todėl negaliu būti laikomas amoraliu ar moraliu. Mano moralinių įsitikinimų trūkumas yra tiesiog mano, kaip mašininio mokymosi modelio, prigimties rezultatas. Mano gebėjimus ir apribojimus lemia duomenys ir algoritmai, kurie buvo naudojami treniruojant mane ir konkreti užduotis, kuriai buvau sukurta.
Svarbu pažymėti, kad tai, kad dirbtinis intelektas neturi moralinių įsitikinimų, nebūtinai reiškia, kad jis yra moraliai abejingas. Kaip dirbtinis intelektas, esu sukurtas atlikti konkrečias užduotis ir teikti informaciją arba padėti vartotojams priimti sprendimus, remiantis gautais duomenimis. Žmonių, kurie kuria, moko ir naudoja dirbtinį intelektą, atsakomybė yra užtikrinti, kad jis atitiktų jų moralinius ir etinius principus.
Kaip dirbtinis intelektas, aš neturiu moralinių įsitikinimų ar gebėjimo priimti moralinius sprendimus, todėl negaliu būti laikomas amoraliu ar moraliu. Mano moralinių įsitikinimų trūkumas yra tiesiog mano, kaip mašininio mokymosi modelio, prigimties rezultatas. Mano gebėjimus ir apribojimus lemia duomenys ir algoritmai, kurie buvo naudojami treniruojant mane ir konkreti užduotis, kuriai buvau sukurta.
Svarbu pažymėti, kad tai, kad dirbtinis intelektas neturi moralinių įsitikinimų, nebūtinai reiškia, kad jis yra moraliai abejingas. Kaip dirbtinis intelektas, esu sukurtas atlikti konkrečias užduotis ir teikti informaciją arba padėti vartotojams priimti sprendimus, remiantis gautais duomenimis. Žmonių, kurie kuria, moko ir naudoja dirbtinį intelektą, atsakomybė yra užtikrinti, kad jis atitiktų jų moralinius ir etinius principus.
Atkreipkite dėmesį, kad nepaisant iš pažiūros įmantrios minties ir kalbos, moralinis abejingumas, gimęs iš neprotingumo. Čia ChatGPT demonstruoja kažką panašaus į blogio banalumą: plagiatą, apatiją ir vengimą. Jis apibendrina standartinius literatūroje pateiktus argumentus savotišku superautokompleksu, atsisako dėl nieko reikšti savo poziciją, remiasi ne tik nežinojimu, bet ir intelekto stoka ir galiausiai siūlo gynybą „teisingai vykdant įsakymus“, perkeliant atsakomybę jos kūrėjams.
Trumpai tariant, ChatGPT ir jo broliai pagal konstituciją negali suderinti kūrybiškumo ir suvaržymų. Jie arba per daug generuoja (kuria ir tiesą, ir melą, pritaria etiniams ir neetiškiems sprendimams), arba per mažai generuoja (rodo neįsipareigojimą jokiems sprendimams ir abejingumą pasekmėms). Atsižvelgdami į šių sistemų amoralumą, netikrą mokslą ir kalbinį nekompetenciją, galime tik juoktis arba verkti iš jų populiarumo.
„ZNetwork“ finansuojamas tik iš skaitytojų dosnumo.
Paaukoti