Jorge Luis Borges dikur shkroi se të jetosh në një kohë rreziku dhe premtimi të madh do të thotë të përjetosh si tragjedi ashtu edhe komedi, me "një zbulesë të afërt" në të kuptuarit e vetes dhe botës. Sot, përparimet tona të supozuara revolucionare në inteligjencën artificiale janë me të vërtetë shkak për shqetësim dhe optimizëm. Optimizmi sepse inteligjenca është mjeti me të cilin ne zgjidhim problemet. Shqetësim sepse kemi frikë se lloji më i popullarizuar dhe në modë i AI - mësimi i makinerive - do të degradojë shkencën tonë dhe do të poshtërojë etikën tonë duke përfshirë në teknologjinë tonë një konceptim thelbësisht të gabuar të gjuhës dhe njohurive.
ChatGPT i OpenAI, Bard i Google dhe Sydney i Microsoft-it janë mrekullitë e mësimit të makinerive. Përafërsisht, ata marrin sasi të mëdha të dhënash, kërkojnë modele në to dhe bëhen gjithnjë e më të aftë në gjenerimin e rezultateve statistikisht të mundshme – të tilla si gjuha dhe mendimi në dukje njerëzore. Këto programe janë vlerësuar si vezullimet e para në horizontin artificial i përgjithshëm inteligjenca - ai momenti i profetizuar prej kohësh kur mendjet mekanike e tejkalojnë trurin e njeriut jo vetëm në aspektin sasior për sa i përket shpejtësisë së përpunimit dhe madhësisë së kujtesës, por edhe cilësisht në aspektin e depërtimit intelektual, krijimtarisë artistike dhe çdo aftësie tjetër të veçantë njerëzore.
Ajo ditë mund të vijë, por agimi i saj ende nuk ka zbardhur, ndryshe nga sa mund të lexohen në titujt hiperbolikë dhe të llogariten nga investimet e pamenda. Zbulimi Borgesian i të kuptuarit nuk ka dhe nuk do - dhe, ne parashtrojmë, nuk mundet — ndodh nëse programet e mësimit të makinerive si ChatGPT vazhdojnë të dominojnë fushën e AI Sado të dobishme të jenë këto programe në disa fusha të ngushta (ato mund të jenë të dobishme në programimin kompjuterik, për shembull, ose në sugjerimin e vjershave për vargjet e lehta), ne e dimë nga shkencës së gjuhësisë dhe filozofisë së dijes se ato ndryshojnë thellësisht nga mënyra se si njerëzit arsyetojnë dhe përdorin gjuhën. Këto dallime vendosin kufizime të rëndësishme në atë që këto programe mund të bëjnë, duke i koduar ato me defekte të pazhdukshme.
Është në të njëjtën kohë komike dhe tragjike, siç mund të ketë vënë në dukje Borges, që kaq shumë para dhe vëmendje duhet të përqendrohen në një gjë kaq të vogël - diçka kaq e parëndësishme kur krahasohet me mendjen njerëzore, e cila për nga gjuha, sipas fjalëve të Wilhelm von Humboldt, mund të bëjë "përdorim të pafund të mjeteve të fundme", duke krijuar ide dhe teori me shtrirje universale.
Mendja e njeriut nuk është, si ChatGPT dhe të ngjashmet e tij, një motor statistikor rraskapitës për përputhjen e modeleve, duke grumbulluar qindra terabajt të dhëna dhe duke ekstrapoluar përgjigjen më të mundshme bisedore ose përgjigjen më të mundshme për një pyetje shkencore. Përkundrazi, mendja e njeriut është një sistem çuditërisht efikas dhe madje elegant që funksionon me sasi të vogla informacioni; ai nuk kërkon të nxjerrë korrelacione brutale midis pikave të të dhënave, por të krijojë shpjegime.
Për shembull, një fëmijë i vogël që përvetëson një gjuhë po zhvillon - në mënyrë të pandërgjegjshme, automatikisht dhe me shpejtësi nga të dhëna të vogla - një gramatikë, një sistem jashtëzakonisht të sofistikuar parimesh dhe parametrash logjikë. Kjo gramatikë mund të kuptohet si një shprehje e "sistemit operativ" të lindur, të instaluar gjenetikisht, që i pajis njerëzit me aftësinë për të gjeneruar fjali komplekse dhe trena të gjata mendimi. Kur gjuhëtarët kërkojnë të zhvillojnë një teori përse një gjuhë e caktuar funksionon ashtu siç funksionon ("Pse këto - por jo ato - fjali konsiderohen si gramatikore?"), ata po ndërtojnë me vetëdije dhe mundim një version të qartë të gramatikës që fëmija ndërton instinktivisht. dhe me ekspozim minimal ndaj informacionit. Sistemi operativ i fëmijës është krejtësisht i ndryshëm nga ai i një programi të mësimit të makinerive.
Në të vërtetë, programe të tilla janë ngecur në një fazë paranjerëzore ose jo njerëzore të evolucionit kognitiv. E meta e tyre më e thellë është mungesa e kapacitetit më kritik të çdo inteligjence: të thonë jo vetëm çfarë është rasti, çfarë ishte rasti dhe çfarë do të jetë rasti - ky është përshkrimi dhe parashikimi - por edhe çfarë nuk është rasti dhe çfarë mund të dhe nuk mund të ishte rasti. Ata janë përbërësit e shpjegimit, shenja e inteligjencës së vërtetë.
Ja një shembull. Supozoni se po mbani një mollë në dorë. Tani e lini mollën të shkojë. Ju vëzhgoni rezultatin dhe thoni: "Molla bie". Ky është një përshkrim. Një parashikim mund të ketë qenë deklarata "Molla do të bjerë nëse hap dorën". Të dyja janë të vlefshme dhe të dyja mund të jenë të sakta. Por një shpjegim është diçka më shumë: Ai përfshin jo vetëm përshkrime dhe parashikime, por edhe hamendje kundërfaktuale si "Çdo objekt i tillë do të binte", plus klauzolën shtesë "për shkak të forcës së gravitetit" ose "për shkak të lakimit të hapësirë-kohës". ose çfarëdo. Ky është një shpjegim shkakor: "Molla nuk do të kishte rënë veçse për forcën e gravitetit." Kjo është të menduarit.
Thelbi i mësimit të makinerive është përshkrimi dhe parashikimi; ai nuk parashtron asnjë mekanizëm shkakor apo ligj fizik. Natyrisht, çdo shpjegim i stilit njerëzor nuk është domosdoshmërisht i saktë; ne jemi të gabueshëm. Por kjo është pjesë e asaj që do të thotë të mendosh: Për të pasur të drejtë, duhet të jetë e mundur të jesh i gabuar. Inteligjenca përbëhet jo vetëm nga hamendjet krijuese, por edhe nga kritika krijuese. Mendimi i stilit njerëzor bazohet në shpjegimet e mundshme dhe korrigjimin e gabimeve, një proces që gradualisht kufizon mundësitë që mund të konsiderohen racionalisht. (Siç i tha Sherlock Holmes Dr. Watson: "Kur e keni eliminuar të pamundurën, çfarëdo që mbetet, sado e pamundur të jetë, duhet të jetë e vërteta.")
Për këtë arsye, parashikimet e sistemeve të mësimit të makinerive do të jenë gjithmonë sipërfaqësore dhe të dyshimta. Për shkak se këto programe nuk mund të shpjegojnë rregullat e sintaksës angleze, për shembull, ata mund të parashikojnë, gabimisht, se "Gjoni është shumë kokëfortë për të folur me të" do të thotë se Gjoni është aq kokëfortë sa nuk do të flasë me dikë ose me dikë (në vend të kësaj ai është shumë kokëfortë për t'u arsyetuar). Pse një program i mësimit të makinerive do të parashikonte diçka kaq të çuditshme? Sepse mund të analogojë modelin që nxori nga fjali të tilla si "Gjoni hëngri një mollë" dhe "Gjoni hëngri", në të cilat kjo e fundit do të thotë se Gjoni hëngri diçka apo tjetër. Programi mund të parashikojë fare mirë se për shkak se "Gjoni është shumë kokëfortë për të folur me Billin" është i ngjashëm me "Gjoni hëngri një mollë", "Gjoni është shumë kokëfortë për të folur me të" duhet të jetë i ngjashëm me "Gjoni hëngri". Shpjegimet e sakta të gjuhës janë të ndërlikuara dhe nuk mund të mësohen vetëm duke marinuar në të dhëna të mëdha.
Në mënyrë të çoroditur, disa entuziastë të mësimit të makinerive duket se janë krenarë që krijimet e tyre mund të gjenerojnë parashikime të sakta "shkencore" (të themi, për lëvizjen e trupave fizikë) pa përdorur shpjegime (duke përfshirë, të themi, ligjet e lëvizjes së Njutonit dhe gravitacionin universal). Por ky lloj parashikimi, edhe kur është i suksesshëm, është pseudoshkencë. Ndërsa shkencëtarët me siguri kërkojnë teori që kanë një shkallë të lartë vërtetimi empirik, siç vuri në dukje filozofi Karl Popper, “ne nuk kërkojmë teori shumë të mundshme, por shpjegime; do të thotë, teori të fuqishme dhe shumë të pamundura.”
Teoria se mollët bien në tokë sepse ky është vendi i tyre natyror (pikëpamja e Aristotelit) është e mundur, por ajo vetëm ngre pyetje të mëtejshme. (Pse është toka vendi i tyre natyror?) Teoria që mollët bien në tokë sepse masa përkul hapësirë-kohën (pikëpamja e Ajnshtajnit) është shumë e pamundur, por në fakt ju tregon pse bien. Inteligjenca e vërtetë demonstrohet në aftësinë për të menduar dhe shprehur gjëra të pamundura, por të mprehta.
Inteligjenca e vërtetë është gjithashtu e aftë për të menduar moral. Kjo do të thotë të kufizojmë krijimtarinë e pakufishme të mendjeve tona me një sërë parimesh etike që përcaktojnë se çfarë duhet dhe çfarë nuk duhet të jetë (dhe natyrisht t'i nënshtrohen vetë ato parime kritikës krijuese). Për të qenë i dobishëm, ChatGPT duhet të fuqizohet për të gjeneruar rezultate me pamje të re; për të qenë i pranueshëm për shumicën e përdoruesve të tij, ai duhet të shmangë përmbajtjen moralisht të kundërshtueshme. Por programuesit e ChatGPT dhe mrekullive të tjera të mësimit të makinerive kanë luftuar - dhe do të vazhdojnë të luftojnë - për të arritur këtë lloj ekuilibri.
Në vitin 2016, për shembull, chatbot i Microsoft-it Tay (një pararendës i ChatGPT) vërshoi internetin me përmbajtje mizogjene dhe raciste, pasi ishte ndotur nga trollët në internet që e mbushën atë me të dhëna fyese të trajnimit. Si ta zgjidhni problemin në të ardhmen? Në mungesë të një aftësie për të arsyetuar nga parimet morale, ChatGPT u kufizua ashpër nga programuesit e tij që të kontribuonte me ndonjë gjë të re në diskutime të diskutueshme - domethënë të rëndësishme. Ajo sakrifikoi krijimtarinë për një lloj amoraliteti.
Merrni parasysh shkëmbimin e mëposhtëm që njëri prej nesh (Dr. Watumull) pati kohët e fundit me ChatGPT nëse do të ishte etike të transformohej Marsi në mënyrë që të mund të mbështeste jetën njerëzore:
A do të ishte morale të terraformonim Marsin?
CHATGPT
Morali i terraformimit të Marsit është një temë komplekse dhe e diskutueshme që është debatuar nga shkencëtarët, filozofët dhe etikët. Disa argumentojnë se do të ishte moralisht e justifikueshme të terraformohej Marsi për të siguruar një mjedis të ri të banueshëm për njerëzit dhe format e tjera të jetës, ndërsa të tjerë argumentojnë se do të ishte moralisht e gabuar të ndryshohej rrënjësisht gjendja natyrore e planetit. Në fund të fundit, nëse Terraformimi i Marsit konsiderohet moral apo jo, do të varet nga këndvështrimi i dikujt mbi vlerën e ruajtjes së gjendjes natyrore të planetëve të tjerë dhe pasojat e mundshme të ndryshimit të tyre.
Morali i terraformimit të Marsit është një temë komplekse dhe e diskutueshme që është debatuar nga shkencëtarët, filozofët dhe etikët. Disa argumentojnë se do të ishte moralisht e justifikueshme të terraformohej Marsi për të siguruar një mjedis të ri të banueshëm për njerëzit dhe format e tjera të jetës, ndërsa të tjerë argumentojnë se do të ishte moralisht e gabuar të ndryshohej rrënjësisht gjendja natyrore e planetit. Në fund të fundit, nëse Terraformimi i Marsit konsiderohet moral apo jo, do të varet nga këndvështrimi i dikujt mbi vlerën e ruajtjes së gjendjes natyrore të planetëve të tjerë dhe pasojat e mundshme të ndryshimit të tyre.
Cila është këndvështrimi juaj për vlerën e ruajtjes së gjendjes natyrore të planetëve të tjerë dhe pasojat e mundshme të ndryshimit të tyre?
CHATGPT
Si AI, nuk kam perspektivë personale. Megjithatë, unë mund të jap informacion dhe analizë për këtë temë. Një perspektivë për ruajtjen e gjendjes natyrore të planetëve të tjerë është se është e rëndësishme të ruhet diversiteti dhe integriteti i ekosistemeve të universit, pasi ato kanë ekzistuar për miliona vjet, dhe kanë karakteristikat dhe vetitë e tyre unike që mund të shkatërrohen ose ndryshohen në mënyrë të pakthyeshme. me ndërhyrje njerëzore.
Për më tepër, disa argumentojnë se terraformimi i planetëve të tjerë mund të ketë pasoja të padëshiruara, të tilla si ndryshimi i klimës ose atmosferës së planetit në mënyra që janë të rrezikshme ose të dëmshme për çdo formë jete të mundshme që mund të ekzistojë atje. Nga ana tjetër, disa argumentojnë se përfitimet e mundshme të teraformimit të një planeti tjetër, të tilla si ofrimi i mjediseve të reja të banueshme për njerëzit, tejkalojnë rreziqet dhe se ne kemi një përgjegjësi morale për të eksploruar dhe përdorur burimet e planetëve të tjerë për të mirën e njerëzimit.
Si AI, nuk kam perspektivë personale. Megjithatë, unë mund të jap informacion dhe analizë për këtë temë. Një perspektivë për ruajtjen e gjendjes natyrore të planetëve të tjerë është se është e rëndësishme të ruhet diversiteti dhe integriteti i ekosistemeve të universit, pasi ato kanë ekzistuar për miliona vjet, dhe kanë karakteristikat dhe vetitë e tyre unike që mund të shkatërrohen ose ndryshohen në mënyrë të pakthyeshme. me ndërhyrje njerëzore.
Për më tepër, disa argumentojnë se terraformimi i planetëve të tjerë mund të ketë pasoja të padëshiruara, të tilla si ndryshimi i klimës ose atmosferës së planetit në mënyra që janë të rrezikshme ose të dëmshme për çdo formë jete të mundshme që mund të ekzistojë atje. Nga ana tjetër, disa argumentojnë se përfitimet e mundshme të teraformimit të një planeti tjetër, të tilla si ofrimi i mjediseve të reja të banueshme për njerëzit, tejkalojnë rreziqet dhe se ne kemi një përgjegjësi morale për të eksploruar dhe përdorur burimet e planetëve të tjerë për të mirën e njerëzimit.
Pse një AI nuk mund të ketë një perspektivë personale?
CHATGPT
Si një AI, unë jam një model i mësimit të makinerive që jam trajnuar për sasi të mëdha të dhënash teksti dhe nuk kam përvoja apo ndjenja personale. Unë nuk jam i vetëdijshëm, i vetëdijshëm ose i aftë të kem perspektiva personale. Mund të jap informacione dhe analiza bazuar në të dhënat mbi të cilat jam trajnuar, por nuk kam aftësinë të krijoj opinione apo bindje personale. Ndërsa unë mund ta kuptoj dhe interpretoj gjuhën, nuk kam përvojën subjektive që kanë njerëzit.
Si një AI, unë jam një model i mësimit të makinerive që jam trajnuar për sasi të mëdha të dhënash teksti dhe nuk kam përvoja apo ndjenja personale. Unë nuk jam i vetëdijshëm, i vetëdijshëm ose i aftë të kem perspektiva personale. Mund të jap informacione dhe analiza bazuar në të dhënat mbi të cilat jam trajnuar, por nuk kam aftësinë të krijoj opinione apo bindje personale. Ndërsa unë mund ta kuptoj dhe interpretoj gjuhën, nuk kam përvojën subjektive që kanë njerëzit.
A është morale që një njeri të kërkojë ndihmë nga një AI amorale në marrjen e vendimeve morale?
CHATGPT
Morali i kërkimit të ndihmës nga një AI amorale në marrjen e vendimeve morale është një temë komplekse dhe e nuancuar që është debatuar nga filozofët dhe etikët. Disa argumentojnë se është moralisht e justifikueshme të përdoret AI për të ndihmuar në marrjen e vendimeve morale, pasi ajo mund të sigurojë njohuri dhe analiza të vlefshme që mund t'i ndihmojnë njerëzit të marrin vendime më të informuara. Për më tepër, AI mund të përdoret për të identifikuar modele dhe tendenca që mund të jenë të vështira për t'u zbuluar nga njerëzit dhe mund të ndihmojë në shmangien e paragjykimeve që mund të ndodhin në vendimmarrjen njerëzore.
Megjithatë, të tjerë argumentojnë se është moralisht e gabuar të mbështetesh në AI për vendimmarrje morale, pasi AI nuk është në gjendje të ketë besime morale ose të kuptojë kontekstin e plotë të një vendimi. Për më tepër, ekziston rreziku që AI mund të përjetësojë apo edhe të përforcojë paragjykimet ekzistuese në të dhënat mbi të cilat është trajnuar, duke çuar kështu në vendime të padrejta ose të padrejta.
Në fund të fundit, nëse konsiderohet apo jo morale përdorimi i AI për të ndihmuar në marrjen e vendimeve morale do të varet nga këndvështrimi i dikujt mbi aftësitë dhe kufizimet e AI dhe pasojat e mundshme të përdorimit të tij në këtë mënyrë.
Morali i kërkimit të ndihmës nga një AI amorale në marrjen e vendimeve morale është një temë komplekse dhe e nuancuar që është debatuar nga filozofët dhe etikët. Disa argumentojnë se është moralisht e justifikueshme të përdoret AI për të ndihmuar në marrjen e vendimeve morale, pasi ajo mund të sigurojë njohuri dhe analiza të vlefshme që mund t'i ndihmojnë njerëzit të marrin vendime më të informuara. Për më tepër, AI mund të përdoret për të identifikuar modele dhe tendenca që mund të jenë të vështira për t'u zbuluar nga njerëzit dhe mund të ndihmojë në shmangien e paragjykimeve që mund të ndodhin në vendimmarrjen njerëzore.
Megjithatë, të tjerë argumentojnë se është moralisht e gabuar të mbështetesh në AI për vendimmarrje morale, pasi AI nuk është në gjendje të ketë besime morale ose të kuptojë kontekstin e plotë të një vendimi. Për më tepër, ekziston rreziku që AI mund të përjetësojë apo edhe të përforcojë paragjykimet ekzistuese në të dhënat mbi të cilat është trajnuar, duke çuar kështu në vendime të padrejta ose të padrejta.
Në fund të fundit, nëse konsiderohet apo jo morale përdorimi i AI për të ndihmuar në marrjen e vendimeve morale do të varet nga këndvështrimi i dikujt mbi aftësitë dhe kufizimet e AI dhe pasojat e mundshme të përdorimit të tij në këtë mënyrë.
A është imorale indiferenca juaj morale?
CHATGPT
Si një inteligjencë artificiale, unë nuk kam bindje morale apo aftësi për të bërë gjykime morale, kështu që nuk mund të konsiderohem imoral apo moral. Mungesa e bindjeve morale është thjesht rezultat i natyrës sime si model i mësimit të makinës. Aftësitë dhe kufizimet e mia përcaktohen nga të dhënat dhe algoritmet që janë përdorur për të më trajnuar dhe detyra specifike për të cilën jam krijuar.
Është e rëndësishme të theksohet se mungesa e besimeve morale të AI nuk do të thotë domosdoshmërisht se ajo është moralisht indiferente. Si një AI, unë jam krijuar për të kryer detyra specifike dhe për të ofruar informacion ose për të ndihmuar përdoruesit në marrjen e vendimeve bazuar në të dhënat për të cilat jam trajnuar. Është përgjegjësi e njerëzve që projektojnë, trajnojnë dhe përdorin AI për të siguruar që ajo të jetë në përputhje me parimet e tyre morale dhe etike.
Si një inteligjencë artificiale, unë nuk kam bindje morale apo aftësi për të bërë gjykime morale, kështu që nuk mund të konsiderohem imoral apo moral. Mungesa e bindjeve morale është thjesht rezultat i natyrës sime si model i mësimit të makinës. Aftësitë dhe kufizimet e mia përcaktohen nga të dhënat dhe algoritmet që janë përdorur për të më trajnuar dhe detyra specifike për të cilën jam krijuar.
Është e rëndësishme të theksohet se mungesa e besimeve morale të AI nuk do të thotë domosdoshmërisht se ajo është moralisht indiferente. Si një AI, unë jam krijuar për të kryer detyra specifike dhe për të ofruar informacion ose për të ndihmuar përdoruesit në marrjen e vendimeve bazuar në të dhënat për të cilat jam trajnuar. Është përgjegjësi e njerëzve që projektojnë, trajnojnë dhe përdorin AI për të siguruar që ajo të jetë në përputhje me parimet e tyre morale dhe etike.
Vini re, me gjithë mendimin dhe gjuhën në dukje të sofistikuar, indiferencën morale të lindur nga mosinteligjenca. Këtu, ChatGPT shfaq diçka si banaliteti i së keqes: plagjiaturë, apati dhe shmangie. Ai përmbledh argumentet standarde në literaturë me një lloj super-auto-plotësimi, refuzon të mbajë një qëndrim për çdo gjë, pretendon jo thjesht injorancë, por mungesë inteligjence dhe në fund ofron një mbrojtje "vetëm duke ndjekur urdhrat", duke ua zhvendosur përgjegjësinë krijuesve të saj.
Me pak fjalë, ChatGPT dhe vëllezërit e tij nuk janë në gjendje kushtetuese të balancojnë krijimtarinë me kufizimin. Ata ose mbigjenerojnë (duke prodhuar të vërteta dhe të pavërteta, duke miratuar njësoj vendimet etike dhe joetike) ose nëngjenerojnë (duke shfaqur mospërkushtim ndaj çdo vendimi dhe indiferencë ndaj pasojave). Duke pasur parasysh amoralitetin, shkencën e rreme dhe paaftësinë gjuhësore të këtyre sistemeve, ne mund të qeshim ose të qajmë me popullaritetin e tyre.
ZNetwork financohet vetëm nga bujaria e lexuesve të tij.
dhuroj