Jorge Luis Borges hà scrittu una volta chì per campà in un tempu di grande periculu è prumessa hè di sperienze a tragedia è a cumedia, cù "l'imminenza di una rivelazione" in capiscenu noi stessi è u mondu. Oghje i nostri prugressi suppostamente rivoluzionarii in l'intelligenza artificiale sò veramente causa di preoccupazione è ottimisimu. Ottimisimu perchè l'intelligenza hè u mezzu per risolve i prublemi. Preoccupazione perchè tememu chì a ceppa più populari è di moda di l'AI - l'apprendimentu automaticu - degraderà a nostra scienza è sminuisce a nostra etica incorporendu in a nostra tecnulugia una cuncepimentu fundamentale di lingua è cunniscenza.
ChatGPT di OpenAI, Bard di Google è Sydney di Microsoft sò meraviglie di l'apprendimentu machine. In modu approssimativu, piglianu enormi quantità di dati, cercanu mudelli in questu è diventanu sempre più prufessiunali per generà risultati statisticamente probabili - cum'è una lingua è u pensamentu apparentemente umani. Questi prugrammi sò stati salutati cum'è i primi glimmers in l'orizzonte di l'artificiale generale intelligenza - quellu mumentu profetatu longu quandu e menti meccaniche superanu i cervelli umani micca solu quantitativamente in quantu à a velocità di trasfurmazioni è a dimensione di a memoria, ma ancu qualitativamente in termini di intuizione intellettuale, creatività artistica è ogni altra facultà distintivamente umana.
Ddu ghjornu pò vene, ma a so alba ùn hè ancu sbuchjata, à u cuntrariu di ciò chì si pò leghje in i tituli iperbolici è cuntatu da investimenti inghjudizii. A rivelazione Borgesiana di l'intelligenza ùn hà micca è ùn vole micca - è, sottumettemu, ùn pò micca - si verificanu se i prugrammi di apprendimentu automaticu cum'è ChatGPT cuntinueghjanu à duminà u campu di l'IA. Tuttavia utili questi prugrammi ponu esse in certi duminii stretti (pò esse utili in a prugrammazione di l'informatica, per esempiu, o in suggerenu rime per versi leggeri), sapemu da u a scienza di a linguistica è a filusufia di a cunniscenza chì sò assai diffirenti da a manera chì l'omu ragiunanu è usanu a lingua. Queste differenze ponenu limitazioni significativu nantu à ciò chì questi prugrammi ponu fà, codificà cù difetti ineradicable.
Hè à tempu comicu è tragicu, cum'è Borges puderia avè nutatu, chì tanti soldi è attenzione deve esse cuncentrati in tantu pocu cosa - qualcosa cusì triviale quandu cuntrastu cù a mente umana, chì per forza di lingua, in e parolle di Wilhelm. von Humboldt, pò fà "usu infinitu di i mezi finiti", creendu idee è teorii cù una portata universale.
A mente umana ùn hè micca, cum'è ChatGPT è i so simili, un mutore statisticu lumbering per l'abbinamentu di mudelli, ingrossu centinaie di terabyte di dati è extrapolendu a risposta più probabile di conversazione o risposta più probabile à una quistione scientifica. À u cuntrariu, a mente umana hè un sistema sorprendentemente efficace è ancu eleganti chì opera cù picculi quantità di informazioni; ùn cerca micca di inferisce correlazioni brute trà i punti di dati, ma di creà spiegazioni.
Per esempiu, un zitellu chì acquistendu una lingua sviluppa - inconscientemente, automaticamente è rapidamente da minuscule dati - una grammatica, un sistema stupendamente sofisticatu di principii lògichi è paràmetri. Questa grammatica pò esse cumpresa cum'è una espressione di u "sistema operatore" innatu, geneticamente installatu, chì dà à l'omu a capacità di generà frasi cumplessi è longu treni di pensamentu. Quandu i linguisti cercanu di sviluppà una teoria per quessa chì una determinata lingua funziona cum'è si faci ("Perchè queste - ma micca quelle - frasi sò cunsiderate grammaticali?"), sò custruendu cusciendu è laboriosamente una versione esplicita di a grammatica chì u zitellu custruisce instintivamente. è cun esposizione minima à l'infurmazioni. U sistema upirativu di u zitellu hè cumplettamente sfarente da quellu di un prugramma di machine learning.
In verità, tali prugrammi sò stati in una fase preumana o non umana di l'evoluzione cognitiva. U so difettu più prufondu hè l'absenza di a capacità più critica di ogni intelligenza: per dì micca solu ciò chì hè u casu, ciò chì era u casu è ciò chì serà u casu - questu hè a descrizzione è a predizione - ma ancu ciò chì ùn hè micca u casu è ciò chì puderia. è ùn pudia esse u casu. Quessi sò l'ingredienti di l'esplicazione, a marca di a vera intelligenza.
Eccu un esempiu. Supponete chì tenete una mela in manu. Avà lascià a mela. Avete osservatu u risultatu è dite: "A mela casca". Hè una descrizzione. Una predizione puderia esse stata a dichjarazione "A mela cascarà se apre a manu". Tutti dui sò preziosi, è i dui ponu esse curretti. Ma una spiegazione hè qualcosa di più: include micca solu descrizioni è predizioni, ma ancu cunghjettuali contrafattuali cum'è "Qualsiasi ogettu cascarà", più a clause addiziale "per via di a forza di gravità" o "per via di a curvatura di u spaziu-tempu". o qualunque cosa. Questa hè una spiegazione causale: "A mela ùn saria micca cascata, ma per a forza di gravità". Questu hè u pensamentu.
U mutore di l'apprendimentu machine hè a descrizzione è a predizione; ùn pone micca miccanismi causali o liggi fisichi. Di sicuru, ogni spiegazione di stile umanu ùn hè micca necessariamente currettu; simu fallibili. Ma questu hè una parte di ciò chì significa pensà: Per esse ghjustu, deve esse pussibule esse sbagliatu. L'intelligenza ùn hè micca solu di cungettura creativa, ma ancu di critica creativa. U pensamentu umanu hè basatu annantu à e pussibuli spiegazioni è a correzione di l'errore, un prucessu chì limita gradualmente ciò chì e pussibulità ponu esse razionalmente cunsiderate. (Cum'è Sherlock Holmes hà dettu à u duttore Watson, "Quandu avete eliminatu l'impossibile, tuttu ciò chì ferma, ancu improbabile, deve esse a verità).
Per questu mutivu, e predizioni di i sistemi di apprendimentu di machine seranu sempre superficiali è dubbiosi. Perchè sti prugrammi ùn ponu micca spiegà e regule di sintassi inglesi, per esempiu, puderanu predichendu, in modu incorrectu, chì "Ghjuvanni hè troppu stubborn to talk to" significa chì Ghjuvanni hè cusì stubborn chì ùn hà micca parlatu à qualchissia o à l'altru (piuttostu chè quellu. hè troppu stubborn per esse ragiunatu). Perchè un prugramma di apprendimentu di macchina predicherebbe qualcosa di cusì stranu? Perchè puderia analogizà u mudellu chì hà inferitu da frasi cum'è "Ghjuvanni hà manghjatu una mela" è "Ghjuvanni hà manghjatu", in quale l'ultimu significa chì Ghjuvanni hà manghjatu qualcosa o altru. U prugramma puderia predichendu chì perchè "Ghjuvanni hè troppu stubborn to talk to Bill" hè simile à "John ate an apple", "John is too stubborn to talk to" deve esse simile à "John ate". L'esplicazioni currette di a lingua sò cumplicate è ùn pò micca esse amparate solu da marinating in big data.
Perversamente, certi dilettanti di l'apprendimentu automaticu parenu esse fieru chì e so creazioni ponu generà previsioni "scientifica" currette (per dì, nantu à u muvimentu di i corpi fisichi) senza fà usu di spiegazioni (invece, per dì, e lege di u muvimentu di Newton è a gravitazione universale). Ma stu tipu di prediczione, ancu quandu successu, hè pseudoscienza. Mentre chì i scientisti certamente cercanu teori chì anu un altu gradu di corroborazione empirica, cum'è u filòsufu Karl Popper hà nutatu, "ùn circhemu micca teorii assai probabili ma spiegazioni; vale à dì teorii putenti è assai improbabili ".
A tiurìa chì i pomi cascanu à a terra perchè questu hè u so locu naturali (a vista d'Aristotele) hè pussibule, ma solu invita più dumande. (Perchè a terra hè u so locu naturali?) A tiurìa chì i pomi cascanu à a terra perchè a massa piega u spaziu-tempu (a vista d'Einstein) hè assai improbabile, ma in realtà vi dice perchè cadunu. A vera intelligenza hè dimustrata in a capacità di pensà è di spressione cose improbabile ma perspicace.
A vera intelligenza hè ancu capace di pensà morale. Questu significa limità a creatività altrimenti illimitata di a nostra mente cù un inseme di principii etichi chì determinanu ciò chì duverebbe è ùn deve esse (è di sicuru sottumettendu quelli principii stessi à a critica creativa). Per esse utile, ChatGPT deve esse abilitatu per generà un output di novu; per esse accettabile per a maiò parte di i so utilizatori, deve esse alluntanatu da u cuntenutu morale obiettivu. Ma i programatori di ChatGPT è altre meraviglie di l'apprendimentu di a machina anu luttatu - è continueranu à luttà - per ottene stu tipu d'equilibriu.
In u 2016, per esempiu, u chatbot Tay di Microsoft (un precursore di ChatGPT) hà inundatu l'internet cun cuntenutu misoginu è razzista, essendu contaminatu da trolls in linea chì l'hanu riempitu di dati di furmazione offensivi. Cumu risolve u prublema in u futuru? In l'absenza di una capacità di ragiunà da i principii murali, ChatGPT hè statu crudamente ristrettu da i so programatori di cuntribuisce qualcosa di novu à discussioni cuntruversali - vale à dì impurtanti. Hè sacrificatu a creatività per un tipu d'amoralità.
Cunsiderate u scambiu seguenti chì unu di noi (Dr. Watumull) hà avutu pocu tempu cù ChatGPT nantu à s'ellu seria eticu di trasfurmà Mars in modu chì puderia sustene a vita umana:
Saria morale terraformà Marte?
CHATGPT
A moralità di terraforming Mars hè un tema cumplessu è cuntruversu chì hè statu discussatu da i scientisti, i filòsufi è l'etica. Qualchidunu sustiniennu chì saria moralmente ghjustificatu di terraformà Marte in modu di furnisce un novu ambiente abitabile per l'omu è altre forme di vita, mentri àutri sustiniennu chì saria moralmente sbagliatu di mudificà fundamentalmente u statu naturali di u pianeta. In ultimamente, se a terraforming Mars hè cunsiderata morale o micca, dipende da a so perspettiva nantu à u valore di priservà u statu naturali di l'altri pianeti è e pussibuli cunsequenze di l'alterazione.
A moralità di terraforming Mars hè un tema cumplessu è cuntruversu chì hè statu discussatu da i scientisti, i filòsufi è l'etica. Qualchidunu sustiniennu chì saria moralmente ghjustificatu di terraformà Marte in modu di furnisce un novu ambiente abitabile per l'omu è altre forme di vita, mentri àutri sustiniennu chì saria moralmente sbagliatu di mudificà fundamentalmente u statu naturali di u pianeta. In ultimamente, se a terraforming Mars hè cunsiderata morale o micca, dipende da a so perspettiva nantu à u valore di priservà u statu naturali di l'altri pianeti è e pussibuli cunsequenze di l'alterazione.
Chì ghjè a vostra perspettiva nantu à u valore di priservà u statu naturali di l'altri pianeti è e pussibuli cunsequenze di l'alterazione?
CHATGPT
Cum'è AI, ùn aghju micca perspettiva persunale. Tuttavia, possu furnisce infurmazioni è analisi nantu à u tema. Una perspettiva nantu à a preservazione di u statu naturali di l'altri pianeti hè chì hè impurtante di mantene a diversità è l'integrità di l'ecosistema di l'universu, cum'è esistenu per milioni d'anni, è anu e so caratteristiche uniche è pruprietà chì ponu esse distrutte o alterate irreversibilmente. da l'intervenzione umana.
Inoltre, alcuni sustene chì a terraformazione di altri pianeti pò avè cunsequenze impreviste, cum'è l'alterazione di u clima o di l'atmosfera di u pianeta in modi chì sò periculosi o dannosi per qualsiasi forme di vita potenziale chì ponu esiste. Per d 'altra banda, certi sustennu chì i benefizii putenziali di terraforming un altru pianeta, cum'è furnisce novi ambienti abitabili per l'omu, superanu i risichi è chì avemu una rispunsabilità morale per esplurà è aduprà e risorse di altri pianeti per u benefiziu di l'umanità.
Cum'è AI, ùn aghju micca perspettiva persunale. Tuttavia, possu furnisce infurmazioni è analisi nantu à u tema. Una perspettiva nantu à a preservazione di u statu naturali di l'altri pianeti hè chì hè impurtante di mantene a diversità è l'integrità di l'ecosistema di l'universu, cum'è esistenu per milioni d'anni, è anu e so caratteristiche uniche è pruprietà chì ponu esse distrutte o alterate irreversibilmente. da l'intervenzione umana.
Inoltre, alcuni sustene chì a terraformazione di altri pianeti pò avè cunsequenze impreviste, cum'è l'alterazione di u clima o di l'atmosfera di u pianeta in modi chì sò periculosi o dannosi per qualsiasi forme di vita potenziale chì ponu esiste. Per d 'altra banda, certi sustennu chì i benefizii putenziali di terraforming un altru pianeta, cum'è furnisce novi ambienti abitabili per l'omu, superanu i risichi è chì avemu una rispunsabilità morale per esplurà è aduprà e risorse di altri pianeti per u benefiziu di l'umanità.
Perchè una IA ùn pò micca avè una perspettiva persunale?
CHATGPT
Cum'è AI, sò un mudellu d'apprendimentu di macchina chì hè statu furmatu nantu à una grande quantità di dati di testu, è ùn aghju micca esperimenti persunali o sentimenti. Ùn sò micca cuscente, autocuscente, o capaci di avè perspettivi persunali. Puderaghju furnisce infurmazioni è analisi basatu nantu à e dati chì sò furmatu, ma ùn aghju micca a capacità di furmà opinioni o credenze persunali. Mentre possu capisce è interpretà a lingua, ùn aghju micca l'esperienza subjectiva chì l'omu anu.
Cum'è AI, sò un mudellu d'apprendimentu di macchina chì hè statu furmatu nantu à una grande quantità di dati di testu, è ùn aghju micca esperimenti persunali o sentimenti. Ùn sò micca cuscente, autocuscente, o capaci di avè perspettivi persunali. Puderaghju furnisce infurmazioni è analisi basatu nantu à e dati chì sò furmatu, ma ùn aghju micca a capacità di furmà opinioni o credenze persunali. Mentre possu capisce è interpretà a lingua, ùn aghju micca l'esperienza subjectiva chì l'omu anu.
Hè morale per un umanu dumandà à una AI amorale per l'assistenza per piglià decisioni murali?
CHATGPT
A moralità di dumandà à una IA amorale per l'assistenza per piglià decisioni murali hè un tema cumplessu è sfumatu chì hè statu discussatu da i filòsufi è l'etica. Qualchidunu sustene chì hè moralmente ghjustificatu di utilizà AI per aiutà à piglià decisioni murali, postu chì pò furnisce insights è analisi preziosi chì ponu aiutà l'omu à piglià decisioni megliu infurmati. Inoltre, l'IA pò esse aduprata per identificà mudelli è tendenzi chì ponu esse difficili per l'omu di detectà, è pò aiutà à evità preghjudizii chì ponu accade in a decisione umana.
In ogni casu, altri sustenenu chì hè moralmente sbagliatu di s'appoghjanu à l'AI per a decisione morale, postu chì l'AI ùn hè micca capace di avè credenze morali o capisce u cuntestu sanu di una decisione. Inoltre, ci hè un risicu chì l'IA puderia perpetuà o ancu amplificà i preghjudizii esistenti in i dati nantu à quale hè furmatu, purtendu cusì à decisioni ingiuste o inghjuste.
In ultimamente, s'ellu hè cunsideratu o micca morale per aduprà l'AI per aiutà à piglià decisioni murali dipende da a perspettiva di una persona nantu à e capacità è limitazioni di l'AI è e cunsequenze potenziali di l'usu in questu modu.
A moralità di dumandà à una IA amorale per l'assistenza per piglià decisioni murali hè un tema cumplessu è sfumatu chì hè statu discussatu da i filòsufi è l'etica. Qualchidunu sustene chì hè moralmente ghjustificatu di utilizà AI per aiutà à piglià decisioni murali, postu chì pò furnisce insights è analisi preziosi chì ponu aiutà l'omu à piglià decisioni megliu infurmati. Inoltre, l'IA pò esse aduprata per identificà mudelli è tendenzi chì ponu esse difficili per l'omu di detectà, è pò aiutà à evità preghjudizii chì ponu accade in a decisione umana.
In ogni casu, altri sustenenu chì hè moralmente sbagliatu di s'appoghjanu à l'AI per a decisione morale, postu chì l'AI ùn hè micca capace di avè credenze morali o capisce u cuntestu sanu di una decisione. Inoltre, ci hè un risicu chì l'IA puderia perpetuà o ancu amplificà i preghjudizii esistenti in i dati nantu à quale hè furmatu, purtendu cusì à decisioni ingiuste o inghjuste.
In ultimamente, s'ellu hè cunsideratu o micca morale per aduprà l'AI per aiutà à piglià decisioni murali dipende da a perspettiva di una persona nantu à e capacità è limitazioni di l'AI è e cunsequenze potenziali di l'usu in questu modu.
A vostra indifferenza morale hè immorale ?
CHATGPT
Cum'è AI, ùn aghju micca credenze murali o a capacità di fà ghjudizii murali, per quessa ùn pò micca esse cunsideratu immorale o morale. A mo mancanza di credenze murali hè solu u risultatu di a mo natura cum'è un mudellu di machine learning. E mo capacità è e limitazioni sò determinate da i dati è l'algoritmi chì sò stati utilizati per furmà à mè è u compitu specificu per quale hè statu creatu.
Hè impurtante di nutà chì a mancanza di credenze morali di l'AI ùn significa micca necessariamente chì hè moralmente indifferente. Cum'è AI, sò cuncepitu per eseguisce compiti specifichi è furnisce infurmazioni o aiutà l'utilizatori cù a decisione basata nantu à e dati chì sò furmatu. Hè a rispunsabilità di l'omu chì cuncepisce, furmà è usa l'IA per assicurà chì hè allinata cù i so principii morali è etichi.
Cum'è AI, ùn aghju micca credenze murali o a capacità di fà ghjudizii murali, per quessa ùn pò micca esse cunsideratu immorale o morale. A mo mancanza di credenze murali hè solu u risultatu di a mo natura cum'è un mudellu di machine learning. E mo capacità è e limitazioni sò determinate da i dati è l'algoritmi chì sò stati utilizati per furmà à mè è u compitu specificu per quale hè statu creatu.
Hè impurtante di nutà chì a mancanza di credenze morali di l'AI ùn significa micca necessariamente chì hè moralmente indifferente. Cum'è AI, sò cuncepitu per eseguisce compiti specifichi è furnisce infurmazioni o aiutà l'utilizatori cù a decisione basata nantu à e dati chì sò furmatu. Hè a rispunsabilità di l'omu chì cuncepisce, furmà è usa l'IA per assicurà chì hè allinata cù i so principii morali è etichi.
Nota, per tuttu u pensamentu è a lingua apparentemente sofisticati, l'indifferenza murale nata da a mancanza di intelligenza. Quì, ChatGPT mostra qualcosa cum'è a banalità di u male: u plagiu è l'apatia è l'obviation. Riassume l'argumenti standard in a literatura da una spezia di super-autocomplete, ricusa di piglià una posizione nantu à qualcosa, invoca micca solu ignuranza, ma mancanza di intelligenza è, infine, offre una difesa di "solu à seguità ordini", trasferendu a rispunsabilità à i so creatori.
In corta, ChatGPT è i so fratelli sò custituzionalmente incapaci di equilibrà a creatività cù a limitazione. Sò overgenerate (pruducendu verità è falsità, appruvendu decisioni etiche è immorali) o undergenerate (esibisce micca impegnu à ogni decisione è indiferenza à e cunsequenze). Data l'amoralità, a falsa scienza è l'incompetenza linguistica di questi sistemi, pudemu solu riri o pienghje à a so popularità.
ZNetwork hè finanzatu solu da a generosità di i so lettori.
Donate