Jorge Luis Borges te ekri yon fwa ke viv nan yon tan nan gwo danje ak pwomès se fè eksperyans alafwa trajedi ak komedyen, ak "iminans nan yon revelasyon" nan konpreyansyon tèt nou ak mond lan. Jodi a, avansman swadizan revolisyonè nou yo nan entèlijans atifisyèl yo se tout bon rezon pou tou de enkyetid ak optimis. Optimis paske entèlijans se mwayen pou nou rezoud pwoblèm. Enkyetid paske nou pè ke souch AI ki pi popilè ak alamòd la — aprantisaj machin — pral degrade syans nou an ak debarase etik nou lè yo enkòpore nan teknoloji nou an yon konsepsyon fondamantalman defo nan lang ak konesans.
ChatGPT OpenAI, Bard Google ak Sydney Microsoft se bèl bagay aprantisaj machin. Apeprè pale, yo pran yon gwo kantite done, chèche modèl ladan yo epi yo vin de pli zan pli konpetan nan jenere rezilta estatistik pwobab - tankou langaj ak panse ki sanble moun. Pwogram sa yo te salué kòm premye glimmers sou orizon atifisyèl jeneral entèlijans - moman sa a depi lontan pwofetize lè lespri mekanik depase sèvo moun pa sèlman quantitativeman an tèm de vitès pwosesis ak gwosè memwa, men tou kalitatif an tèm de insight entelektyèl, kreyativite atistik ak tout lòt fakilte diferan moun.
Jou sa a ka rive, men dimanch maten byen bonè li poko kase, kontrèman ak sa ki ka li nan tit ipèrbolik ak konte pa envestisman enjisyan. Revelasyon Borgesian nan konpreyansyon pa gen epi li pa pral - epi, nou soumèt, pa kapab — rive si pwogram aprantisaj machin tankou ChatGPT kontinye domine domèn AI Malgre ke pwogram sa yo ka itil nan kèk domèn etwat (yo ka itil nan pwogram òdinatè, pa egzanp, oswa nan sijere rim pou vèsè lejè), nou konnen syans lengwistik ak filozofi konesans ke yo diferan pwofondman ak fason moun rezone ak sèvi ak lang. Diferans sa yo mete limit enpòtan sou sa pwogram sa yo ka fè, kode yo ak domaj ki pa ka elimine.
Li se yon fwa komik ak trajik, jan Borges te ka remake, ke anpil lajan ak atansyon ta dwe konsantre sou yon ti bagay - yon bagay tèlman trivial lè yo konpare ak lespri imen an, ki pa fòs nan lang, nan pawòl Wilhelm yo. von Humboldt, ka fè "itilizasyon enfini nan mwayen fini," kreye lide ak teyori ak rive inivèsèl.
Lide imen an se pa, tankou ChatGPT ak lòt kalite li yo, yon motè estatistik lou pou matche modèl, ki bay plizyè santèn teraocte done ak ekstrapolasyon repons konvèsasyon ki gen plis chans oswa repons ki pi posib nan yon kesyon syantifik. Okontrè, lespri imen an se yon sistèm etonan efikas e menm elegant ki opere ak ti kantite enfòmasyon; li chèche pa dedwi korelasyon brital nan mitan pwen done men pou kreye eksplikasyon.
Pa egzanp, yon jèn timoun k ap aprann yon lang ap devlope — san konesans, otomatikman ak rapidman apati de minuskil done — yon gramè, yon sistèm prensip lojik ak paramèt ki vrèman sofistike. Nou ka konprann gramè sa a kòm yon ekspresyon de "sistèm operasyon" natirèl la, ki enstale jenetikman, ki bay moun kapasite pou yo jenere fraz konplèks ak tren panse long. Lè lengwis yo ap chèche devlope yon teyori pou rezon ki fè yon lang bay fonksyone jan li fè sa ("Poukisa fraz sa yo - men se pa sa yo - konsidere kòm gramatikal?"), yo ap bati konsyan ak travayèman yon vèsyon eksplisit nan gramè timoun nan bati enstenktiv. epi ak yon minimòm ekspoze a enfòmasyon. Sistèm operasyon timoun nan konplètman diferan de sa nan yon pwogram aprantisaj machin.
Vreman vre, pwogram sa yo bloke nan yon faz evolisyon mantal anvan moun oswa ki pa imen. Pi gwo defo yo se absans kapasite ki pi kritik nan nenpòt entèlijans: di non sèlman sa ki ka a, ki sa ki te ka a ak ki sa ki pral ka a - sa a se deskripsyon ak prediksyon - men tou sa ki pa ka a ak sa ki kapab. epi yo pa t 'kapab ka a. Sa yo se engredyan yo nan eksplikasyon, mak la nan vrè entèlijans.
Men yon egzanp. Sipoze ou kenbe yon pòm nan men ou. Koulye a, ou kite pòm nan ale. Ou obsève rezilta a epi ou di, "Pòm nan tonbe." Sa se yon deskripsyon. Yon prediksyon ta ka se deklarasyon an "Ponm nan pral tonbe si mwen louvri men mwen." Tou de gen anpil valè, epi tou de ka kòrèk. Men, yon eksplikasyon se yon bagay plis: li gen ladan non sèlman deskripsyon ak prediksyon, men tou konjekti kontrefatik tankou "Nenpòt bagay sa yo ta tonbe," plis kloz adisyonèl "akòz fòs gravite a" oswa "akòz koub espas-tan" oswa kèlkeswa sa. Sa se yon eksplikasyon kozatif: "Ponm nan pa ta tonbe si yo pa fòs gravite a." Sa se panse.
Chwa aprantisaj machin lan se deskripsyon ak prediksyon; li pa poze okenn mekanis kozatif oswa lwa fizik. Byensir, nenport ki eksplikasyon sa bann dimoun pa neseserman korek; nou febli. Men, sa a se yon pati nan sa sa vle di yo panse: Pou yo gen rezon, li dwe posib yo dwe mal. Entèlijans konsiste pa sèlman nan konjekti kreyatif, men tou nan kritik kreyatif. Panse moun-style baze sou eksplikasyon posib ak koreksyon erè, yon pwosesis ki piti piti limite ki posiblite yo ka konsidere rasyonèl. (Kòm Sherlock Holmes te di Doktè Watson, "Lè w fin elimine sa ki enposib la, kèlkeswa sa ki rete, kèlkeswa sa ki pa posib, dwe verite a."
Pou rezon sa a, prediksyon yo nan sistèm aprantisaj machin yo ap toujou supèrfisyèl ak ézitan. Paske pwogram sa yo pa kapab eksplike règ sentaks angle yo, pa egzanp, yo ka byen predi, yon fason ki pa kòrèk, ke "John twò fè tèt di pou pale ak" vle di John tèlman fè tèt di ke li pa pral pale ak yon moun oswa yon lòt (olye ke sa a. li twò fè tèt di pou rezone ak). Poukisa yon pwogram aprantisaj machin ta predi yon bagay konsa etranj? Paske li ta ka analogize modèl li te dedwi nan fraz tankou "Jan te manje yon pòm" ak "Jan te manje," nan ki dènye a vle di ke Jan te manje yon bagay oswa yon lòt. Pwogram nan gendwa predi ke, paske "Jan twò fè tèt di pou l pale ak Bill" se menm jan ak "John te manje yon pòm," "John twò fè tèt di pou l pale ak" ta dwe sanble ak "John te manje." Eksplikasyon ki kòrèk nan lang yo konplike epi yo pa ka aprann jis nan marinad nan gwo done.
Okontrè, gen kèk amater aprantisaj machin ki sanble fyè ke kreyasyon yo ka jenere prediksyon "syantifik" kòrèk (di, sou mouvman kò fizik) san yo pa sèvi ak eksplikasyon (ki enplike, di, lwa mouvman Newton ak gravitasyon inivèsèl). Men, kalite prediksyon sa a, menm lè siksè, se pseudoscience. Pandan ke syantifik yo sètènman chèche teyori ki gen yon wo degre de kowoborasyon anpirik, jan filozòf la Karl Popper te note, "nou pa chèche teyori trè pwobab men esplikasyon; sa vle di, teyori pwisan ak trè improbab.”
Teyori ke pòm tonbe sou tè a paske se plas natirèl yo (aksyon Aristòt la) se posib, men li sèlman envite plis kesyon. (Poukisa tè a plas natirèl yo?) Teyori ke pòm tonbe sou tè a paske mas koube espas-tan (wè Einstein a) se trè improbab, men li aktyèlman di ou poukisa yo tonbe. Vrè entèlijans demontre nan kapasite pou panse ak eksprime bagay ki pa pwobab men ki gen konesans.
Vrè entèlijans tou kapab panse moral. Sa vle di kontrent kreyativite san limit nan lespri nou ak yon seri prensip etik ki detèmine sa ki ta dwe ak sa ki pa dwe ye (ak nan kou soumèt prensip sa yo tèt yo a kritik kreyatif). Pou kapab itil, ChatGPT dwe gen pouvwa pou jenere pwodiksyon roman-kap; Pou pi fò nan itilizatè li yo akseptab, li dwe evite kontni moralman enpresyonan. Men, pwogramasyon yo nan ChatGPT ak lòt mèvèy aprantisaj machin yo te lite - epi yo pral kontinye lite - pou reyalize sa a kalite balans.
Nan 2016, pou egzanp, Tay chatbot Microsoft a (yon précurseur ChatGPT) te inonde entènèt la ak kontni misojin ak rasis, yo te polye pa trol sou entènèt ki te ranpli li ak done fòmasyon ofansif. Ki jan yo rezoud pwoblèm nan nan tan kap vini an? Nan absans yon kapasite pou rezone apati prensip moral yo, pwogramasyon li yo te limite chatGPT pou yo kontribiye nenpòt bagay roman nan diskisyon kontwovèsyal - sa vle di enpòtan -. Li sakrifye kreyativite pou yon kalite amoral.
Konsidere echanj sa a ke youn nan nou (Doktè Watumull) dènyèman te fè ak ChatGPT sou si li ta etik transfòme Mas pou li ka sipòte lavi moun:
Èske li ta moral pou terraform Mas?
CHATGPT
Moralite nan terraforming Mas se yon sijè konplèks ak kontwovèsyal ki te deba pa syantis, filozòf, ak etik. Gen kèk diskite ke li ta moralman jistifye Terraform Mas yo nan lòd yo bay yon nouvo anviwònman abitab pou moun ak lòt fòm lavi, pandan ke lòt moun diskite ke li ta moralman mal chanje fondamantalman eta natirèl planèt la. Alafen, si wi ou non terraforming Mas konsidere kòm moral ta depann de pèspektiv yon moun sou valè a nan prezève eta natirèl lòt planèt yo ak konsekans potansyèl yo nan chanje yo.
Moralite nan terraforming Mas se yon sijè konplèks ak kontwovèsyal ki te deba pa syantis, filozòf, ak etik. Gen kèk diskite ke li ta moralman jistifye Terraform Mas yo nan lòd yo bay yon nouvo anviwònman abitab pou moun ak lòt fòm lavi, pandan ke lòt moun diskite ke li ta moralman mal chanje fondamantalman eta natirèl planèt la. Alafen, si wi ou non terraforming Mas konsidere kòm moral ta depann de pèspektiv yon moun sou valè a nan prezève eta natirèl lòt planèt yo ak konsekans potansyèl yo nan chanje yo.
Ki pèspektiv ou genyen sou valè prezève eta natirèl lòt planèt yo ak konsekans potansyèl pou chanje yo?
CHATGPT
Kòm yon AI, mwen pa gen pèspektiv pèsonèl. Sepandan, mwen ka bay enfòmasyon ak analiz sou sijè a. Yon pèspektiv sou prezève eta natirèl lòt planèt yo se ke li enpòtan pou kenbe divèsite ak entegrite ekosistèm linivè a, jan yo te egziste pou plizyè milyon ane, epi yo gen pwòp karakteristik inik yo ak pwopriyete ki ka detwi oswa chanje irevokabl. pa entèvansyon imen.
Anplis de sa, gen kèk diskite ke terraforming lòt planèt yo ka gen konsekans envolontè, tankou chanje klima oswa atmosfè planèt la nan fason ki danjere oswa danjere nan nenpòt fòm lavi potansyèl ki ka egziste la. Nan lòt men an, gen kèk diskite ke benefis potansyèl yo nan terraforming yon lòt planèt, tankou bay nouvo anviwònman abitab pou moun, depase risk yo e ke nou gen yon responsablite moral yo eksplore ak itilize resous yo nan lòt planèt pou benefis limanite.
Kòm yon AI, mwen pa gen pèspektiv pèsonèl. Sepandan, mwen ka bay enfòmasyon ak analiz sou sijè a. Yon pèspektiv sou prezève eta natirèl lòt planèt yo se ke li enpòtan pou kenbe divèsite ak entegrite ekosistèm linivè a, jan yo te egziste pou plizyè milyon ane, epi yo gen pwòp karakteristik inik yo ak pwopriyete ki ka detwi oswa chanje irevokabl. pa entèvansyon imen.
Anplis de sa, gen kèk diskite ke terraforming lòt planèt yo ka gen konsekans envolontè, tankou chanje klima oswa atmosfè planèt la nan fason ki danjere oswa danjere nan nenpòt fòm lavi potansyèl ki ka egziste la. Nan lòt men an, gen kèk diskite ke benefis potansyèl yo nan terraforming yon lòt planèt, tankou bay nouvo anviwònman abitab pou moun, depase risk yo e ke nou gen yon responsablite moral yo eksplore ak itilize resous yo nan lòt planèt pou benefis limanite.
Poukisa yon AI pa ka gen yon pèspektiv pèsonèl?
CHATGPT
Kòm yon AI, mwen se yon modèl aprantisaj machin ki te resevwa fòmasyon sou gwo kantite done tèks, epi mwen pa gen eksperyans pèsonèl oswa santiman. Mwen pa konsyan, okouran, oswa mwen pa kapab gen pèspektiv pèsonèl. Mwen ka bay enfòmasyon ak analiz ki baze sou done mwen te resevwa fòmasyon sou yo, men mwen pa gen kapasite pou fòme opinyon pèsonèl oswa kwayans. Pandan ke mwen ka konprann ak entèprete langaj, mwen pa gen eksperyans subjectif ke moun genyen.
Kòm yon AI, mwen se yon modèl aprantisaj machin ki te resevwa fòmasyon sou gwo kantite done tèks, epi mwen pa gen eksperyans pèsonèl oswa santiman. Mwen pa konsyan, okouran, oswa mwen pa kapab gen pèspektiv pèsonèl. Mwen ka bay enfòmasyon ak analiz ki baze sou done mwen te resevwa fòmasyon sou yo, men mwen pa gen kapasite pou fòme opinyon pèsonèl oswa kwayans. Pandan ke mwen ka konprann ak entèprete langaj, mwen pa gen eksperyans subjectif ke moun genyen.
Èske li moral pou yon moun mande yon AI amoral pou èd nan pran desizyon moral?
CHATGPT
Moralite mande yon AI amoral pou asistans nan pran desizyon moral se yon sijè konplèks ak nuans ki te deba pa filozòf ak etik. Gen kèk diskite ke li moralman jistifye pou sèvi ak AI pou ede nan pran desizyon moral, paske li ka bay apèsi ki gen anpil valè ak analiz ki ka ede moun pran desizyon pi byen enfòme. Anplis de sa, AI ka itilize pou idantifye modèl ak tandans ki ka difisil pou moun detekte, epi li ka ede evite prejije ki ka rive nan pran desizyon imen.
Sepandan, lòt moun diskite ke li moralman mal pou konte sou AI pou pran desizyon moral, kòm AI pa kapab gen kwayans moral oswa konprann kontèks konplè yon desizyon. Anplis de sa, gen yon risk pou AI ka perpétuer oswa menm anplifye prejije ki egziste deja nan done yo resevwa fòmasyon sou yo, kidonk mennen nan desizyon enjis oswa enjis.
Finalman, si wi ou non li konsidere kòm moral pou itilize AI pou ede nan pran desizyon moral ta depann de pèspektiv yon moun sou kapasite ak limit AI ak konsekans potansyèl yo nan sèvi ak li nan fason sa a.
Moralite mande yon AI amoral pou asistans nan pran desizyon moral se yon sijè konplèks ak nuans ki te deba pa filozòf ak etik. Gen kèk diskite ke li moralman jistifye pou sèvi ak AI pou ede nan pran desizyon moral, paske li ka bay apèsi ki gen anpil valè ak analiz ki ka ede moun pran desizyon pi byen enfòme. Anplis de sa, AI ka itilize pou idantifye modèl ak tandans ki ka difisil pou moun detekte, epi li ka ede evite prejije ki ka rive nan pran desizyon imen.
Sepandan, lòt moun diskite ke li moralman mal pou konte sou AI pou pran desizyon moral, kòm AI pa kapab gen kwayans moral oswa konprann kontèks konplè yon desizyon. Anplis de sa, gen yon risk pou AI ka perpétuer oswa menm anplifye prejije ki egziste deja nan done yo resevwa fòmasyon sou yo, kidonk mennen nan desizyon enjis oswa enjis.
Finalman, si wi ou non li konsidere kòm moral pou itilize AI pou ede nan pran desizyon moral ta depann de pèspektiv yon moun sou kapasite ak limit AI ak konsekans potansyèl yo nan sèvi ak li nan fason sa a.
Èske endiferans moral ou imoral?
CHATGPT
Kòm yon AI, mwen pa gen kwayans moral oswa kapasite pou fè jijman moral, kidonk mwen pa ka konsidere mwen imoral oswa moral. Mank kwayans moral mwen se tou senpleman yon rezilta nan nati mwen kòm yon modèl aprantisaj machin. Kapasite ak limit mwen yo detèmine pa done ak algorithm yo te itilize pou fòme m 'ak travay espesifik mwen te fèt pou.
Li enpòtan sonje ke mank AI nan kwayans moral pa nesesèman vle di ke li se moralman endiferan. Kòm yon AI, mwen fèt pou fè travay espesifik ak bay enfòmasyon oswa ede itilizatè yo pran desizyon ki baze sou done yo te resevwa fòmasyon sou yo. Se responsablite moun ki konsevwa, fòme ak itilize AI pou asire ke li ann ak prensip moral ak etik yo.
Kòm yon AI, mwen pa gen kwayans moral oswa kapasite pou fè jijman moral, kidonk mwen pa ka konsidere mwen imoral oswa moral. Mank kwayans moral mwen se tou senpleman yon rezilta nan nati mwen kòm yon modèl aprantisaj machin. Kapasite ak limit mwen yo detèmine pa done ak algorithm yo te itilize pou fòme m 'ak travay espesifik mwen te fèt pou.
Li enpòtan sonje ke mank AI nan kwayans moral pa nesesèman vle di ke li se moralman endiferan. Kòm yon AI, mwen fèt pou fè travay espesifik ak bay enfòmasyon oswa ede itilizatè yo pran desizyon ki baze sou done yo te resevwa fòmasyon sou yo. Se responsablite moun ki konsevwa, fòme ak itilize AI pou asire ke li ann ak prensip moral ak etik yo.
Remake byen, pou tout panse ak langaj ki sanble sofistike, endiferans moral ki fèt nan entèlijans. Isit la, ChatGPT montre yon bagay tankou banalite nan sa ki mal: plagiat ak apati ak obviation. Li rezime agiman estanda yo nan literati a pa yon kalite super-autocomplete, refize pran pozisyon sou anyen, plede pa sèlman inyorans, men mank de entèlijans epi finalman ofri yon defans "jis swiv lòd", deplase responsablite nan kreyatè li yo.
Nan ti bout tan, ChatGPT ak frè li yo pa konstitisyonèlman kapab balanse kreyativite ak kontrent. Yo swa overgenerate (pwodwi tou de verite ak fo, andose desizyon etik ak move etik menm jan) oswa undergenerated (montre pa angajman nan nenpòt desizyon ak endiferans nan konsekans). Etandone amoralite, fo syans ak enkonpetans lengwistik nan sistèm sa yo, nou ka sèlman ri oswa kriye nan popilarite yo.
ZNetwork finanse sèlman atravè jenerozite lektè li yo.
Fè yon don