Ao anatin'ireo adihevitra maro mihodinkodina manodidina ny fandefasana haingana ilay antsoina hoe faharanitan-tsaina artifisialy, dia misy fifandonana somary manjavozavo mifantoka amin'ny fisafidianana ny teny hoe "hallucinate".
Ity no teny napetraky ny architects sy mpanentana ny generative AI mba hamaritana ireo valinteny atolotry ny chatbots izay vita tanteraka, na tsy mety. Ohatra, rehefa manontany bot ianao momba ny famaritana zavatra tsy misy ary manome anao izy io, raha ny marina. iray, feno fanamarihana ambany pejy novolavolaina. "Mbola tsy misy olona eo an-kianja namaha ny olan'ny hallucination," Sundar Pichai, tale jeneralin'ny Google sy Alphabet, nilaza mpanao fanadihadiana vao haingana.
Marina izany - fa maninona no antsoina hoe "hallucinations" ny fahadisoana? Nahoana no tsy algorithmic junk? Sa glitches? Eny, ny hallucination dia manondro ny fahaiza-manaon'ny atidohan'ny olombelona hahita zava-mitranga izay tsy misy, farafaharatsiny tsy amin'ny teny mahazatra, materialista. Amin'ny alàlan'ny fampiasana teny iray ampiasaina matetika amin'ny psikolojia, psychedelics ary endrika mistika isan-karazany, ny mpanentana an'i AI, raha manaiky ny fahadisoan'ny milinany, dia mamahana ny angano ankafizin'ny sehatra indrindra: amin'ny fananganana ireo modely amin'ny fiteny lehibe ireo, ary manofana azy ireo amin'ny zavatra rehetra. isika olombelona dia nanoratra, nilaza ary naneho endrika hita maso, ao anatin'ny dingan'ny famoronana faharanitan-tsaina mihetsiketsika eo amin'ny tendron'ny firongatry ny evolisiona ho an'ny karazana misy antsika izy ireo. Ahoana koa no ahafahan'ny bots toa an'i Bing sy Bard hivoaka any amin'ny etera?
Tena mitranga tokoa eo amin'ny tontolon'ny AI ny fahatsiarovan-tena diso tafahoatra – saingy tsy ny bots no manana izany; Ny tale jeneralin'ny teknolojia no namoaka azy ireo, miaraka amin'ny mpankafy azy, izay ao anatin'ny fehezin'ny fahatsiarovan-tena, na tsirairay na miaraka. Eto aho dia mamaritra ny hallucination fa tsy amin'ny heviny mifono mistika na psychedelic, toe-javatra miova saina izay afaka manampy tokoa amin'ny fidirana amin'ny fahamarinana lalina sy tsy tsapa taloha. Tsia. Mivembena fotsiny ireto olona ireto: mahita, na farafaharatsiny milaza fa mahita, porofo tsy misy mihitsy, eny fa na dia ny fandraisan'anjaran'izao tontolo izao aza izay hampiasa ny vokatra ho an'ny fanandratana sy ny fanabeazana ho an'ny rehetra.
Hamarana ny fahantrana ny AI Generative, hoy izy ireo. Hanasitrana ny aretina rehetra izany. Hamaha ny fiovan'ny toetr'andro izany. Hahatonga ny asantsika ho manan-danja sy mampientanentana kokoa izany. Hanafaka ny fiainana amin'ny fialam-boly sy ny fisaintsainana izany, hanampy antsika hamerina ny maha-olombelona izay very tamin'ny mekanika kapitalista tara. Hamarana ny fanirery izany. Hahatonga ny governemantantsika ho tonga saina sy handray andraikitra izany. Ireo, matahotra aho, no tena fahatsiarovan-tena AI ary efa naheno azy ireo tamin'ny tadio isika rehetra hatramin'ny nanombohan'ny Chat GPT tamin'ny faran'ny taona lasa.
Misy izao tontolo izao izay ahafahan'ny AI miteraka, amin'ny maha-fitaovana fikarohana vinavina mahery vaika sy mpanatontosa asa mandreraka, dia azo fehezina tokoa. tombontsoa olombelona, karazana hafa ary ny tokantranontsika. Saingy mba hahatongavana amin'izany, ireo teknolojia ireo dia mila apetraka ao anatin'ny lamina ara-toekarena sy ara-tsosialy tena hafa noho ny antsika, izay manana tanjona amin'ny famenoana ny filan'ny olombelona sy ny fiarovana ny rafitra planeta izay manohana ny fiainana rehetra.
Ary raha takatry ny saintsika izay tsy mandeha amin'izao fotoana izao dia tsy mitovy amin'izany ny rafitra misy antsika ankehitriny. Fa kosa, izy io dia natsangana mba hanamafisana ny fitrandrahana harena sy tombom-barotra - avy amin'ny olombelona sy ny tontolo voajanahary - zava-misy izay nitondra antsika ho amin'izay mety hoheverintsika ho dingana teknolojian'ny kapitalisma. Ao anatin'io zava-misy iainan'ny hery sy ny harena mihoa-pampana io, AI - lavitry ny miaina mifanaraka amin'ireo fahatsiarovan-tena rehetra ireo - dia mety ho lasa fitaovana mampatahotra kokoa amin'ny fandroahana sy fanimbana bebe kokoa.
Hojereko ny antony mahatonga izany. Fa tsara aloha ny mieritreritra momba ny tanjona ny fahatsiarovan-tena utopia momba ny AI dia manompo. Inona no asa ataon'ireo tantara mahasoa ireo eo amin'ny kolontsaina rehefa tojo ireny fitaovana vaovao hafahafa ireny isika? Ity misy petra-kevitra iray: izy ireo no tantara saron-tava mahery sy mahasarika ny amin'izay mety hivadika ho halatra lehibe indrindra sy lehibe indrindra amin'ny tantaran'ny olombelona. Satria ny zavatra hitantsika dia ireo orinasa mpanankarena indrindra teo amin'ny tantara (Microsoft, Apple, Google, Meta, Amazon ...) maka an-keriny ny fitambaran'ny fahalalan'olombelona izay misy amin'ny endrika nomerika, azo kikisana ary manakana izany ao anatin'ny vokatra fananan-tany, izay maro amin'izy ireo no hivoaka. araho mivantana ny olona izay nanofana milina nandritra ny androm-piainany tsy nanome alalana na fanekena.
Tsy tokony ho ara-dalàna izany. Raha ny momba ny fitaovana misy zon'ny mpamorona izay ataontsika ankehitriny mahalala nampiofana ireo modely (anisan'izany ity gazety ity), isan-karazany fitoriana Nametraka fitoriana fa tsy ara-dalàna izany. Nahoana, ohatra, no tokony havela hampiditra ny sary hosodoko, ny sary ary ny sarin'ny mpanakanto velona ao anatin'ny fandaharana toy ny Stable Diffusion na Dall-E 2 ny orinasa iray mitady tombony, mba ho azo ampiasaina hamoronana dikan-teny doppelganger an'ireo mpanakanto ireo. asa, miaraka amin’ny tombontsoa mikoriana ho an’ny rehetra fa ny mpanakanto mihitsy?
Ny mpanao hosodoko sy mpanao sary Molly Crabapple dia manampy amin'ny fitarihana hetsika mpanakanto manohitra ity halatra ity. “Ny mpamorona zava-kanto AI dia voaofana amin'ny angon-drakitra goavambe, misy sary an-tapitrisany amin'ny zon'ny mpamorona, voaangona tsy fantatry ny mpamorona azy, mainka fa ny tambin-karama na ny fanekena. Ity no halatra kanto lehibe indrindra teo amin'ny tantara. Nataon'ny orinasa toa mendri-kaja tohanan'ny renivohitra venture Silicon Valley. Fandrobana antoandro izao”, hoy ny vaovao misokatra taratasy izay niara-nandrafitra ny fanjakana.
Ny hafetsena, mazava ho azy, dia ny Silicon Valley dia miantso ny halatra ho "fanakorontanana" - ary matetika dia miala amin'izany. Fantatsika izao hetsika izao: mirosoa mankany amin'ny faritany tsy misy lalàna; milaza fa ny fitsipika taloha dia tsy mihatra amin'ny teknolojia vaovao anao; mikiakiaka fa hanampy an'i Shina ihany ny fitsipika – rehefa mahazo ny zava-misy marina eny an-kianja ianao. Amin'ny fotoana handraisantsika rehetra ny zava-baovao amin'ireo kilalao vaovao ireo ary hanomboka handinika ny faharavana ara-tsosialy, ara-politika ary ara-toekarena, dia efa miparitaka eny rehetra eny ny teknolojia ka ny fitsarana ary manandra-tànana ny mpanao politika.
Hitanay tamin'ny bokin'i Google sy ny fandinihan-javakanto izany. Miaraka amin'ny fanjanahan'ny habakabaka an'i Musk. Miaraka amin'ny fanafihan'i Uber ny indostrian'ny taxi. Miaraka amin'ny fanafihan'ny Airbnb ny tsenan'ny fanofana. Miaraka amin'ny fijangajangan'ny Facebook amin'ny angonay. Aza mangataka alalana, ny mpanakorontana dia tia miteny, mangataka famelan-keloka. (Ary hosorana amin'ny fandraisan'anjaran'ny fampielezan-kevitra ny fanontaniana.)
Tamin'ny vanim-potoanan'ny kapitalisma fanaraha-maso, Shoshana Zuboff amin'ny antsipiriany amin'ny antsipiriany tsara ny fomba nivoahan'ny sarintanin'ny Street View an'ny Google noho ny fitsipika momba ny fiainana manokana tamin'ny fandefasana ny fiarany misy ravaky ny fakan-tsary haka sary ny lalamben'ny besinimaro sy ny ivelan'ny tranontsika. Tamin'ny fotoana nivezivezena ny fitoriana miaro ny zon'ny fiainana manokana, ny Street View dia efa hatraiza hatraiza amin'ny fitaovanay (ary tena mahafinaritra, ary tena mety…) hany ka vitsy ny fitsarana any ivelany. Germany vonona ny hiditra an-tsehatra.
Ankehitriny ny zavatra nitranga teo ivelan'ny tranonay dia mitranga amin'ny teninay, ny sarinay, ny hiranay, ny fiainanay nomerika manontolo. Nosamborina avokoa ny rehetra amin'izao fotoana izao ary ampiasaina amin'ny fanofanana ny milina hanahafana ny fisainana sy ny famoronana. Ireo orinasa ireo dia tsy maintsy mahafantatra fa mirotsaka amin'ny halatra izy ireo, na farafaharatsiny a tranga mafy azo atao hoe izy ireo. Manantena fotsiny izy ireo fa hiasa indray ilay boky filalaovana taloha - fa efa lehibe sy mivelatra amin'izany ny haavon'ny halatra. hafainganam-pandeha fa ny fitsarana sy ny mpanao politika indray no haninjitra ny tanany manoloana ny heverina fa tsy azo ihodivirana izany rehetra izany.
Izany koa no antony maha-zava-dehibe ny fisainan'izy ireo momba ny zava-mahagaga rehetra hataon'ny AI ho an'ny olombelona. Satria ireo filazana ambony ireo dia manafina an'io halatra faobe io ho fanomezana - miaraka amin'ny fanampiana amin'ny fanamarinan-tena ny loza tsy azo lavina amin'ny AI.
Amin'izao fotoana izao, ny ankamaroantsika dia nandre momba ny fanadihadiana izay nanontany ny mpikaroka sy ny mpamorona AI mba hanombantombanana ny mety hisian'ny rafitra AI mandroso dia hahatonga ny "faharinganan'ny olombelona na ny famongorana maharitra sy mafy ny karazana olombelona". Mampalahelo fa ny valinteny median dia misy 10% ny vintana.
Ahoana no hanamarinan-tena ny handeha hiasa sy hanosika fitaovana izay mitondra risika misy toy izany? Matetika, ny antony nomena dia satria ireo rafitra ireo ihany koa dia mitondra fisondrotana lehibe mety hitranga - afa-tsy fa ireo fisondrotana ireo, amin'ny ankapobeny, dia mampitony. Andeha isika handinika vitsivitsy amin'ireo any an'ala.
hallucination #1: AI dia voavaha ny toetrandro krizy
Saika ny laharana voalohany amin'ny lisitry ny fiakaran'ny AI dia ny filazana fa hamaha ny krizy amin'ny toetr'andro ireo rafitra ireo. Nandre izany avy amin'ny rehetra avy amin'ny World Economic Forum ny Filankevitry ny Fifandraisan-davitra vahiny ny Boston Consulting Group, izay manazava fa ny AI dia “azo ampiasaina hanohanana ny mpandray anjara rehetra amin'ny fandraisana fomba fiasa vaovao kokoa sy mifototra amin'ny angon-drakitra mba hiadiana amin'ny famoahana karbônina sy hananganana fiarahamonina maitso. Azo ampiasaina koa izy io mba hamerenana ny ezaky ny toetr'andro maneran-tany mankany amin'ireo faritra atahorana indrindra. ” Ny tale jeneralin'ny Google teo aloha Eric Schmidt dia namintina ny raharaha rehefa izy nilaza ny Atlantika izay mendrika horaisina amin'ny risika AI, satria "Raha mieritreritra ny olana lehibe indrindra eran'izao tontolo izao ianao, dia tena sarotra izy ireo - ny fiovan'ny toetr'andro, ny fikambanan'olombelona, sns. Ary noho izany, tiako foana ny olona ho hendry kokoa.”
Araka io lojika io, ny tsy fahombiazan'ny "famahana" olana lehibe toy ny fiovan'ny toetr'andro dia noho ny tsy fahampian'ny faharanitan-tsaina. Aza mieritreritra fa ny olona hendry, manana mari-pahaizana PhD sy loka Nobel, dia nilaza tamin'ny governemantantsika nandritra ny am-polony taona maro izay tokony hitranga mba hialana amin'ity korontana ity: tapaho ny etona, avelao ny karbaona ao anaty tany, fehezo ny fanjifana tafahoatra ataon'ny mpanankarena sy ny tsy fahampian-tsakafo. an'ny mahantra satria tsy misy loharanon-angovo tsy misy vidiny ara-tontolo iainana.
Ny antony tsy noraharahiana ity torohevitra tena hendry ity dia tsy noho ny olan'ny fahatakarana mamaky teny, na noho isika mila milina hanao ny fisainantsika ho antsika. Satria ny fanaovana izay takian'ny krizy amin'ny toetr'andro amintsika dia ho tafahitsoka dolara dolara amin'ny fananan'ny solika fôsily, raha manohitra ny maodely fitomboana mifototra amin'ny fanjifana ao am-pon'ny toe-karenantsika mifandray. Ny krizy momba ny toetrandro, raha ny marina, dia tsy mistery na ankamantatra mbola tsy voavaha noho ny tsy fahampian'ny angon-drakitra. Fantatsika izay mety hitranga, saingy tsy vahaolana haingana izany - fanovana paradigma izany. Tsy fanafodin'ity krizy ity ny fiandrasan'ny milina hamoaka valiny mahafa-po kokoa sy/na mahasoa, fa soritr'aretina iray hafa izany.
Esory ny fahatsiarovan-tena ary toa azo inoana kokoa fa ny AI dia hoentina eny an-tsena amin'ny fomba izay manamafy ny krizy amin'ny toetr'andro. Voalohany, ireo mpizara goavam-be izay manao andrana sy asakanto avy hatrany amin'ny chatbots dia lehibe sy mitombo. loharano ny famoahana karbôna. Faharoa, rehefa manomboka manamboatra ny orinasa toa an'i Coca-Cola fampiasam-bola goavana mampiasa AI generative hivarotana vokatra bebe kokoa, dia lasa mazava loatra fa ity teknolojia vaovao ity dia hampiasaina amin'ny fomba mitovy amin'ny taranaka farany amin'ny fitaovana dizitaly: fa izay manomboka amin'ny fampanantenana ambony momba ny fanaparitahana ny fahalalahana sy ny demokrasia dia miafara amin'ny doka mikendry ny micro. izahay mba hividiananay zavatra tsy misy ilana azy bebe kokoa, mandroaka karbaona.
Ary misy lafin-javatra fahatelo, ity iray ity dia sarotra kokoa ny manindrona. Arakaraka ny tondrahan'ny fantsona fampahalalam-baovaontsika ny sandoka lalina sy ny klone isan-karazany, no vao mainka hahatsapantsika fa milentika ao anatin'ny fasika mitsimoka. Geoffrey Hinton, izay antsoina matetika hoe “ny godfather of AI” satria ny harato neural novolavolainy folo taona mahery lasa izay no mahaforona ireo modely amin'ny fiteny lehibe ankehitriny, dia mahatakatra tsara izany. Nandao ny andraikitra ambony tao amin'ny Google fotsiny izy mba hahafahany miresaka malalaka momba ny loza ateraky ny teknolojia nampiany noforonina, anisan'izany ny nilaza ny New York Times, ny loza mety hitranga amin’ny hoe “tsy ho fantatry ny olona intsony izay marina”.
Tena manan-danja tokoa izany amin'ny filazana fa ny AI dia hanampy amin'ny ady amin'ny krizin'ny toetrandro. Satria rehefa tsy matoky ny zavatra rehetra vakintsika sy hitantsika ao amin'ny tontolon'ny haino aman-jery izay mihamazava kokoa isika, dia vao mainka tsy ampy fitaovana hamahana olana iraisana. Ny krizy amin'ny fifampitokisana dia mialoha ny ChatGPT, mazava ho azy, saingy tsy misy isalasalana fa ny fihanaky ny hosoka lalina dia hiaraka amin'ny fitomboan'ny kolontsaina tsikombakomba efa miroborobo. Inona àry no mety hitranga raha toa ka tonga amin'ny fandrosoana ara-teknolojia sy siantifika ny AI? Raha mivaha eo am-pelatanantsika ny tontolon'ny zava-misy iaraha-miaina, dia ho hitantsika fa tsy ho afaka hamaly amin'ny firindrana mihitsy isika.
hallucination #2: AI dia afaho hendry Fitantanam-pitondrana
Ity fahatsiarovan-tena ity dia miantso amin'ny hoavy tsy ho ela izay ahafahan'ny mpanao politika sy ny mpiasam-panjakana, amin'ny alàlan'ny faharanitan-tsaina midadasika amin'ny rafitra AI, dia afaka "mahita ny lamin'ny filana sy mamolavola programa mifototra amin'ny porofo" izay manana tombony lehibe kokoa ho an'ny mpifidy azy. Avy amin'ny a taratasy navoakan'ny fikambanana Boston Consulting Group, saingy nanakoako tao anatin'ny sampan-draharaha misahana ny fikirakirana sy ny fitantanana. Ary milaza fa ireo orinasa manokana ireo - ireo orinasa nokaramain'ny governemanta sy orinasa hafa hamantatra ny fitsitsiana ny fandaniana, matetika amin'ny fandroahana mpiasa marobe - no haingana indrindra nitsambikina tamin'ny sarety AI. PwC (PricewaterhouseCoopers taloha) fotsiny nanambara fampiasam-bola 1 lavitrisa dolara, ary ny Bain & Company ary koa ny Deloitte dia voalaza fa mazoto amin'ny fampiasana ireo fitaovana ireo mba hahatonga ny mpanjifany "hahomby".
Tahaka ny fanambaran’ny toetr’andro, ilaina ny manontany hoe: nahoana ny mpanao politika no mametraka politika feno habibiana sy tsy mahomby noho ny tsy fahampian’ny porofo? Ny tsy fahafahana "mahita lamina", araka ny soso-kevitry ny gazety BCG? Tsy azon'izy ireo ve ny vidin'ny olombelona amin'ny mosarena ny fitsaboana ho an'ny daholobe ao anatin'ny areti-mifindra, na ny tsy fampiasam-bola amin'ny trano tsy tsena rehefa mameno ny valan-javaboary an-tanàn-dehibe ny tranolay, na ny fankatoavana fotodrafitrasa solika fôsily vaovao rehefa miakatra ny mari-pana? Mila AI ve izy ireo mba hahatonga azy ireo ho “hendry kokoa”, hampiasa ny tenin'i Schmidt – sa tena hendry tokoa ve izy ireo ka mahafantatra hoe iza no hanao sonia ny fampielezan-keviny manaraka, sa, raha mivily izy ireo, dia mandoa vola amin'ireo mpifaninana aminy?
Tena mahafinaritra tokoa raha tena afaka manapaka ny fifandraisana misy eo amin'ny volan'ny orinasa sy ny fanaovana politika tsy miangatra ny AI - saingy io rohy io dia misy ifandraisany amin'ny antony namelan'ny orinasa toa an'i Google sy Microsoft hamoaka ny chatbots ho an'ny besinimaro na dia eo aza ny fampitandremana. risika fantatra. Schmidt sy ny hafa dia nanao fampielezan-kevitra naharitra taona maro milaza ny roa tonta ao Washington fa raha tsy malalaka amin'ny fampiasana AI generative, tsy vesaran'ny fitsipika matotra, dia havelan'i Shina ao anaty vovoka ny hery tandrefana. Tamin'ny taon-dasa, ny orinasa teknolojia ambony indrindra lany 70 tapitrisa dolara mba handosirana an'i Washington – mihoatra noho ny sehatry ny solika sy entona – ary io vola io, hoy ny fanamarihan'ny Bloomberg News, dia ambonin'ny vola an-tapitrisany lany “amin'ny vondron'ny varotra maro be, ny tsy mitady tombony ary ny thinktanks”.
Ary na dia eo aza ny fahalalany lalina momba ny fomba hamolavolan'ny vola ny politika ao amin'ny renivohitra nasionaly, rehefa mihaino an'i Sam Altman, Tale Jeneralin'ny OpenAI - mpanamboatra ny ChatGPT ianao - miresaka momba ny toe-javatra tsara indrindra ho an'ny vokatra azony, izany rehetra izany dia toa tsy misy dikany. hadino. Raha ny tokony ho izy, dia toa mamitaka tontolo iray tsy mitovy amin'ny antsika izy, izay ahafahan'ny mpanao politika sy ny indostria mandray fanapahan-kevitra mifototra amin'ny angon-drakitra tsara indrindra ary tsy hametraka fiainana tsy tambo isaina ho tandindomin-doza ho an'ny tombony sy tombontsoa ara-jeopolitika. Izay mitondra antsika amin'ny hallucination hafa.
hallucination #3: Tech goavam-be afaka be atokisana tsy vakio ny izao tontolo izao
nanontaniana raha manahy momba ny firotsahana volamena mampikorontan-tsaina efa navoakan'ny ChatGPT izy, dia nilaza i Altman fa izany no izy, saingy nampiany tamim-pahatsorana hoe: "Antenaina fa hahomby daholo izany." Amin'ireo tale jeneralin'ny teknolojia namany - ireo mifaninana hamoaka ny chatbots mpifaninana aminy - hoy izy: "Heveriko fa ny anjely tsara kokoa no handresy."
Anjely tsara kokoa? Ao amin'ny Google? Tena azoko antoka ny orinasa voaroaka ny ankamaroan'izy ireo dia noho izy ireo namoaka taratasy manakiana momba ny AI, na miantso ny orinasa momba ny fanavakavaham-bolon-koditra sy ny fanorisorenana ara-nofo eo amin'ny toeram-piasana. Betsaka kokoa ny “anjely tsara kokoa”. hiala amin'ny fanairana, vao haingana i Hinton. Izany dia satria, mifanohitra amin'ny fisainan'ny olona izay mahazo tombony betsaka indrindra amin'ny AI, Google dia tsy mandray fanapahan-kevitra mifototra amin'izay tsara indrindra ho an'izao tontolo izao - mandray fanapahan-kevitra mifototra amin'izay tsara indrindra ho an'ny mpandray anjara amin'ny Alphabet, izay tsy te hanadino ny bubble farany, fa tsy rehefa efa tafiditra daholo ny Microsoft, Meta ary Apple.
Hallucination #4: AI dia hanafaka us avy amin'ny hahasorena
Raha toa ka azo inoana ho an'ny maro ny fahatsiarovan-tena tsara ataon'ny Silicon Valley, dia misy antony tsotra amin'izany. Generative AI amin'izao fotoana izao dia ao anatin'ny mety ho eritreretintsika ho dingana faux-socialism. Ity dia ampahany amin'ny kilalao kilalao mahazatra amin'ny Silicon Valley. Voalohany, mamorona vokatra mahasarika (motera fikarohana, fitaovana fanaovana sarintany, tambajotra sosialy, sehatra video, fizarana fiara ...); omeo maimaim-poana na saika maimaim-poana mandritra ny taona vitsivitsy izany, tsy misy modely ara-barotra azo tsapain-tanana ("Milalao miaraka amin'ny bots", hoy izy ireo, "jereo izay zavatra mahafinaritra azonao atao!"); manao filazana ambony be dia be momba ny fomba hanaovanao izany fotsiny satria te hamorona “kianjan'ny tanàna” na “information commons” na “mampifandray ny vahoaka” ianao, sady manaparitaka ny fahalalahana sy ny demokrasia (fa tsy hoe “ratsy”). Jereo avy eo ny olona voasarika amin'ny fampiasana ireo fitaovana maimaim-poana ireo ary ny mpifaninana aminao dia manambara fa bankirompitra. Rehefa mazava ny sehatra, ampidiro ny doka kendrena, ny fanaraha-maso tsy tapaka, ny fifanekena amin'ny polisy sy ny miaramila, ny fivarotana angon-drakitra mainty ary ny fiakaran'ny saram-pamandrihana.
Ain'olona sy sehatra maro no rava noho ny famerimberenana teo aloha ity boky filalaovana ity, manomboka amin'ny mpamily fiarakaretsaka ka hatrany amin'ny tsena fanofana ka hatramin'ny gazety ao an-toerana. Miaraka amin'ny revolisiona AI, ireo karazana fatiantoka ireo dia mety ho toy ny hadisoana mihodinkodina, miaraka amin'ny mpampianatra, coders, mpanakanto hita maso, mpanao gazety, mpandika teny, mpitendry mozika, mpiasan'ny fikarakarana ary maro hafa miatrika ny fahatsinjovana ny ho solon'ny kaody ratsy ny fidiram-bolany.
Aza manahy, mi-hallucinate ireo mpankafy AI – hahafinaritra izany. Iza anefa no tia asa? Generative AI dia tsy ho fiafaran'ny asa, hoy izahay, "asa mankaleo” – miaraka amin'ny chatbots manampy amin'ny fanaovana ireo asa rehetra manimba fanahy sy miverimberina ary manara-maso azy ireo fotsiny ny olombelona. Altman, ho azy, mahita ho avy izay “mety ho hevitra midadasika kokoa ny asa, tsy zavatra tsy maintsy atao vao afaka misakafo, fa zavatra ataonao ho fanehoana famoronana sy fomba hahitana fahatanterahana sy fahasambarana”.
Izany dia fahitana mampientam-po momba ny fiainana kanto sy miala voly kokoa, izay misy ankavia maro (anisan'izany ny vinantolahin'i Karl Marx, Paul Lafargue, izay nanoratra Manifesto mitondra ny lohateny hoe Ny zo ho kamo). Fa isika ankavia dia mahafantatra ihany koa fa raha toa ka tsy ilaina intsony ny fitadiavam-bola eo amin'ny fiainana, dia tsy maintsy misy fomba hafa hanomezana fialofana sy fivelomana. Ny tontolo tsy misy asa ratsy dia midika fa tsy maintsy maimaim-poana ny hofan-trano, ary tsy maintsy maimaim-poana ny fitsaboana, ary tsy maintsy manana zo ara-toekarena tsy azo ihodivirana ny olona tsirairay. Ary tampoka teo dia tsy miresaka momba ny AI mihitsy isika – miresaka momba ny sosialisma.
Satria tsy miaina ao anatin'ny tontolon'ny saina sy maha-olombelona izay aingam-panahy avy amin'ny Star Trek isika, izay toa mandrebireby an'i Altman. Miaina eo ambanin'ny kapitalisma isika, ary eo ambanin'io rafitra io, ny fiantraikan'ny fanondrahana ny tsena amin'ny teknolojia izay afaka manatanteraka ny asa ara-toekarena ataon'ny mpiasa tsy tambo isaina dia tsy hoe malalaka tampoka ho lasa filozofa sy mpanakanto ireo olona ireo. Midika izany fa ireo olona ireo dia hahita ny tenany mibanjina ny hantsana - miaraka amin'ireo mpanakanto tena izy ho isan'ireo voalohany lavo.
Izany no hafatry ny taratasy misokatra nataon'i Crabapple, izay miantso ny “mpanakanto, mpamoaka lahatsoratra, mpanao gazety, tonian-dahatsoratra ary mpitarika sendikaly fanaovan-gazety mba handray antoka ny amin'ny soatoavin'olombelona hanoherana ny fampiasana sary miteraka-AI” ary “manolo-tena hanohana ny zavakanto fanaovan-gazety nataon'ny olona. , fa tsy toeram-piompiana mpizara”. Ny taratasy, izao sonia avy amin'ny mpanakanto an-jatony, mpanao gazety ary ny hafa, dia milaza fa ny rehetra afa-tsy ny mpanakanto sangany indrindra dia mahita ny asany "atahorana ho lany tamingana". Ary araka ny voalazan'i Hinton, ilay “rain'ny AI”, dia tsy misy antony tokony hinoana fa tsy hiparitaka ny fandrahonana. Ny chatbots dia manaisotra ny "asa mahasosotra" fa "mety hanala mihoatra noho izany".
Crabapple sy ireo mpiara-manoratra aminy dia nanoratra hoe: "Ny zava-kanto Generative AI dia vampirika, misakafo amin'ireo sanganasan-kanto taloha na dia manenjika ny ain'ny mpanakanto velona aza." Saingy misy fomba hanoherana: afaka mandà tsy hampiasa ireo vokatra ireo isika ary mandamina mba hitaky ny handàvan'ny mpampiasa sy ny governemanta azy ireo koa. ny taratasy avy amin'ireo manam-pahaizana malaza momba ny etika AI, anisan'izany i Timnit Gebru izay noroahin'ny Google tamin'ny taona 2020 noho ny fanamby amin'ny fanavakavahana eo amin'ny toeram-piasana, dia mametraka ny sasany amin'ireo fitaovana manara-penitra azon'ny governemanta ampidirina avy hatrany – ao anatin'izany ny mangarahara tanteraka momba ny angon-drakitra ampiasaina hanofanana ireo maodely. Ny mpanoratra dia nanoratra hoe: "Tsy hoe tokony hazava foana rehefa sendra ny haino aman-jery sentetika isika, fa ny fikambanana manorina ireo rafitra ireo dia tokony hotakina amin'ny fanoratana sy famoahana ny angon-drakitra fanofanana sy ny maritrano modely .... Tokony hanorina milina miasa ho antsika isika fa tsy 'mampifanaraka' ny fiaraha-monina mba ho mora vakiana sy azo soratana amin'ny milina."
Na dia tian'ny orinasa teknolojia aza isika hino fa efa tara loatra ny hamerenana an'io vokatra fanoloana olona io, dia misy ny fepetra ara-dalàna sy ara-dalàna azo ampiharina. Ohatra, ny US Federal Trade Commission (FTC). voatery Cambridge Analytica, ary koa i Everalbum, tompon'ny fampiharana sary iray, hanimba ny algorithm manontolo hita fa niofana tamin'ny angon-drakitra nalaina tsy ara-dalàna sy sary nokikisana. Tany am-piandohana, ny fitantanan'i Biden dia nanao fanambarana feno fahasahiana momba ny fifehezana ny teknolojia lehibe, ao anatin'izany ny famoretana ny fangalarana ny angon-drakitra manokana mba hananganana algorithm manokana. Miaraka amin'ny fifidianana filoham-pirenena haingana dia haingana, izao no fotoana tsara hanatanterahany ireo fampanantenana ireo - ary hisorohana ny fandroahana faobe manaraka alohan'ny hitrangan'izany.
Tsy azo ihodivirana ny tontolon'ny hosoka lalina, ny mimicry loop ary ny tsy fitoviana miharatsy. Safidy ara-politika izany. Azontsika atao ny mifehy ny endriky ny chatbots vampirika amin'izao fotoana izao - ary manomboka manangana izao tontolo izao izay ny fampanantenana mampientanentana indrindra ataon'ny AI dia mihoatra noho ny fahatsiarovan-tena ao amin'ny Valley Silicon.
Satria nampiofanay ny milina. Isika rehetra. Saingy tsy nanome ny fanekenay mihitsy izahay. Nohanin'izy ireo ny faharanitan-tsain'ny olombelona, ny aingam-panahy ary ny fanambarana (miaraka amin'ny toetrantsika kokoa). Ireo maodely ireo dia milina famenoana sy famatsiam-bola, mandany sy manao privatize ny fiainantsika tsirairay ary koa ny lovantsika ara-tsaina sy ara-javakanto. Ary ny tanjon'izy ireo dia tsy ny hamaha ny fiovaovan'ny toetr'andro na hahatonga ny governemantantsika ho tompon'andraikitra kokoa na ny fiainantsika andavanandro. Nahazo tombony hatrany tamin'ny fifindra-monina faobe, izay, eo ambanin'ny kapitalisma, dia vokatra mibaribary sy lojika amin'ny fanoloana ny asan'ny olombelona amin'ny bots.
Manaitra be ve izany rehetra izany? Fihetseham-po sy reflexive fanoherana amin'ny fanavaozana mampientam-po? Nahoana no manantena ny ratsy kokoa? Altman manome toky isika: “Tsy misy olona te handrava izao tontolo izao”. Angamba tsy izany. Saingy araka ny asehon'ny toetr'andro sy ny krizy fandripahana tsy mitsaha-miharatsy amintsika isan'andro, dia olona matanjaka sy andrim-panjakana maro no toa tsy dia tsara loatra amin'ny fahafantarana fa manampy amin'ny fanimbana ny fahamarinan'ireo rafitra manohana ny fiainana eto an-tany izy ireo, raha mbola afaka manao izany hatrany izy ireo. firaketana an-tsoratra tombom-barotra izay inoany fa hiaro azy sy ny fianakaviany amin’ny voka-dratsy ratsy indrindra. Altman, sahala amin'ireo zavaboary maro ao amin'ny Lohasahan'i Silicon, dia tena mpiomana ny tenany: tamin'ny taona 2016, izy nirehareha erỳ: “Manana basy aho, volamena, iodide potassium, antibiotika, bateria, rano, saron-tava entona avy amin'ny Tafika Fiarovana Israeliana ary tany midadasika any Big Sur azoko anidina.”
Azoko antoka fa ireo zava-misy ireo dia milaza bebe kokoa momba ny tena inoan'i Altman momba ny hoavy ampiany amin'ny famoahana azy noho izay mety ho saro-kenatra mamony nofidiny hozaraina amin'ny tafatafa an-gazety.
Naomi Klein dia mpanao gazety mpiambina amerikana ary mpanoratra mpandray anjara. Izy no mpanoratra malaza indrindra amin'ny No Logo sy The Shock Doctrine ary Profesora momba ny Fitsarana momba ny toetr'andro ary mpiara-miasa amin'ny Foibe momba ny Fitsarana momba ny toetr'andro ao amin'ny University of British Columbia.
Ny ZNetwork dia mamatsy vola amin'ny alalan'ny fahalalahan'ny mpamaky azy fotsiny.
hanome