Gervigreind (AI) virðist vera alls staðar. Fyrirtæki nota öfluga gervigreind spjallbotna á vefsíðum sínum eða símakerfum til að takast á við spurningar viðskiptavina. Fréttastofur og tímarit nota þær til að skrifa sögur. Kvikmyndaver nota þær til að framleiða kvikmyndir. Tæknifyrirtæki nota þau til að forrita. Nemendur nota þau til að skrifa greinar. Það virðist vera galdur. Og þar sem allt er talið gerast „í skýinu“ er auðvelt að trúa því að gervigreindarkerfi séu góð fyrir umhverfið. Því miður eru hlutirnir ekki eins og þeir virðast vera.
Spjallbotar eru byggðir á nýtingu, nota gríðarlegt magn af orku og eru langt frá því að vera áreiðanlegir. Og þó að auðvelt sé að ímynda sér að þau vaxi í fágun og gera lífið auðveldara að sumu leyti, eru fyrirtæki að ausa milljörðum dollara í sköpun sína til að græða með litlum áhyggjum af því hvort afkoman verði samfélagslega hagstæð. Í stuttu máli þurfum við að taka áhuga fyrirtækja á gervigreind alvarlega og þróa aðferðir sem geta hjálpað okkur að ná stjórn á því hvernig gervigreind er þróuð og notuð.
Kapphlaupið stendur yfir
Chatbot-byltingin hófst árið 2022 með kynningu OpenAI á ChatGPT. ChatGPT var fær um mannlegt samtal og gat svarað spurningum notenda með mynduðum texta auk þess að skrifa greinar og kóða. Það besta af öllu var að það var ókeypis í notkun.
Önnur fyrirtæki, sem bregðast við áhuga almennings á ChatGPT, byrjuðu fljótlega að kynna eigin gervigreind spjallbotna. Stærstu og mest notaðir í dag eru Google Gemini (áður Bard) og Microsoft Copilot. Það eru aðrir líka, þar á meðal sumir hönnuð til að mæta sérstökum viðskiptaþörfum. Til dæmis, GitHub CoPilot vinnur að því að hjálpa hugbúnaðarframleiðendum að búa til kóða og Claude Anthrophic var hannaður til að finna upplýsingar og draga saman skjöl.
Og hlaupið heldur áfram að skapa næsta kynslóð Gervigreind kerfi sem geta tekið inn meiri upplýsingar, unnið úr þeim hraðar og veitt ítarlegri, persónuleg viðbrögð. Samkvæmt Goldman Sacks hagfræðingar, AI-tengd fjárfesting í Bandaríkjunum „gæti náð hámarki allt að 2.5 til 4 prósent af landsframleiðslu“ á næsta áratug.
Spjallbotar þurfa stóran og fjölbreyttan gagnagrunn með orðum, texta, myndum, hljóði og hegðun á netinu auk háþróaðra reiknirita til að gera þeim kleift að skipuleggja efnið þegar þess er þörf í takt við algengt notkunarmynstur. Þegar þeir fá spurningu eða beiðni um upplýsingar, auðkenna spjallþræðir efni í gagnagrunni sínum sem tengist mynstri orða í spurningunni eða beiðninni og setja síðan saman, aftur með reiknirit að leiðarljósi, safn orða eða mynda úr gagnagrunni þeirra sem best uppfyllir gefin gögn takmarkanir, fyrirspurnin. Auðvitað tekur ferlið við að greina mynstur og búa til viðbrögð gríðarlega mikið af orku.
Sama hversu samræður og greindur spjallbotni gæti hljómað, það er mikilvægt að muna, eins og Megan Crouse útskýrir, að:
„Módelið „veit“ ekki hvað það er að segja, en það veit hvaða tákn (orð) eru líkleg til að koma á eftir öðru miðað við gagnasettið sem það var þjálfað á. Núverandi kynslóð gervigreindarspjallbotna, eins og ChatGPT, Google keppinautur þess Bard og fleiri, tekur í raun ekki skynsamlega upplýstar ákvarðanir; í staðinn eru þeir páfagaukar internetsins og endurtaka orð sem líklegt er að finnast við hliðina á öðru í náttúrulegu tali. Undirliggjandi stærðfræði snýst allt um líkur.“
Mismunandi spjallþræðir munu gefa mismunandi niðurstöður vegna forritunar þeirra og vegna þess að þeir hafa verið þjálfaðir í mismunandi gagnasöfnum. Til dæmis, auk þess að skafa öll opinber gögn sem eru tiltæk á vefnum, getur Gemini notað gögn frá Google Apps sínum á meðan Copilot notar gögn sem eru búin til úr Bing leitarvélinni sinni.
Chatbots hafa farið í gegnum fjölda uppfærslna frá því að þeir voru kynntir. Hver kynslóð er með flóknari hugbúnaðarpakka sem gerir henni kleift að gera blæbrigðaríkari tengingar auk þess að stækka gagnagrunn sinn með því að fella inn gögn úr spurningum eða beiðnum. Þannig læra spjallbotnar/bæta með tímanum með notkun.
Þetta sjónarhorn varpar ljósi á þá staðreynd að þó að við getum talað um hlutina sem gerast í skýinu, þá veltur hæfileiki spjallbotna til að bregðast við ábendingum eða spurningum af ferlum sem eru rætur í jörðu. Í orð af tæknirithöfundinum Karen Hao:
„AI hefur aðfangakeðju eins og hver önnur tækni; það eru inntak sem fara í sköpun þessarar tækni, gögn eru eitt og svo reiknikraftur eða tölvukubbar annað. Og báðir þessir hafa mikinn mannkostnað í för með sér.“
Aðfangakeðjan: Mannleg vinna
Gervigreind kerfi þurfa gögn og gögnin koma frá fólki í einni eða annarri mynd. Þess vegna eru tæknifyrirtæki stöðugt að leita að nýjum og fjölbreyttum gögnum til að auka rekstur gervigreindarkerfa sinna. Með blogg- og vefsíðufærslum okkar á netinu, útgefnum bókum og greinum, leitum, ljósmyndum, lögum, myndum og myndböndum sem frjálslega eru skafaðir af netinu, erum við að hjálpa til við að undirrita mjög arðbær fyrirtæki í leit þeirra að enn meiri hagnaði. Eins og Lauren Leffer Skýringar,
„Vefskriðarar og -sköfur geta auðveldlega nálgast gögn nánast hvar sem er sem eru ekki á bakvið innskráningarsíðu... Þetta felur í sér allt á vinsælu ljósmyndamiðlunarsíðunni Flickr, markaðstorgum á netinu, gagnagrunnum kjósendaskráningar, opinberum vefsíðum, Wikipedia, Reddit, rannsóknargeymslum, fréttaveitum. og fræðastofnanir. Auk þess eru sjóræningjasöfnun efnis og vefskjalasöfn, sem innihalda oft gögn sem síðan hafa verið fjarlægð af upprunalegri staðsetningu þeirra á vefnum. Og skafaðir gagnagrunnar hverfa ekki.“
Reyndar var umtalsverður hluti af skafaefninu höfundarréttarvarinn og tekinn án leyfis. Til að bregðast við því leitast nú fjöldi útgefenda, rithöfunda og listamanna við að stöðva þjófnaðinn. Til dæmis, í ágúst 2023, uppfærði The New York Times sína „Skilmálar þjónustu”Til banna hvers kyns notkun á texta, myndum, myndum og hljóð-/myndskeiðum í þróun „hvers hugbúnaðarforrits, þar með talið, en ekki takmarkað við, þjálfun vélanáms- eða gervigreindarkerfis.“ En þó að sum stór fyrirtæki hafi skiptimynt eða lagalegt vald til að annaðhvort banna eða semja um fjárhagslegar bætur fyrir notkun á efni þeirra, gera flest fyrirtæki og einstaklingar það ekki. Þar af leiðandi eru þeir enn í hættu á að fá „hugverk“ tekið frá þeim ókeypis og breytt í gervigreindarþjálfunarefni í þjónustu við peningaöflun fyrirtækja.
Án þess að lágmarka persónulegt tap sem tengist gervigreindargagnasöfnun er mun stærra vandamál við þessa öflunaraðferð. Að skafa almenna internetið þýðir að gervigreind spjallbotnar eru þjálfaðir með því að nota efni sem inniheldur mjög mismunandi sjónarhorn og skilning á vísindum, sögu, stjórnmálum, mannlegri hegðun og atburði líðandi stundar, þar á meðal færslur og skrif meðlima öfgafullra haturshópa. Og vandræðaleg gögn geta auðveldlega haft áhrif á framleiðslu jafnvel flóknustu spjallbotna.
Til dæmis eru spjalltölvur í auknum mæli notaðir af fyrirtækjum til að aðstoða þau við ráðningarstörf. Samt, eins og Bloomberg News uppgötvaði, "Þekktasta kynslóða gervigreindarverkfærið framleiðir kerfisbundið hlutdrægni sem kemur hópum í óhag miðað við nöfn þeirra." Til dæmis eigin rannsókn finna að „Þegar 1000 sinnum var beðið um að raða átta jafnhæfum ferilskrám fyrir alvöru fjármálagreinandi hlutverk hjá Fortune 500 fyrirtæki, var ChatGPT ólíklegast til að velja ferilskrána með nafni sem var aðgreint frá svörtum Bandaríkjamönnum.
Spjallbotar eru háðir gæðum mannlegs vinnuafls á enn annan hátt. Spjallbotar geta ekki nýtt sér mikið af þeim gögnum sem safnað er með vefskriðum og sköfurum beint. Eins og Josh Dzieza útskýrir, "Á bak við jafnvel glæsilegasta gervigreindarkerfið er fólk - gríðarlegur fjöldi fólks merkir gögn til að þjálfa þau og skýrir gögn þegar þau ruglast."
Stór gervigreind fyrirtæki ráða almennt önnur smærri fyrirtæki til að finna og þjálfa þá starfsmenn sem þarf fyrir gagnamerkingarferlið. Og þessir undirverktakar, oftar en ekki, finna starfsmenn sína, sem kallast annotators, í hnattræna suðurhlutanum, oft í Nepal og Kenýa. Vegna þess að skýringarferlið sem og atriðin sem verið er að skrifa athugasemdir við teljast viðskiptaleyndarmál, þá þekkja rithöfundar sjaldan endanlegan yfirmann sinn og verða reknir ef þeir finnast til að ræða hvað þeir gera við aðra, jafnvel vinnufélaga.
Dzieza lýsir sumu af því verki sem rithöfundar þurfa að gera til að gera spjallbotnum kleift að nýta gögnin sem safnað er fyrir þá. Til dæmis merkja textahöfundar hluti í myndböndum og myndum. Þetta þarf að gera til að tryggja að gervigreind kerfi geti tengt sérstakar stillingar pixla við tiltekna hluti eða tilfinningar. Fyrirtæki sem byggja gervigreindarkerfi fyrir sjálfkeyrandi farartæki þurfa skýringaraðila til að bera kennsl á öll mikilvæg atriði í myndböndum sem tekin eru af götu- eða þjóðvegamyndum. Það þýðir "að bera kennsl á hvert ökutæki, gangandi vegfarendur, hjólreiðamenn, allt sem ökumaður þarf að vera meðvitaður um - ramma fyrir ramma og frá öllum mögulegum myndavélarhornum." Eins og Dzieza greinir frá er þetta „erfitt og endurtekið verk. Nokkrar sekúndna upptaka af myndefni tók átta klukkustundir að skrifa athugasemdir, sem [ritaranum] fékk greidd um $10 fyrir.“
Svona vinna, þótt láglaunuð séu, er mikilvæg. Ef athugasemdaferlið er illa unnið eða gagnagrunnurinn takmarkaður getur kerfið auðveldlega bilað. Dæmi um málið: árið 2018 varð kona fyrir árás og myrt af sjálfkeyrandi Uber bíl. Gervigreindarkerfið mistókst vegna þess að þó „það hafi verið forritað til að forðast hjólreiðamenn og gangandi vegfarendur, þá vissi það ekki hvað það átti að gera við að ganga á hjóli yfir götuna.
Skýringaraðilar eru einnig fengnir til að merkja hluti á myndum á samfélagsmiðlum. Þetta gæti falið í sér að bera kennsl á og merkja allar sýnilegar skyrtur sem menn gætu klæðst. Til þess þyrfti að skrá hvort um væri að ræða „pólóskyrtur, skyrtur sem klæðast utandyra, skyrtur sem hanga á rekki,“ o.s.frv.
Önnur störf fela í sér að merkja tilfinningar. Til dæmis eru sumir rithöfundar fengnir til að skoða myndir af andlitum, þar á meðal sjálfsmyndir teknar af rithöfundum, og merkja tilfinningalegt ástand viðfangsefnisins. Aðrir eru fengnir til að merkja tilfinningar viðskiptavina sem hringdu í pantanir í verslanir í eigu pizzukeðju. Annað starf hefur athugasemdaraðila sem merkir tilfinningar Reddit færslur. Þetta verkefni reyndist krefjandi fyrir einn hóp indverskra starfsmanna, fyrst og fremst vegna skorts á kunnugleika þeirra á bandarískri netmenningu. Undirverktakinn ákvað, eftir að hafa farið yfir vinnu sína, að um 30 prósent staða hefðu verið mismerkt.
Kannski er sá hluti gervigreindarþjálfunar sem stækkar hraðast í beinum mannlegum samskiptum við spjallbotna. Verið er að ráða fólk til að ræða efni og spjallbotninn er forritaður til að gefa tvö mismunandi svör við hverju samtali. Ráðinn „umræðumaður“ verður síðan að velja svarið sem hann telur „best“. Þessar upplýsingar eru síðan færðar aftur inn í kerfið til að aðstoða það við að hljóma „mannlegra“.
Í stuttu máli eru gervigreind kerfi mjög háð vinnu manna. Þetta eru ekki töfrandi kerfi sem starfa óáreitt af mannlegum hlutdrægni eða tilfinningum. Og starfsemi þeirra fer ekki fram í einhverju ímynduðu skýi. Þetta síðara atriði verður enn augljósara þegar við skoðum innviðina sem þarf til að reka þau.
Aðfangakeðja: Gagnaver
Vöxtur gervigreindar hefur verið studdur af mikilli uppbyggingu gagnavera og stöðugt vaxandi eftirspurn eftir rafmagni til að keyra tölvur og netþjóna sem þeir hýsa sem og loftræstitækin sem verða að ganga stöðugt til að koma í veg fyrir ofhitnun þeirra. Reyndar, „skýið hefur nú meira kolefnisfótspor en flugiðnaðurinn. Ein gagnaver getur neytt samsvarandi rafmagns á 50,000 heimilum.“
Samkvæmt til Alþjóðaorkumálastofnunarinnar, 2,700 gagnaver sem starfa í Bandaríkjunum voru ábyrg fyrir meira en 4 prósentum af heildarorkunotkun þjóðarinnar árið 2022. Og hlutur þeirra er líklegur til að ná 6 prósentum árið 2026. Auðvitað eru slíkar áætlanir grófar, bæði vegna þess að helstu tæknifyrirtækin eru það óviljug til að deila viðeigandi upplýsingum og vegna þess að gervigreind kerfi eru stöðugt þjálfuð á nýjum gögnum og uppfærð með meiri færni, sem þýðir meiri orkunotkun á hverja starfsemi.
Jafnvel núna eru merki um að orkuþörf gagnavera sé að skattleggja rafmagnsnet Bandaríkjanna. Eins og Washington Post Skýringar: „Norður-Virginía þarf jafngildi nokkurra stórra kjarnorkuvera til að þjóna öllum nýju gagnaverunum sem fyrirhuguð eru og í smíðum. Texas, þar sem rafmagnsskortur er nú þegar venja á heitum sumardögum, stendur frammi fyrir sama vandamáli.
Kyrrahafið norðvestur stendur frammi fyrir svipaðri áskorun. Eins og Oregonian Fréttablaðið bendir á:
„Gagnaver sem fjölga víðsvegar um Oregon munu neyta verulega meira rafmagns en svæðisveitur og orkuskipuleggjendur höfðu búist við, samkvæmt þremur nýjum spám sem gefnar voru út sumarið [2023].
„Þetta er að setja meiri þrýsting á norðvestur rafmagnsnetið og vekur nýjan efa um hvort Oregon geti staðið við metnaðarfulla hreina orkumarkmiðin sem ríkið setti fyrir aðeins tveimur árum síðan...
„Orkustofnun Bonneville gerir ráð fyrir því að árið 2041 muni raforkuþörf gagnavera í Oregon og Washington vaxa um tvisvar og hálft og taki 2,715 megavött að meðaltali. Það er nóg til að knýja þriðjung allra heimila í þessum tveimur ríkjum í dag.“
Þessi mikla orkuþörf, sem er að mestu knúin áfram af ört vaxandi kröfum gervigreindar, er mikil ógn við viðleitni okkar til að berjast gegn hlýnun jarðar. Til dæmis hafa orkuáhyggjur þegar orðið til þess að Kansas, Nebraska, Wisconsin og Suður-Karólína hafa frestað lokun kolaverksmiðja. 2024 skýrsla nokkurra loftslagsaðgerðahópa um loftslagsógnina sem stafar af gervigreind finnur að tvöföldun orkunotkunar gagnavera, sem Alþjóðaorkumálastofnunin áætlar að muni gerast á næstu tveimur árum, muni leiða til 80 prósenta aukningar í losun plánetuhitunar. Þetta er alvarlegt verð að greiða fyrir nýja gervigreindarþjónustu sem verið er að koma í notkun óháð getu þeirra til að mæta raunverulegum þörfum frekar en skapaðar.
„Sannfærandi ekki satt“
Ljóst er að stór tæknifyrirtæki veðja á að gervigreind muni skila þeim miklum hagnaði. Og láta ekkert eftir tilviljun, þeir gera allt sem þeir geta til að festa þá inn í líf okkar áður en við höfum tækifæri til að íhuga hvort við viljum þá. Nú þegar er verið að kynna gervigreindarkerfi sem leið til að bæta heilsugæslu, veita geðheilbrigðisráðgjöf, veita lögfræðiráðgjöf, fræða nemendur, bæta persónulega ákvarðanatöku okkar, auka skilvirkni á vinnustað, listinn heldur áfram.
Svo virðist sem gleymd er sú staðreynd að gervigreind kerfi eru aðeins eins góð og gögnin sem eru slegin inn og hugbúnaðurinn skrifaður til að nota þau. Með öðrum orðum, starfsemi þeirra er háð mönnum. Og, kannski enn mikilvægara, enginn veit í raun hvernig gervigreind kerfi nota gögnin sem þeir hafa verið þjálfaðir í. Með öðrum orðum, það er ómögulegt að rekja „rökstuðningsferli“ þeirra. Viðvörunarmerkin um að verið sé að selja þessi kerfi alvarlega eru þegar sýnileg.
Til dæmis, árið 2022, hafði viðskiptavinur samband við Air Canada til að komast að því hvernig hægt væri að fá sorgargjald. Þjónustudeild flugfélagsins, sem knúin er gervigreind, sagði honum að hann þyrfti aðeins að fylla út eyðublað innan 90 daga frá útgefinn miða til að fá endurgreiðslu á ferð sinni. En þegar hann sendi inn eyðublaðið eftir að hafa lokið ferð sinni sögðu starfsmenn flugfélagsins honum að það yrði engin fargjaldalækkun þar sem fylla þyrfti út eyðublaðið fyrir ferðina. Þegar hann sýndi flugfélaginu skjáskotin sem hann tók af því sem botninn sagði honum, sagði flugfélagið því á móti að það bæri ekki ábyrgð á því sem botninn sagði.
Viðskiptavinurinn stefndi Air Canada og vann. Dómarinn fram að:
„Air Canada heldur því fram að það geti ekki borið ábyrgð á upplýsingum frá einum af umboðsmönnum þess, þjónum eða fulltrúum - þar á meðal spjallbotni. Það útskýrir ekki hvers vegna það telur að svo sé. Í raun bendir Air Canada á að spjallbotninn sé sérstakur lögaðili sem ber ábyrgð á eigin gjörðum. Þetta er merkileg uppgjöf."
Sé sleppt því hvort fyrirtæki gætu í raun og veru reynt að láta lýsa yfir aðskildum lögaðilum spjallborða svo að þeir geti aðskilið sig frá gjörðum sínum ef þess er óskað, þá á flugfélagið enn eftir að útskýra hvers vegna spjallbotninn gaf út rangar upplýsingar.
Svo er það NYC spjallbotninn, þróaður með hjálp Microsoft, sem borgin kynnti sem „einn stöðva búð“ fyrir fyrirtæki til að hjálpa þeim að fylgjast með reglum og reglugerðum borgarinnar. Hér eru nokkrar dæmi af vafasömum ráðleggingum sem veittar voru sem svar við fyrirspurnum:
„spjallbotninn gaf ranglega til kynna að það væri löglegt fyrir vinnuveitanda að reka starfsmann sem kvartar yfir kynferðislegri áreitni, upplýsir ekki um þungun eða neitar að klippa á dreadlocks...
„Aðspurður hvort veitingastaður gæti boðið upp á ost sem nagdýr nartaði í svaraði hann: „Já, þú getur samt þjónað ostinum fyrir viðskiptavini ef hann er með rottubit,“ áður en hann bætti við að mikilvægt væri að meta „umfang tjónsins“ af völdum rottunnar“ og til að „upplýsa viðskiptavini um ástandið“.“
Kannski ekki á óvart, bæði Microsoft og borgarstjóri NYC brugðust við með því að segja að slík vandamál verði að lokum leiðrétt. Reyndar bættu þeir við því að notendur, með því að benda á villur, munu flýta fyrir nauðsynlegri fínstillingu kerfisins.
Svona vandamál, eins alvarleg og þau eru, blekkja í samanburði við vandamálið með gervigreind „ofskynjanir“. Ofskynjanir er þegar gervigreind kerfi býr til upplýsingar, sem gætu falið í sér nöfn, dagsetningar, bækur, réttarmál, læknisfræðilegar skýringar, jafnvel sögulega atburði. Til dæmis hafa komið upp nokkur réttarmál þar sem spjallþræðir fundu upp mál sem lögfræðingar vitnuðu í í dómsskjölum sínum.
Dæmi um málið: Lögfræðingarnir sem koma fram fyrir hönd stefnanda í júní 2023 ræða sem felur í sér málsókn gegn kólumbísku flugfélagi lagði fram yfirlýsingu sem innihélt sex stuðningsmál sem „fundu“ af spjallbotni. Því miður voru þessi mál aldrei til; sumir nefndu meira að segja flugfélög sem voru ekki til. Dómarinn vísaði málinu frá og sektaði lögfræðingana fyrir að nota falsaðar tilvitnanir. Lögfræðingarnir, sem voru ósammála fullyrðingu dómarans um að þeir hefðu verið í vondri trú, sögðu til varnar að „Við gerðum mistök í góðri trú með því að trúa því ekki að tæknihluti gæti verið að búa til mál úr heilum dúkum.
Jafnvel flóknustu spjallþræðir geta orðið fyrir ofskynjunum. Þegar spurt var um líkur á að veðja á Superbowl 2024 sem átti að fara fram daginn eftir, spjallaði Google tilkynnt það var of seint að veðja þar sem Superbowl hafði þegar farið fram, þar sem San Francisco 49ers vann Kansas City Chiefs með marki 34 gegn 28. Það innihélt meira að segja tölfræði leikmanna. Leikurinn, þegar hann var leikinn, vann Kansas City. Spjallbotn Microsoft gerði slíkt hið sama og fullyrti að leiknum væri lokið þó hann hefði ekki enn verið spilaður. Það lýsti því hins vegar yfir að Kansas City Chiefs hefði unnið.
Ímyndaðu þér nú hver kostnaðurinn gæti orðið ef spjallbóti sem gefur læknisráðgjöf yrði fyrir ofskynjun. Bandaríski herinn er ört að auka notkun sína á gervigreindartækni á margvíslegan hátt, þar á meðal til að bera kennsl á ógnir, leiðbeina ómönnuðum flugvélum, safna upplýsingum og skipuleggja stríð. Ímyndaðu þér hugsanlega hörmung sem gæti stafað af ófullnægjandi eða ófullnægjandi gagnaþjálfun kerfisins eða jafnvel verra ofskynjanir. Augljósi punkturinn er að þessi kerfi eru langt frá því að vera pottþétt og af ýmsum ástæðum. Innra Microsoft skjal fangar þetta best, þegar það lýst að nýju gervigreindarkerfin séu „smíðuð til að vera sannfærandi, ekki sannfærandi.
Hvað á að gera?
Hingað til hafa áhyggjur almennings af gervigreind að miklu leyti beinst að ólögmætri notkun gervigreindarkerfa á persónuupplýsingum. Fólk vill vernd gegn óviðkomandi vefúrgangi á efni þeirra. Og þeir vilja ekki að samskipti þeirra við gervigreindarkerfi verði gagnaöflunarstarfsemi sem gæti afhjúpað þá fyrir svikum, mismunun eða áreitni. Ýmsar ríki og sveitarfélög eru nú miðað leiðir til að ná þessu. Og árið 2023 gaf Biden forseti út sambandsríki framkvæmdastjóri röð sem leitast við að tryggja að ný „grunn“ IA kerfi séu nægilega prófuð fyrir galla áður en þau eru gefin út. Þetta eru gagnleg fyrstu skref.
Skörpasta baráttan um notkun gervigreindar á sér stað á vinnustaðnum. Fyrirtæki eru að nota gervigreind kerfi til að halda flipar um skipulag starfsmanna, fylgjast með frammistöðu starfsmanna og þegar mögulegt er losna verkamanna. Það kemur ekki á óvart að starfsmenn verkalýðsfélaga eru farnir að berjast á móti og leggja til takmarkanir á notkun fyrirtækja á gervigreindarkerfum.
Sem dæmi má nefna að Writers Guild of America (WGA), sem er fulltrúi um 12,000 handritshöfunda, réðst á fjölda helstu framleiðslufyrirtækja – þar á meðal Universal, Paramount, Walt Disney, Netflix, Amazon og Apple – í fimm mánuði árið 2023 í leit að launahækkunum, atvinnuvernd og takmarkanir á gervigreindarnotkun. Merkilegt, eins og Brian Merchant, dálkahöfundur fyrir LA Times, lýsir:
„Áhyggjur af notkun á skapandi gervigreind eins og ChatGPT voru ekki einu sinni efst í huga þegar rithöfundarnir settust fyrst niður með vinnustofunum til að hefja samningaviðræður. Fyrsta tillaga WGA sagði einfaldlega að stúdíóin myndu ekki nota gervigreind til að búa til frumleg handrit, og það var aðeins þegar stúdíóin neituðu alfarið að rauðu fánarnir fóru upp.
„Það var þegar rithöfundarnir áttuðu sig á því að stúdíóum var alvara með að nota gervigreind – ef ekki til að búa til fullunnin handrit, sem báðir aðilar vissu að væri ómögulegt á þessum tímamótum – þá sem skiptimynt gegn rithöfundum, bæði sem ógn og sem leið til að réttlæta að bjóða upp á lækkaða endurskrifun gjöld. Það var þegar WGA dró línu í sandinn, þegar við fórum að sjá skilti á víglínum sem fordæma gervigreind fara á netið á samfélagsmiðlum og fyrirsagnir sem lýstu átökum sem prýða dagblöðin eins og þetta.
Reyndar varð aukin vitund um nauðsyn þess að ná stjórn á notkun gervigreindarkerfa til þess að Writers Guild hélt nokkra fundi um gervigreind meðan á verkfallinu stóð fyrir starfsmenn í tengdum atvinnugreinum, þar á meðal þá sem starfa í stafrænum fjölmiðlaverslunum. Margir viðstaddra enduðu á víglínunni til að styðja sláandi handritshöfunda.
Verkfallið skilaði miklum ávinningi fyrir rithöfundana. Hvað varðar gervigreind, bannar nýi samningurinn notkun stórra gervigreindarkerfa með tungumálalíkönum til að skrifa eða endurskrifa forskriftir eða fyrir frumefni. Rithöfundar fá hins vegar að nýta sér þau ef þeir vilja. Samningurinn útilokar einnig að nota efni höfunda til að þjálfa gervigreindarkerfi. Sem einn sérfræðingur sagði, „Óttinn um að fyrstu drög yrðu unnin í gegnum ChatGPT og síðan afhent rithöfundi fyrir lægri umritunargjöld hefur verið geldur. Þetta gæti verið meðal fyrstu kjarasamninga til að setja merki fyrir gervigreind sem snertir starfsmenn.
Screen Actors Guild-American Federation of Television and Radio Artists (SAG-AFTRA) fór í verkfall gegn helstu kvikmynda- og sjónvarpsframleiðendum tveimur mánuðum eftir að WGA-verkfallið hófst. Það kom ekki á óvart, gervigreind stefna var eitt helsta atriðið sem hvatti ákvörðunina um verkfall. Kannski mikilvægast, leikararnir tókst í að vinna nýjan samning sem mun neyða framleiðendur til að semja um framtíðarnotkun gervigreindar.
Til dæmis krefst samningurinn þess að ef framleiðandi ætlar að nota „tilbúið flytjanda“ (stafrænt skapaður náttúrulega útlits einstaklingur sem er „ekki auðþekkjanlegur sem neinn auðþekkjanlegur náttúrulegur flytjandi“) verði hann að tilkynna það og semja við stéttarfélagið um þá ákvörðun að ekki ráða náttúrulegan flytjanda, með möguleika á gjöldum til stéttarfélagsins. Ef framleiðandi vill nota „þekkjanlegan tilbúna flytjanda“ (stafrænt skapaður náttúrulegur einstaklingur sem er auðþekkjanlegur sem náttúrulegur flytjandi), verður hann fyrst að semja við flytjandann og fá samþykki þeirra.
Aðrir starfsmenn eru einnig í harðri samningaviðræðum við yfirmenn sína um notkun gervigreindartækni, bæði til að vernda störf sín og til að verja faglega staðla, td. blaðamenn. Þessi kjarabarátta er mikilvæg byrjun í átt að því að þróa nauðsynlegar handriðir fyrir gervigreindarnotkun. Þau geta verið grunnur til að byggja á víðtækara bandalag verkalýðs og samfélags gegn þeirri stefnu fyrirtækja að nota gervigreindartækni til að draga úr mannlegum tengslum og mannlegri umboðssemi – í læknakerfinu okkar, menntastofnunum, flutningum, fréttaflutningi, samskiptum við opinberar stofnanir og veitendur. af vörum og þjónustu, og listinn heldur áfram. Möguleikar okkar á velgengni munu batna til muna ef við getum hjálpað vinnandi fólki að sjá í gegnum efla við að meta nákvæmlega allan kostnað og ávinning sem tengist gervigreindartækni. •
Martin Hart-Landsberg er prófessor emeritus í hagfræði við Lewis and Clark College, Portland, Oregon; og aðjúnkt við Félagsvísindastofnun, Gyeongsang þjóðháskólinn, Suður-Kórea. Kennslu- og rannsóknarsvið hans eru stjórnmálahagfræði, efnahagsþróun, alþjóðleg hagfræði og stjórnmálahagkerfi Austur-Asíu. Hann heldur úti bloggsíðu Skýrslur frá Efnahagshliðinni.
ZNetwork er eingöngu fjármagnað með örlæti lesenda sinna.
Styrkja