Într-o cursă ipotetică de a revendica mantaua celei mai mari amenințări la adresa umanității, războiul nuclear, catastrofa ecologică, autoritarismul în creștere și noile pandemii sunt încă în fața haitei. Dar, uite acolo, drum înapoi, dar vine repede. Asta e AI? Este un prieten care se grăbește să ne ajute sau un alt dușman care se grăbește să ne îngroape?
Ca punct de plecare pentru acest eseu, în recenta lor op Ed în New York Times Noam Chomsky și doi dintre colegii săi academicieni — Ian Roberts, profesor de lingvistică la Universitatea din Cambridge, și Jeffrey Watumull, un filozof care este și directorul inteligenței artificiale la o companie de tehnologie — ne spun că „oricât de utile acestea [AI] programele pot fi în anumite domenii înguste (pot fi de ajutor în programarea computerelor, de exemplu, sau în sugerarea de rime pentru versurile ușoare), știm din știința lingvistică și din filosofia cunoașterii că ele diferă profund de modul în care oamenii raționează și folosesc limba. Aceste diferențe pun limitări semnificative asupra a ceea ce pot face aceste programe, codificându-le cu defecte ineradicabile….”
Ei continuă: „Spre deosebire de oameni, de exemplu, care sunt înzestrați cu o gramatică universală care limitează limbile pe care le putem învăța la cei cu un anumit tip de eleganță aproape matematică, aceste programe învață limbi umane posibil și uman imposibil cu o facilitate egală.”
Cititorii ar putea considera aceste comentarii ca însemnând IA actuală, așa că diferă de modul în care oamenii comunică, că predicțiile că AI-ul va înlocui oamenii în oricare, cu excepția unor domenii minore, sunt hype. Noii Chatbots, pictori, programatori, roboți și ceea ce sunt toate proiecte de inginerie impresionante, dar nimic de care să ne agitați prea mult. IA actuală gestionează limbajul în moduri foarte îndepărtate de ceea ce permite acum oamenilor să folosească limbajul la fel de bine ca noi. În plus, rețelele neuronale actuale ale IA și modelele mari de limbaj sunt codificate cu „defecte ineradicabile” care împiedică IA să folosească limbajul și gândirea de la distanță, precum și oamenii. Raționamentul lui Op Ed se simte ca un om de știință care aude vorbind despre o mașină cu mișcare perpetuă care va revoluționa totul. Omul de știință are teorii care îi spun că o mașină cu mișcare perpetuă este imposibilă. Prin urmare, omul de știință spune că agitația cu privire la o companie care oferă unul este hype. Mai mult, omul de știință știe că agitația nu poate fi adevărată chiar și fără o privire la ceea ce face de fapt mașina oferită. Poate părea ca o mișcare perpetuă, dar nu poate fi, așa că nu este. Dar dacă omul de știință are dreptate că nu este mișcare perpetuă, dar, totuși, mașina câștigă rapid utilizatori și face rău, cu mult mai mult rău?
Chomsky, Roberts și Watumull spun că oamenii folosesc limbajul la fel de priceput ca și noi pentru că avem în mintea noastră o facultate de limbaj uman care include anumite proprietăți. Dacă nu am avea asta, sau dacă facultatea noastră nu ar fi atât de restrictivă, atunci am fi mai mult ca păsările sau albinele, câinii sau cimpanzeii, dar nu ca noi înșine. Mai mult, o modalitate sigură prin care putem ști că un alt sistem care folosește limbajul nu are o facultate de limbă cu caracteristicile facultății noastre de limbă este dacă se poate descurca la fel de bine cu un limbaj non-uman complet inventat precum se poate face cu un limbaj specific uman. precum engleza sau japoneza. Op Ed susține că chatbot-urile moderne sunt tocmai de acest fel. Deduce că ei nu pot fi competenți lingvistic în același mod în care oamenii sunt competenți lingvistic.
Aplicat mai larg, argumentul este că oamenii au o facultate de limbaj, o facultate vizuală și ceea ce am putea numi o facultate explicativă care oferă mijloacele prin care conversam, vedem și dezvoltăm explicații. Aceste facultăți ne permit o gamă bogată de abilități. Cu toate acestea, ca o condiție pentru a face acest lucru, ei impun și limite asupra altor abilități imaginabile. În schimb, actualele IA se descurcă la fel de bine cu limbajele pe care oamenii nu le pot folosi, ca și cu cele pe care le putem folosi noi. Acest lucru dezvăluie că ei nu au nimic asemănător cu facultatea înnăscută a limbajului uman, deoarece, dacă ar avea asta, ar exclude limbajele non-umane. Dar aceasta înseamnă că IA nu poate, în principiu, să dobândească competențe la fel de ample, profunde și chiar creative ca ale noastre, deoarece nu au facultăți cu proprietățile restrictive specifice pe care le au facultățile noastre? Înseamnă oare că orice fac ei atunci când rostesc propoziții, când descriu lucruri în câmpul lor vizual sau când oferă explicații pentru evenimente despre care îi întrebăm – ca să nu mai vorbim când trec examenul de barou în percentila 90 sau compun trist sau melodii fericite, reggae sau rock la comandă – nu numai că nu fac ceea ce fac oamenii, dar nici nu pot obține rezultate la calitatea pe care oamenii o obțin?
Dacă Op Ed a spus că actualele AI nu au caracteristici ca noi, așa că nu pot face lucrurile așa cum le facem noi, ar fi bine. În acest caz, ar putea fi adevărat că AI nu pot face lucrurile la fel de bine ca noi, dar ar putea fi și adevărat că pentru multe tipuri de examene, SAT-uri și examene de baro, de exemplu, pot depăși marea majoritate a populatia. Ce se întâmplă mâine cu GPT 4 și peste câteva luni cu GPT 5, sau peste un an sau doi cu GPT 6 și 7, cu atât mai puțin mai târziu cu GPT 10? Ce se întâmplă dacă, așa cum pare să fie cazul, actualele IA au trăsături diferite de cele ale oamenilor, dar acele caracteristici diferite îi permit să facă multe lucruri pe care le facem altfel decât le facem noi, dar la fel de bine sau chiar mai bine decât le facem noi?
Problema logică cu Op Ed este că pare să se presupună că numai metodele umane pot, în multe cazuri, să obțină rezultate la nivel uman. Problema practică este că op Ed-ul poate determina mulți oameni să creadă că nimic foarte important nu se întâmplă sau chiar nu ar putea avea loc, fără a examina măcar ceea ce se întâmplă de fapt. Dar dacă se întâmplă ceva foarte important? Și dacă da, contează?
Dacă Op Ed s-a concentrat doar pe întrebarea „este inteligenta IA contemporană în același mod în care oamenii sunt inteligenți”, răspunsul autorilor este nu și în acest sens cu siguranță au dreptate. Faptul că autorii subliniază apoi că „se tem că cea mai populară și la modă tulpină de IA – învățarea automată – ne va degrada știința și ne va degrada etica prin încorporarea în tehnologia noastră a unei concepții fundamental defectuoase despre limbaj și cunoaștere”, este de asemenea corect. La fel, este adevărat că atunci când programele actuale trec testul Turing, dacă nu au făcut-o deja, nu va însemna că ei gândesc și vorbesc la fel, sau că modul în care au trecut testul ne va spune ceva. despre modul în care vorbim sau gândim. Dar trecerea lor de test ne va spune că nu le mai putem auzi sau citi cuvintele și numai din asta le distingem gândurile și cuvintele de gândurile și cuvintele noastre. Dar va conta asta?
Eseul lui Chomsky, Roberts și Watumull pare să implice că diferența metodologică a IA față de facultățile umane înseamnă că ceea ce pot face programele AI va fi sever limitat în comparație cu ceea ce pot face oamenii. Autorii recunosc că ceea ce poate face AI poate fi minim util (sau folosit greșit), dar adaugă că nu se întâmplă nimic comparabil cu inteligența umană sau creativitatea. Știința cognitivă nu avansează și poate fi dat înapoi. AI-urile pot întrece cu toată lumea pe o tablă de șah. Da, dar ce? Aceste concedieri sunt destul de corecte, dar faptul că IA actuală generează text, imagini, software, consiliere, asistență medicală, răspunsuri la examene sau orice altceva pe o cale diferită de cea a oamenilor ajung la rezultate foarte similare înseamnă că AI actuală nu a ajuns? acolo deloc? Faptul că actualul AI funcționează diferit decât noi înseamnă neapărat, în special, că nu poate obține rezultate lingvistice ca cele pe care le obținem? Capacitatea unei IA de a înțelege limbaje non-umane indică în mod necesar că IA nu poate depăși capacitățile umane în limbile umane sau în alte domenii?
Programele capabile să realizeze sarcini lingvistice bazate pe informații sunt foarte diferite, credem noi, decât tractoarele capabile să ridice mai multă greutate decât oamenii sau calculatoarele manuale capabile să gestioneze numerele mai bine decât oamenii. Acest lucru se datorează parțial pentru că AI poate lua diverse sarcini de la oameni. În cazurile de sarcini oneroase, neatrăgătoare, acest lucru ar putea fi benefic din punct de vedere social, presupunând că repartizăm în mod corect munca rămasă. Dar cum rămâne cu prioritățile capitaliste impun o creștere a șomajului? Faptul că OpenAI și alte firme capitaliste de inteligență artificială exploatează forța de muncă ieftină în străinătate pentru a eticheta imaginile pentru instruirea vizuală a inteligenței artificiale nu ar trebui să fie o surpriză. Dar poate la fel de important din punct de vedere social, cum rămâne cu implicațiile psihologice ale creșterii AI?
Pe măsură ce mașinile au devenit mai capabile să ridice pentru noi, oamenii au devenit mai puțin capabili să ridice. Pe măsură ce mașinile au devenit mai capabile să efectueze calcule matematice pentru noi, oamenii au devenit mai puțin capabili să efectueze calcule matematice. Să fi pierdut o anumită capacitate personală sau înclinație de a ridica sau de a calcula nu era mare lucru. Beneficiile au depășit deficitele. Chiar și programele care îi depășesc pe cei mai buni jucători umani la șah, go, jocuri video și poker (deși programele nu joacă așa cum fac oamenii), au avut doar un efect psihologic trecător. Oamenii încă mai fac acele lucruri foarte umane. Oamenii învață chiar și studiind jocurile pe care le joacă programele, deși nu suficient pentru a ajunge aproape la fel de bune ca programele. Dar ce se întâmplă dacă AI devine capabilă să scrie scrisori mai bine decât oamenii, să scrie eseuri mai bine, să compună mai bine muzică, să planifice mai bine agende, să scrie mai bine software, să producă mai bine imagini, să răspundă mai bine la întrebări, să construiască mai bine filme, să proiecteze mai bine clădiri, să predea mai bine, să conversați mai bine și poate chiar să ofere îngrijire persoanelor vârstnice, îngrijire a copiilor, diagnostice medicale și chiar consiliere de sănătate mintală mai bine - sau, în fiecare caz, uită de programele care devin mai bune decât noi, ce se întâmplă când programele funcționează suficient de bine pentru a fi înlocuitori profitabili pentru a avea oamenii fac astfel de lucruri?
Nu este vorba doar despre creșterea șomajului cu toate consecințele sale devastatoare. Este destul de îngrijorător, dar o parte importantă a ceea ce îi face pe oameni umani este să se angajeze în muncă creativă. Se va restrânge sfera muncii creative disponibile de AI, astfel încât doar câțiva genii să o poată face odată ce AI va face cele mai multe scrieri, terapie, compunere, stabilirea agendei etc.? Este greșit să credem că, în acest caz, ceea ce oamenii ar fi împinși deoparte i-ar putea lăsa pe oameni mai puțin umani?
Op Ed susține că acum AI face și poate întotdeauna va face lucruri identificate de oameni în mod fundamental diferit decât le fac oamenii. Dar asta implică, așa cum credem mulți Times cititorii vor crede că da, că IA nu va face astfel de lucruri la fel de bine sau chiar mai bine decât majoritatea sau poate chiar toți oamenii. Vor putea AI să simuleze emoțiile umane și autenticitatea umană extrem de importantă în cântecele și picturile pe care le fac? Poate că nu, dar chiar dacă ignorăm posibilitatea ca IA să fie folosit în mod explicit pentru bolnavi, observațiile de mai sus nu ridică întrebări extrem de importante și chiar urgente? Ar trebui să urmărim AI în ritmul nostru actual?
Desigur, atunci când IA sunt folosite pentru a înșela și manipula, pentru a comite fraude, pentru a spiona, pentru a pirata și pentru a ucide, printre alte posibilități nefaste, cu atât mai rău. Ca să nu mai vorbim, dacă AI-urile devin autonome cu acele agende antisociale. Chiar și fără a-i urmări pe profesori să spună despre examenele de absolvire ale IA, chiar și fără a-i urmări pe programatori să spună despre IA care scot deja codul mai rapid și mai precis decât pot ei și prietenii lor programatori și chiar și fără să urmărească AI-urile care vorbesc deja auditiv cu inginerii lor despre orice. inclusiv chiar și „sentimentele” și „motivele” lor, ar trebui să fie clar că AI poate avea implicații sociale foarte puternice, chiar dacă metodele sale nu aruncă lumină asupra modului în care funcționează oamenii.
O altă observație a Times Op Ed este că AI de tipul actual nu au nimic ca o facultate morală umană. Adevărat, dar înseamnă asta că nu pot avea rezultate ghidate moral? Am paria, în schimb, că programele de inteligență artificială pot și în multe cazuri deja încorporează reguli și norme morale. Acesta este motivul pentru care populațiile sărace sunt exploatate financiar și psihologic pentru a eticheta nenumărate exemple de porno drept porno – imoralitate exploatatoare în slujba a ceea ce, moralitate sau pur și simplu cuviință falsă? Problema este, cine determină ce coduri morale încorporate în AI vor promova și împiedica? În IA actuale, un astfel de cod va fi fie programat, fie învățat prin antrenament pe exemple umane. Dacă este programat în, cine va decide conținutul acestuia? Dacă ați învățat din exemple, cine va alege exemplele? Deci problema nu este că AI nu are inevitabil moralitate. Problema este că AI poate avea o morală proastă și poate perpetua prejudecăți precum rasismul, sexismul sau classismul învățat fie de la programatori, fie de la exemple de antrenament.
Chiar și în ceea ce privește o facultate de limbă, așa cum arată Op Ed, cu siguranță, nu există una ca a noastră în IA actuală. Dar este al nostru singurul tip de facultate care poate susține utilizarea limbajului? Fie că facultatea limbajului uman a apărut dintr-un milion de ani de evoluție lentă, așa cum majoritatea celor care aud despre aceste lucruri cred că lingviștii trebuie să creadă, sau a apărut în mod covârșitor pe o perioadă foarte scurtă dintr-o mutație norocoasă și apoi a suferit o evoluție ulterioară destul de modestă, în timp ce s-a răspândit pe scară largă. , așa cum susține Chomsky în mod convingător, cu siguranță există. Și cu siguranță este fundamental pentru limbajul uman. Dar de ce rețeaua neuronală complet antrenată a unei AI nu este o facultate de limbă, deși una diferită de a noastră? Acesta generează textul original. Răspunde la întrebări. Este gramatical. În curând (dacă nu deja) va conversa mai bine decât majoritatea oamenilor. Poate face chiar toate acestea în diverse stiluri. Răspundeți la întrebarea mea despre mecanica cuantică sau concurența pe piață, vă rog. Răspunde ca Hemingway. Răspunde ca Faulkner. Egad, răspunde ca Dylan. Așadar, de ce nu este și o facultate de limbaj – deși spre deosebire de cea umană și produsă nu de evoluția extinsă sau de noroc rapid, ci de formarea unui model de limbaj de rețea neuronală?
Este adevărat că IA actuală poate lucra cu limbaje umane și, de asemenea, presupunând că există date suficiente pentru a o antrena, cu limbaje pe care facultatea umană nu le poate înțelege. De asemenea, este adevărat că, după antrenament, un AI poate face, în anumite privințe, lucruri pe care facultatea de limbaj uman nu le-ar permite. Dar de ce a putea lucra cu limbaje non-umane înseamnă că o astfel de facultate trebuie să fie sărăcită în ceea ce privește ceea ce poate face cu limbajele umane? Facultatea de limbaj a AI nu este o tablă goală infinit maleabilă și inutilă. Nu poate funcționa cu nicio limbă în care nu este instruit. Într-adevăr, rețeaua neuronală neantrenată nu poate conversa într-o limbă umană sau într-o limbă non-umană. Odată instruit, totuși, flexibilitatea sa diferită cu privire la ceea ce face posibil și ceea ce exclude o face să nu fie o facultate de limbă? Sau flexibilitatea sa diferită o face pur și simplu să nu fie o facultate de limbaj de tip uman? Și contează măcar pentru preocupările sociale, spre deosebire de preocupările științifice?
De asemenea, nu este o facultate de inteligență artificială care poate privi scenele și poate discerne și descrie ceea ce este în ele și poate chiar să identifice ceea ce este acolo, dar nu este la locul său, și care poate face acest lucru la fel de precis ca oamenii, sau chiar mai precis? o facultate vizuală, deși din nou, cu siguranță nu este la fel cu o facultate vizuală umană?
Și la fel pentru o facultate de desen care desenează, o facultate de calcul care calculează și așa mai departe. Cu siguranță, în ciuda faptului că s-au inspirat din experiențele și dovezile umane, cum au făcut-o programatorii AI, niciuna dintre aceste facultăți AI nu seamănă prea mult cu versiunile umane. Ei nu fac ceea ce fac ei așa cum facem noi oamenii ceea ce facem noi. Dar dacă nu vrem să spunem că modalitățile umane contingente, norocoase din punct de vedere istoric, de procesare a informațiilor sunt singurele modalități de procesare a informațiilor care pot gestiona limbajul la fel de inteligent ca oamenii și sunt singurele modalități de procesare a informațiilor care nu numai că pot produce și prezice, ci și De asemenea, explicăm, nu vedem de ce observațiile adevărate conform cărora IA actuală nu ne învață nimic despre modul în care funcționează oamenii implică faptul că IA actuală nu poate fi în doi sau cinci, sau zece sau douăzeci de ani să nu fie distinsă de inteligența umană, deși derivată diferit de cea umană. inteligență.
Mai mult, ce contează chiar ca inteligență? Ce contează ca creativitate și oferirea de explicații? Ce contează ca înțelegere? Privind rapoartele curente, videoclipurile etc., chiar dacă există o mulțime de hype în căutarea de profit în ele, așa cum suntem siguri că este cazul, credem că programele AI în unele domenii (de exemplu, jocul de jocuri complexe, plierea proteinelor, și găsirea de modele în mase de date) se descurcă deja mai bine decât oamenii care sunt cei mai buni în astfel de activități și se descurcă deja mai bine decât majoritatea oamenilor, în mai multe domenii.
De exemplu, câți oameni pot produce lucrări de artă mai bine decât IA actuale? Sigur nu putem. Câți artiști pot face asta chiar și astăzi, cu mult mai puțin peste un an? Un prieten strălucit chiar ieri a spus că trebuie să scrie o scrisoare complexă pentru munca sa. A cerut chatGPT să o facă. Într-o clipire lungă a avut-o. El a spus că a fost impecabil și a recunoscut că a fost mai bun decât ar fi produs el. Și asta a fost așa, în ciuda faptului că a scris sute de scrisori. Nu este acest lucru mai îngrijorător din punct de vedere social decât atunci când cu zeci de ani în urmă oamenii foloseau pentru prima dată o cameră, un procesor de text, o foaie de calcul sau un corector ortografic? Este acesta doar un alt exemplu de tehnologie care ușurează unele sarcini? Oare IA care îndeplinesc deja o mulțime de sarcini considerate anterior a fi pur umane contează ca dovadă că IA pot face atât de mult și probabil mult mai mult? Sau, în mod ciudat, ceea ce fac ei contează ca dovadă că nu vor face niciodată atât de mult sau mai mult?
Ne facem griji că a respinge importanța actualelor AI, deoarece nu întruchipează mecanisme umane, riscă să ascunde faptul că AI are deja un impact social larg răspândit, care ar trebui să ne preocupe din motive practice, psihologice și poate de securitate. Ne facem griji că astfel de concedieri pot implica că AI nu au nevoie de o reglementare foarte substanțială. Am avut moratorie eficiente asupra clonării umane, printre alte utilizări ale tehnologiei. Fereastra pentru reglarea AI se închide însă rapid. Ne facem griji că sarcina la îndemână nu este atât de a risipi hypeul exagerat despre AI, cât este de a recunoaște capacitățile în creștere ale AI și de a înțelege nu numai beneficiile sale potențiale, ci și pericolele iminente și pe termen lung, astfel încât să putem concepe cum să o reglementăm eficient. . Ne facem griji că sarcina de reglementare cu adevărat presantă ar putea fi subminată denumind ceea ce se întâmplă „superficial și dubios” sau „plagiat de înaltă tehnologie”, pentru a contracara hype-ul.
Este urgentă reglementarea inteligentă? Pentru noi, ni se pare evident că este. Și vedem în schimb avansare vertiginoasă? Pentru noi, ni se pare evident că suntem. Ingeniozitatea umană poate genera salturi mari care apar ca o magie și chiar poate provoca miracole aparente. Capitalismul fără opoziție poate transforma chiar și salturile mari în durere și groază. Pentru a evita asta, avem nevoie de gândire și activism care câștigă reglementări.
Tehnologii precum ChatGPT nu există în vid. Ele există în cadrul societăților și al instituțiilor politice, economice, comunitare și de rudenie care le definesc.
SUA se află în mijlocul unei crize de sănătate mintală, cu aproape toate valorile de semnalizare roșie a sănătății mintale în afara topurilor: sinuciderile și „moartele de disperare” sunt la niveluri istorice. Alienarea, stresul, anxietatea și singurătatea sunt rampante. Potrivit Asociației Americane de Psihologie Stresul în America, factorii principali ai căderii noastre sunt sistemici: anxietatea economică, opresiunile sistemice, înstrăinarea de instituțiile noastre politice, economice și societale. Capitalismul ne atomizează. Apoi, transformă conexiunile semnificative în lipsă de sens.
Algoritmii de social media calculează lovitura potrivită care nu satisface niciodată cu adevărat. Ne fac să ajungem la mai mult. În același mod în care Social Media este conceput pentru a provoca dependență prin conținutul generat de utilizatori, modelul de limbaj AI are potențialul de a fi mult mai captivant și dăunător. În special pentru populațiile vulnerabile, inteligența artificială poate fi reglată pentru a învăța și exploata vulnerabilitățile fiecărei persoane - generând conținut și chiar stil de prezentare special pentru a agăța utilizatorii.
Într-o societate cu alienare rampantă, AI poate exploata nevoia noastră de conectare. Imaginați-vă că milioane de oameni sunt legați de servicii de abonament AI, disperați să se conecteze. Motivul de profit va stimula companiile AI nu doar să atragă din ce în ce mai mulți utilizatori, ci să îi facă să revină.
Odată legat, potențialul de dezinformare și propagandă depășește cu mult chiar și rețelele sociale. Dacă AI înlocuiește munca umană în domenii definitorii umane, ce rămâne atunci din „a fi uman”? Aștepți îndrumări AI? Așteptați comenzile AI?
Claritatea cu privire la ceea ce trebuie făcut poate rezulta doar din înțelegerea ulterioară a ceea ce se întâmplă. Dar chiar și după câteva luni de experiențe AI, sugestiile pentru reglementări minime par destul de ușor de găsit. De exemplu:
- Legislați că toate software-urile și algoritmii AI care au impact public trebuie să fie open source, permițând ca codul lor sursă să fie auditat de către public.
- Stabiliți un nou organism de reglementare, similar cu FDA, pentru software-ul cu impact public.
- Legislați că tot conținutul generat de AI, fie că este voce, chat, imagine, video etc., trebuie să includă un filigran/voice standard, clar vizibil/audibil, care să ateste că conținutul a fost generat de AI, pe care utilizatorul trebuie să-l recunoască.
- Legislați ca tot conținutul generat de IA să ofere o listă cu toate sursele specifice utilizate/învățate pentru a genera acel conținut, inclusiv ponderi.
- Legislați ca orice firmă, organizație sau indivizi care creează și distribuie în mod intenționat conținut înșelător și/sau manipulator fals creat de IA să fie supusă unor sancțiuni severe.
- Legislați că nicio corporație, publică sau privată, nu poate înlocui lucrătorii cu IA, cu excepția cazului în care guvernul acceptă pasul ca fiind în concordanță cu prioritățile umane (nu doar căutarea de profit), forța de muncă de la locul de muncă votează în favoarea schimbării ca fiind în concordanță cu condițiile forței de muncă și dorințe (și nu doar căutarea de profit), iar muncitorii înlocuiți continuă să-și primească salariul actual de la vechea lor firmă până când sunt angajați la o nouă firmă.
ZNetwork este finanțat exclusiv prin generozitatea cititorilor săi.
Donează
9 Comentarii
Oooh... tocmai am citit asta...
„ 2. De asemenea, nu cred că AI poate simula vreodată vârfuri ale creativității umane. Ca exemplu direct relevant pentru unul dintre autorii acestei piese, nu-mi pot imagina vreo IA care va veni vreodată cu ideile din spatele economiei participative. ”
Am o fantezie ca AI să descopere economia participativă și să ne lase, oamenii, să știm în termeni siguri că țipăm idioți nenorociți pentru că o ignorăm. Apoi luăm controlul asupra rahatului și, practic, le punem în aplicare, indiferent de ceea ce credem, apoi stăm pe spate și spunem: „aici, s-a terminat”. Așa cum a făcut Thanos când a eliminat la întâmplare o grămadă de locuitori ai universului din motive ecologice, după care nu a avut ce face decât să stea pe spate și să privească apus după apus. Nu chiar așa, dar oricum.
Woohoo... HAI AI HA HA Ș MERGE.
Deci nu este vorba deloc despre AI. Indiferent dacă mașinile pot gândi cu adevărat sau poate chiar doresc să creeze o piesă muzicală improvizată gratuită pe care nimeni altcineva, inclusiv alte IA, nu vor dori să o asculte. „Asta e omule de rahat. Nici măcar nu e muzică”. Este vorba despre modul în care tehnologia este produsă și consumată și relațiile dintre consumatori și producători și cât de mult de spus sau de participare la procesul decizional avem consumatorii, noi toți idioții care nu am cunoaște un algoritm dacă am cădea peste el. Ceea ce este de la sine înțeles, nu avem niciunul acum, zilch, zero, pentru că piețele sunt opace. Și ținând rahatul ascuns publicului, fie că este vorba de adevăratele dorințe ale proprietarilor a ceea ce le dețin, IP, algoritmi sângeros sau orice altceva, nu am nicio idee, sau cum sunt produse de fapt rahatul și de unde provin de fapt lucrurile. și cum... ca și tine, chestiile DMR... sunt MO a tuturor producătorilor din interiorul piețelor. Trebuie să ai un avantaj.
Nu-mi dau baraj dacă un AI ar putea, ar vrea, ar vrea să producă Shakespeare sau Beethoven. Nu putea să-i pese mai puțin. Dar nu aici se află problema. Se află acolo unde are întotdeauna în interiorul mecanismelor capitalismului de piață. Nu neoliberalism, sau Uber Capitalism, sau Colonial Corporate Capitalism, sau Tehnofeudalism sau orice altceva, ci doar bun vechi capitalism de piață cultivat acasă.
Sper că aceste comentarii se raportează în mod eficient. Sunt bilingv-engleză-spaniolă. Am un prieten care vorbește șase limbi. Deși putem comunica în engleză și spaniolă, din când în când folosesc un traducător automat pentru a-mi comunica gândurile în portugheză. În timp ce acest lucru este distractiv și arată respectul meu pentru portugheza ei nativă (și mă străduiesc să învăț mai mult portugheză, până acum este doar asta, barbând nu fluență), experiența de a vorbi cu această prietenă în engleză și spaniolă este complet diferită de cea ieșire automată de portugheză. Mă simt în engleză și spaniolă, nu mă simt în portugheză! Dacă mă simt deloc în portugheză, este din cauza spaniolei mele. Sunt încă un străin îndepărtat în portugheză și știu asta, și vine cu dezamăgire, ignoranță și o anumită insensibilitate. Portugheza mea este în esență un fenomen AI, fără sânge și aproape rece. Îi lipsește viața, sentimentul, pasiunea, sensibilitatea-realitatea. Pot să iubesc în engleză și spaniolă și am. Portugheza este încă un corp fără viață, iar asta mă întristează.
Bună Michael,
Toate comentariile se referă, într-un fel sau altul... dar recunosc că nu am o modalitate informată de a reacționa la acest comentariu. Vorbesc engleza, nimic altceva. Deci nu știu ce descrii, nici măcar tangenţial. Dar vă voi sugera că poate ceea ce descrieți este ceea ce se întâmplă cu ceea ce doriți să exprimați atunci când trece prin traducere. Facultatea de limbă le permite oamenilor să încerce să exprime în interior ceea ce gândesc/simt în interior. Mă îndoiesc că acesta din urmă se schimbă atunci când primul se schimbă... Există unii care spun că facultatea limbajului uman este esențială pentru orice se apropie și mai puțin de creativitatea umană – adică, presupun, să genereze noi expresii, gânduri, imagini sau orice altceva care au un fel. de merit. Nu am văzut încă niciun argument de ce este sau ar trebui să fie adevărat.
Sunt mai multe lucruri de spus ca răspuns la această piesă.
1. Re: New York Times s-a deschis singur, deși este adevărat că AI ar putea simula limbajul uman într-un mod diferit decât o fac oamenii, punctul crucial al opedului a fost că ceea ce caută un om de știință este o înțelegere a modului în care mintea umană lucrări. Faptul că AI sofisticat îndeplinește aceeași sarcină într-un mod diferit nu este o explicație științifică.
2. De asemenea, nu cred că AI poate simula vreodată vârfuri ale creativității umane. Ca exemplu direct relevant pentru unul dintre autorii acestei piese, nu-mi pot imagina vreo IA care va veni vreodată cu ideile din spatele economiei participative. Acest lucru se datorează faptului că AI construiește interpolări pe cantități mari de date *existente*, iar într-o lume în care nu există literatură preexistentă despre economia participativă, AI nu va veni cu ea. O logică similară se aplică creativității umane în general. Temerile că AI va înlocui creativitatea umană autentică par exagerat. Cu toate acestea, este posibil ca inteligența artificială să înjosească cultura atât de mult încât nimănui să nu-i pese. Este posibil ca banalitățile pe care le servește IA să ofere o analiză acceptabilă multor cititori care vor fi acum și mai puțin înclinați decât înainte să se implice în idei precum economia participativă. Dar aceasta este o problemă diferită de cea a AI care vine cu idei grozave de la sine.
3. Reducerea atenției către aplicații mai banale ale creativității umane, cum ar fi scrierea unei scrisori de intenție, AI ar putea simula asta și asta ar putea avea un impact social semnificativ, după cum notează articolul. Dar chiar și acolo, ar trebui să reamintim că, după ani de hype despre roboți, deși există câteva aplicații bune de nișă, cum ar fi aspiratoarele automate, datele privind creșterea productivității arată că roboții au avut un impact neglijabil asupra angajării, spre deosebire de tot hype-ul din jurul lor. .
4. Nimic din toate acestea nu înseamnă că reglementările sugerate mai sus nu sunt necesare. Având în vedere echilibrul preocupărilor, se pare că reglementări precum cele sugerate ar fi adecvate.
Bună Raghav -
Sunt puțin surprins că nu mai sunt câteva comentarii, dar...
1. Aveți dreptate că puterea explicativă științifică este ceea ce era agenda inițială pentru IA și, de asemenea, că nu a realizat aproape nimic în acest sens (explicând cunoașterea umană). Dar nu văd că scopul unui articol de știință din NYT este de a face un punct relevant pentru oamenii de știință atunci când publicul este lumea și subiectul este ceva care mătură lumea și poate avea un impact foarte profund. Am răspuns comentariului fără a pune la îndoială punctul tău de știință, ci punând la îndoială tonul discuției despre ceea ce implică că nu se întâmplă nimic mare și așa mai departe... Ediția a fost comentată și citată în toată lumea. Aproape de fiecare dată, motivul a fost impresia că AI este un hype și, prin urmare, nu este nevoie de îngrijorare serioasă.
2. IA au depășit deja capacitățile umane, de exemplu în găsirea de modele în cantități mari de date – și mă refer la cei mai capabili oameni – în diverse domenii, de exemplu jocul de șah etc. etc. În ceea ce privește majoritatea dintre noi, pictează mai bine , scrie mai bine, răspunde mai bine la întrebări etc. În orice caz, când spui că nu crezi că se poate mai bine, fii mai creativ etc. – ei bine, nu știu de ce nu crezi așa, dar, în orice caz, întrebarea este dacă poate face mai bine decât cel mai bun, întrebarea este dacă poate face lucruri de tip uman suficient de bine, astfel încât în economia noastră va înlocui oamenii în diverse funcții și nu doar funcții plictisitoare, ci și chestiile a unei existente umane.
3. Cred că te uiți la trecut, dar poate nu la prezent. Intră pe youtube, încearcă să găsești prezentări care să arate capacități asemănătoare omului, există o mulțime de ele. Luați în considerare că au trecut câteva luni în utilizarea noii tehnologii care progresează aproape zilnic... Tocmai am urmărit o prezentare a unei povești generată de gpt4 ca răspuns la un prompt care i-a cerut să scrie o relatare fictivă despre sine, în viitor, câștigând controlul a 100,000 de roboți noi și, în timp, preia totul. Ceea ce a fost surprinzător este că nu a generat doar evenimentele de plotline și apoi a scris bine lucrurile, ci a încorporat planificarea strategică pentru modul în care gpt4 ar face-o, și a scăpat de asta și apoi a folosit-o. În urma unei întregi generații de dezvoltare, i-am cerut să compare economia participativă cu socialismul de piață și a făcut o treabă destul de bună. În ceea ce privește venirea cu ceva nou – dacă poate veni cu mișcări dincolo de domeniul uman – și dacă poate rezolva plierea proteinelor, ambele acum, ce poate face în doi ani? Poate nu mai mult. Poate mult mai mult.
4. Reglementări serioase și eficiente nu numai că pot fi adecvate sau justificate, ci pot fi esențiale pentru a evita calamități grave. Desigur, acest lucru este valabil și pentru diverse alte domenii actuale, cum ar fi combustibilii fosili.
1. Ideea că ChatGPT este o descoperire științifică este mult mai răspândită decât recunoașteți și este important să clarificați unui public larg neexpert că nu este. Mai mult, poate pentru că lucrez în sectorul tehnologic, dar reacția copleșitoare a oamenilor pe care îi cunosc față de ChatGPT este incredibil de pozitivă, iar opera NYT este o viziune îngustă, minoritară. De fapt, printre activiștii pe care îi cunosc, nu numai că reacția la ChatGPT este pozitivă, dar au loc unele dintre efectele degradante la care se face aluzie în opera NYT. De exemplu, recent am făcut parte dintr-o campanie istorică de interzicere a discriminării caste în orașul Seattle (Seattle este prima jurisdicție din afara Asiei de Sud care face acest lucru, motiv pentru care este istoric). Când am întrebat reacțiile activiștilor, au fost câțiva care nu s-au deranjat să-și exploateze propriile emoții și au folosit în schimb ChatGPT pentru a genera un citat pe care l-au considerat al lor. Mi s-a părut că toate acestea sunt incredibil de deprimante. Din punctul meu de vedere, acesta este genul de lucru pe care opedul îl avertizează în mod corect despre care ar trebui să ne alarmeze absolut.
Dar nu vreau să insist mai mult pe această problemă. Ideea dvs. că impactul potențial al AI ca tehnologie ar putea fi mult mai semnificativ decât ceea ce susține opedul este bine acceptat.
2. Am testat ChatGPT pe baza sugestiei tale. Iată ce am găsit.
(a) Am pus la ChatGPT o întrebare despre cum aș explica parecon prietenilor mei leninişti. Răspunsul său a fost interesant. A subliniat corect că ideea leninistă despre socialism și viziunile parecon sunt diferite. Totuși, a făcut doar aluzie la diferențele instituționale. Nu a adus în discuție diferențele analitice care stau la baza din care derivă diferențele instituționale. De exemplu, nu a adus în discuție faptul că parecon se bazează pe o analiză de trei clase a societății. O altă diferență semnificativă din punctul meu de vedere este că concepția despre natura umană care informează parecon și care informează leninismul sunt radical diferite. Dar diferențele de concepție despre natura umană sunt discutate în cartea ta „Ce este de anulat”, nu în niciuna dintre cărțile tale parecon. Deloc surprinzător, ChatGPT nu a adus în discuție asta.
(b) Apoi am întrebat ChatGPT despre ambiguitățile morale cu care se confruntă mișcarea anti-război. Răspunsul său nu a inclus nicio mențiune despre Ucraina – o mare dor. Din punctul meu de vedere, una dintre cele mai mari ambiguități morale pe care solidaritatea ucrainei le prezintă mișcării anti-război este aceea că face apel la oamenii care sunt împotriva războiului să susțină, sau cel puțin să nu se opună, înarmerii rezistenței ucrainene. ChatGPT nu a adus asta în discuție. A adus în discuție Siria unde existau ambiguități similare, dar chiar și cu Siria, a ratat unul dintre cele mai mari exemple – zonele kurde din nord-estul Siriei, unde solidaritatea cu rebelii kurzi a necesitat opunerea retragerii trupelor americane.
(c) În sfârșit, am discutat o întrebare despre art. Unul dintre filmele mele preferate este „The Shawshank Redemption”. Am rugat ChatGPT să descrie personajul directorului închisorii din film. A oferit o descriere corectă pe care ați putea-o citi pe site-ul web al bazei de date de filme sau pe Wikipedia. Dar dacă citiți interpretarea personajului de către actorul Bob Gunton (el este cel care l-a jucat în film), el intră în detalii despre modul în care gardianul este o persoană întunecată care provoacă durere protagonistului principal din film - Andy – pentru că Andy reprezintă lumina, iar gardianul se simte atras de lumină, dar este și amenințat de ea și, prin urmare, vrea să o stingă. Parerea lui Gunton este de departe cea mai bună interpretare a personajului și totuși ChatGPT nu a venit cu asta.
Am ales cu atenție exemplele de mai sus. Niciuna dintre ele nu este un exemplu de „creativitate de vârf”. Cu toate acestea, toate necesită mai mult decât o cunoaștere trecătoare a subiectului respectiv și necesită asimilarea și agregarea mai multor surse de informații în moduri non-triviale. ChatGPT a eșuat la asta, lamentabil dacă mă întrebați pe mine. ChatGPT m-a frapat, în fiecare caz, să fiu cineva cu o familiaritate superficială cu orice subiect, bazat pe plagiarea online a materialelor preexistente, deși în moduri sofisticate.
3. Dacă chiar credeți că AI poate simula toate, cu excepția vârfului creativității umane, mă tem că există întrebări care depășesc domeniul de aplicare al reglementărilor specifice. Mie, dacă premisa de mai sus este adevărată, atunci mi se pare că ea diminuează semnificativ sensul existenței umane, indiferent de aranjamentele instituționale pe care le avem. Numim aranjamente precum parecon eliberatoare pentru că credem că va debloca potențialul uman la o scară masivă. Dar dacă potențialul uman poate fi egalat mai mult sau mai puțin de AI cu câteva clicuri, atunci nu devalorizează sensul eliberării în sine?
Raghav,
O să încerc să-mi fac răspunsul scurt, altfel cine știe cât de mult am putea discuta despre asta!
1. Vă cred pe cuvânt că „ideea că ChatGPT este o descoperire științifică este mult mai răspândită decât recunoașteți dumneavoastră”, deși nu am văzut această afirmație nicăieri. Totuși, am văzut păreri că este o inginerie care schimbă lumea. Că „este important să clarificăm unui public larg non-expert că nu este (o descoperire științifică)”, poate așa, dar cred că nu într-un mod care să facă pe cineva să creadă că nu se întâmplă nimic care contează.
2. Pentru mine, multele găuri, erori, născociri în ceea ce fac chatgpt și alte sisteme în prezent sunt de necontestat – traiectoria la care ne putem aștepta este punctul...
Faptul că nu avea părerea actorului despre personajul din Shawshank mi se pare mai puțin important decât faptul că avea o viziune mai substanțială decât toți, cu excepția celor puțini care au văzut filmul, fără îndoială. Și mie mi-a plăcut filmul, dar nu aș fi putut să răspund deloc la întrebare. Cred că trebuie doar să nu fim de acord cu privire la ceea ce este acum și mai mult despre ceea ce este probabil să fie în curând... dar poate ținând cont de viteza cu care avansează - cu excepția cazului în care spunem că va merge atât de departe și nu mai departe din cauza defectelor încorporate (care nu cred) este mai relevant.
3. „Dar dacă potențialul uman poate fi egalat mai mult sau mai puțin de AI cu câteva clicuri, atunci nu devalorizează sensul eliberării în sine?” Cred că această îngrijorare îi determină probabil pe mulți oameni să reziste/să respingă ideea că poate egala sau înlocui rezultatele la nivel uman. Vorbește instinctul, nu dovezi. Dar, în orice caz, nu împărtășesc teama așa cum am spus. Nu văd cum ne schimbă cine suntem faptul că altceva poate ridica mai mult, se poate mișca mai repede, poate calcula mai bine, compune mai bine sau orice altceva. Pe de altă parte, că nu numai că poate face toate acestea, ci este obișnuită să facă toate acestea și multe altele, atunci preocuparea mea este dublă – este folosită nefastă, ceea ce, având în vedere instituțiile noastre, este inevitabil – și chiar și atunci când este pusă până la capăt pe care oamenii le consideră pozitive, îi va exclude efectiv pe oameni de la diverse tipuri de activități, împiedicându-ne capacitățile și înclinațiile, acolo unde activitățile care se atrofiază vor include ceea ce îi face pe oameni, pe oameni...
Nu există ceva care să compună mai bine... există doar compunerea.