Mākslīgais intelekts (AI) pārņem pasauli. Tas pārveido ikvienu dzīves jomu un šajā procesā rada lielas ētiskas bažas par sabiedrību un cilvēces nākotni. ChatGPT, kas dominē sociālajos medijos, ir ar AI darbināms tērzēšanas robots, ko izstrādājis OpenAI. Tā ir mašīnmācīšanās apakškopa un balstās uz tā sauktajiem lielajiem valodu modeļiem, kas var radīt cilvēkam līdzīgas atbildes. Šādas tehnoloģijas potenciālais pielietojums patiešām ir milzīgs, tāpēc jau tiek aicināti regulēt AI, piemēram, ChatGPT.
Vai AI var pārspēt cilvēkus? Vai tas rada sabiedrības draudus? Patiešām, vai AI var kļūt par eksistenciālu draudu? Pasaulē izcilākais valodnieks Noam Chomsky, un viens no visu laiku cienījamākajiem publiskajiem intelektuāļiem, kura intelektuālais augums ir salīdzināts ar Galileo, Ņūtona un Dekarta intelektuāļiem, turpmākajā intervijā risina šos mokošos jautājumus.
CJ Polychroniou: Mākslīgais intelekts (AI) kā zinātnes disciplīna ir datēts ar 1950. gadiem, taču pēdējo pāris gadu desmitu laikā tas ir ienācis visās jomās, tostarp banku nozarē, apdrošināšanā, automobiļu ražošanā, mūzikā un aizsardzībā. Faktiski ir pierādīts, ka AI paņēmienu izmantošana dažos gadījumos pārspēj cilvēka spējas, piemēram, šaha spēlē. Vai mašīnas varētu kļūt gudrākas par cilvēkiem?
Noam Chomsky: Lai precizētu terminoloģiju, termins “mašīna” šeit nozīmē programma, būtībā teorija, kas rakstīta notācijā, ko var izpildīt ar datoru, un neparasts teorijas veids interesantos veidos, ko mēs šeit varam atstāt malā.
Mēs varam aptuveni nošķirt tīro inženieriju un zinātni. Nav stingras robežas, taču tas ir noderīgs pirmais tuvinājums. Tīras inženierijas mērķis ir ražot produktu, kas varētu būt noderīgs. Zinātne meklē izpratni. Ja tēma ir cilvēka intelekts vai citu organismu kognitīvās spējas, zinātne meklē izpratni par šīm bioloģiskajām sistēmām.
Kā es viņus saprotu, mākslīgā intelekta dibinātāji – Alans Tjūrings, Herberts Saimons, Mārvins Minskis un citi – uzskatīja to par zinātni, kas ir daļa no tobrīd topošajām kognitīvajām zinātnēm, kas izmanto jaunas tehnoloģijas un atklājumus matemātiskajā skaitļošanas teorijā. iepriekšēja izpratne. Gadu gaitā šīs bažas ir izgaisušas, un tās lielākoties ir aizstājušas inženiertehniskā orientācija. Agrākās bažas tagad parasti tiek noraidītas, dažreiz ar piekāpšanos, kā GOFAI — vecmodīgs AI.
Turpinot jautājumu, vai ir iespējams, ka tiks izstrādātas programmas, kas pārspēj cilvēka iespējas? Mums ir jābūt uzmanīgiem attiecībā uz vārdu “iespējas” iemeslu dēļ, pie kuriem es atgriezīšos. Bet, ja mēs uztveram šo terminu, lai apzīmētu cilvēka darbību, tad atbilde ir: noteikti jā. Faktiski tie pastāv jau sen: piemēram, klēpjdatora kalkulators. Tas var ievērojami pārsniegt to, ko cilvēki spēj, kaut vai tikai laika un atmiņas trūkuma dēļ. Attiecībā uz slēgtām sistēmām, piemēram, šahs, 50. gados bija labi saprotams, ka agrāk vai vēlāk, attīstoties milzīgajām skaitļošanas jaudām un ilgu sagatavošanās laiku, var tikt izstrādāta programma, lai uzvarētu lielmeistaru, kurš spēlē ar ierobežotu atmiņu. un laiks. Sasniegums gadus vēlāk bija diezgan liels PR IBM. Daudzi bioloģiskie organismi daudz dziļāk pārspēj cilvēka kognitīvās spējas. Manā pagalmā esošajām tuksneša skudrām ir niecīgas smadzenes, taču tās principā ievērojami pārsniedz cilvēka navigācijas spējas, ne tikai veiktspēju. Nav Lielās Esības ķēdes, kuras augšgalā ir cilvēki.
AI inženierijas produkti tiek izmantoti daudzās jomās gan labā, gan sliktākā virzienā. Pat vienkāršas un pazīstamas programmas var būt diezgan noderīgas: valodu apgabalā citas programmas, piemēram, automātiskā aizpilde, reāllaika transkripcija, Google tulkotājs. Ar ievērojami lielāku skaitļošanas jaudu un sarežģītāku programmēšanu vajadzētu būt arī citiem noderīgiem lietojumiem zinātnēs. Dažas jau ir bijušas: Palīdzība olbaltumvielu locīšanas pētījumos ir viens no neseniem gadījumiem, kad masīva un ātra meklēšanas tehnoloģija ir palīdzējusi zinātniekiem tikt galā ar kritisku un nepaklausīgu problēmu.
Inženiertehniskie projekti var būt noderīgi vai kaitīgi. Abi jautājumi rodas inženiertehniskā AI gadījumā. Pašreizējais darbs ar lielo valodu modeļiem (LLM), tostarp tērzēšanas robotiem, nodrošina rīkus dezinformācijai, neslavas celšanai un neinformēto maldināšanai. Draudi tiek pastiprināti, ja tos apvieno ar mākslīgiem attēliem un balss replikāciju. Paturot prātā dažādas bažas, desmitiem tūkstošu mākslīgā intelekta pētnieku pēdējā laikā aicināja attīstības moratoriju viņu uztverto iespējamo apdraudējumu dēļ.
Kā vienmēr, iespējamie tehnoloģiju ieguvumi ir jāsalīdzina ar iespējamām izmaksām.
Pavisam dažādi jautājumi rodas, pievēršoties AI un zinātnei. Šeit ir nepieciešama piesardzība pārmērīgu un neapdomīgu apgalvojumu dēļ, kas bieži tiek izplatīti plašsaziņas līdzekļos. Lai noskaidrotu jautājumus, aplūkosim gadījumus, daži hipotētiski, daži reāli.
Es pieminēju kukaiņu navigāciju, kas ir pārsteidzošs sasniegums. Kukaiņu zinātnieki ir panākuši lielu progresu, pētot, kā tas tiek sasniegts, lai gan neirofizioloģija, kas ir ļoti grūts jautājums, līdz ar sistēmu evolūciju joprojām ir nenotverama. Tas pats attiecas uz pārsteidzošajiem putnu un jūras bruņurupuču varoņdarbiem, kas ceļo tūkstošiem jūdžu un nekļūdīgi atgriežas izcelsmes vietā.
Pieņemsim, ka nāk Toms Džonss, inženierzinātņu mākslīgā intelekta atbalstītājs un saka: “Viss jūsu darbs ir atspēkots. Problēma ir atrisināta. Komerciālo aviosabiedrību piloti visu laiku sasniedz tādus pašus vai pat labākus rezultātus.
Ja pat būtu grūti atbildēt, mēs smietos.
Piemēram, polinēziešu jūrniecības varoņdarbi, kuri joprojām dzīvo starp pamatiedzīvotāju ciltīm, izmantojot zvaigznes, vēju un straumes, lai nosēdinātu kanoe noteiktā vietā simtiem jūdžu attālumā. Arī tas ir bijis daudzu pētījumu temats, lai noskaidrotu, kā viņi to dara. Tomam Džounsam ir atbilde: “Beidz tērēt savu laiku; jūras spēku kuģi to dara visu laiku.
Tāda pati atbilde.
Tagad pievērsīsimies reālam gadījumam, valodas apguvei. Pēdējos gados tas ir bijis plašu un ļoti izgaismojošu pētījumu temats, parādot, ka zīdaiņiem ir ļoti bagātīgas zināšanas par apkārtējo valodu (vai valodām), kas daudz pārsniedz to, ko viņi uzrāda sniegumā. Tas tiek panākts ar maziem pierādījumiem, un dažos izšķirīgos gadījumos bez pierādījumiem. Labākajā gadījumā, kā liecina rūpīgi statistikas pētījumi, pieejamie dati ir maz, jo īpaši, ja tiek ņemts vērā ranga biežums (“Zipf likums”).
Ievadiet Tomu Džounsu: “Jūs esat atspēkots. Nepievēršot uzmanību jūsu atklājumiem, LLM, kas skenē astronomiskus datu apjomus, var atrast statistikas likumsakarības, kas ļauj simulēt datus, uz kuriem viņi ir apmācīti, radot kaut ko tādu, kas izskatās pēc normālas cilvēka uzvedības. Tērzēšanas roboti."
Šis gadījums atšķiras no citiem. Pirmkārt, tas ir reāls. Otrkārt, cilvēki nesmejas; patiesībā daudzi ir sajūsmā. Treškārt, atšķirībā no hipotētiskiem gadījumiem faktiskie rezultāti ir tālu no tā, kas tiek apgalvots.
Šie apsvērumi rada nelielu problēmu ar pašreizējo LLM entuziasmu: tā pilnīgo absurdu, tāpat kā hipotētiskajos gadījumos, kad mēs to atpazīstam uzreiz. Bet ir daudz nopietnākas problēmas nekā absurds.
Viens no tiem ir tas, ka LLM sistēmas ir veidotas tā, ka tās nevar mums neko pastāstīt par valodu, mācīšanos vai citiem izziņas aspektiem, kas ir principiāls, nelabojams jautājums. Divkāršojiet skenēto datu terabaitu skaitu, pievienojiet vēl vienu triljonu parametru, izmantojiet vēl vairāk Kalifornijas enerģijas, un uzvedības simulācija uzlabosies, vienlaikus skaidrāk atklājot pieejas principiālo neveiksmi, lai nodrošinātu jebkādu izpratni. Iemesls ir elementārs: sistēmas darbojas tikpat labi ar neiespējamām valodām, kuras zīdaiņi nevar apgūt, kā ar tām, kuras viņi apgūst ātri un praktiski refleksīvi.
It kā biologs teiktu: “Man ir lieliska jauna organismu teorija. Tajā ir uzskaitīti daudzi, kas pastāv, un daudzi, kas, iespējams, nevar pastāvēt, un es nevaru jums neko pastāstīt par šo atšķirību.
Atkal mēs smietos. Vai arī vajadzētu.
Ne Toms Džonss — tagad tas attiecas uz faktiskiem gadījumiem. Turpinot radikālo aiziešanu no zinātnes, Toms Džonss atbild: "Kā jūs to zināt, kamēr neesat izpētījis visas valodas?" Šajā brīdī atteikšanās no normālas zinātnes kļūst vēl skaidrāka. Argumentu paritātes dēļ mēs varam izmest ģenētiku un molekulāro bioloģiju, evolūcijas teoriju un pārējās bioloģijas zinātnes, kurās nav ņemti paraugi par niecīgu organismu daļu. Un labam mēram mēs varam izmest visu fiziku. Kāpēc ticēt kustības likumiem? Cik objektu patiesībā ir novēroti kustībā?
Turklāt ir neliels pierādīšanas pienākums. Tiem, kas ierosina teoriju, ir pienākums parādīt, ka tai ir kāda jēga, šajā gadījumā parādot, ka tā neizdodas neiespējamām valodām. Citu pienākums nav atspēkot priekšlikumu, lai gan šajā gadījumā tas šķiet pietiekami vienkārši.
Pārvērsim uzmanību uz parasto zinātni, kur lietas kļūst interesantas. Pat viens valodas apguves piemērs var sniegt bagātīgu ieskatu atšķirībā starp iespējamām un neiespējamām valodām.
Iemesli ir skaidri un pazīstami. Visa izaugsme un attīstība, ieskaitot to, ko sauc par “mācīšanos”, ir process, kas sākas ar organisma stāvokli un pakāpeniski pārvērš to vēlākos posmos.
Valodas apguve ir tāds process. Sākotnējais stāvoklis ir valodas fakultātes bioloģiskais dotums, kas acīmredzami pastāv, pat ja tas, kā daži uzskata, ir īpaša citu spēju kombinācija. Tas ir maz ticams jau sen saprotamu iemeslu dēļ, taču tas neattiecas uz mūsu bažām, tāpēc varam to atstāt malā. Skaidrs, ka cilvēka valodas spējai ir bioloģisks dotums. Visvienkāršākā patiesība.
Pāreja notiek relatīvi stabilā stāvoklī, kas mainās tikai virspusēji: valodas zināšanas. Ārējie dati iedarbina un daļēji veido procesu. Pētot sasniegto stāvokli (valodas zināšanas) un ārējos datus, varam izdarīt tālejošus secinājumus par sākotnējo stāvokli, bioloģisko dotību, kas padara iespējamu valodas apguvi. Secinājumi par sākotnējo stāvokli uzliek atšķirību starp iespējamām un neiespējamām valodām. Atšķirība attiecas uz visiem tiem, kam ir kopīgs sākotnējais stāvoklis – visiem cilvēkiem, cik zināms; Šķiet, ka starp esošajām cilvēku grupām nav atšķirību spējas apgūt valodu.
Tas viss ir normāla zinātne, un tā ir sasniegusi daudzus rezultātus.
Eksperimenti ir parādījuši, ka stabils stāvoklis tiek iegūts ļoti agri, trīs līdz četru gadu vecumā. Ir arī vispāratzīts, ka valodas spējai ir cilvēkiem raksturīgas pamatīpašības, tāpēc tā ir patiesa sugas īpašība: kopīga cilvēku grupām un fundamentāli unikāla cilvēka īpašība.
Šajā shematiskajā pārskatā daudz kas ir izlaists, jo īpaši dabisko likumu loma izaugsmē un attīstībā: tādas skaitļošanas sistēmas gadījumā kā valoda, skaitļošanas efektivitātes principi. Bet šī ir lietas būtība. Atkal normāla zinātne.
Ir svarīgi skaidri saprast Aristoteļa atšķirību starp zināšanu piederību un zināšanu izmantošanu (mūsdienu terminoloģijā, kompetencē un izpildījumā). Valodas gadījumā iegūtais stabilais stāvoklis ir smadzenēs iekodētu zināšanu pārvaldīšana. Iekšējā sistēma nosaka neierobežotu strukturētu izteiksmju masīvu, no kurām katru mēs varam uzskatīt par domas formulēšanu, un katra no tām ir izdalāma kādā sensoromotorā sistēmā, parasti skaņa, lai gan tā varētu būt zīme vai pat (ar grūtībām) pieskāriens.
Iekšēji kodētajai sistēmai piekļūst, izmantojot zināšanas (veiktspēju). Performance ietver valodas iekšējo lietošanu domās: pārdomas, plānošanu, atcerēšanos un daudz ko citu. Statistiski runājot, tas ir pārliecinošs valodas lietojums. Tas ir nepieejams introspekcijai, lai gan mēs varam daudz uzzināt par to, izmantojot parastās zinātnes metodes, no “ārpuses”, metaforiski runājot. Tas, ko sauc par “iekšējo runu”, patiesībā ir eksternalizētas valodas fragmenti ar izslēgtu artikulācijas aparātu. Tas ir tikai attāls iekšējās valodas lietojuma atspulgs, svarīgas lietas, kuras es šeit nevaru risināt.
Citas valodas lietojuma formas ir uztvere (parsēšana) un producēšana, un pēdējā ir būtiski saistīta ar īpašībām, kas mums joprojām ir tikpat noslēpumainas kā tad, kad Galilejs un viņa laikabiedri mūsdienu zinātnes rītausmā tos ar bijību un izbrīnu uztvēra.
Zinātnes galvenais mērķis ir atklāt iekšējo sistēmu gan tās sākotnējā stāvoklī cilvēka valodas fakultātē, gan konkrētajās formās, ko tā iegūst apguvē. Ciktāl šī iekšējā sistēma ir saprotama, mēs varam turpināt pētīt, kā tā nonāk izpildījumā, mijiedarbojoties ar daudziem citiem faktoriem, kas iesaistās valodas lietošanā.
Veiktspējas dati sniedz pierādījumus par iekšējās sistēmas būtību, jo īpaši, ja tie tiek precizēti eksperimentā, piemēram, standarta lauka darbā. Bet pat vislielākā datu vākšana noteikti ir maldinoša izšķirošos veidos. Tā ievēro to, ko parasti ražo, nevis smadzenēs iekodētās valodas zināšanas, kas ir primārais pētāmais objekts tiem, kas vēlas izprast valodas būtību un tās lietojumu. Šis iekšējais objekts nosaka bezgalīgi daudz tādu iespēju, kuras netiks izmantotas normālā uzvedībā tādu faktoru dēļ, kas nav saistīti ar valodu, piemēram, īstermiņa atmiņas ierobežojumi, tēmas, kas pētītas pirms 60 gadiem. Novērotajos datos tiks iekļauts arī daudz kas, kas atrodas ārpus smadzenēs iekodētās sistēmas, bieži vien apzināta valodas lietošana veidos, kas pārkāpj noteikumus retoriskos nolūkos. Šīs ir patiesības, kas zināmas visiem lauka darbiniekiem, kuri paļaujas uz izvilināšanas paņēmieniem ar informatoriem, galvenokārt eksperimentiem, lai iegūtu rafinētu korpusu, kas izslēdz neatbilstošus ierobežojumus un novirzes. Tas pats attiecas uz gadījumiem, kad valodnieki izmanto sevi kā informatorus, kas ir pilnīgi saprātīga un normāla procedūra, kas ir izplatīta psiholoģijas vēsturē līdz mūsdienām.
Turpinot parasto zinātni, mēs atklājam, ka valodas iekšējos procesus un elementus nevar noteikt, pārbaudot novērotās parādības. Bieži vien šie elementi pat neparādās runā (vai rakstībā), lai gan to ietekmi, bieži vien smalku, var noteikt. Tas ir vēl viens iemesls, kāpēc aprobežošanās ar novērotajām parādībām, kā tas ir LLM pieejās, krasi ierobežo izpratni par iekšējiem procesiem, kas ir galvenie valodas būtības, tās apguves un lietošanas izpētes objekti. Bet tas nav svarīgi, ja rūpes par zinātni un izpratni ir atmestas par labu citiem mērķiem.
Vispārīgāk zinātnēs tūkstošiem gadu secinājumi ir izdarīti ar eksperimentiem — bieži vien domu eksperimentiem —, kas katrs ir radikāla abstrakcija no parādībām. Eksperimenti ir balstīti uz teoriju, cenšoties atmest neskaitāmos nebūtiskos faktorus, kas iekļaujas novērotajās parādībās, piemēram, lingvistiskajā darbībā. Tas viss ir tik elementāri, ka par to reti pat runā. Un pazīstami. Kā minēts, galvenā atšķirība ir saistīta ar Aristoteļa atšķirību starp zināšanu piederību un zināšanu izmantošanu. Pirmais ir galvenais pētījuma objekts. Sekundārie (un diezgan nopietni) pētījumi pēta, kā iekšēji saglabātā zināšanu sistēma tiek izmantota izpildījumā, kā arī daudzi ne-lingvistiskie faktori, kas neietilpst tieši novērotajā.
Mēs varētu arī atgādināt evolūcijas biologa Teodosija Dobžanska novērojumu, kurš galvenokārt slavens ar savu darbu ar Drosofilu: Katra suga ir unikāla, un cilvēki ir unikālākie no visiem. Ja mēs esam ieinteresēti saprast, kādi radījumi mēs esam — pēc Delfu Orākula rīkojuma pirms 2,500 gadiem –, mēs galvenokārt rūpēsimies par to, kas cilvēku padara par unikālāko no visiem, galvenokārt valoda un domas, kas ir cieši saistītas, kā atzīts bagātas tradīcijas, kas aizsākās klasiskajā Grieķijā un Indijā. Lielākā daļa uzvedības ir diezgan ierasta, līdz ar to zināmā mērā paredzama. Tas, kas sniedz patiesu ieskatu par to, kas padara mūs unikālus, ir tas, kas nav ikdienišķs, ko mēs atrodam, dažreiz eksperimentējot, dažreiz novērojot, no normāliem bērniem līdz lieliskiem māksliniekiem un zinātniekiem.
Viens pēdējais komentārs šajā sakarā. Sabiedrība jau gadsimtu ir nomocīta ar masveida korporatīvām kampaņām, lai veicinātu nicinājumu pret zinātni, tēmām, kuras cita starpā labi pētījusi Naomi Oreskes. Tas sākās ar korporācijām, kuru produkti ir slepkavnieciski: svins, tabaka, azbests, vēlāk fosilais kurināmais. Viņu motīvi ir saprotami. Uzņēmējdarbības mērķis kapitālistiskā sabiedrībā ir peļņa, nevis cilvēku labklājība. Tas ir institucionāls fakts: nespēlējiet spēli, un jūs tiksiet nomainīts ar kādu, kas to darīs.
Korporatīvās PR nodaļas jau agri atzina, ka būtu kļūda noliegt pieaugošos zinātniskos pierādījumus par viņu produktu nāvējošo ietekmi. Tas būtu viegli atspēkots. Labāk sēt šaubas, veicināt nenoteiktību, nicinājumu pret šiem uzvalkiem ar smailajām galvām, kuri nekad nav krāsojuši māju, bet atnākuši no Vašingtonas, lai pateiktu, lai es neizmantoju svina krāsu, iznīcinot manu biznesu (reāls gadījums, viegli pavairot). Tas ir strādājis pārāk labi. Šobrīd tas ved mūs pa ceļu uz organizētās cilvēka dzīves iznīcināšanu uz zemes.
Intelektuālajās aprindās līdzīgus efektus radījusi postmodernā zinātnes kritika, demontēt Žans Brikmons un Alans Sokāls, bet dažās aprindās joprojām ir ļoti dzīvs.
Varētu būt nelaipni uzdot šo jautājumu, taču, manuprāt, ir godīgi jautāt, vai Toms Džounss un tie, kas nekritiski atkārto un pat pastiprina viņu neuzmanīgos paziņojumus, veicina tādas pašas bēdīgās tendences.
CJP: ChatGPT ir dabiskas valodas vadīts tērzēšanas robots, kas izmanto mākslīgo intelektu, lai nodrošinātu cilvēkiem līdzīgas sarunas. Nesen publicētajā rakstā New York Times, kopā ar diviem citiem autoriem jūs izslēdzāt jaunos tērzēšanas robotus kā ažiotāžu, jo tie vienkārši neatbilst cilvēku valodu kompetencei. Vai tomēr nav iespējams, ka nākotnes inovācijas AI var radīt inženiertehniskos projektus, kas atbilst un, iespējams, pat pārspēs cilvēka spējas?
NC: Raksta autors Džefrijs Vatumulls, izcils matemātiķis-lingvists-filozofs. Abi uzskaitītie līdzautori bija konsultanti, kuri rakstam piekrīt, bet to neuzrakstīja.
Tā ir taisnība, ka tērzēšanas roboti principā nevar atbilst cilvēku valodas kompetencei iepriekš minēto iemeslu dēļ. To pamata dizains neļauj tiem sasniegt minimālo nosacījumu par cilvēka valodas teorijas piemērotību: atšķirt iespējamās valodas no neiespējamām. Tā kā tas ir dizaina īpašums, to nevar pārvarēt ar turpmākiem jauninājumiem šāda veida AI. Tomēr ir pilnīgi iespējams, ka nākotnes inženiertehniskie projekti sasniegs un pat pārspēs cilvēka spējas, ja ar to domājam cilvēka rīcībspēju, sniegumu. Kā minēts iepriekš, daži to jau sen ir darījuši: piemēram, automātiskie kalkulatori. Vēl interesantāk, kā minēts, kukaiņi ar niecīgām smadzenēm pārspēj cilvēka spējas, ko saprot kā kompetenci.
CJP: Iepriekš minētajā rakstā arī tika novērots, ka mūsdienu AI projektiem nepiemīt cilvēka morāles spējas. Vai šis acīmredzamais fakts padara AI robotus mazāku par draudiem cilvēcei? Es domāju, ka arguments var būt tāds, ka tas viņus, iespējams, padara vēl vairāk.
NC: Tas patiešām ir acīmredzams fakts, saprotot “morālo spēju” plaši. Ja AI inženierija netiek rūpīgi kontrolēta, tā var radīt nopietnus draudus. Pieņemsim, piemēram, ka pacientu aprūpe ir automatizēta. Neizbēgamās kļūdas, kuras pārvarētu cilvēku spriedumi, varētu radīt šausmu stāstu. Vai arī pieņemsim, ka cilvēki tika izslēgti no automatizēto pretraķešu aizsardzības sistēmu noteikto draudu novērtēšanas. Kā šokējošs vēsturisks ieraksts informē mums tas būtu cilvēces civilizācijas beigas.
Ja AI inženierija netiek rūpīgi kontrolēta, tā var radīt nopietnus draudus.
CJP: Regulatori un tiesībaizsardzības aģentūras Eiropā pauž bažas par ChatGPT izplatību, kamēr nesen iesniegtais Eiropas Savienības tiesību akts mēģina risināt AI, klasificējot šādus rīkus pēc to uztvertā riska līmeņa. Vai piekrītat tiem, kuri ir nobažījušies, ka ChatGPT rada nopietnus draudus sabiedrībai? Turklāt, vai jūs tiešām domājat, ka AI rīku turpmāko attīstību var apturēt, līdz tiks ieviesti aizsardzības pasākumi?
NC: Es viegli jūtu līdzi centieniem mēģināt kontrolēt progresīvo tehnoloģiju radītos draudus, tostarp šajā gadījumā. Tomēr es esmu skeptisks par iespēju to darīt. Man ir aizdomas, ka džins ir ārā no pudeles. Ļaunprātīgi dalībnieki — institucionāli vai individuāli — droši vien var atrast veidus, kā izvairīties no aizsardzības pasākumiem. Šādas aizdomas, protams, nav iemesls nemēģināt un izrādīt modrību.
ZNetwork tiek finansēts tikai ar lasītāju dāsnumu.
Ziedot