Dirbtinis intelektas (DI) šluoja pasaulį. Tai keičia kiekvieną gyvenimo sritį ir kelia didelį etinį susirūpinimą visuomenei ir žmonijos ateičiai. Socialinėje žiniasklaidoje dominuojanti „ChatGPT“ yra „OpenAI“ sukurtas AI pagrįstas pokalbių robotas. Tai mašininio mokymosi pogrupis ir remiasi vadinamaisiais didelių kalbų modeliais, galinčiais generuoti į žmogų panašius atsakymus. Galimas tokios technologijos pritaikymas iš tiesų yra didžiulis, todėl jau yra raginama reguliuoti AI, pvz., ChatGPT.
Ar AI gali pergudrauti žmones? Ar tai kelia grėsmę visuomenei? Iš tiesų, ar AI gali tapti egzistencine grėsme? Žymus pasaulio kalbininkas Noam Chomsky, ir vienas iš labiausiai gerbiamų visų laikų viešųjų intelektualų, kurio intelektualinis ūgis buvo lyginamas su Galilėjaus, Niutono ir Descarteso intelektualu, toliau pateiktame interviu sprendžia šiuos kankinančius klausimus.
CJ Polychroniou: Dirbtinis intelektas (AI), kaip mokslo disciplina, atsirado šeštajame dešimtmetyje, tačiau per pastaruosius porą dešimtmečių jis įsiveržė į visas sritis, įskaitant bankininkystę, draudimą, automobilių gamybą, muziką ir gynybą. Tiesą sakant, kai kuriais atvejais buvo įrodyta, kad dirbtinio intelekto technikų naudojimas pranoksta žmogaus galimybes, pavyzdžiui, šachmatų žaidime. Ar mašinos gali tapti protingesnės už žmones?
Noam Chomsky: Kad būtų paaiškinta terminija, terminas „mašina“ čia reiškia programa, iš esmės teorija, parašyta užrašu, kurią galima įvykdyti kompiuteriu – ir neįprasta teorija įdomiais būdais, kurias čia galime atidėti.
Galime apytiksliai atskirti grynąją inžineriją ir mokslą. Nėra aiškios ribos, bet tai naudingas pirmasis apytikslis skaičiavimas. Gryna inžinerija siekia pagaminti produktą, kuris gali būti naudingas. Mokslas siekia supratimo. Jei tema yra žmogaus intelektas arba kitų organizmų pažinimo pajėgumai, mokslas siekia suprasti šias biologines sistemas.
Kaip suprantu, AI įkūrėjai – Alanas Turingas, Herbertas Simonas, Marvinas Minsky ir kiti – laikė jį mokslu, tuo metu besiformuojančių pažinimo mokslų dalimi, naudojančiu naujas technologijas ir atradimus matematinės skaičiavimo teorijos srityje. išankstinis supratimas. Bėgant metams šie rūpesčiai išblėso ir daugiausia buvo išstumti dėl inžinerinės orientacijos. Ankstesni rūpesčiai dabar dažnai atmesti, kartais nuolaidžiai, kaip GOFAI – senamadiškas AI.
Tęsiant klausimą, ar tikėtina, kad bus sukurtos programos, pranokstančios žmogaus galimybes? Turime būti atsargūs dėl žodžio „pajėgumai“ dėl priežasčių, prie kurių grįšiu. Bet jei šį terminą laikytume kaip žmogaus veiklą, atsakymas yra toks: tikrai taip. Tiesą sakant, jie jau seniai egzistuoja: pavyzdžiui, nešiojamojo kompiuterio skaičiuotuvas. Tai gali gerokai viršyti tai, ką gali padaryti žmonės, jei tik dėl laiko ir atminties stokos. Kalbant apie uždaras sistemas, tokias kaip šachmatai, šeštajame dešimtmetyje buvo gerai suprasta, kad anksčiau ar vėliau, pažengus didžiuliams skaičiavimo pajėgumams ir ilgai ruošiantis, gali būti sukurta programa, skirta nugalėti didmeistrą, žaidžiantį su pririšta atmintimi. ir laikas. Po metų pasiekimas buvo beveik IBM PR. Daugelis biologinių organizmų daug giliau pranoksta žmogaus pažinimo galimybes. Dykumos skruzdėlės mano kieme turi menkas smegenis, bet gerokai viršija žmogaus navigacinius gebėjimus, iš principo, ne tik našumą. Nėra Didžiosios būties grandinės, kurios viršuje yra žmonės.
Dirbtinio intelekto inžinerijos produktai yra naudojami daugelyje sričių, tiek geriau, tiek blogiau. Netgi paprastos ir pažįstamos gali būti labai naudingos: kalbų srityje tokios programos kaip automatinis pildymas, tiesioginė transkripcija, „Google“ vertėjas ir kt. Turint daug didesnę skaičiavimo galią ir sudėtingesnį programavimą, turėtų būti ir kitų naudingų pritaikymų moksluose. Tokių jau buvo: Pagalba tiriant baltymų lankstymą yra vienas iš naujausių atvejų, kai didžiulės ir greitos paieškos technologijos padėjo mokslininkams susidoroti su kritine ir nepalankia problema.
Inžineriniai projektai gali būti naudingi arba žalingi. Abu klausimai kyla inžinerinio AI atveju. Dabartinis darbas su didelių kalbų modeliais (LLM), įskaitant pokalbių robotus, suteikia dezinformacijos, šmeižto ir neinformuotų asmenų klaidinimo įrankius. Grėsmės sustiprėja, kai jos derinamos su dirbtiniais vaizdais ir balso replikacija. Dešimtys tūkstančių dirbtinio intelekto tyrinėtojų pastaruoju metu, atsižvelgdami į skirtingus rūpesčius vadinamas plėtros moratoriumą dėl galimų pavojų, kuriuos jie suvokia.
Kaip visada, galimą technologijos naudą reikia palyginti su galimomis sąnaudomis.
Visai kitokie klausimai kyla, kai kreipiamės į AI ir mokslą. Čia būtinas atsargumas dėl pernelyg didelių ir neapgalvotų teiginių, dažnai išplitusių žiniasklaidoje. Norėdami išsiaiškinti problemas, panagrinėkime atvejus, kai kuriuos hipotetinius, kai kuriuos – realius.
Paminėjau vabzdžių navigaciją, kuri yra stulbinantis pasiekimas. Vabzdžių mokslininkai padarė didelę pažangą tirdami, kaip tai pasiekiama, nors neurofiziologija, kuri yra labai sudėtinga, kartu su sistemų evoliucija lieka sunkiai suprantama. Tas pats pasakytina apie nuostabius paukščių ir jūros vėžlių žygdarbius, kurie nukeliauja tūkstančius mylių ir neklystamai grįžta į kilmės vietą.
Tarkime, ateina Tomas Džounsas, inžinerinio AI šalininkas ir sako: „Visi jūsų darbai buvo paneigti. Problema išspręsta. Komercinių oro linijų pilotai visą laiką pasiekia tuos pačius ar net geresnius rezultatus.
Jei net nesivargintume atsakyti, nusijuoktume.
Paimkime polineziečių, vis dar gyvų tarp čiabuvių genčių, jūreivystės žygdarbių atvejį, naudojant žvaigždes, vėją, sroves, kad kanojos nutūptų tam skirtoje vietoje už šimtų mylių. Tai taip pat buvo daugelio tyrimų tema, siekiant išsiaiškinti, kaip jie tai daro. Tomas Džounsas turi atsakymą: „Nustok gaišti laiką; karinio jūrų laivyno laivai tai daro visą laiką.
Tas pats atsakymas.
Dabar pereikime prie tikrojo atvejo – kalbos įgijimo. Pastaraisiais metais tai buvo išsamių ir labai informatyvių tyrimų tema, parodanti, kad kūdikiai turi labai daug žinių apie aplinkos kalbą (ar kalbas), daug daugiau nei tai, ką jie demonstruoja. Tai pasiekiama turint mažai įrodymų, o kai kuriais labai svarbiais atvejais jų visai nėra. Geriausiu atveju, kaip parodė kruopštūs statistiniai tyrimai, turimų duomenų yra nedaug, ypač kai atsižvelgiama į rango dažnumą („Zipf dėsnis“).
Įveskite Tomas Jonesas: „Jūs buvote paneigti. Nekreipdami dėmesio į jūsų atradimus, LLM, skenuojantys astronominius duomenų kiekius, gali rasti statistinių dėsningumų, leidžiančių imituoti duomenis, kuriais remdamiesi jie mokomi, ir sukurti kažką, kas panašu į įprastą žmogaus elgesį. Pokalbių robotai“.
Šis atvejis skiriasi nuo kitų. Pirma, tai tikra. Antra, žmonės nesijuokia; iš tikrųjų daugelis žavisi. Trečia, skirtingai nei hipotetiniais atvejais, tikrieji rezultatai toli gražu neatitinka teigiamų.
Šie svarstymai iškelia nedidelę dabartinio LLM entuziazmo problemą: jo visišką absurdą, kaip tais hipotetiniais atvejais, kai jį atpažįstame iš karto. Tačiau yra daug rimtesnių problemų nei absurdas.
Viena iš jų yra ta, kad LLM sistemos yra sukurtos taip, kad jos negali mums nieko pasakyti apie kalbą, mokymąsi ar kitus pažinimo aspektus, tai yra principinis dalykas, nepataisomas. Padvigubinkite nuskaitytų duomenų terabaitų skaičių, pridėkite dar trilijoną parametrų, sunaudokite dar daugiau Kalifornijos energijos, o elgesio modeliavimas pagerės, tuo pačiu aiškiau atskleisdamas, kad metodas nesugeba suprasti jokio supratimo. Priežastis elementari: sistemos veikia taip pat gerai su neįmanomomis kalbomis, kurių kūdikiai negali išmokti, ir su tomis, kurias jie įgyja greitai ir praktiškai refleksiškai.
Tarsi biologas pasakytų: „Turiu puikią naują organizmų teoriją. Jame išvardijama daug egzistuojančių ir daugelis negalinčių egzistuoti, ir aš nieko negaliu pasakyti apie skirtumą.
Vėlgi, mes juokėmės. Arba turėtų.
Ne Tomas Džounsas – dabar kalbama apie tikrus atvejus. Tomas Džounsas, ir toliau radikaliai nukrypdamas nuo mokslo, atsako: „Kaip tu tai žinai, kol neištyrei visų kalbų? Šiuo metu įprasto mokslo atsisakymas tampa dar aiškesnis. Argumentų lygiateisiškai galime atsisakyti genetikos ir molekulinės biologijos, evoliucijos teorijos ir kitų biologijos mokslų, kurie neatrinko daugiau nei mažos organizmų dalies. O kad būtų gerai, mes galime išmesti visą fiziką. Kodėl tikėti judėjimo dėsniais? Kiek objektų iš tikrųjų buvo pastebėta judančių?
Be to, yra nedidelė įrodinėjimo našta. Tie, kurie siūlo teoriją, turi parodyti, kad ji turi tam tikrą prasmę, šiuo atveju parodyti, kad ji nepasiteisina neįmanomomis kalbomis. Kiti neprivalo paneigti pasiūlymo, nors šiuo atveju tai atrodo pakankamai paprasta.
Perkelkime dėmesį į įprastą mokslą, kur reikalai tampa įdomūs. Netgi vienas kalbos įsisavinimo pavyzdys gali suteikti išsamios įžvalgos apie galimų ir neįmanomų kalbų skirtumą.
Priežastys yra aiškios ir žinomos. Visas augimas ir vystymasis, įskaitant tai, kas vadinama „mokymusi“, yra procesas, kuris prasideda nuo organizmo būsenos ir palaipsniui ją transformuoja į vėlesnius etapus.
Kalbos įsisavinimas yra toks procesas. Pradinė būsena yra biologinis kalbos gebėjimo turtas, kuris akivaizdžiai egzistuoja, net jei tai, kaip kai kurie mano, yra tam tikras kitų gebėjimų derinys. Tai mažai tikėtina dėl seniai suprantamų priežasčių, tačiau tai nėra susiję su mūsų rūpesčiais, todėl galime tai atidėti. Akivaizdu, kad žmogaus kalbos gebėjimas turi biologinę savybę. Paprasčiausias tiesa.
Perėjimas vyksta į santykinai stabilią būseną, kuri keičiasi tik paviršutiniškai: kalbos mokėjimas. Išoriniai duomenys suaktyvina ir iš dalies formuoja procesą. Tyrinėdami pasiektą būseną (kalbos žinias) ir išorinius duomenis, galime daryti toli siekiančias išvadas apie pradinę būseną, biologinį turtą, leidžiantį išmokti kalbą. Išvados apie pradinę būseną primeta skirtumą tarp galimų ir neįmanomų kalbų. Skirtumas galioja visiems tiems, kurie dalijasi pradine būsena – visiems žmonėms, kiek žinoma; Atrodo, kad esamų žmonių grupių gebėjimas išmokti kalbą nesiskiria.
Visa tai yra normalus mokslas ir pasiekė daug rezultatų.
Eksperimentas parodė, kad stabili būsena iš esmės įgyjama labai anksti, nuo trejų iki ketverių metų. Taip pat gerai žinoma, kad kalbos gebėjimas turi pagrindinių žmonėms būdingų savybių, vadinasi, tai tikra rūšies savybė: bendra žmonių grupėms ir iš esmės unikali žmogaus savybė.
Šioje schemoje daug kas nepaminėta, ypač prigimtinio įstatymo vaidmuo augimui ir vystymuisi: tokios skaičiavimo sistemos kaip kalba atveju skaičiavimo efektyvumo principai. Bet tai yra reikalo esmė. Vėl normalus mokslas.
Svarbu aiškiai suprasti Aristotelio skirtumą tarp žinių turėjimo ir žinių naudojimo (šiuolaikine terminija, kompetencija ir atlikimas). Kalbos atveju gaunama stabili būsena yra žinių, užkoduotų smegenyse, turėjimas. Vidinė sistema apibrėžia neribotą struktūrinių išraiškų masyvą, kurių kiekvieną galime laikyti minties formulavimu, kiekvieną iš išorinės tam tikros sensomotorinės sistemos, paprastai garsų, nors tai gali būti ženklas ar net (sunkiai) prisilietimas.
Viduje užkoduota sistema pasiekiama naudojant žinias (našumą). Spektaklis apima vidinį kalbos naudojimą mintyse: apmąstymą, planavimą, prisiminimą ir daug daugiau. Statistiškai kalbant, tai yra didžiulis kalbos vartojimas. Ji neprieinama savistabai, nors mes galime daug apie tai sužinoti įprastais mokslo metodais, iš „išorės“, metaforiškai kalbant. Tai, kas vadinama „vidine kalba“, iš tikrųjų yra išorinės kalbos fragmentai su nutildytu artikuliaciniu aparatu. Tai tik tolimas vidinio kalbos vartojimo atspindys, svarbių dalykų, kurių čia negaliu gvildenti.
Kitos kalbos vartojimo formos yra suvokimas (analizavimas) ir gamyba, o pastarosios iš esmės yra susijusios su savybėmis, kurios mums šiandien išlieka tokios pat paslaptingos, kaip ir tuomet, kai Galilėjus ir jo amžininkai šiuolaikinio mokslo aušroje į jas žiūrėjo su baime ir nuostaba.
Pagrindinis mokslo tikslas yra atrasti vidinę sistemą tiek jos pradinėje būsenoje žmogaus kalbos gebėjime, tiek konkrečiomis formomis, kurias ji įgyja įsisavinant. Tiek, kiek ši vidinė sistema yra suprantama, galime pradėti tirti, kaip ji įsilieja į veiksmingumą, sąveikaujant su daugeliu kitų faktorių, įeinančių į kalbos vartojimą.
Veiklos duomenys liudija apie vidinės sistemos pobūdį, ypač kai jie patikslinami eksperimento būdu, kaip ir atliekant standartinius lauko darbus. Tačiau net ir masiškiausias duomenų rinkimas būtinai yra klaidinantis esminiais būdais. Ji laikosi to, kas paprastai gaminama, o ne kalbos, užkoduotos smegenyse, žinios, kuri yra pagrindinis tiriamas objektas tiems, kurie nori suprasti kalbos prigimtį ir jos vartojimą. Tas vidinis objektas lemia be galo daug galimybių, kurios nebus naudojamos normaliam elgesiui dėl kalbai nereikšmingų veiksnių, pavyzdžiui, trumpalaikės atminties suvaržymų, temų, tyrinėtų prieš 60 metų. Stebėti duomenys taip pat apims daug kas slypi už sistemos ribų, užkoduotų smegenyse, dažnai sąmoningą kalbos vartojimą būdais, kurie pažeidžia taisykles retoriniais tikslais. Tai yra tikrovės, žinomos visiems lauko darbuotojams, kurie remiasi informavimo technikomis, iš esmės eksperimentais, kad gautų išgrynintą korpusą, kuris pašalintų nereikšmingus apribojimus ir deviantines išraiškas. Tas pats pasakytina ir tada, kai kalbininkai naudojasi informatoriais – tai visiškai protinga ir normali procedūra, įprasta psichologijos istorijoje iki šių dienų.
Tęsdami įprastą mokslą, pastebime, kad vidinių kalbos procesų ir elementų negalima aptikti apžiūrint stebimus reiškinius. Dažnai šie elementai net nepasirodo kalboje (ar raštu), nors jų poveikis, dažnai subtilus, gali būti aptiktas. Tai dar viena priežastis, kodėl ribojimas stebimais reiškiniais, kaip ir LLM požiūriu, smarkiai apriboja vidinių procesų, kurie yra pagrindiniai kalbos prigimties, jos įsisavinimo ir vartojimo tyrimo objektai, supratimą. Bet tai nėra aktualu, jei rūpesčio mokslu ir supratimu buvo atsisakyta kitų tikslų.
Apskritai moksluose tūkstantmečius išvados buvo daromos eksperimentais – dažnai minties eksperimentais – kiekvienas iš jų yra radikali abstrakcija nuo reiškinių. Eksperimentai yra pagrįsti teorija, siekiant atmesti daugybę nereikšmingų veiksnių, kurie patenka į stebimus reiškinius, pavyzdžiui, kalbinę veiklą. Visa tai taip elementaru, kad apie tai retai net kalbama. Ir pažįstamas. Kaip minėta, pagrindinis skirtumas kyla iš Aristotelio skirtumo tarp žinių turėjimo ir žinių naudojimo. Pirmasis yra pagrindinis tyrimo objektas. Antrinės (ir gana rimtos) studijos tiria, kaip viduje saugoma žinių sistema naudojama atliekant veiklą, kartu su daugybe nekalbinių veiksnių, nei patenka į tai, kas yra tiesiogiai stebima.
Taip pat galime prisiminti evoliucinio biologo Teodosijaus Dobžanskio, visų pirma išgarsėjusio savo darbu su Drosophila, pastebėjimą: Kiekviena rūšis yra unikali, o žmonės yra unikaliausi iš visų. Jei mums įdomu suprasti, kokios būtybės mes esame – po Delfų Orakulo nurodymo prieš 2,500 metų – pirmiausia rūpinsimės tuo, kas daro žmones unikaliausius iš visų, pirmiausia kalba ir mintis, glaudžiai susipynusios, kaip pripažįstama turtinga tradicija, siekianti klasikinę Graikiją ir Indiją. Dauguma elgesio yra gana įprasti, todėl tam tikru mastu nuspėjami. Tai, kas daro mus išskirtinius, suteikia tikrosios įžvalgos, kas nėra įprasta, o kartais eksperimentuodami, kartais stebėdami, nuo normalių vaikų iki puikių menininkų ir mokslininkų.
Paskutinis komentaras šiuo klausimu. Visuomenę šimtmetį kankino didžiulės įmonių kampanijos, skatinančios panieką mokslui, temos, kurias, be kita ko, gerai nagrinėjo Naomi Oreskes. Tai prasidėjo nuo korporacijų, kurių produktai yra žudantys: švinas, tabakas, asbestas, vėliau iškastinis kuras. Jų motyvai suprantami. Verslo tikslas kapitalistinėje visuomenėje yra pelnas, o ne žmogaus gerovė. Tai institucinis faktas: nežaisk žaidimo ir būsi išėjęs, pakeistas kitu, kuris tai padarys.
Įmonių viešųjų ryšių skyriai anksti pripažino, kad būtų klaida paneigti didėjančius mokslinius įrodymus apie mirtiną jų produktų poveikį. Tai būtų nesunkiai paneigta. Geriau pasėkite abejones, skatinkite netikrumą, panieką šiems smailiagalviams kostiumėliams, kurie niekada nedažė namo, bet atvyko iš Vašingtono, kad lieptų nenaudoti švino dažų, sunaikindami savo verslą (tikras atvejis, lengvai padauginamas). Tai veikė pernelyg gerai. Šiuo metu ji veda mus keliu į organizuotos žmonių gyvybės žemėje sunaikinimą.
Intelektualiuose sluoksniuose panašų poveikį padarė postmodernioji mokslo kritika, išmontuoti Jean Bricmont ir Alanas Sokalas, bet vis dar gyvas kai kuriuose sluoksniuose.
Gali būti nemandagu kelti klausimą, bet, manau, teisinga paklausti, ar Tomas Džounsas ir tie, kurie nekritiškai kartoja ir net sustiprina savo neatsargius skelbimus, prisideda prie tų pačių baisių tendencijų.
CJP: „ChatGPT“ yra natūralia kalba veikiantis pokalbių robotas, kuris naudoja dirbtinį intelektą, kad leistų į žmones panašius pokalbius. Neseniai paskelbtame straipsnyje "The New York Times", kartu su kitais dviem autoriais išjungiate naujus pokalbių robotus, nes jie tiesiog negali prilygti žmonių kalbinei kompetencijai. Tačiau ar nėra įmanoma, kad būsimos dirbtinio intelekto naujovės gali sukurti inžinerinius projektus, kurie atitiks ir galbūt net viršys žmogaus galimybes?
NC: Straipsnio nuopelnas turėtų būti skirtas tikrajam autoriui Jeffrey'ui Watumullui, puikiam matematikui-lingvistui-filosofui. Du išvardinti bendraautoriai buvo konsultantai, kurie sutiko su straipsniu, bet jo neparašė.
Tiesa, dėl anksčiau pakartotų priežasčių pokalbių robotai iš esmės negali atitikti žmonių kalbinės kompetencijos. Jų pagrindinis dizainas neleidžia jiems pasiekti minimalios žmogaus kalbos teorijos tinkamumo sąlygos: atskirti galimas kalbas nuo neįmanomų. Kadangi tai yra dizaino savybė, jos negali įveikti būsimos tokio tipo AI naujovės. Tačiau visai įmanoma, kad būsimi inžineriniai projektai atitiks ir net pranoks žmogaus galimybes, jei turime omenyje žmogaus gebėjimą veikti, našumą. Kaip minėta pirmiau, kai kurie jau seniai tai darė: pavyzdžiui, automatiniai skaičiuotuvai. Dar įdomiau, kaip minėta, vabzdžiai su menkomis smegenimis pranoksta žmogaus gebėjimus, suprantamus kaip kompetencija.
CJP: Minėtame straipsnyje taip pat buvo pastebėta, kad šiandieniniai AI projektai neturi žmogaus moralinių gebėjimų. Ar dėl šio akivaizdaus fakto AI robotai nekelia grėsmės žmonių rasei? Manau, kad argumentas gali būti toks, kad tai juos dar labiau paverčia.
NC: Tai tikrai akivaizdus faktas, „moralinius gebėjimus“ suprantant plačiai. Jei dirbtinio intelekto inžinerija nėra kruopščiai kontroliuojama, ji gali kelti rimtų grėsmių. Tarkime, kad pacientų priežiūra buvo automatizuota. Neišvengiamos klaidos, kurias įveiktų žmogaus sprendimas, gali sukelti siaubo istoriją. Arba tarkime, kad žmonės buvo pašalinti iš automatizuotų priešraketinės gynybos sistemų nustatytų grėsmių vertinimo. Kaip šokiruojantis istorinis įrašas informuoja mums, tai būtų žmonių civilizacijos pabaiga.
Jei dirbtinio intelekto inžinerija nėra kruopščiai kontroliuojama, ji gali kelti rimtų grėsmių.
CJP: Europos reguliavimo institucijos ir teisėsaugos institucijos kelia susirūpinimą dėl ChatGPT plitimo, o neseniai pateiktame Europos Sąjungos teisės akte bandoma kovoti su dirbtiniu intelektu, klasifikuodama tokias priemones pagal jų suvokiamą rizikos lygį. Ar sutinkate su tais, kurie nerimauja, kad ChatGPT kelia rimtą grėsmę visuomenei? Be to, ar tikrai manote, kad tolesnis AI įrankių kūrimas gali būti sustabdytas, kol nebus įvestos apsaugos priemonės?
NC: Galiu lengvai užjausti pastangas suvaldyti pažangių technologijų keliamas grėsmes, įskaitant ir šį atvejį. Tačiau aš skeptiškai žiūriu į galimybę tai padaryti. Įtariu, kad džinas iškrito iš butelio. Piktybiški veikėjai – instituciniai ar individualūs – tikriausiai gali rasti būdų, kaip išvengti apsaugos priemonių. Tokie įtarimai, žinoma, nėra priežastis nebandyti ir būti budriems.
„ZNetwork“ finansuojamas tik iš skaitytojų dosnumo.
Paaukoti