Beagan sheachdainean air ais sgrìobh mi pìos no dhà mu Facebook, Tweeter, Google, agus an eadar-lìn san fharsaingeachd. Bha mòran beachdachaidh agus deasbaid ann, ach cha do sheas dad cus. Cha robh seo na iongnadh leis na tha de chùisean, dleastanasan pearsanta, agus clàran-gnothaich mar-thà a’ fuireach anns na h-uairean dùisg againn, gu sònraichte sinne air an taobh chlì, chan ann a-mhàin a’ feuchainn ri beatha beò, ach cuideachd an saoghal atharrachadh.
Ach, tha mi fhathast a’ faireachdainn gu bheil na cùisean a tha na lùib dha-rìribh dona agus tha mòran de luchd-clì an sàs agus eadhon toinnte, ge bith a bheil sinn gu mothachail an dùil a bhith no nach eil, mar thoradh air na roghainnean againn an dà chuid mar luchd-cleachdaidh an eadar-lìn, agus, dha mòran againn, cuideachd luchd-cruthachaidh agus luchd-solair. Mar sin tha mi air a bhith ciallach sgrìobhadh a-rithist - ach tha mi cuideachd, air mo thiodhlacadh fo ghnìomhan, air faighinn thuige.
Ach, a’ dèanamh rudan nas sìmplidhe, an-dè fhuair mi post-d bho charaid dlùth, Stephen Shalom, a’ toirt gu m’ aire artaigil ann an iris air a bheil an Lèirmheas New York de Leabhraichean. Tha NYRB na sheòrsa de sgrùdadh leabhraichean “intuitive” gach seachdain, aig an robh, deicheadan air ais, tòna agus fòcas fìor adhartach. Bidh iad gu tric a’ ruith aistean ath-bhreithneachaidh, a’ còmhdach beagan leabhraichean a tha a’ dèiligeadh ri aon chuspair - agus bha am post-d seo gam chomharrachadh gu aiste ath-bhreithneachaidh de thrì leabhraichean air innleachdan eadar-lìn.
Leis gu bheil mi a’ smaoineachadh nach eil eadhon cothrom aig mòran de luchd-cleachdaidh Z air feadh an t-saoghail an NYRB fhaicinn, agus nach eil coltas ann gu bheil cuid eile, aig a bheil faisg air làimh, cuideachd, tha sinn a’ postadh a’ phìos air ZCom - a dh’ aindeoin nach eil e gu sònraichte poilitigeach - agus mise Tha mi a’ dol a thoirt a-steach gu h-ìosal cuideachd gus an sealladh a chì daoine a thoirt air adhart. Leis gu bheil ZMI, sgoil shamhraidh Z air na meadhanan agus poilitigs, a’ tòiseachadh an-diugh, chan urrainn dhomh a dhèanamh ach a bhith mar inneal-giùlain. Tha mi an dòchas gun toir daoine eile aghaidh air na builean - a tha, ge-tà, nam bheachd-sa a tha gu math follaiseach.
Is e an fhìor cheist, dè a bu chòir dhuinn uile a dhèanamh, mar luchd-cleachdaidh agus solaraichean, an aghaidh na tha a’ fàs nas follaisiche mean air mhean. Am bu chòir dhuinn diùltadh no dearmad a dhèanamh air na cunnartan follaiseach chan e a-mhàin, ach a-nis brisidhean uamhasach? No am bu chòir dhuinn iomradh a thoirt orra, am mìneachadh, an tuigsinn, agus feuchainn ri dòighean a lorg anns am faod daoine seòladh timcheall orra, no eadhon roghainnean eile a leasachadh a thèid thairis air na cunnartan?
Chomharraich Julian Assange o chionn ghoirid gun robh e den bheachd gur e Facebook agus Google agus mar sin air adhart na h-innealan brathaidh as ionnsaichte a bha aig ùghdarrasan stàite. Tha sin air a dhearbhadh nas fhaide leis na leanas. Bha mi fhìn ag amas air an dòigh anns a bheil a bhith a’ cleachdadh nan innealan sin - eadhon a’ seachnadh adhbharan an fheadhainn a tha gan smachdachadh - a’ toirt droch bhuaidh, agus tha sin cuideachd air a bhreith a-mach. Ditto airson na h-ìre gu bheil iad a’ dèanamh malairt air beatha agus conaltradh agus a’ toirt ionnsaigh air agus a’ cumail suas prìobhaideachd air an rathad gu làimhseachadh reic prothaideach. Ach is dòcha gur e an naidheachd as iongantaiche anns na leanas chan e a-mhàin tuilleadh dearbhaidh air na tinneasan gu h-àrd, ach tha e na fhoillseachadh gum faodadh an eadar-lìn a bhith a’ fàs, gu h-uamhasach gu h-ìoranta agus gu stealth leis mar a tha sinn uile a’ smaoineachadh air, an inneal as ionnsaichte a-muigh an sin - le iomall mòr - airson a bhith A 'GABHAIL A-STEACH raon fiosrachaidh agus smuaintean luchd-cleachdaidh eadhon ged a tha e fhathast a' nochdadh a chaochladh.
Tha telebhisean agus pàipearan-naidheachd agus irisean mì-mhodhail gu leòr. Am b’ urrainn don eadar-lìn a bhith na inneal nas cumhachdaiche airson ruigsinneachd ar n-inntinn agus ar faireachdainnean a chuingealachadh, eadhon ged a tha sinn a’ smaoineachadh gur e a chaochladh a tha fìor?
Faic dè do bheachd.
Tha an artaigil le Sue Halprin agus canar Mind Control agus an eadar-lìn ris.
Agus, o ifrinn - feumaidh mi ruith airson ZMI, mar sin - fhad ‘s a bha mi a’ dol a ghearradh agus a phasgadh dìreach na pìosan as cronail airson an seo, a ’toirt beachd beagan cuideachd - chan eil ùine agam. Mar sin, cuiridh mi dìreach an artaigil gu lèir. Leugh Pkease troimhe ... chan eil na pàirtean fosglaidh aig cridhe sin, nam bheachd-sa co-dhiù.
Lèirmheas New York de Leabhraichean
Smachd inntinn & an eadar-lìn
Inntinn Cruinneil: Amalachadh Daonnachd, Innealan, agus an Eadar-lìn a tha ri thighinn
le Mìcheal Chorost
Clò an-asgaidh, 242 pp., $26.00
The Filter Bubble: Na tha an eadar-lìn a’ falach bhuat
le Eli Pariser
Penguin, 294 pp., $25.95
Chan e Gadget a th’ annad: Manifesto
le Jaron Lanier
Seann aimsir, 240 pp., $15.00 (pàipear)
Tràth sa Ghiblean, nuair a dh’ innis luchd-rannsachaidh aig Oilthigh Washington ann an St Louis gun robh boireannach le grunn eleactrothan air an suidheachadh gu sealach thairis air ionad cainnt na h-eanchainn comasach air cursair coimpiutair a ghluasad air scrion dìreach le bhith a’ smaoineachadh ach gun a bhith a’ fuaimneachadh fhuaimean sònraichte, bha e coltach ris an SingularityTha an aisling ficsean saidheans fad-ùine mu bhith a’ leaghadh duine agus inneal gus gnè nas fheàrr a chruthachadh a dh’ fhaodadh a bhith air ruighinn. Aig Oilthigh Brown timcheall air an aon àm, rinn luchd-saidheans deuchainn soirbheachail air diofar sheòrsa eadar-aghaidh coimpiutair-eanchainn (BCI) ris an canar BrainGate, a leig le boireannach le pairilis cùrsair a ghluasad, a-rithist dìreach le bhith a’ smaoineachadh. Aig an aon àm, aig USC, dh’ ainmich sgioba de innleadairean bith-mheidigeach gun robh iad air nanotubes gualain a chleachdadh gu soirbheachail gus snaim synapsethe gnìomh a thogail aig am bi comharran a’ dol bho aon chealla neoni gu cealla eile a chomharraich a’ chiad cheum san caismeachd fhada aca gus eanchainn synthetigeach a thogail. Air an aon àrainn, tha an Dr. Theodore Berger, a tha air a bhith air a shlighe fhèin gus prosthetic neural a dhèanamh airson còrr is trì deicheadan, air tòiseachadh air inneal a chuir a-steach do radain a bhios a’ dol seachad air hippocampus millte san eanchainn agus ag obair na àite.
Tha an hippocampus deatamach airson cruthachadh cuimhne, agus tha innleachd Berger a 'cumail a' gheallaidh faighinn thairis air duilgheadasan co-cheangailte ri call cuimhne àbhaisteach a thig bho bhith a 'fàs nas sine agus call cuimhne pathological co-cheangailte ri galaran leithid Alzheimer. San aon dòigh, tha an obair a thathar a’ dèanamh aig Oilthigh Brown agus Washington a’ moladh gum faodadh comas gluasad a thoirt air ais dhaibhsan a tha air am pairilis agus guth a thoirt dhaibhsan a chaidh a ghoid le tinneas no leòn air a’ chomas conaltraidh. Mas e seo an Singularity, tha e a 'coimhead chan e a-mhàin mì-mhodhail ach buannachdail.
Is e duine a th’ ann am Mìcheal Chorost a tha air buannachd fhaighinn bho eadar-aghaidh eanchainn-coimpiutair, ged nach deach an seòrsa BCI a chuir a-steach na cheann às deidh dha a dhol bodhar ann an 2001, implant cochlear, a chuir a-steach gu dìreach san eanchainn aige, ach a-steach do gach cluasan a-staigh aige. . Mar thoradh air an sin, às deidh beatha a bhith duilich èisteachd an toiseach agus an uairsin dùinte ann an aonaranachd èisteachd, mar a thuirt e na chuimhneachan, Ath-thogte: Mar a dh'fhàg a' choimpiutair mar phàirt de choimpiutair mi nas daonna (2005), iongantach agus ag atharrachadh beatha. Mar an leabhar ùr, neònach jejune aige, Inntinn Cruinneil: Amalachadh Daonnachd, Innealan, agus an Eadar-lìn a tha ri thighinn, a’ dèanamh soilleir, tha e a-nis na cheerleader airson a’ chòrr againn a bhith air ar sgeadachadh leis na coimpiutairean againn fhìn, a tha fìor phearsanta, san eanchainn. Ann an saoghal fìor mhath Chorost, a tha e a’ cur a-mach le dealas gun samhail de thionndadh, bidh sinn uile ceangailte gu dìreach ris an eadar-lìn tro implan neural, gus am biodh an eadar-lìn “na phàirt dhinn gun fhiosta, cho nàdarrach agus cho sìmplidh ri chleachdadh. ar làmhan fèin."
Tha an deasbad eadar càradh is leasachadh air a bhith ann o chionn fhada ann an cungaidh-leigheis (agus spòrs, agus foghlam, agus gintinneachd), ged a tha e a’ fàs nas àirde agus nas toinnte mar a thèid teicneòlas air adhart. Mar as trice, tha càradh, mar a tha na sgiobaidhean rannsachaidh Brown, USC, agus Oilthigh Washington ag amas air a dhèanamh airson daoine a dh’ fhuiling stròc, cnàimh-droma agus leòntan eile, neurodegeneration, trom-inntinn, no tinneas inntinn, air a chumail suas mar rudeigin math agus riatanach agus airidh. . Tha àrdachadh, air an làimh eile, le drogaichean dèanadais agus làimhseachadh loidhne-chealla air a mhùchadh mar chunnart do ar n-ionracas agus ar brìgh mar dhaoine no air a chàradh gus am fàs an t-eadar-dhealachadh gun bhrìgh. 1
Tha Chorost a’ breabadh thairis air an deasbad seo gu tur. Fhad ‘s a chaidh an coimpiutair na cheann a chuir an sin gus easbhaidh a chàradh, tha an fhìrinn gu bheil e ann idir a’ toirt a chreidsinn air gum bu chòir don chòrr againn a bhith nan cyborgs. Bhiodh a bheachd-sa ro fhialaidh a bhith ga ainmeachadh mar argamaid, nan obraich sin dha, gun obraich seo dhuinne. “Tha an dà implant agam a’ toirt orm àireamhachadh gun atharrachadh, mar eisimpleir beò de bhith ag aonachadh dhaoine agus choimpiutairean, ”tha e a’ sgrìobhadh. “Mar sin dhòmhsa chan eil e cho neònach a bhith a’ smaoineachadh rudeigin mar BlackBerry a chuir nam cheann. Cha bhiodh e cho neònach dha mòran dhaoine, tha mi a’ smaoineachadh.”
Còrr is cairteal bliadhna air ais, dh’ fhoillsich sgrìobhadair saidheans leis an t-ainm David Ritchie leabhar a chùm mi air an sgeilp leabhraichean agam mar chuimhneachan air na bha còir aig an t-saoghal às deidh 1984 a thoirt. Glaodh An Binary Brain, mhol e “synthesis de eòlas daonna is fuadain” tro rudeigin ris an canadh e “biochip.” “Tha na cothroman air leth math a bhith a’ beachdachadh," sgrìobh e.
Dh'fhaodadh tu cur a-steach do bhancaichean cuimhne coimpiutair cha mhòr cho furasta 's a chuireas tu ort do bhrògan. Gu h-obann, bhiodh an inntinn agad làn den fhiosrachadh gu lèir a tha air a stòradh sa choimpiutair. Dh’ fhaodadh tu sa bhad thu fhèin a dhèanamh nad eòlaiche air rud sam bith bho litreachas na Spàinne gu fiosaig gràin…. Le biochips airson an dàta a chumail, dh’ fhaodadh am fiosrachadh gu lèir ann an leabharlannan MIT agus Harvard a bhith air a lìonadh a-steach do leabhar nach eil nas motha na sin ann an ceapaire. Shakespeare gu lèir ann am modal meud BB…. Is dòcha gum faic thu innealan mar seo mus tig an linn seo gu crìch.
“Cuimhnich,” tha e ag ràdh gu trom, “gu bheil sinn a’ bruidhinn an seo mu dheidhinn teicneòlas a tha dìreach timcheall air an oisean, mura h-eil an seo mar-thà. Bheireadh biochips air adhart leasachadh air a h-uile seòrsa measgachadh inneal-duine….”
Fichead ’s a sia bliadhna às deidh sin, anns an dàrna deichead den mhìle bliadhna ùr, seo Chorost ag ràdh cha mhòr an aon rud, agus airson an aon adhbhar: tha ar n-eanchainn ro chuingealaichte gus an saoghal a ghlacadh gu leòr. 2 “Tha cuid de bhuadhan daonna mar IQappear gu bhith air èirigh anns an fhicheadamh linn,” tha e a’ sgrìobhadh, “ach tha ìre an àrdachaidh tòrr nas slaodaiche na ìre teicneòlais. Chan eil lagh Moore ann airson mac an duine. ” (Is e Lagh Moore an tràchdas air a bheil mòran ag iarraidh, a tha a-nis air àrdachadh gu metafhor, a tha ag ràdh gu bheil an àireamh de cho-phàirtean a dh’ fhaodar a chuir air cuairt amalaichte a’ dùblachadh a h-uile dà bhliadhna.) A’ fàgail na co-ionannachdan lochtach gu aon taobh, is e fiosrachadh agus fìrinnean fiosrachadh Chorost “transmog. ” tha bruadar freumhaichte ann am mì-thuigse naive, agus cumanta, air an einnsean sgrùdaidh eadar-lìn, gu sònraichte Google, agus sin mar a bhios a’ mhòr-chuid de luchd-cleachdaidh an eadar-lìn a ’seòladh tro na ceithir billean duilleag deug den Lìon Cruinne.
Chan eil a 'mhòr-chuid againn, tha mi a' smaoineachadh gu bheil e sàbhailte a ràdh, a 'toirt mòran smaoineachaidh air an algairim a tha a' toirt a-mach toraidhean rannsachadh Google. Faighnich ceist, faigh freagairt Is e gnothach sìmplidh a th’ ann. Tha e coltach nach eil e gu math eadar-dhealaichte bho bhith a’ bruidhinn ri leabhar mòr-eòlais, no catalog cairt leabharlainn, no eadhon clàr-amais ann an leabhar. Is e leabhraichean, na stòran eile sin de fhìrinnean, fiosrachaidh, agus bheachdan, an teamplaid leis am bi sinn a’ tuigsinn an Lìon, a tha coltach ri tomhas air thuaiream, meallta, a tha a ’sìor fhàs de gach rud mòr is beag. Is e sgrùdadh an t-slighe a-steach agus a-steach don bhreugan againn, agus nuair a thèid a dhèanamh le bhith a’ cleachdadh Google, tha e an urra ri algorithm Google, pìos seilbh inntleachdail le peutant agus air a dhìon gu dlùth ris an can a’ chompanaidh PageRank, air a dhèanamh suas de “500 millean caochladair agus 2 billean teirmean."
Tha na h-àireamhan mòra sin comhfhurtail. Tha iad a’ moladh dìon neo-dhrùidhteach an-aghaidh claon-bhreith, oibeachdachd saidheansail a leigeas leis an fhreagairt cheart don cheist a dhol a-mach à stùc uimhir de stuth. Gu ìre is e siostam fèin-mhaireannach a th’ ann, leis gu bheil e a’ cleachdadh mòr-chòrdte (an àireamh de cheanglaichean) mar neach-ionaid airson cudrom, gus mar as motha a thèid ceangal sònraichte a bhriogadh, is ann as àirde a tha an PageRank aige, agus is ann as dualtaiche a tha e nochdadh faisg air mullach nan toraidhean rannsachaidh. (Is e seo as coireach nach eil companaidhean gu riatanach air a bhith mothachail air droch lèirmheasan air na toraidhean aca.) Tha Chorost a’ dèanamh coimeas eadar seo agus ionnsachadh Hebbian leis a’ bheachd gum bi neurons a bhios a’ losgadh ri chèile, a’ sreangadh ri chèile, leis gu bheil duilleag àrd inbhe a’ cruinneachadh barrachd sheallaidhean de dhuilleagan, agus mar sin a’ neartachadh a rangachadh. [San dòigh seo] duilleagan a tha a’ ceangal “smaoinich” ri chèile. Ma thadhlas mòran dhaoine air duilleag a-rithist is a-rithist, bidh an PageRank aige cho àrd is gum bi e gu h-èifeachdach air a stòradh sa chuimhne fad-ùine daonna / dealanach.
Eadhon ged a tha seo fìor, chan eil anns a’ phròiseas ach neo-phàirteach.
Rannsachadh Google a dh’ fheumadh Chorost a dhèanamh nar cinn fhèin a chaidh atharrachadh gu teicneòlach “a’ glèidheadh” an eadar-lìn. Tha an algairim, gu dearbh, na neach-deasachaidh, a’ tarraing suas na tha e a’ meas cudromach, stèidhichte air tuigse cuideigin eile air na tha cudromach. Tha seo air gnìomhachas iomlan de chomhairlichean optimization einnsean sgrùdaidh (SEO) a shìolachadh a bhios a ’geamadh an t-siostam le bhith ag ath-dhealbhadh còd làrach-lìn, susbaint, agus prìomh fhaclan gus a ghluasad suas anns na rangachadh. Tha fios cuideachd gu bheil companaidhean air pàigheadh airson ceanglaichean gus iad fhèin a phutadh nas àirde anns na rangachadh, cleachdadh a tha Google an-aghaidh agus uaireannan a’ sgàineadh sìos. A dh'aindeoin sin, tha toraidhean ag èirigh gu mullach ceist rannsachaidh leis gu bheil làmh neo-fhaicsinneach gan buachailleachd an sin.
Chan e dìreach an àireamh mhòr de chaochladairean sgrùdaidh, no eadar-theachd luchd-margaidh, a tha a’ cumadh an fhiosrachaidh a tha sinn a’ sealltainn le bhith a’ toirt cuid de dhuilleagan gu ar n-aire fhad ‘s a tha cuid eile a’ tuiteam fada gu leòr sìos anns na rangachadh airson an cumail a-mach à sealladh. Mar a tha Eli Pariser ag aithris anns an leabhar fuar aige The Filter Bubble: Na tha an eadar-lìn a’ falach bhuat, bhon Dùbhlachd 2009, tha Google air a bhith ag amas air a h-uile sgrùdadh a chumadh gus freagairt air ìomhaigh an neach a tha a’ dèanamh a’ cheist. (Tha an cumadh seo a’ buntainn ri luchd-cleachdaidh Google air fad, ged a thig e gu buil dìreach às deidh don neach-cleachdaidh grunn rannsachaidhean a dhèanamh, gus an tèid na toraidhean a dhealbhadh a rèir blas an neach-cleachdaidh.)
Tha am pròiseas sgrùdaidh, ann am faclan eile, air fàs gu bhith “pearsanaichte,” is e sin ri ràdh, an àite a bhith uile-choitcheann, gu bheil e neo-àbhaisteach agus gu h-annasach peremptory. “Tha a’ mhòr-chuid againn a ’gabhail ris nuair a nì sinn google teirm, gum faic sinn uile na h-aon toraidhean an fheadhainn a tha algorithm ainmeil Page Rank a’ chompanaidh a ’moladh a tha as ùghdarrasaiche stèidhichte air ceanglaichean duilleag eile,” tha Pariser a’ faicinn. Le sgrùdadh pearsanaichte, “a-nis gheibh thu an toradh a tha algorithm Google a’ moladh as fheàrr dhut gu sònraichte agus is dòcha gum faic cuideigin eile rudeigin gu tur eadar-dhealaichte. Ann am faclan eile, chan eil Google àbhaisteach ann tuilleadh. ” Tha e mar gum biodh sinn a’ coimhead suas an aon chuspair ann an leabhar mòr-eòlais agus gach fear a’ lorg inntrigidhean eadar-dhealaichte ach gu dearbh cha bhiodh sinn a’ gabhail ris gu robh iad eadar-dhealaichte leis gum biodh sinn a’ bruidhinn ris na bha sinn a’ smaoineachadh a bha mar iomradh àbhaisteach.
Am measg nam buaidhean brùideil a th’ aig an neach fa leth seo tha, le bhith a’ tàillearachd an fhiosrachaidh a gheibh thu a rèir beachd an algairim cò thu, beachd a tha e a’ togail a-mach à leth-cheud ’s a seachd caochladairean, gu bheil Google gad stiùireadh gu stuthan a tha dualtach do chuid fhèin a dhaingneachadh. sealladh an t-saoghail, ideòlas, agus barailean. Tha Pariser a’ moladh, mar eisimpleir, gun toir rannsachadh airson dearbhadh mu atharrachadh clìomaid toraidhean eadar-dhealaichte do neach-iomairt àrainneachd na bhiodh e airson gnìomhaiche companaidh ola agus, tha aon a’ gabhail ris, toradh eadar-dhealaichte airson neach a tha an algairim a’ tuigsinn a bhith na Dheamocratach. na airson aon a tha e an dùil a bhith na Phoblachdach. (Chan fheum aon neach ceangal pàrtaidh ainmeachadh per sethe algorithm a 'toirt duais dha seo.) San dòigh seo, tha an eadar-lìon, nach e na meadhanan, ach gu tric ag obair mar na meadhanan le bhith a' sgaoileadh naidheachdan is fiosrachadh, a' tòiseachadh gar gearradh air falbh bho bhith ag aontachadh. beachd agus beachdan connspaideach, fad na h-ùine a rèir coltais a bhith neo-phàirteach agus cothromach agus neo-chuingealaichte leis an t-seòrsa de chlaonadh a tha dualach do, agus air a ghabhail a-steach le, can, An Ìre Seachdaineach or An Nation.
Tha carson a tha seo cudromach air a ghlacadh ann an sgrùdadh ann an iris an earraich de Cairteal Sociological, a tha coltach ri dragh Pariser, nuair a bhios ideòlas a’ stiùireadh sgaoileadh fiosrachaidh, gu bheil eòlas air a chuir an cunnart. Lorg an sgrùdadh, a rinn sgrùdadh air beachdan a thaobh blàthachadh na cruinne am measg Poblachdach agus Deamocratach anns na bliadhnaichean eadar 2001 agus 2010, anns na naoi bliadhna sin, mar a thàinig an co-aontachd saidheansail air atharrachadh clìomaid còmhla agus cha mhòr uile-choitcheann, an àireamh sa cheud de Phoblachdach a thuirt gun robh a’ phlanaid. a 'tòiseachadh a' blàthachadh sìos gu sgiobalta, bho 49 sa cheud gu 29 sa cheud. Dha na Deamocrataich, chaidh an àireamh sa cheud suas, bho 60 sa cheud gu 70 sa cheud. Bha e mar gum biodh na buidhnean a 'faighinn teachdaireachdan eadar-dhealaichte mun saidheans, agus a rèir coltais bha iad. B' e a' bhuil, mar a tha ùghdaran an sgrùdaidh a' comharrachadh, a bhith a' cur stad air deasbad sam bith air poileasaidh poblach. 'S e so dearbh phuing Pariser, agus an iomaguin a tha air : le ar beachdan fein a bhi air am breabadh air ais oirnn, gu bheil sinn gu neo-f hiosrach 'gar n-ionndrainn fein le ar beachdan fein. “Tha deamocrasaidh ag iarraidh air saoranaich rudan fhaicinn bho shealladh a chèile, ach an àite sin tha sinn barrachd is barrachd dùinte nar builgeanan fhèin,” tha e a’ sgrìobhadh. “Feumaidh deamocrasaidh a bhith an urra ri fìrinnean co-roinnte; an àite sin thathas a’ tabhann cruinnean co-shìnte ach fa leth dhuinn. ”
Chan eil e duilich faicinn far am faodadh seo leantainn cho furasta gum faodadh rud sam bith le clàr-gnothaich (buidheann coiteachaidh, pàrtaidh poilitigeach, corporra, riaghaltas) an seòmar mac-talla a thuiltean le fiosrachadh aig cridhe a adhbhar. (Seo, gu dearbh, a tha air tachairt, air an làimh dheis, le atharrachadh clìomaid.) Cò aig a bhiodh fios? Gu cinnteach chan e Mìcheal Chorost, aig a bheil dìlseachd dall do Google a tha e den bheachd a tha na phrìomh phàirt de “forebrain ascent, hippocampus, agus stòr cuimhne dearbhach fad-ùine” den World Wide Mindis a tha ri thighinn air a mhaidseadh leis an naiveté poilitigeach iongantach aige. Dh’fheumadh riaghaltas “a chleachd an Inntinn Cruinneil airson smachd fosgailte a bhith nas ominously totalitarian na riaghaltas sam bith a tha ann an-diugh (ach a-mhàin is dòcha Corea a Tuath),” tha e a’ sgrìobhadh. “Tha spionnadh mean-fhàs buailteach a bhith a’ cuir às do chomainn totalitarian leis gu bheil iad, san fhad-ùine, neo-èifeachdach agus ana-caitheamh.” Dèan coimeas eadar seo agus faclan an fhir a chruthaich an Lìon Cruinne, Sir Timothy Berners-Lee, a’ sgrìobhadh nach eil fada air ais ann an Ameireaga Saidheansail:
Tha an Lìon mar a tha fios againn air a bhith ann an cunnart…. Tha cuid den luchd-còmhnaidh as soirbheachail air tòiseachadh a’ faighinn air falbh bho na prionnsapalan aige…. Tha riaghaltasan stàiteil agus deamocratach le chèile a’ cumail sùil air cleachdaidhean air-loidhne dhaoine, a’ cur còraichean daonna cudromach ann an cunnart.
Is e aon de na h-atharrachaidhean as cudromaiche air an eadar-lìn bho chaidh a’ chiad bhrobhsair grafaigeach a leigeil ma sgaoil ann an 1993, Mosaic, a chaidh a thogail air bunait obair Berners-Lee, a bhith a’ feuchainn ri airgead a chuir air. Anns na làithean tòiseachaidh aige, bha an lìon na chruinneachadh neònach, roghainneil de dhuilleagan dachaigh pearsanta, seòrsa de dh’ ealain balla didseatach a bha a ’dol seachad air luchd-gleidhidh traidiseanta, nach robh an urra ri companaidhean meadhanan gnàthach no airgead corporra, agus nach robh air a stiùireadh le ùidhean malairteach. Bha an neach-saidheans coimpiutair agus an neach-ciùil Jaron Lanier ann aig an cruthachadh, agus na mhanifesto borb, coruscating aige, Chan e Gadget a th’ annad , 3 a' cuimhneachadh air mar so :
B’ e rud ainneamh a bha àrdachadh an lìn nuair a dh’ ionnsaich sinn fiosrachadh ùr, adhartach mu chomas daonna. Cò a bhiodh air tomhas (co-dhiù an-toiseach) gun cuireadh na milleanan de dhaoine uimhir de dh’ oidhirp a-steach do phròiseact às aonais sanasachd, adhbhar malairteach, bagairt peanas, figearan carismatach, poilitigs dearbh-aithne, brath air eagal a’ bhàis, no gin de luchd-brosnachaidh clasaigeach eile a’ chinne-daonna. Ann an àireamhan mòra, rinn daoine rudeigin gu co-obrachail, a-mhàin air sgàth 's gur e deagh bheachd a bh' ann, agus bha e brèagha.
Ach an uairsin ghluais malairt a-steach, cha mhòr gun fhiosta, nuair a chuir Larry Page agus Sergey Brin, an dithis a thòisich Google, gu deònach sanasan beaga còmhla ris an einnsean sgrùdaidh eireachdail aca mar dhòigh air a mhaoineachadh. Cha b’ e an rùn a bh’ aca, an toiseach, an àrd-ùrlar sanasachd cruinne as motha ann an eachdraidh an t-saoghail a chruthachadh, no ro-innleachd margaidheachd a ghluasad air falbh bho bhith a’ putadh thoraidhean gu luchd-cleachdaidh gu bhith a’ tarraing luchd-cleachdaidh fa-leth a dh’ ionnsaigh bathar is suaicheantasan sònraichte. Ach ’s e sin a thachair. Sgrìobh am facal “blender” ann am post-d, agus bidh an ath sheata de shanasan a dh’ fhaodadh tu fhaicinn airson Waring agus Oster. 4 Lorg fiosrachadh mu ghalar bipolar, agus nochdaidh sanasan dhrogaichean nuair a bhios tu a’ leughadh sgòran ball-basgaid. Cleachd Google Translate gus geàrr-chunntas de artaigil iris a leughadh agus nochdaidh sanas airson bathar-bog eadar-theangachaidh Spàinnteach nuair a bhios tu a’ cleachdadh faclair Beurla air-loidhne. (Tha an gnìomhachd seo gu lèir a’ leantainn gu ceist nach bi reul-eòlasach ma thig Inntinn Cruinne Chorost gu buil: Am bi luchd-urrais corporra aig ar smuaintean cuideachd?)
Faodaidh sanasan cuimsichte (eadhon nuair a tha iad air an cruthachadh le rud a dh’ fhaodadh a bhith na chonaltradh prìobhaideach) a bhith a’ coimhead gun chron gu leòr às deidh a h-uile càil, ma tha sanasachd gu bhith ann, nach eil e nas fheàrr ma tha e airson toraidhean agus seirbheisean a dh’ fhaodadh a bhith feumail ? Ach airson do tharraing a-steach do ghnothach, tha companaidhean den bheachd gum feum fios a bhith aca chan ann a-mhàin air na h-ùidhean gnàthach agad, ach air na bha a’ còrdadh riut roimhe, dè an aois a tha thu, do ghnè, far a bheil thu a’ fuireach, dè an ìre foghlaim a th’ agad, agus air adhart agus air adhart. Tha rudeigin mar còig ceud companaidh ann as urrainn sùil a chumail air a h-uile gluasad a nì thu air an eadar-lìn, a’ mèinneadh stuth amh an Lìon agus ga reic ri luchd-margaidh. (“Stad a bhith gad ghairm fhèin nad neach-cleachdaidh," tha Lanier a’ toirt rabhadh. “Tha thu air do chleachdadh.”) Gu bheil thu reamhar, gu bheil tinneas an t-siùcair ort, air pàigheadh càr no dhà a chall, leugh nobhailean eachdraidheil, thoir taic do Phoblachdach, cleachd drile cumhachd gun sreang, bùth aig Costco, agus a’ cur seachad tòrr ùine air plèanaichean chan ann a-mhàin aithnichte do dhaoine eile ach thu fhèin, tha e na luach airgid mòr dhaibhsan cuideachd. Mar sin, cuideachd, càite a bheil thu agus càite an robh thu, mar a dh’ ionnsaich sinn o chionn ghoirid nuair a chaidh fhoillseachadh gu bheil an dà chuid Apple agus Google air a bhith a’ cumail sùil air luchd-cleachdaidh fònaichean-làimhe is tablaidean agus a’ stòradh an fhiosrachaidh sin cuideachd.
Bidh eadhon innealan leughaidh mar Amazon's Kindle a 'toirt aire do na tha luchd-cleachdaidh a' dèanamh: comharraich earrann ann an leabhar Kindle agus thèid an trannsa a chuir air ais gu Amazon. Gu soilleir, tha comas mòr ann airson prìobhaideachd agus mì-ghnàthachadh saorsa catharra eile an seo. Fhad ‘s a tha feum aig an FBI, mar eisimpleir, air barantas gus do choimpiutair a sgrùdadh, tha Pariser a’ sgrìobhadh “ma chleachdas tu Yahoo no Gmail no Hotmail airson do phost-d, bidh thu ‘a’ call do dhìonan bun-reachdail sa bhad, ’a rèir neach-lagha airson an Electronic Frontier. Bunait.” Chaidh co-dhiù aon chur an grèim le oifigearan èigneachaidh lagha a’ cleachdadh dàta àite Apple. Agus sa Ghiblean an-uiridh, chuala an Àrd-chùirt argamaidean a-steach Somhairle v. Slàinte IMS, anns an robh IMS Health, ann a bhith a’ toirt dùbhlan do chuingealachadh reachdail Vermont air reic fiosrachadh cungaidh euslaintich gu companaidhean mèinnearachd dàta, ag argamaid gu bheil buain agus reic dàta clàran meidigeach na chòir Ciad Atharrachadh. Gu soilleir, tha tracadh dàta agus mèinneadh a’ toirt brìgh ùr dha na faclan “sgrùdadh coimpiutair.”
Anns an raon mhalairteach, tha luchd-margaidh cuideachd a’ coimhead nas fhaide na fìrinnean agus pìosan fiosrachaidh, gus faighinn a-mach chan ann a-mhàin dè a cheannaich thu, ach dè an seòrsa raointean a bha tarraingeach dhut nuair a rinn thu sin. Aon uair ‘s gu bheil iad air do“ phròifil ìmpidh ”a chuir ri chèile, leasaichidh iad na sanasan cuimsichte sin eadhon nas fhaide. Agus mas urrainn do chompanaidhean margaidheachd seo a dhèanamh, carson nach bi tagraichean poilitigeach, an riaghaltas, no companaidhean a tha airson buaidh a thoirt air beachd a’ phobaill? “Gun teagamh tha amannan agus àiteachan agus stoidhlichean argamaid a tha gar dèanamh nas buailtiche a bhith a’ creidsinn na thèid innse dhuinn, ”tha Pariser a’ faicinn.
Is e aon rud ris an do ghabh daoine denizens den eadar-lìn ris gun mòran smaoineachadh gu bheil malairt na phàirt fìor mhath de ghluasad an lìn gu lìonraidhean sòisealta. Tha na làraich Foursquare, Loopt, agus Groupon a tha mòr-chòrdte, mar eisimpleir, a’ dèanamh ceannach agus branndadh mar bhunait don tachartas sòisealta. Bidh daoine air Foursquare a’ feuchainn ri bhith nan “àrd-bhàillidh” air bèicearachd agus stòran aodaich le bhith a’ tadhal orra barrachd air duine sam bith eile. Bidh iad gu pròiseil a’ taisbeanadh “bràistean” a tha iad air “a chosnadh” le bhith a’ toirt taic do ghnìomhachasan sònraichte, mar gum biodh iad nan duaisean a’ comharrachadh sàr-mhathais. Faodaidh luchd-cleachdaidh Facebook a bhriogas air a’ phutan “like” airson toradh coltas sanas airson an toraidh sin a bhrosnachadh air duilleagan an “caraidean.” Bidh companaidhean mar Twitalyzer agus Klout a’ dèanamh mion-sgrùdadh air dàta bho Twitter, Facebook, agus LinkedIn gus faighinn a-mach cò aig a bheil a’ bhuaidh as motha air-loidhne faodaidh iad sin a bhith nan daoine ainmeil no nan daoine àbhaisteach le luchd-leantainn cudromach agus a’ reic an fhiosrachaidh sin ri gnìomhachasan a bhios an uairsin a’ toirt air an luchd-buaidh am bathar a chuir air adhart no “am brannd aca a shoisgeulachadh. .” Seo, a rèir The Wall Sràid Journal, air “rèis a lasadh am measg junkies air na meadhanan sòisealta a tha, a tha dèidheil air sochairean agus còraichean bragging, ag obair gu cruaidh gus an siostam a chluich agus na sgòran aca a bhrosnachadh." 5 Mar a tha Lanier ag ràdh, “Is e an aon dòchas a th’ ann airson làraich lìonraidh shòisealta bho shealladh gnìomhachais gum bi foirmle draoidheachd a’ nochdadh anns am bi dòigh air choireigin air a bhith a’ dol an aghaidh prìobhaideachd agus urram iomchaidh. Tha an draoidheachd sin, tha e coltach, air a chluich mu thràth.
Is e am paradocs de phearsanachadh agus am fèin-labhairt a bhrosnaich an eadar-lìn tro Twitter, Facebook, agus eadhon Chatroulette gu bheil e aig an aon àm a’ lughdachadh luach pearsa agus fa leth. Leugh na beachdan a tha an cois mòran de phuist bhlogaichean agus artaigilean, agus tha e air leth follaiseach gu bheil a bhith a’ dol an-aghaidh urram cuideigin eile agus, mar sin, an neach fhèin, na airgead saor agus air a chuairteachadh gu farsaing. Tha seo fìor chan ann a-mhàin airson cuspairean a dh’ fhaodadh a bhith mar as trice a’ brosnachadh partaidh agus dìoghras, leithid spòrs no poilitigs, ach airson cha mhòr rud sam bith. 6
Is e puing ionnsaighean ad hominem suathadh a dhèanamh air caractar cuideigin, gus an ionracas a lagachadh. Tha Chorost a’ moladh gur e an adhbhar nach eil an eadar-lìn mar a tha fios againn a-nis ag àrach an seòrsa co-fhaireachdainn a tha e a’ faicinn a’ tighinn air Lìon na h-ama ri teachd, nuair a bhios sinn “a’ faireachdainn beatha dhaoine a-staigh gu dealanach,” air sgàth nach eil e fhathast na phàirt riatanach de ar cuirp, ach tha mìneachadh Lanier nas cinntiche. Tha an “inntinn hive” a chaidh a chruthachadh tro na ceanglaichean dealanach againn gu riatanach a’ cur bacadh air an neach gu dearbh, is e sin a tha ga fhàgail na mhothachadh coitcheann. Is e dìomhaireachd, a tha a’ soirbheachadh far nach eil cunntachalachd fa-leth, aon de na prìomh fheartan aige, agus air a chùlaibh, tha ciall, mì-fhaireachdainn agus an-iochd buailteach a dhol a-steach ceart. Mar a tha an sòiseo-eòlaiche Sherry Turkle a’ faicinn:
Le lìonradh, tha sinn còmhla, ach tha na tha sinn a’ sùileachadh bho chèile nas lugha mar as urrainn dhuinn a bhith a’ faireachdainn gu tur nar n-aonar. Agus tha cunnart ann gu'n tig sinn a dh'fhaicinn muinntir eile mar nithean a gheibhear steach, agus a mhàin air son nam pàirtean a tha feumail, a's comhfhurt- achd, no taitneach dhuinn. 7
Seo Chorost a’ toirt cunntas air iongantasan càirdeas le lìonra neural:
Le bhith a’ faighinn coimpiutairean coltach ri eanchainn bhiodh sin gu mòr a’ sìmpleachadh a’ phròiseas airson fiosrachadh a tharraing à aon eanchainn agus a chuir gu fear eile. Seach gu bheil a leithid de choimpiutair agad, agus gu bheil thu ceangailte ri neach eile tron World Wide Mind…. Chì thu cat air a’ chliathaich air do bheulaibh. Bidh an rig agad… a’ faicinn gnìomhachd ann an àireamh mhòr sa cheud de na neurons a tha mar riochdachadh caochlaideach an eanchainn agad de chat. Gus innse dha do charaid gu bheil thu a’ faicinn cat, bidh e a’ cur trì litrichean fiosrachaidhCAT gu feannag an neach eile. Bidh rig an neach sin a’ gnìomhachadh riochdachadh caochlaideach na h-eanchainn aice de chat, agus tha i ga fhaicinn. No an àite, airson a bhith nas cinntiche, tha i a’ faicinn cuimhne air cat a tha air a thoirt bhon chuairt neoral aice fhèin….
A-nis, bhiodh mòran mion-fhiosrachadh cudromach a dhìth. Gnè a’ chait, a dath, a suidheachadh, dè tha e a’ dèanamh, agus mar sin air adhart…. Ach bheireadh e prìomh phìos fiosrachaidh seachad: bhiodh fios aig do charaid gu bheil thu a’ faicinn cat.
Gu dearbh, nan cuireadh tu fòn no teacsadh no post-d gu do charaid, bhiodh fios aice cuideachd gu robh thu a’ faicinn cat, agus bhiodh fios aice cò ris a bha e coltach, agus cò ris a bha e a’ dèanamh, agus gur e tachartas cudromach gu leòr a bh’ ann. nad bheatha gu robh thu ag innse dhi mu dheidhinn. A bheil sinn airson faighinn a-mach a h-uile uair a chì cuideigin as aithne dhuinn cat?
Tha e furasta magadh a dhèanamh air seo, dìreach mar a tha e furasta an Singularity a chuir às a dhreuchd mar fhicsean ficsean saidheans amaideach, ach bhiodh sin eadhon nas gòrach. Gu dearbh, is e aon de na buidhnean de dhaoine as tarraingiche gu ficsean saidheans na h-innleadairean a bhios a’ sgrìobhadh còd agus a’ togail innealan-fuadain agus a tha, ann an nas lugha na ginealach, air an dòigh sa bheil sinn a’ dèanamh rannsachadh agus leigheas atharrachadh agus a’ leughadh leabhraichean agus a’ conaltradh ri chèile agus a’ pàigheadh. na bilean agus air adhart agus air adhart. (Ann an agallamh ann an 2004, thug Larry Page sùil air àm ri teachd far a bheil eanchainn neach “air a mheudachadh” le Google, gus nuair a smaoinicheas tu air rudeigin, “bidh am fòn cealla agad a’ crathadh am freagairt nad chluais.) Mar a tha Lanier ag ràdh:
Bidh sinn [na h-innleadairean] a’ leudachadh air do bhith, leithid sùilean is cluasan iomallach (camaran-lìn agus fònaichean-làimhe) agus cuimhne leudaichte (saoghal mion-fhiosrachaidh as urrainn dhut a lorg air-loidhne). Thig iad sin gu bhith nan structaran leis am bi thu a’ ceangal ris an t-saoghal agus ri daoine eile…. Bidh sinn a’ ceangal ris an fheallsanachd agad le bhith a’ làimhseachadh d’ eòlas inntinneil gu dìreach…. Cha toir e ach buidheann bheag de innleadairean gus teicneòlas a chruthachadh a bheir cumadh air àm ri teachd eòlas daonna le astar iongantach.
Thathas an dùil gum buail Lagh Moore air balla timcheall air 2015, nuair a bhios e do-dhèanta barrachd chuairtean a bhrùthadh air sliseag sileaconach gun a bhith a’ teasachadh cus. Ron àm sin, ge-tà, is dòcha gu bheil coimpiutairean air tionndadh gu cuimhne ruigsinneachd air thuaiream magnetach, sgoltagan a bhios ag obair le cuairteachadh subatomic. Leasaich aon de phrìomh luchd-cruthachaidh MRAM, Stuart Wolf, e aig DARPA, a’ bhuidheann a chruthaich ARPANET, an ro-ruithear air an eadar-lìn mar as aithne dhuinn e. O chionn beagan bhliadhnaichean, ann an agallamh le Fortune, Bha Wolf, a’ faicinn àm ri teachd coimpiutaireachd, a’ smaoineachadh gum bi sinn ro fhada a’ caitheamh bann-cinn a bhios a’ biathadh gu dìreach a-steach don eanchainn agus a leigeas leinn, am measg rudan eile, bruidhinn gun bhruidhinn, faicinn timcheall oiseanan, agus draibheadh le bhith a’ smaoineachadh. 8
Tha meur eile de DARPA a’ dòrtadh milleanan dolar a-steach do leasachadh “clogaid smaoineachaidh” àraich a leigeas le saighdearan san raon conaltradh gun fhacal le bhith ag eadar-theangachadh tonnan eanchainn, a thèid a “leughadh” le mothachairean freumhaichte sa chlogaid agus air an cuairteachadh timcheall a ’chraicinn. , a-steach do theachdaireachdan rèidio a chluinnear. (Thuirt aon neach-rannsachaidh gur e “rèidio gun mhicrofòn a bh’ ann.) 9 Cho tràth ri 2000, thòisich Sony ag obair air dòigh le peutant gus geamannan bhidio a chuir gu dìreach a-steach don eanchainn a’ cleachdadh buillean ultrasound gus ìomhaighean mothachaidh atharrachadh agus a chruthachadh airson eòlas cluich bogaidh, làn do-sheachanta. 10 O chionn ghoirid, fhuair luchd-saidheans coimpiutair aig an Freie Universität ann am Berlin leum air sealladh Stiùbhart Wolf de chàr air a ruith le smaoineachadh a-mhàin. Le bhith a’ cleachdadh mothachairean electroencephalogram (EEG) a tha rim faighinn gu malairteach gus na pàtranan tonn eanchainn a dhì-chòdachadh airson “deas,” “clì,” “breic,” agus “luathachadh,” b’ urrainn dhaibh an uairsin na mothachairean sin a cheangal ri carbad fo smachd coimpiutair, gus an b’ urrainn do dhràibhear “smachd a chumail air a’ chàr gun duilgheadas sam bith cha robh ann ach beagan dàil eadar na h-òrdughan a bha san amharc agus freagairt a’ chàir," a rèir aon de na prìomh luchd-rannsachaidh. 11
A bharrachd air an sin, tha buidheann aig Oilthigh Southampton ann an Sasainn air eadar-aghaidh eanchainn-coimpiutair aBCIa a leasachadh a leigeas le daoine conaltradh le chèile eanchainn gu eanchainn gun smaoineachadh no, mar a chanas an luchd-leasachaidh ris, B2B, a-rithist le seòrsa de chaip EEG a leigeas le aon neach a’ smaoineachadh air “clì” (mar a tha air a riochdachadh le neoni) no “deas” (air a riochdachadh le fear), cuir aon de na h-àireamhan sin gu dàrna neach, cuideachd air a shreapadh le dealanan a tha ceangailte a bharrachd air coimpiutair a gheibh an figear , agus, aon uair ‘s gu bheil e air a thuigsinn, a’ leigeil leis an dàrna neach an figear a chuir air ais chun neach a chuir e tro diode solas-solais (LED), a tha “air a leughadh” le cortex lèirsinneach an neach sin. Chan e seo buileach an aonachadh gun fhuaim, gun fhacal, cha mhòr gun smaoineachadh de ar smuaintean, B2B, ach tha e na cheathramh no an còigeamh ceum a dh’ ionnsaigh àm ri teachd a tha a’ sìor fhàs follaiseach.
Tha Jaron Lanier ceart: chan e inneal a th’ annad.
1. 1
2. 2
A rèir Ritchie:
Bha ùine ann nach eil ro fhada ... A-nis tha ar n-eòlas matamataigeach a’ leudachadh cho luath is gum faodadh eadhon eòlaiche ann am matamataig… a bhith an dùil gu reusanta nach biodh fios aige ach air 10 foirfe dheth uile, aig a’ char as motha. Cho fad ‘s a tha sinn an urra ris na siostaman cuir a-steach amh a thaobh sealladh is claisneachd, agus comas stòraidh cuibhrichte ar n-eanchainn nàdurrach fhèin, tha coltas ann gum bi am figear 10 sa cheud sin a’ dol sìos.
3. 3
Faic cuideachd an deasbad aig Zadie Smith air leabhar Lanier anns na duilleagan so , "Ginealach Carson?," 25 Samhain, 2010.
4. 4
5. 5
6. 6
Thoir fa-near na beachdan mu dheidhinn seo New York Times pìos far an tug an t-ùghdar, dotair, ibuprofen don chù aice gu mearachdach agus i a’ sgrìobhadh mun mhearachd aice gus rabhadh a thoirt do dhaoine eile: Randi Hutter Epstein, "Mar a mharbh an Dotair an cù aice," New York Times Uill blog, 20 Faoilleach, 2011.
7. 7
Faic Sherry Turkle, Na aonar còmhla: Carson a tha sinn an dùil barrachd bho theicneòlas agus nas lugha bho chèile (Leabhraichean Bunaiteach, 2011), td. 154.
8. 8
Faic Peter Schwartz agus Rita Koselka, "Quantum Leap," Fortune , Lùnastal 1, 2006.
9. 9
Mark MacThòmais, "Pròiseact Smachd Inntinn Uile-dhroch an Airm," Time , Sultain 14, 2008.
10. 10
Faic Brian Osborne, "Sony May One Day Beam Sensory Data into Your Brain," Geek.com, 5 Giblean, 2005.
11. 11
Faic "Scientists Steer Car with the Power of Thought," fu-berlin.de, Gearran 17, 2011.
Tha ZNetwork air a mhaoineachadh a-mhàin tro fhialaidheachd an luchd-leughaidh.
Tabhartasan