Keunstmjittige yntelliginsje (AI) sweeft de wrâld. It transformearret elke libbensgong en wekt yn it proses grutte etyske soargen foar de maatskippij en de takomst fan 'e minskheid op. ChatGPT, dy't sosjale media dominearret, is in AI-oandreaune chatbot ûntwikkele troch OpenAI. It is in subset fan masine learen en fertrout op wat saneamde Large Language Models neamd wurde dy't minsklike antwurden kinne generearje. De potinsjele tapassing foar sokke technology is yndie enoarm, en dêrom binne d'r al oproppen om AI te regulearjen lykas ChatGPT.
Kin AI minsken oerlêst? Biedt it iepenbiere bedrigingen? Ja, kin AI in eksistinsjele bedriging wurde? De foaroansteande taalkundige fan 'e wrâld Noam Chomsky, en ien fan 'e meast wurdearre iepenbiere yntellektuelen fan alle tiden, waans yntellektuele statuer is fergelike mei dy fan Galileo, Newton en Descartes, behannelet dizze knagende fragen yn it ynterview dat folget.
CJ Polychroniou: As in wittenskiplike dissipline datearret keunstmjittige yntelliginsje (AI) werom nei de 1950's, mar yn 'e lêste pear desennia hat it yngongen makke yn alle soarten fjilden, ynklusyf bankieren, fersekering, autofabryk, muzyk en definsje. Yn feite is it gebrûk fan AI-techniken yn guon gefallen oantoand om minsklike mooglikheden te oertsjûgjen, lykas yn in skaakspul. Binne masines wierskynlik slimmer as minsken?
Noam Chomsky: Krekt te ferdúdlikjen terminology, de term "masine" hjir betsjut programma, yn prinsipe in teory skreaun yn in notaasje dy't kin wurde útfierd troch in kompjûter - en in ûngewoane soarte fan teory op nijsgjirrige manieren dy't wy kinne sette kant hjir.
Wy kinne in rûch ûnderskied meitsje tusken suvere technyk en wittenskip. D'r is gjin skerpe grins, mar it is in nuttige earste approximaasje. Pure engineering besiket in produkt te produsearjen dat fan wat nut kin wêze. Wittenskip siket begryp. As it ûnderwerp minsklike yntelliginsje is, of kognitive kapasiteiten fan oare organismen, siket de wittenskip begryp fan dizze biologyske systemen.
Sa't ik har begryp, beskôgen de oprjochters fan AI - Alan Turing, Herbert Simon, Marvin Minsky, en oaren - it as wittenskip, diel fan 'e doe-opkommende kognitive wittenskippen, mei gebrûk fan nije technologyen en ûntdekkingen yn' e wiskundige teory fan berekkening om foarút begryp. Yn 'e rin fan' e jierren binne dy soargen ferdwûn en binne foar it grutste part ferfongen troch in yngenieursoriïntaasje. De eardere soargen wurde no gewoanwei ôfwiisd, soms ferneatigjend, as GOFAI-goede âlderwetske AI.
Trochgean mei de fraach, is it wierskynlik dat programma's sille wurde betocht dy't minsklike mooglikheden oertreffe? Wy moatte foarsichtich wêze oer it wurd "mooglikheden", om redenen wêrop ik weromkomme. Mar as wy de term nimme om te ferwizen nei minsklike prestaasjes, dan is it antwurd: perfoarst ja. Se bestean trouwens al lang: de rekkenmasine yn in laptop bygelyks. It kin fier boppe wat minsken kinne dwaan, al wie it mar troch gebrek oan tiid en ûnthâld. Foar sletten systemen lykas skaken wie it yn 'e jierren '50 goed begrepen dat ier of letter, mei de foarútgong fan massive kompjûterkapasiteiten en in lange perioade fan tarieding, in programma betocht wurde koe om in grutmaster te ferslaan dy't spilet mei in bûn op ûnthâld en tiid. De prestaasje jierren letter wie frijwat PR foar IBM. In protte biologyske organismen oertreffe minsklike kognitive kapasiteiten op folle djipper manieren. De woastynmieren yn myn eftertún hawwe minuscule harsens, mar fier boppe minsklike navigaasjekapasiteiten, yn prinsipe, net allinich prestaasjes. D'r is gjin Great Chain of Being mei minsken oan 'e top.
De produkten fan AI-technyk wurde op in protte fjilden brûkt, foar better as foar min. Sels ienfâldige en fertroude kinne frij nuttich wêze: op it taalgebiet programma's lykas autofill, live transkripsje, google translate, ûnder oaren. Mei folle gruttere berekkeningskrêft en mear ferfine programmearring soene d'r oare nuttige applikaasjes moatte wêze, ek yn 'e wittenskippen. D'r binne al wat west: Assistearjen yn 'e stúdzje fan proteïnefolding is ien resint gefal wêr't massive en rappe syktechnology wittenskippers hat holpen om te gean mei in kritysk en wjerstânsprobleem.
Engineering projekten kinne nuttich, of skealik wêze. Beide fragen komme op yn it gefal fan engineering AI. Aktueel wurk mei Large Language Models (LLM's), ynklusyf chatbots, leveret ark foar desinformaasje, laster en misliedend de net-ynformearren. De bedrigingen wurde fersterke as se wurde kombinearre mei keunstmjittige bylden en replikaasje fan stim. Mei ferskate soargen yn gedachten, hawwe tsientûzenen AI-ûndersikers koartlyn neamd foar in moratorium op ûntwikkeling fanwege potinsjele gefaren dy't se waarnimme.
Lykas altyd moatte mooglike foardielen fan technology wurde ôfwaging tsjin potinsjele kosten.
Hiel oare fragen komme op as wy nei AI en wittenskip gean. Hjir is foarsichtigens nedich fanwegen exorbitante en roekeleaze oanspraken, faak fersterke yn 'e media. Om de problemen te ferdúdlikjen, litte wy gefallen beskôgje, guon hypotetysk, guon echt.
Ik neamde ynsektennavigaasje, dat is in ferrassende prestaasje. Ynsektenwittenskippers hawwe in protte foarútgong makke yn it bestudearjen fan hoe't it wurdt berikt, hoewol de neurofysiology, in heul lestige saak, ûngrypber bliuwt, tegearre mei evolúsje fan 'e systemen. Itselde jildt foar de geweldige feats fan fûgels en seeskilpadden dy't tûzenen kilometers reizgje en ûnfeilich weromkomme nei it plak fan komôf.
Stel dat Tom Jones, in foarstanner fan engineering AI, komt en seit: "Jo wurk is allegear wjerlein. It probleem is oplost. Piloten fan kommersjele loftfeartmaatskippijen berikke hieltyd deselde of noch bettere resultaten.
As wy sels lestich falle om te reagearjen, soene wy laitsje.
Nim it gefal fan 'e seefarrende eksploaten fan Polynesiërs, dy't noch libje ûnder ynheemse stammen, mei help fan stjerren, wyn, streamingen om har kano's te lânjen op in oanwiisd plak hûnderten kilometers fuort. Ek dit is it ûnderwerp fan in protte ûndersyk om út te finen hoe't se it dogge. Tom Jones hat it antwurd: "Hâld op mei jo tiid fergrieme; marineskippen dogge it de hiele tiid."
Itselde antwurd.
Lit ús no gean nei in echte saak, taalwinning. It is de lêste jierren it ûnderwerp west fan wiidweidich en tige ferhelderend ûndersyk, dat oantoand dat berntsjes tige rike kennis hawwe fan 'e omjouwingstaal (of talen), fier boppe wat se yn prestaasjes sjen litte. It wurdt berikt mei in bytsje bewiis, en yn guon krúsjale gefallen hielendal gjin. Op syn bêst, lykas soarchfâldige statistyske stúdzjes hawwe sjen litten, binne beskikbere gegevens sparse, benammen as rangfrekwinsje ("Wet fan Zipf") wurdt rekken holden.
Fier Tom Jones yn: "Jo binne wjerlein. Net beteljen omtinken oan jo ûntdekkingen, LLM's dy't astronomyske hoemannichten gegevens scannen kinne statistyske regelmjittichheden fine dy't it mooglik meitsje om de gegevens te simulearjen wêrop se binne oplaat, en produsearje wat dat liket op normaal minsklik gedrach. Chatbots.”
Dizze saak ferskilt fan 'e oaren. Earst is it echt. Twad, minsken laitsje net; yn feite, in protte binne awed. Tredde, yn tsjinstelling ta de hypotetyske gefallen, binne de eigentlike resultaten fier fan wat wurdt beweard.
Dizze oerwagings bringe in lyts probleem op mei it hjoeddeistige LLM-entûsjasme: syn totale absurditeit, lykas yn 'e hypotetyske gefallen wêr't wy it yn ien kear werkenne. Mar d'r binne folle serieuzer problemen as absurditeit.
Ien is dat de LLM-systemen op sa'n manier ûntwurpen binne dat se ús neat kinne fertelle oer taal, learen of oare aspekten fan kognysje, in prinsipekwestje, net te herstellen. Ferdûbelje de terabytes fan skansearre gegevens, foegje noch in trillion parameters ta, brûk noch mear fan 'e enerzjy fan Kalifornje, en de simulaasje fan gedrach sil ferbetterje, wylst it yn prinsipe dúdliker it mislearjen fan' e oanpak fan 'e oanpak dúdliker wurdt om elk begryp te jaan. De reden is elemintêr: de systemen wurkje like goed mei ûnmooglike talen dy't bern net kinne krije as mei dyjingen dy't se fluch en frijwol refleksyf fernimme.
It is as soe in biolooch sizze: "Ik haw in geweldige nije teory fan organismen. It listet in protte dy't bestean en in protte dy't net mooglik bestean kinne, en ik kin jo neat fertelle oer it ûnderskied.
Nochris laitsje wy. Of moat.
Net Tom Jones - no ferwizend nei feitlike gefallen. Oanhâldend yn syn radikale fertrek fan 'e wittenskip, antwurde Tom Jones: "Hoe wite jo dit oant jo alle talen ûndersocht hawwe?" Op dit punt wurdt it ferlitten fan normale wittenskip noch dúdliker. Troch pariteit fan argumint kinne wy genetika en molekulêre biology, de teory fan evolúsje, en de rest fan 'e biologyske wittenskippen útsmite, dy't net mear as in lytse fraksje fan organismen hawwe sampled. En foar goede maatregel kinne wy alle natuerkunde útsette. Wêrom leauwe yn 'e wetten fan beweging? Hoefolle objekten binne eins yn beweging waarnommen?
Der is boppedat de lytse kwestje fan bewiislêst. Dejingen dy't in teory foarstelle hawwe de ferantwurdlikens om oan te toanen dat it wat sin hat, yn dit gefal, oan te jaan dat it mislearret foar ûnmooglike talen. It is net de ferantwurdlikens fan oaren om it foarstel te wjerlizzen, al liket it yn dit gefal maklik genôch om dat te dwaan.
Litte wy omtinken jaan oan normale wittenskip, wêr't saken ynteressant wurde. Sels in inkeld foarbyld fan taalwinning kin ryk ynsjoch opleverje yn it ûnderskied tusken mooglike en ûnmooglike talen.
De redenen binne ienfâldich, en fertroud. Alle groei en ûntwikkeling, ynklusyf wat "learen" neamd wurdt, is in proses dat begjint mei in steat fan it organisme en transformearret it stap foar stap nei lettere stadia.
Taalferwerving is sa'n proses. De begjinstân is de biologyske begiftiging fan 'e taalfakulteit, dy't fansels bestiet, ek al is it, sa't guon leauwe, in bepaalde kombinaasje fan oare kapasiteiten. Dat is heul ûnwierskynlik om redenen dy't lang begrepen binne, mar it is net relevant foar ús soargen hjir, dus wy kinne it oan 'e kant sette. D'r is dúdlik in biologyske begiftiging foar de minsklike taalfakulteit. De minste truism.
Oergong giet oer nei in relatyf stabile tastân, allinnich oerflakkich feroare: kennis fan 'e taal. Eksterne gegevens trigger en foar in part foarmje it proses. By it bestudearjen fan de berikte steat (kennis fan de taal) en de eksterne gegevens kinne wy fiergeande konklúzjes lûke oer de begjinstân, de biologyske begiftiging dy't taalwinning mooglik makket. De konklúzjes oer de begjinstân meitsje in ûnderskied tusken mooglike en ûnmooglike talen. De ûnderskieding jildt foar al dyjingen dy't de earste steat diele - alle minsken, foar safier bekend; der liket gjin ferskil te wêzen yn fermogen om taal te krijen by besteande minsklike groepen.
Dit alles is gewoane wittenskip, en it hat in protte resultaten berikt.
Eksperimint hat bliken dien dat de stabile steat is substansjeel krigen hiel betiid, troch trije oant fjouwer jier âld. It is ek goed fêststeld dat de fakulteit fan taal basale eigenskippen hat dy't spesifyk binne foar minsken, dus dat it in wiere soarte eigendom is: mienskiplik foar minsklike groepen en op fûnemintele manieren in unyk minsklike attribút.
In protte wurdt yn dizze skematyske rekken oerlitten, benammen de rol fan natuerrjocht yn groei en ûntwikkeling: yn it gefal fan in berekkeningssysteem lykas taal, prinsipes fan berekkeningseffisjinsje. Mar dit is de essinsje fan 'e saak. Nochris, normale wittenskip.
It is wichtich om dúdlik te wêzen oer Aristoteles syn ûnderskied tusken besit fan kennis en gebrûk fan kennis (yn hjoeddeiske terminology, kompetinsje en prestaasjes). Yn it taalgefal is de stabile tastân it besit fan kennis, kodearre yn it brein. It ynterne systeem bepaalt in ûnbeheinde array fan strukturearre útdrukkingen, elk wêrfan wy kinne beskôgje as it formulearjen fan in gedachte, elk eksternaliseare yn guon sensomotoryske systeem, normaal lûd, hoewol it teken wêze kin of sels (mei muoite) oanrekking.
It yntern kodearre systeem wurdt tagonklik makke yn gebrûk fan kennis (prestaasjes). Prestaasje omfettet it ynterne taalgebrûk yn it tinken: besinning, planning, oantinken en in protte mear. Statistysk sjoen is dat fierwei it oerweldigjende taalgebrûk. It is net tagonklik foar yntrospeksje, al kinne wy der in protte oer leare troch de normale metoaden fan 'e wittenskip, fan "bûten", metafoarysk sjoen. Wat "innerlike spraak" neamd wurdt, is yn feite fragminten fan eksternalisearre taal mei it artikulatoarysk apparaat stil. It is mar in ôfspegeling fan it ynterne taalgebrûk, wichtige saken kin ik hjir net neigean.
Oare foarmen fan taalgebrûk binne waarnimming (parsearjen) en produksje, wêrby't de lêsten fan krúsjaal belang binne foar eigenskippen dy't hjoeddedei foar ús like mysterieus bliuwe as doe't se mei eangst en fernuvering troch Galileo en syn tiidgenoaten oan it begjin fan 'e moderne wittenskip beskôge waarden.
It haaddoel fan 'e wittenskip is om it ynterne systeem te ûntdekken, sawol yn syn begjinsteat yn' e minsklike taalfakulteit as yn 'e bepaalde foarmen dy't it oannimt by it oannimmen. Foar safier't dit ynterne systeem wurdt begrepen, kinne wy gean om te ûndersykjen hoe't it yn 'e prestaasjes komt, ynteraksje mei in protte oare faktoaren dy't yn taalgebrûk komme.
Gegevens fan prestaasjes jouwe bewiis oer de aard fan it ynterne systeem, benammen as se wurde ferfine troch eksperimint, lykas yn standert fjildwurk. Mar sels de meast massive samling fan gegevens is needsaaklik misliedend op krúsjale manieren. It hâldt oan wat normaal produsearre wurdt, net de kennis fan 'e taal kodearre yn 'e harsens, it primêre objekt dat ûndersocht wurdt foar dyjingen dy't de aard fan' e taal en har gebrûk wolle begripe. Dat ynterne objekt bepaalt ûneinich in protte mooglikheden fan in soarte dy't net brûkt wurde yn normaal gedrach fanwege faktoaren dy't irrelevant binne foar taal, lykas beheiningen op koarte termyn ûnthâld, ûnderwerpen dy't 60 jier lyn bestudearre binne. Observearre gegevens sille ek befetsje in protte dat leit bûten it systeem kodearre yn 'e harsens, faak bewust gebrûk fan taal op manieren dy't yn striid binne mei de regels foar retoryske doelen. Dit binne truisms bekend by alle fjildwurkers, dy't fertrouwe op elicitation techniken mei ynformanten, yn prinsipe eksperiminten, te leverjen in ferfine korpus dat útslút irrelevante beheinings en ôfwikende uteringen. Itselde jildt as taalkundigen harsels as ynformanten brûke, in folslein ferstannige en normale proseduere, gewoan yn 'e skiednis fan 'e psychology oant hjoed de dei.
Troch fierder te gean mei normale wittenskip, fine wy dat de ynterne prosessen en eleminten fan 'e taal net ûntdutsen wurde kinne troch ynspeksje fan waarnommen ferskynsels. Faak ferskine dizze eleminten net iens yn spraak (of skriuwen), hoewol har effekten, faaks subtyl, kinne wurde ûntdutsen. Dat is noch in oare reden wêrom't beheining ta waarnommen ferskynsels, lykas yn LLM oanpak, skerp beheint it begryp fan 'e ynterne prosessen dy't de kearnobjekten binne fan ûndersyk nei de aard fan' e taal, har oanwinst en gebrûk. Mar dat is net relevant as de soarch foar wittenskip en begryp ferlitten is yn it foardiel fan oare doelen.
Mear algemien yn 'e wittenskippen, foar milennia, binne konklúzjes berikt troch eksperiminten - faaks gedachte eksperiminten - elk in radikale abstraksje fan ferskynsels. Eksperiminten binne teory-oandreaune, om te besykjen de ûntelbere irrelevante faktoaren te ferwiderjen dy't yn observearre ferskynsels komme - lykas taalkundige prestaasjes. Dit alles is sa elemintêr dat it selden sels besprutsen wurdt. En bekend. Lykas opmurken, giet it basisûnderskie werom nei Aristoteles syn ûnderskied tusken besit fan kennis en gebrûk fan kennis. De earste is it sintrale objekt fan stúdzje. Sekundêre (en frij serieuze) stúdzjes ûndersiikje hoe't it yntern opslein systeem fan kennis wurdt brûkt yn prestaasjes, tegearre mei de protte net-linguistyske faktoaren dan yngean yn wat direkt waarnommen wurdt.
Wy kinne ek in observaasje ûnthâlde fan evolúsjonêre biolooch Theodosius Dobzhansky, fral ferneamd om syn wurk mei Drosophila: Elke soarte is unyk, en minsken binne de unykste fan allegear. As wy ynteressearre binne yn te begripen hokker soarte skepsels wy binne - nei it befel fan 'e Delphic Oracle 2,500 jier lyn - sille wy ús primêr dwaande hâlde mei wat minsken it unykste fan alles makket, benammen taal en gedachte, nau meiinoar ferweve, lykas erkend yn in rike tradysje giet werom nei klassike Grikelân en Yndia. It measte gedrach is frij routine, dus foar in part foarsisber. Wat echt ynsjoch jout yn wat ús unyk makket, is wat net routine is, wat wy wol fine, soms troch eksperimint, soms troch observaasje, fan normale bern oant grutte keunstners en wittenskippers.
Ien lêste opmerking yn dit ferbân. De maatskippij is al in ieu pleage troch massale bedriuwskampanjes om ferachting foar wittenskip oan te moedigjen, ûnderwerpen goed studearre troch ûnder oaren Naomi Oreskes. It begûn mei korporaasjes waans produkten moardlik binne: lead, tabak, asbest, letter fossile brânstoffen. Har motiven binne begryplik. It doel fan in bedriuw yn in kapitalistyske maatskippij is winst, net minsklik wolwêzen. Dat is in ynstitúsjoneel feit: Spielje it spul net en do bist út, ferfongen troch ien dy't wol.
De bedriuws-PR-ôfdielingen erkenden betiid dat it in flater wêze soe om it groeiende wittenskiplike bewiis fan 'e deadlike effekten fan har produkten te ûntkennen. Dat soe maklik wjerlein wurde. Better om twifel te sieden, ûnwissichheid oan te moedigjen, ferachting foar dizze spitskoppige kostuums dy't noait in hûs skildere hawwe, mar út Washington komme om my te fertellen dat ik gjin leadferve moat brûke, myn bedriuw ferneatigje (in echt gefal, maklik fermannichfâldigje). Dat hat mar al te goed wurke. Op it stuit liedt it ús op in paad nei ferneatiging fan organisearre minsklik libben op ierde.
Yn yntellektuele rûnten binne ferlykbere effekten makke troch de postmoderne krityk fan wittenskip, ôfbrutsen troch Jean Bricmont en Alan Sokal, mar noch folle libben yn guon rûnten.
It kin ûngeunstich wêze om de fraach foar te stellen, mar it is, tink ik, earlik om te freegjen oft de Tom Joneses en dejingen dy't ûnkritysk werhelje en sels fersterkje har achtleaze proklamaasjes, bydrage oan deselde skandelike tendinzen.
CJP: ChatGPT is in natuerlike-taal-oandreaune chatbot dy't keunstmjittige yntelliginsje brûkt om minsklike petearen mooglik te meitsjen. Yn in resint artikel yn De New York Times, yn 'e mande mei twa oare auteurs slute jo de nije chatbots út as in hype, om't se gewoan net oerienkomme kinne mei de taalkundige kompetinsje fan 'e minsken. Is it lykwols net mooglik dat takomstige ynnovaasjes yn AI technyske projekten kinne produsearje dy't oerienkomme mei en miskien sels oertreffe minsklike kapasiteiten?
NC: Kredyt foar it artikel moat jûn wurde oan de eigentlike skriuwer, Jeffrey Watumull, in moaie wiskundige-taalkundige-filosoof. De twa neamde co-auteurs wiene adviseurs, dy't it iens binne mei it artikel, mar it net skreaun hawwe.
It is wier dat chatbots yn prinsipe net oerienkomme mei de taalkundige kompetinsje fan minsken, om de hjirboppe werhelle redenen. Har basisûntwerp foarkomt dat se de minimale betingst fan adekwaatheid berikke foar in teory fan minsklike taal: ûnderskied mooglik fan ûnmooglike talen. Om't dat in eigenskip fan it ûntwerp is, kin it net wurde oerwûn troch takomstige ynnovaasjes yn dit soarte AI. It is lykwols hiel mooglik dat takomstige yngenieurprojekten oerienkomme mei en sels de minsklike kapasiteiten oertreffe, as wy minsklike kapasiteiten om te hanneljen bedoele, prestaasjes. Lykas hjirboppe neamde, hawwe guon dat al lang dien: automatyske rekkenmasines bygelyks. Mear nijsgjirrich, lykas sein, ynsekten mei minuscule harsens oertreffe minsklike kapasiteiten begrepen as kompetinsje.
CJP: Yn it earderneamde artikel waard ek konstatearre dat de hjoeddeiske AI-projekten gjin minsklik morele fakulteit hawwe. Makket dit foar de hân lizzende feit AI-robots minder fan in bedriging foar it minsklik ras? Ik tink dat it argumint wêze kin dat it har miskien noch mear makket.
NC: It is yndie in dúdlik feit, begryp "morele fakulteit" breed. Behalven as sekuer kontroleare, kin AI-technyk serieuze bedrigingen foarmje. Stel bygelyks dat de soarch foar pasjinten automatisearre wie. De ûnûntkombere flaters dy't troch minsklik oardiel oerwûn wurde soene kinne in horrorferhaal produsearje. Of stel dat minsken waarden fuorthelle út evaluaasje fan de bedrigings bepaald troch automatisearre missile-definsje systemen. As in skokkend histoarysk rekord ynformearret us, dat soe de ein fan 'e minsklike beskaving wêze.
Behalven as sekuer kontroleare, kin AI-technyk serieuze bedrigingen foarmje.
CJP: Regulators en wet hanthaveningsbelied ynstânsjes yn Jeropa meitsje soargen oer de fersprieding fan ChatGPT wylst in koartlyn yntsjinne stik fan Europeeske Uny wetjouwing besiket om te gean mei AI troch it klassifisearjen fan sokke ark neffens harren waarnommen nivo fan risiko. Binne jo it iens mei dyjingen dy't soargen dat ChatGPT in serieuze iepenbiere bedriging foarmet? Boppedat, tinke jo wirklik dat de fierdere ûntwikkeling fan AI-ark kin wurde stoppe oant befeiligingen kinne wurde yntrodusearre?
NC: Ik kin maklik sympatisearje mei ynspanningen om te besykjen om de bedrigingen te kontrolearjen dy't troch avansearre technology, ynklusyf dit gefal, foarmje. Ik bin lykwols skeptysk oer de mooglikheid om dat te dwaan. Ik tink dat de geast út 'e flesse is. Kweaze akteurs - ynstitúsjoneel as yndividueel - kinne wierskynlik manieren fine om feiligens te ûntkommen. Sokke fermoedens binne fansels gjin reden om net te besykjen, en om wach te wêzen.
ZNetwork wurdt allinich finansierd troch de generositeit fan har lêzers.
Donaasjes