Digitalni spomin in človeška pozabljivost

Vsak trenutek se na svetovnem spletu nalagajo nepredstavljive količine vsebin, za katere so nekateri prepričani, da so shranjene za vse večne čase, drugi pa so skeptični glede njihove neoprijemljivosti in menijo, da so nepovratno izgubljene. Razlika je usodna, saj bi šlo v prvem primeru za vzpon, v drugem pa za zaton civilizacije. Človeštvo napreduje po zaslugi tistih, ki pomnijo! Zato so nastale šole z nalogo, da od najzgodnejših let ljudem vbijajo v glavo, česar ne smejo pozabiti. Pri tem so v pomoč knjige, ki nas potrpežljivo čakajo na policah, če jih izvolimo brati, na pohodu pa so računalniki, ki nam kar sami silijo v možgane.

Slika 1: Ilustracija Tim Ogline v Dixon, T. (2014) My Digital Memory. Mensa, 7. julij 2014. https://us.mensa.org/read/bulletin/features/my-digital-meory
Slika 1: Ilustracija Tim Ogline v Dixon, T. (2014) My Digital Memory. Mensa, 7. julij 2014 (vir: https://us.mensa.org/read/bulletin/features/my-digital-meory)

Biologija spominjanja

Že dolgo je znano, da imamo v vseh celicah kratkoročni spomin, iz katerega se selektivno napaja dolgoročni spomin, anatomsko navezan na hipokampus. Prehod iz kratkoročnega v dolgoročni spomin je sila ozko grlo, ki prepušča le malenkost zaznanega – od 11 milijonov bitov v sekundi le kakšnih 50 bitov (Wilson, 2002) – in za katerega se še zmeraj verjame, da ga je mogoče razširiti z vztrajnim ponavljanjem ali drilom. Proces je veliko bolj zapleten, nevrologija ve o njem vse več, njena spoznanja pa pogosteje uporabljajo trgovci v marketingu kot učitelji v didaktiki.

Od sto milijard nevronov v človekovih možganih lahko vsak od njih naveže od tisoč do deset tisoč sinaps in tako nastane elektrokemijsko območje, ki omogoča kognitivne funkcije, med katerimi sta tudi učenje in spominjanje (Loeffler idr., 2023). Še nedavno je prevladovala predstava o učenju in spominjanju kot skladiščenju z vzpostavljanjem trdnega reda v glavi, brez katerega se ničesar ne spomnimo in ne naučimo. Otrokom, ki pridejo na svet s podvojeno količino nevronov, tako »izbijemo iz glave« polovico možganske kapacitete, ker jih le moti in je menda v življenju tako in tako ne bodo potrebovali …

Slika 2: Zdenka Kuncic, fotografija s spletnega mesta Univerze Sidney
Slika 2: Zdenka Kuncic, fotografija s spletnega mesta Univerze Sidney

Pred kratkim (2024) je vodilna znanstvenica tega področja, Avstralka Zdenka Kuncic, razkrila, da je »nered vse, kar potrebujemo« od dinamike možganov, kakršna se dogaja v nevronskih mikroobmočjih s sinaptičnimi vzorci povezanosti, če jo hočemo ponoviti v pojavni dinamiki memristivnih nanomaterialnih omrežij, najobetavnejši digitalni tehnologiji učenja in pomnjenja, medicine in neštetih drugih področij.

Eric Kandel, oče molekularne biologije učenja in spominjanja ter Nobelov nagrajenec (2000), je v osemdesetih letih prejšnjega stoletja razglasil konec dobe obravnavanja možganov kot črne škatle (angl. black box) in odtlej se naglo množijo preverljivi podatki in spoznanja o tem, kaj se spremeni v možganih z učenjem in kako se naučeno v njih zapiše kot spomin. Učenje je rezultat sprememb v sinaptičnih povezavah medsebojno povezanih celic in prav homo- in heterosinaptična plastičnost omogoča hrambo informacij, kar je na molekularni ravni enako pri vseh živih bitjih. Pri tem je serotonin modulator sinaptične obstojnosti, ki deluje tako v smeri spodbujanja kot zaviranja prehoda iz kratkoročnega v dolgoročni spomin, saj je slednji preveč dragocen, da bi ga kar počez obremenjevali s spominjanjem nepomembnosti (Kandel, 2001).

Pozabljanje ni obrnjen proces od spominjanja, in ko se zgodi, se možgani ne povrnejo v začetno stanje nevednosti, čeprav še ni docela pojasnjeno, kakšno je novo stanje. Velja, da pozabljena vsebina ni izničena, le najti je ne moremo, kar je s časovnim oddaljevanjem vse bolj prisotno (Liu idr., 2022). Verjetno je takšno pozabljanje ključen proces v možganih, ki ga bo najtežje povzeti v tehnologiji. Gromozanske glave vesoljcev v znanstveni fantastiki zanesljivo niso prava sled, ampak plačujejo davek obstoječemu »predalčnemu« razumevanju digitalnega spomina, kot je programiran v računalniku.

Slika 3: Primer napačne predstave o možganih v prihodnostihttps://www.freepik.com/free-ai-image/human-brain-detailed-structure_81446579.htm
Slika 3: Primer napačne predstave o možganih v prihodnosti (vir: https://www.freepik.com/free-ai-image/human-brain-detailed-structure_81446579.htm)

Harvardski profesor Daniel Schachter je radikalno obračunal s takšnim mehanicističnim determinističnim pogledom na možgane, ki da so gigantska in natančna računska naprava. Predstavil jih je kot precej neurejeno in natlačeno omaro. Dolgoročni spomin v njih je daleč od tega, da bi bil kot v kamen vklesana molitev, ki nam je na razpolago, ko ga potrebujemo. Nasprotno od tega, možgani nenehno rekonfigurirajo naš spomin, da bi si zapomnili predvsem tisto, kar nas zanima in kar potrebujemo. Spomin je potemtakem stalno spreminjajoči se konstrukt. Ni tako redko, da se »spomnimo« dogodkov, ki se sploh niso zgodili, smo jih pa zelo prepričljivo skonstruirali. Velik del našega razmišljanja temelji prav na tem, pri čemer je odločilen jezik, ki je v zadnjih 150.000 letih pospešil razvoj človeške vrste, da zna sintetizirati in pomniti ideje in koncepte, ne zgolj odrazov kot vsa druga bitja. Če kaj, je Prometej prav to izmaknil bogovom, da bi pomagal ljudem (Schachter, 2001).

Tehnična podpora spomina

Pomena spomina so se najprej zavedeli privilegiranci, zainteresirani za ohranitev svojega položaja v skupnosti, a se jim je zdelo nezanesljivo, če imajo podaniki spomin le v svojih glavah in lahko tudi pozabijo, zato so se trudili, da bi ga čim bolj trajno vklesali v kamen ali vtisnili v glino. Prvi »pisatelji« niso bili poeti ali učenjaki, ampak knjigovodje in so povsem upravičeni do svojega naziva. Kasneje so za zapisovanje uporabljali papirus in pergament, Korejci kot prvi tudi tisk na papirju, ampak še zmeraj le za varovanje gospostva in premoženja. Takšno zapisovanje spomina je bilo zelo drago in povprečni srednjeveški rokopisni kodeks je stal prek 10.000 današnjih evrov, saj je še tako marljiv benediktinec zanj potreboval več kot leto dni dela v skriptoriju. To je povsem ustrezalo cerkvi, ki je nadzorovala spominjanje in zavirala širjenje tehnike pisanja in kasneje tiskanja. Danes čaščenega iznajditelja Gutenberga so za njegovega življenja spravili na boben. Kmalu pa so prišli drugi, ki so pospeševali tehnično podporo učenja in spomina. To so bili kapitalisti, saj je industrija potrebovala pismene ljudi, tisk in knjigo. Knjiga je hitro postala najbolj razširjen stroj nove dobe, namenjen podpiranju učenja in hranjenju spomina (McLuhan, 1964). Knjižnice kot središča spominjanja in učenja postanejo pomembne in velikanske, zgrajene na najvidnejšem kraju v mestih in v srcu univerzitetnih kampusov.

Vse bolj neobvladljivo eksponencialno kopičenje tiskanih dokumentov je označilo nastanek informacijske družbe, ki se zanaša, da bo z digitalno tehnologijo uspela zajeti vse dosedanje in nastajajoče znanje človeštva (Pivec, 2004). Letošnjega 17. maja je preminil Gordon Bell, ki bi si v IZUM-u zaslužil sliko, saj je bil eden od ustanoviteljev DEC, oče sistemov VAX in avtor njihovega povezovanja v mrežo, snovalec prvih osebnih računalnikov in pobudnik NREN/interneta, torej ključnih elementov naše dejavnosti. Bell se je predajal viziji prvega kibernetika Vannevarja Busha o memexu, stroju za avtomatsko hranjenje vseh dokumentov, slik in zvokov, ki spremljajo človeka skozi življenje. Bellu je okrog vratu vedno visela naprava, ki je to zagotavljala, danes pa to bolj ali manj nezavedno počnemo s pametnimi telefoni. Microsoft, kamor se je preselil, mu je s projektom MyLifeBits omogočil vseživljenjsko vojno proti pozabljanju. V ta namen se je zavzemal za naslednje strategije:

    • Vsesplošna digitalizacija, tako izvirnih dokumentov (dopisovanje, založništvo in poslovanje brez papirja) kot skeniranje celih knjižnic, fonotek, videotek itd. Delež tiska se je zmanjšal na nekaj odstotkov. Premik od analognosti k digitalnosti se je zgodil hitreje in obsežneje, kot si je predstavljal Nicholas Negroponte v Being Digital. Deljenje vsebin je postalo neomejeno in poceni, »kopija pa je enaka originalu«.
    • Pocenitev shranjevanja – stroški digitalnega spomina so se nepojmljivo zmanjšali: megabit spomina v IBM 305 konec petdesetih je stal 70 tisoč dolarjev, danes stane manj kot stotinko centa. Brisanje je zaradi porabe časa postalo bistveno dražje od brezskrbnega shranjevanja. Zakon Gordona Moorea iz leta 1965 o vsakoletni podvojitvi zmogljivosti čipov se je v celoti potrdil. Tako je 100 gigabitov digitaliziranega Bellovega življenja na koncu predstavljalo komaj tretjino trdega diska običajnega prenosnika.
    • Enostavno iskanje shranjenih vsebin. V analognih razmerah armade katalogizatorjev poskrbijo, da najdemo knjigo po naslovu ali avtorju ali tudi po bolj ali manj uporabnem naboru gesel, če obstaja predmetni katalog. Seveda je v knjigah in knjižnicah le majhen del tega, kar nas v vsakodnevnem življenju zanima in je raztreseno vsepovsod. Računalničarji so se hitro odlepili od analognih katalogov in začeli indeksirati vsebine na trdem disku v relacijske podatkovne baze, ki jih je mogoče preiskovati s fleksibilnimi ključi. Nastali so Google in podobni enostavni iskalni vmesniki, ki so v vsesplošni uporabi.
    • Odprta globalna mreža (internet). Informacije, ki niso na internetu, veljajo za izgubljene oz. pozabljene, ko pa so enkrat na internetu, postanejo najdljive in nepozabne. Razlog je tudi ekonomski, saj nas nič ne stane, da smo prisotni v infosferi. Večina se ne zaveda, da se tako izpostavljajo nevarnostim, preostali pa zaupajo, da njihove informacije ne bodo zlorabljene. Ali pa se preprosto vdajo: ne moreš nekomunicirati.

Vse štiri strategije so Bellu na veliko uspevale in bodo zagotovo zmagovale tudi v prihodnje. Osebno si ni delal preglavic s tem, kaj so prek njegove digitalne zabeležke izvedeli drugi o njem, saj je vedel, da tudi v analognih časih ni mogel nadzorovati svojega informacijskega odtisa. Veselilo ga je, da bo s posredovanjem digitalnega spomina tudi po smrti ostal med ljudmi.

Slika 4: In memoriam Gordon Bell (1934–2024)https://computerhistory.org/blog/in-memoriam-gordon-bell-1934-2024/
Slika 4: In memoriam Gordon Bell (1934–2024) (vir: https://computerhistory.org/blog/in-memoriam-gordon-bell-1934-2024/)

Prekletstvo digitalnega spomina

Problem je, ker podatkov o nas ne shranjujemo le mi sami, ampak tudi drugi in niti ne vemo natančno, kdo vse in zakaj. Viktor Mayer-Schönberger ugotavlja: »Na nesrečo človeško spominjanje ni proces mehanicističnega zbiranja podatkov o naši preteklosti, ampak … nenehno rekonstruiranje te preteklosti na podlagi sedanjosti. Sedanjost igra veliko večjo vlogo pri določanju, kaj si bomo zapomnili, kot pa to, kaj se je v preteklosti zares zgodilo. Ker nenehno pozabljamo in rekonstruiramo elemente naše preteklosti, lahko drugi za svoj namen izkoristijo digitalni spomin za dostop do nekonstruiranih dejstev. Torej se preteklost, ki jo pomnimo sami, neprestano spreminja in razvija, medtem pa ostaja preteklost, ujeta v digitalnem spominu, nespremenljiva in zamrznjena v času. Ti dve viziji trčita druga ob drugo: zamrznjeni spomin, ki ga imajo drugi o nas, in spreminjajoči se spomin, ki ga o sebi nosimo v svojem mišljenju. Ne eden in ne drugi ni verodostojen glede tega, kaj v resnici smo« (Mayer-Schönberger, 2009, str. 106).

Slehernik se je že ali pa se še bo soočil s situacijo, ko mu stari digitalni zapisi, fotografije in podobno, eksternalizirani na spletu (profesorjev članek z zmotnimi navedbami, fotografija politika v nepravi družbi, video učiteljice na nudistični plaži iz najstniških let in podobne »nesreče«), rušijo samopodobo in javni profil, skrbno pridelan v kasnejšem življenju. Sami smo jih že zdavnaj izbrisali, toda drugi jih hranijo v svojih digitalnih arhivih in z njimi manipulirajo. Čas, ki je med tem pretekel, jim ni mar. Čemu bodo ljudje bolj verjeli: moji predelani resnici ali dokumentu s spleta? Ko se pridružijo še laži in ponaredki ter je k temu nagnjena tudi oblast, se nam dogaja Orwell 1984.

Slika 5: Orwell, 1984https://thenugget.net/3857/entertainment/big-brother-is-always-watching-1984-review/
Slika 5: Orwell, 1984 (vir: https://thenugget.net/3857/entertainment/big-brother-is-always-watching-1984-review/)

Še huje: ne obvladuje nas le veliki brat (angl. Big Brother), ampak vsakdo, ki ima s tem veselje in si vzame pet minut. Sploh pa, kot pravi Shoshana Zuboff, smo zagazili v »nadzorovalni kapitalizem«, v katerem je obvladovanje obnašanja in mentalitete ljudi glavno sredstvo ekonomske in politične moči (Zuboff, 2020).

Pozabite pozabo

Izguba pozabljanja oz. brisanja digitalnega spomina nam odvzema možnost razumnega filtriranja informacij glede na njihov pomen ter umeščanja informacij v smiselno zgodbo in osebno zgodovino, zato postajamo odvisniki preteklosti in spodkopavamo samozavestnost lastnega spominjanja. Življenje v družbi nalaga prilagodljivo spominjanje, ki je usmerjeno k skupnim povezovalnim točkam ter pozabljanju razlik in ločevanju iz prejšnjih časov. Če tega ni, zamrznjeni digitalni spomin pa je vreden več od doseženega novega soglasja med ljudmi, zapade družba v nerešljivo polarizacijo, ki seže v vse pore življenja. Posledici sta kriza zaupanja in izguba socialnega kapitala.

Niso pa vsi prepričani v digitalni spomin in v Monitorju smo brali intervju z Jasonom Scottom, ki ocenjuje: »Pozabljivost svetovnega spleta je izredno velika« (Savič, 2023). Scott prihaja iz organizacije Internet Archive, ki se ukvarja z arhiviranjem vsebin svetovnega spleta. Po njegovem je strah pred starimi zapisi na spletu odveč, ker z izločanjem starih nosilcev (diskete, trakovi …) izgine tudi spomin, razen tega pa vsakodnevno usahne nešteto spletnih strani. Celo državne institucije ukinjajo svoja spletišča z zelo zanimivimi podatki. Povprečna življenjska doba vsebin na spletu je le okoli tri leta. Tu pa nastopijo spletni arhivi, ki rešijo podatke z dodano vrednostjo in jih zadržijo v prometu. Se lahko zanesemo na opisano nestabilnost digitalnega spomina in se otresemo skrbi, kdo vse in kje vse spremlja in potvarja naš informacijski profil?

Bi bilo odrešujoče, če bi se povsem odrekli digitalizaciji, ki po številnih značilnostih spominja na industrializacijo, med drugim tudi po tem, da je strelovod vseh nezadovoljstev? Kot se je 1811 v Angliji dvignil protiindustrijski upor pod vodstvom Neda Ludda, se je nepolni dve stoletji kasneje dvignil protidigitalni upor neoludizma (Jones, 2006). V antiglobalistično gibanje so se povezali zeleni ekologi, rdeči levičarji in črni anarhisti, pridružili pa še neokonservativci in v skupni program zapisali boj proti računalnikom, internetu in hipertekstu ter za klasično branje, za preprečitev smrti knjige in še za vrsto drugih usmeritev proti »digitomaniji«. Čeprav so napovedali pasivno rezistenco, se je leta 1999 zgodil eksplozivni Seattle in za njim serija radikalnih protestov proti G20, MDF, Svetovnemu forumu (World Forum) – vse do gibanja Okupiraj Wall Street (ki je z vso silo izbruhnilo jeseni 2011). Gibanje je še živo in mogoče se mu je priključiti, le da si večina na koncu izbere le kakšno posamičnost iz njega, sicer pa spravljivo plava z glavnim tokom digitalizacije.

Slika 6: Ikona za prepoved uporabe interneta(vir: https://uxwing.com/no-wifi-icon/)
Slika 6: Ikona za prepoved uporabe interneta (vir: https://uxwing.com/no-wifi-icon/)

Druga pot je pridobitev večine za izglasovanje strožje zakonodaje o varovanju informacijske zasebnosti, ki bo posameznikom jamčila pravico, da si sami izberejo, ali se bodo prepustili informacijskemu pretoku in s tem digitalnemu spominu. Zavedati se moramo, da obstajajo različne kulture zasebnosti in že v zahodnem svetu so pomembne razlike me anglo-ameriškim in kontinentalnim pojmovanjem (Kohl, 2023). Da bi bila ta zakonodaja učinkovita, mora biti mednarodno usklajena, ker se sicer hitro najdejo stranpoti. Govorimo o pravici do pozabe ali o pravici do izbrisa, ki je bila v EU prvič izpostavljena leta 2014 ob odločitvi Sodišča EU (primer C-131/12), ko je Španec Mario C. Gonzales dosegel odstranitev svojega imena iz iskalnikov. Leta 2018 je začela veljati Splošna uredba o varstvu podatkov (GDPR), v kateri 17. člen določa pravico do izbrisa (Bertram idr., 2019). Na vztrajanje ljudi, ki so preboleli bolezen raka in jih vodijo v Registru raka, je bil letošnjega aprila tudi pri nas vložen zakon o pravici do pozabe, saj zavarovalnice, banke in zaposlovalci ta podatek uporabljajo za oženje njihovih pravic.

Izkušnja je, da informacijska industrija povsod učinkovito lobira proti takšni zakonodaji in nič drugače ni v Sloveniji. Če je takšna zakonodaja že sprejeta, pa se ne izvaja, ker od njenega upoštevanja ni materialne koristi, kršitve pa se bogato poplačajo. Država je popustljiva do kršilcev, ker je pogosto sama med njimi, odvetniki pa so itak vedno tam, kjer je plačilo obilnejše. Del te zgodbe je tudi zakonodaja o avtorski in sorodnih pravicah, ki je močno na strani profitnih interesov in bolj redko res ščiti avtorje.

Največja verjetnost je, da se bomo ob sicer glasnem zgražanju le prilagodili novemu stanju in se navadili (pre)živeti z vseobsežnim digitalnim spominjanjem. Enako, kot so se nekaj rodov nazaj ljudje navadili, da ni sveta resnica vse, kar je zapisano v knjigah. Meyer-Schönberger je prepričan, da bo prevladala drugačna informacijska ekologija z dogovorjeno ureditvijo o tem, katere informacije se zbirajo, hranijo in pomnijo, za koga in za kako dolgo. Pri slednjem ima v mislih preprečevanje tragične izkušnje nizozemske natančnosti pri popisovanju prebivalstva, ki je nacistom omogočila, da so prav v njihovi državi pomorili največji delež Judov. Iz raziskav Marianne Tax Choldin (Univerza Illinois), ki sem jo zelo želel videti na naši konferenci COBISS, bi dodal dogajanje iz Stalinovih časov po 2. svetovni vojni, ko so uporabili vestno vodeno in shranjeno knjižnično statistiko izposoje tuje literature in so njene bralce kot »sokonspiratorje v zaroti« internirali v sibirske gulage.

Skandinavci so bolj od vseh drugih prepričani, da je popolna transparentnost proti informacijskim zlorabam najučinkovitejša, ko postane vsem jasno, da svojih podatkov ni treba nereflektirano trositi naokoli in se izobrazijo v razumne člane informacijske družbe. Tudi Bellovi posnemovalci glede beleženja življenja (angl. lifeloggers) ne zagovarjajo nadzorovanja drugih, ampak »samo(nad)zor« ob zavedanju, da so na svetovnem spletu razkriti do smrti in še po njej. Danes ima globalno enak pomen kot nekoč lokalno, ko je na vasi (ali v delovni skupnosti, kar je vas tudi bila) vsakdo vedel, da se ne more skrivati pred drugimi, če noče veljati za čudaka, s katerim ni mogoče sodelovati. Je res neizogibno, da bi nas digitalizacija prisilila v izbiro med zasebnostjo in svobodo (Brin, 1999)?

Zaključek

Tisočletja je bilo razmerje med spominom in pozabo nesporno: spominjanje je bilo naporno in drago, pozaba enostavna in poceni. Digitalizacija je to razmerje postavila na glavo: pritisk na gumb Shrani (Save) je avtomatičen in skoraj brezplačen, gumb Zbriši (Delete) pa zahteva premislek in dragocen čas. Toda digitalni spomin beleži le eksterne informacije, ne pa (še) internih – se pravi človekovega mišljenja, zato je še daleč od celovitosti. Ne zna razlikovati bistvenega od nebistvenega in naj ima še tako neomejeno kapaciteto, nikoli ne zadene žebljice na glavico, kar ostaja nedosegljiva prednost človekovega razuma. Pomembnejša od kapacitete digitalnega spomina je človekova sposobnost pozabljanja. Res je digitalni spomin za vse čase, toda le človekov spomin je zmeraj pravočasen.

Prispevek pripravil: mag. Franci Pivec

Viri:

    • Bertram, T. idr. (2019) Five years of the Right to be Forgotten. CCS’19 London. ACM. https://doi.org./10.1145/3319535.3354208
    • Brin, D. (1999) The Transparent Society: Will Technology Force Us To Choose Between Privacy and Freedom? Basic Books.
    • Jones, S. (2006) Against Technology: From the Luddites to Neo-Luddism. Routledge.
    • Kandel, E. (2001) The Molecular Biology of Memory Storage: A Dialog Between Genes and Synapses. Bioscience Report, 21 (5), str. 565-611.
    • Kohl, U. (2023) The Right to be Forgotten in Data Protection Law and Two Western Cultures of Privacy. International and Comparative Law Quarterly, 72 (Julij 2023), str. 737–769. https://doi.org/10.1017/S0020589323000258
    • Liu, H., Wu, T., Canales, X-G, Wu, M., Choi, M-K, Duan, F., Calarco, J., in Zhang, Y. (2022) Forgeting generates a novel state that is reactivable. Science Advance, 8. eabl9071. https://www.science.org/doi/10.1126/sciadv.abi9071
    • Loeffler, A., Diaz-Alvarez, A., Zhu, R., Ganesh, N., Shine, J., Nakayama, T. in Kuncic, Z. (2023) Neuromorphic learning, working memory, and metaplasticity in nanowire networks. Science Advance, 9,(16), eadg3289. https://www.science.org/doi/10.1126/sciadv.adg3289
    • Mayer-Schönberger, V. (2009) Delete. The Virtue of Forgeting in the Digital Age. Princeton University Press.
    • McLuhan, M. (1964) Understanding Media: The Extension of Man. Routledge.
    • Pivec, F. (2004) Informacijska družba. Subkulturni azil.
    • Savič. D. (2023) Pozabljivost svetovnega spleta je izredno velika. Intervju: Jason Scott, Internet Archive. Monitor, 33 (2). str. 10–11 http://monitor.si/clanek/intervju-jason-scott-internet-archive/222349/
    • Schachter, D. (2001) How the Mind Forgets and Remembers. The Seven Sins of Memory. Houghton Miffin.
    • Wilson, M. (2002) Six views of embodied cognition. Psychonomic Bulletin and Review, 9 (4), str. 625–636.
    • Zuboff, S. (2020) The Age of Surveillance Capitalism: The Fight for Human Future of Power. PublicAffair.