Geest in de Machine

Costiaan Mesu

April 2003
Universiteit Utrecht

Inhoudsopgave

Inleiding.

1      Wat is Transhumanisme

2      Geest in de Machine

3      Self(x)

4      Reflecties

5      Conclusie.

Noten


Inleiding

Wat is het gevolg van een transhumanistische evolutie voor de menselijke identiteit?

Dit is de vraag die in deze nota centraal staat. Om deze vraag enigszins te kunnen beantwoorden zullen we eerst bekijken wat het transhumanisme in zijn meest extreme vorm inhoudt, vervolgens zullen we proberen of we deze evolutie filosofisch plausibel kunnen maken. Dit blijkt ons inderdaad te lukken, dus stellen we onszelf de vraag: wat voor gevolgen heeft dit voor de menselijke identiteit. Hierbij zal een model gebruikt worden dat deze abstracte materie op een concrete manier probeert te benaderen. Tenslotte zal ik mijn bedenkingen bij het transhumanisme vanuit de invalshoek identiteit bespreken.


1         Wat is Transhumanisme

De mens is een touw bevestigd tussen het dier en de supermens, een touw over een afgrond…wat groots is aan de mens is dat hij een brug is, geen doel….

: Friedrich Nietzsche (Also sprach Zarathustra)

In dit hoofdstuk zal ik proberen kort en krachtig te schetsen wat het transhumanisme nu precies inhoudt, deze kennis is noodzakelijk om goed te kunnen begrijpen wat de transhumanistische idealen voor gevolgen kunnen hebben op de identiteit. Deze weergave is zeker geen compleet dekkend overzicht van alle ideeën en theorieën die met het transhumanisme verbonden zijn. Ik zal slechts trachten de theorieën van de meest vooraanstaande transhumanisten samen te vatten en samen te voegen.

Transhumanisten zijn mensen die zichzelf en hun omgeving verder willen verbeteren, fysiek en mentaal. Transhumanisten willen de bestaande maatschappelijke en biologische grenzen niet accepteren en willen deze overschrijden door gebruik te maken van rationele methoden zoals techniek en wetenschap [1] .

Volgens de transhumanisten is de mens per definitie een transhumanist. Als sinds de ontdekking van het vuur en de stenen werktuigen, maakt hij gebruik van technische hulpmiddelen om het menselijk bestaan te verbeteren. De mens tracht als sinds het begin van de mensheid zijn omgeving in steeds grotere mate te controleren.

De term transhumanisme zal in deze nota echter enkel gebruikt worden voor mensen die bewust met dit proces bezig zijn en zich verenigd hebben in diverse organisaties die collectief deze transhumanistische doelen nastreven. Hieronder staan een aantal (vrij vertaalde) definities van transhumanisme die zich lenen voor het doel van deze nota:

Transhumanisme is dat wij ons kunnen en moeten verder ontwikkelen naar hogere niveaus op fysiek, mentaal en sociaal gebied door gebruik te maken van rationele methoden.

:Anders Sandberg

Transhumanisme is de toewijding aan de wens om de huidige menselijke grenzen in al zijn verschillende vormen te overschrijden inclusief het verlengen van de levensspanne, intelligentie verhoging, kennis vermeerdering, controle over persoonlijkheid en identiteit en het verkrijgen van de mogelijkheid om deze planeet te verlaten. Transhumanisten denken deze doelen te bereiken door gebruik te maken van rede, wetenschap en techniek.

: Natasha Vita More (voorheen bekend als Nancie Clark)

In de laatste definitie zien we al iets meer van de radicaliteit van het transhumanisme. Het verbeteren van de mens mag voor hen namelijk niet ophouden bij het aanzetten van een kunstarm of het installeren van een machinaal hart, maar dient uiteindelijk veel verder doorgevoerd te worden. Zoals Hans Moravec reeds opmerkte: "a genetically engineered superhuman would be just a second-rate kind of robot". Moravec is een robotica onderzoeker die de redding van de mens ziet in de machine. Robot’s zouden volgens hem onze Mind children moeten worden. De mens moet zich niet voort planten in nieuw mensen, maar in superieure robots [2] . In zijn boek Mind Children uit 1988 legt Moravec uit dat het op termijn heel goed mogelijk wordt om de menselijke geest te downloaden in een kunstmatig lichaam, dat de beperkingen van het organische lichaam niet meer bezit. Hij stelt zich een betrekkelijk simpele liposuctie-procedure voor waarbij een hersenchirurgierobot die uitgerust is met miljarden nanoscopisch kleine electrische en chemische sensoren laag voor laag de hersenen afschraapt en een computersimulatie maakt van alle fysische en chemische processen in het breinweefsel. Die wordt gekopieerd naar het mechanische brein van een robot. En als dat lukt wordt een oude droom werkelijkheid, en zijn we geslaagd in het kunstmatig genereren van intelligent leven. Voorwaarde is natuurlijk wel, dat de menselijke geest inderdaad begrepen kan worden als een soort immaterieel fluïdum, in termen van geformaliseerde, programmeerbare informatie - en dat menselijke intelligentie losgedacht kan worden van het lichaam en bijbehorende gevoelens en emoties, zodat niet langer belangrijk is of dat lichaam van organische of van silicoon-componenten is gemaakt [3] . De opvattingen van Moravec is zeer belangrijk het transhumanisme en voor het onderwerp van deze nota.

Subtieler, maar daarom zeker niet minder extreem, is Max More. Max More is directeur van het World Extropy Institute en waarschijnlijk de meest vooraanstaande transhumanist. Zijn Extropianism is een gedetailleerd uitgewerkte vorm van het transhumanisme. In zijn artikel ‘Extropian Principles 3.0’ [4] omschrijft More zijn filosofie als volgt:

Extropy:

the extent of a system’s intelligence, information, order, vitality and capacity for improvements.

Extropians:

those who seek to increase extropy

Extropianism:

the evolving transhumanist philosophy of extropy.

Het uiteindelijke doel dat Max More en de zijnen voor ogen hebben is de ubermensch van Nietzsche. Uitgangspunt hierbij is dat geest niet los te maken valt van de materie, maar dat de materie van de huidige mens te veel beperkingen kent om deze staat te kunnen bereiken, daarom zullen wij onze fysiek ingrijpend moeten wijzigen, hiermee zullen wij ook onze geest verder kunnen verbeteren. De beoogde ubermensch is geen stabiele toestand, maar een dynamische entiteit, wij zullen ons daarom continue moeten blijven verbeteren. Dit betekent dat we op den duur op zullen houden mens te zijn, we zijn dan verworden in een soort posthumaan levensvorm. Transhumanisten zijn hier niet bang voor, integendeel dit is voor hen juist het doel. In zijn meest extreme vorm zal dit er, gezien vanuit ons beperkte gezichtspunt, op neer komen dat het menselijk leven vervat is een soort super-mainframe, waarin wij als een collectief, virtueel, voortleven en waarin wij op den duur de aarde zullen verlaten omdat we hier alles geleerd hebben wat er te leren valt. De mens zal zijn zoektocht naar continue verbetering dan voort zetten in de ruimte.


2         Geest in de Machine

Living and unliving things are exchanging properties…

:Philip K. Dick (A Scanner Darkly)

Transhumanisten geloven dat het brein de zetel van het bewustzijn en de persoonlijkheid is. Het brein is gemaakt uit miljarden machines (neuronen, synapsen, hormonale systemen, neurotransmitters, etc.) Zowel het lichaam als de hersenen bestaan uit de meest simpele mechanische onderdelen: atomen. Uiteindelijk zijn we allemaal niets meer dan quarks in beweging [5] .

Deze filosofie van het transhumanisme roept veel weerstand op. Deze weerstand komt logischerwijs vooral van denkstromingen en individuen, die geloven dat het leven niet geconstitueerd is in het fysieke, maar in een ondefinieerbare levenskracht.  Voorbeelden van deze denkwijze zijn het vitalisme en het dualisme van Descartes. Het dualisme van Descartes impliceert een scheiding van lichaam en geest. De geest is iets wat totaal onafhankelijk in het lichaam huist. Tegenstanders van het transhumanisme gebruiken deze argumentatie om aan te tonen dat leven niet kunstmatig vervaardigd kan worden.

Deze dualistische denkwijze staat dus lijnrecht tegenover die van het transhumanisme. Naarmate de wetenschap vordert komen er steeds meer bewijzen van het standpunt van de transhumanisme en blijft de bewijslast van het dualisme per definitie op nul omdat de geest zich niet fysiek manifesteert en dus ook niet waargenomen kan worden. Transhumanisten achten het dualistische standpunt dan ook onhoudbaar. Toch kunnen we vanuit dit standpunt nog behoorlijk ver het transhumanisme in redeneren. Ik zal dit beknopt uitleggen op een manier vergelijkbaar met die van Max More in zijn artikel Beyond the Machine uit 1997 [6] .

Stel: de menselijke geest is een zelfstandige identiteit. Tijdens ons leven wordt elke cel in ons lichaam minstens een keer vervangen. Ook is het niet ondenkbaar dat elke atoom in ons lichaam kunstmatig  stuk voor stuk vervangen zou kunnen worden (waarbij ik de technologische mogelijkheid hiertoe als een hypothetische vooronderstelling neem). Dit zou gewoon kunnen en dan zou de geest gewoon kunnen blijven zitten waar hij zit, zelfs als het gehele lichaam stap voor stap vervangen zou worden. Sommige van die atomen zou ik kunnen vervangen door andersoortige atomen. Ook zou ik manipulaties kunnen maken in de structuur van deze atomen om bijvoorbeeld een haar langer te maken of een vetmassa te verkleinen. Dit zal geen enkele invloed uitoefenen op de menselijk geest. Op grotere schaal zou dit inhouden dat ik ook delen van het lichaam zou kunnen vervangen of veranderen. Op een relatief primitieve manier gebeurt dit momenteel al. Denk maar aan kunstmatige ledematen, kunstheupen, pacemakers, borstvergrotingen, neusverkleiningen etc. Ondertussen huist de geest nog steeds onaangetast in het lichaam.

Als de technologie ver genoeg gevorderd is kunnen we de menselijke onderdelen vervangen door technisch vervaardigde onderdelen. Dit lijkt nu wellicht wat onwaarschijnlijk, maar we moeten hierbij in gedachten houden dat de atomen waaruit wij bestaan ook maar gewoon eenvoudige mechanismen zijn. Mensen zijn geen machines, maar ze bestaan wel uit een complex systeem van mechanismen. Als dit systeem maar complex genoeg is ontstaan er vanzelf nieuwe eigenschappen die wij beschouwen als organisch. Tegen de tijd dat we deze kunnen doorgronden kunnen we ze ook nabouwen of vervangen. We zouden dus menselijke delen kunnen vervangen door technologisch vervaardigde onderdelen. De vraag is waar houdt dit op? Kunnen we een arm vervangen? Een hart? Een long? We kunnen hier geen eenduidige grens trekken. Het is dus niet raar om te stellen dat we alles kunnen vervangen, inclusief de menselijke hersenen. Ondertussen bevindt de geest zich nog steeds in het lichaam. De transhumanistische evolutie bevind zich dan al in een ver gevorderd stadium zonder zich beperkingen op te laten leggen door het dualistische uitgangspunt dat in eerste instantie toch al onhoudbaar was.

Zonder de beperkingen van het cartesiaans dualisme of het vitalisme, dus puur uitgaande van een fysieke origine van het leven zou het nu nog een kleine stap zijn naar het combineren van de verschillende kunstmatig vervaardigde lichamen naar één lichaam. Maar ook vanuit het dualisme geredeneerd zouden we kunnen gaan bedenken wat er gebeurt op het moment dat we deze kunstmatige lichamen vanaf de tenen naar boven werkend langzaam aan elkaar gaan bevestigen. Met een analoge redering aan de vorige komen we uiteindelijk bij de hersenen uit. En ook die zouden we aan elkaar kunnen bevestigen. We krijgen dan op den duur één lichaam met twee geesten en nog steeds hebben we geen enkel probleem met het dualisme.

Als we nu (eindelijk) het idee van het dualisme loslaten zijn de mogelijkheden nog veel diverser. We zouden dan in staat moeten zijn verschillende persoonlijkheden te mergen tot één persoonlijkheid, of de persoonlijkheid op een fysiek manier te transformeren. Een ander karakter wordt dan een kwestie van het inbouwen van de juiste uitbreidingset of het toedienen van vloeistoffen.

Dit gedachte-experiment maakt mijn inziens duidelijk dat een posthumane levensvorm filosofisch gezien zeker mogelijk is. Ook qua biotechnologie en nanotechnologie zie ik geen beletsel voor de realisatie van deze mogelijkheden in de (hele) verre toekomst. Alhoewel we ons af moeten vragen hoe ver die toekomst nog verwijderd is aangezien men claimt reeds in 2023 de capaciteit van de menselijke hersenen met een computer te kunnen evenaren en de rekenkracht van het totale menselijke ras moet voor slechts $0,01 beschikbaar zijn in 2059 [7] .  Dan is het wachten op de nanotechnologie totdat elk onderdeel van het menselijk lichaam in kaart gebracht kan worden.


3         Self(x)

In tegenstelling tot de aanname van Descartes dat het zelf, onze identiteit, onveranderlijk is, is het tegenwoordig gebruikelijker om de identiteit als een dynamisch iets te zien. Ik zal dit verduidelijken door middel van een model van Anders Sandberg [8] . In dit model wordt het self (de identiteit) beschouwt als een functie in  de tijd. Hij onderscheid twee soorten abstracte ruimten: de identity space waarin onze identiteit gehuisvest is en de state space, waarin de staat van het lichaam en al haar functies opgenomen is (inclusief de hersenen). De identity space bevindt zich in de state space, identiteit is het een gevolg van de staat van de fysieke functies. We gaven al eerder aan dat dit nu eenmaal een noodzakelijke voorwaarde voor het transhumanisme is. Deze self() functie kan voor elk systeem (mens) gebasseerd zijn op een ander fysiek beginsel, bijvoorbeeld gedachten, acties, memen, het lichaam. Voor onze redenering maakt het niet uit waar je deze aan verbind.

De manier waarop een individu X tegen zichzelf aan kijkt is dus gelijk aan de self functie van x waarbij x de state space is.

self(x, x)

Persoon x ziet zichzelf als gevolg van de self functie toegepast op de state space x. Deze is echter ook nog eens afhankelijk van de tijd (t), we dragen immers een heel verleden (en een toekomst) van state spaces met ons mee. De functie wordt dan:

self(x(t), x(t))

Veel mensen denken dat self(x, x) nooit verandert. Dit heeft waarschijnlijk te maken met het feit dat self(x, x) heel langzaam veranderd en dat het vanzelfsprekend lijkt om het zelf als een onveranderlijk iets te beschouwen. Wat dit laatste betreft zou ik willen zeggen: bekijk maar eens een foto van jezelf als zesjarige en probeer je daarmee te identificeren. Dit is moeilijk omdat de afstand tussen de twee tijdstippen self(x(6 jaar), x(nu)) eenvoudigweg te groot is.

Nu we dit op een rijtje hebben kunnen we de theorie meer toespitsen op de transhumanistische problematiek. Self(x(t), x(t)) is mijn gevoel van identiteit. Door ervaring wijzer geworden weten we dat we ons kunnen identificeren met een instantie van ons zelf van een tijd terug. Hiervoor introduceren we een nieuwe variabele d, deze staat voor de afstand in de tijd tot de tijd t. De verhouding tot het zelf ander moment in de tijd wordt dan:

| self(x(t), x(t)) - self(x(t-d), x(t-d)) |

Binnen de perken gehouden zal het doorgaans lijken alsof d gelijk is aan 0, oftwel zal het lijken alsof er niets veranderd is, maar over een langere tijdspannen zal er op een niet nader defineerbaar punt een omslag plaats vinden in het besef van identiteit en zal de afstand d te groot zijn om self(x(t), x(t)) te vereenzelvigen met de historische instantie self(x(t-d), x(t-d)). De afstand d overschrijd dan een kritische limiet. Dit werd reeds besproken in de paper “Drifting identities” van Alexander Chislenko [9] . Goede voorbeeld van dergelijke kritische limieten zijn dood en geboorte. Het is voor ons onmogelijk onszelf te identificeren met een zelf in deze toestanden.

Een overschrijding van deze kritische limiet waar waar wij eigenlijk continue aan onderhevig zijn is het death forward proces. Dit houdt eigenlijk in dat we met de tijd zo veranderd zijn dat we een historische instantie van self() niet meer accepteren als het self(x(t), x(t)). Een oudere identiteit sterft dan af, of subtieler gezegd komt in een permanente slaaptoestand terecht. Doorgaans merken we niets van het death forward proces omdat (t) een continue tijdlijn is waar onze identiteit langzaam overheen schuift. Er zijn dus geen onderbrekingen aan te wijzen waarin een death forward plaats vind. We worden ons hier pas van bewust als we twee momenten (t) die ver van elkaar af liggen met elkaar gaan vergelijken.

Uploading van iemands identiteit is slechts mogelijk als die iemand de inhoud van zijn brein als zichzelf beschouwt zonder te veel gehecht te zijn aan de rest van de fysieke verschijning. Destructive uploading kent dan verder geen probleem voor de identiteit omdat de oude identiteit gewist wordt. Het is dan bijvoorbeeld ook best mogelijk om een self(x(t), x(t)) van enige tijd terug te gebruiken, aangezien deze zich niet bewust is van identiteiten in de toekomst. Als er echter sprake is van non-destructive uploading (kopiëren) zal dit een heel ander verhaal worden. De resultaat identiteiten voor het gemaak self(y) en self(z) genoemd zullen zich geruime tijd kunnen identificeren met self(x) totdat ze een kritische limiet in de afstand d overschrijden en zich niet meet met self(x) en dus ook niet met elkaar kunnen identificeren.

Arthur Schopenhauer, inspirator van Nietzsche die als belangrijkste filosoof voor het transhumanisme geld, zei reeds dat het ongeluk in het leven voortkomt uit het feit dat wij individuen zijn. Het feit dat wij verschillende identiteiten bezitten zal er altijd toe leiden dat wij elkaar in de weg zitten. Dit is heel simpel te illustreren aan de hand van voorbeelden zoals: “waar jij zit kan ik niet zitten”, “De hap eten die jij eet kan ik niet eten” of “als ik de baas over iets ben kun jij dat niet zijn”. Om de doelstellingen van het transhumanisme te kunnen bewerkstelligen zal er dus ook een bepaalde mate van merging plaats moeten vinden. Verschillende identiteiten zullen moeten samensmelten tot één consensus identiteit. In formule

self(x) + self(y) = self (z)

De afstand van z tot x en y zal groot zijn. En self(x) en self(y) zullen self(z) dan ook niet als een instantie van zichzelf erkennen.

dist(x, z) = dist(y, z) = dist (x, y)/ 2 

Voor self(z) is dit echter geen enkel probleem zowel self(x) als self(y) tot aan het moment van merger zijn volledig vertegenwoordig in self(z). Opheffing van self(x) en self(y) zal dus leiden tot een voortbestaan van deze twee in de gezamenlijke identiteit self(z).

Dit hele verhaal omtrent identiteiten leidt dus tot de conclusie dat het wellicht niet onmogelijk is om identiteiten te combineren in een collectieve ubermensch. Natuurlijk is het een wat schetsmatige theorie waar in zijn geheel geen rekening is gehouden met de biologische of technologische mogelijkheden, maar dit model geeft zeker te denken.


4         Reflecties

Uit voorgaande argumentatie zal het zo langzamerhand wel lijken alsof ik een groot voorstander van de transhumanistische idealen ben. En als ik dit zelf na lees, of de artikelen waar ik mij in verdiept heb opnieuw voor de geest haal lijkt een en ander zeer logisch en onontkombaar. Toch ben ik geen transhumanist en kan ik me niet vinden in hun idealen. Telkens als ik een transhumanistisch artikel lees laat ik met meeslepen door het enthousiasme en de logica van de redenering en toch blijft er continue iets aan me knagen, het zit me zogezegd niet lekker. Hoe komt dat toch?

Ten eerste wil ik even opmerken dat het opheffen van een identiteit me nogal dwars zit. Op het moment dat na een merger identiteit self(z) ontstaat zullen self(x) en self(y) direct opgeven moeten worden. Doel is immers al deze identiteiten terug te brengen tot één enkele identiteit. Het opheffen van een identiteit wordt in onze huidige samenleving aangeduid als moord. Het is ethisch onjuist om een (menselijke) levensvorm te beindigen. Het feit dat er een kopie blijft voort leven lijkt mij hier geen excuus voor.

Het feit dat alle identiteiten terug gebracht worden tot één enkele identiteit zal leiden tot een ander probleem. Descartes merkte reeds op dat de enige reden dat we onze eigen identiteit kunnen erkennen is dat we deze kunnen onderscheiden van de andere identiteiten [10] . Wat mij betreft is dit aspect van Descartes filosofie nog ongewijzigd. Andere identiteiten zijn constituerend voor de eigen identiteit. Op het moment dat er geen andere identiteiten meer zijn houdt de eigen identiteit dus ook op te bestaan.

Bij uploading van de geest van een menselijk lichaam naar een kunstmatig lichaam zal dit voor de mensen die de menselijke geest als constituerend voor de identiteit beschouwen geen enkel probleem zijn. Ik vraag mij echter af of er überhaupt mensen zijn die enkel hun geest als zichzelf beschouwen. Volgens mij is het onmogelijk dit los te zien. Voor deze mensen is de verandering van lichaam dus wel heel groot. Ik denk zelfs te groot. dist(x(t), x(t+1)) zal altijd te groot zijn. Uploading moet immers van het ene op het andere moment gebeuren anders zullen de identiteiten te ver uit elkaar lopen. De menselijke geest zal niet in staat zijn het nieuwe lichaam met zichzelf te identificeren, er zal dus een onmiddellijke death forward van alle voorgaande identiteiten plaats vinden. Iets wat zal leiden tot een nieuwe blanco identiteit, oftewel een totaal lege programmacode zich uitend in een niet werkende machine. Misschien is het mogelijk een machine te ontwikkelen in de richting van een willekeurig levend wezen, maar de gedachte dat ik als specifiek mens, voort kan

leven in een machine is wat mij betreft een illusie.

Concluderend kan ik zeggen dat ik denk dat uploading in een computer, in een poging die noodzakelijke collectieve geest te creëren, altijd zal leiden tot de dood van de identiteit die aan de wieg stond van de gezamenlijke geest en zelfs tot het opheffen van het begrip identiteit op zich. Ik denk dat niemand bereid is zichzelf voor dit superwezen op te offeren en al helemaal de transhumanisten niet, aangezien Max More in zijn artikel ‘Technological self-transformation’ uit 1993 schrijft:

Extropic life can thus never manifest self-sacrifice or worship of superior beings.

Hiermee maakt transhumanisme zichzelf dus onmogelijk.


5         Conclusie

Het transhumanisme is zeer overtuigend over de mogelijkheden die zij in de toekomst voorzien. Persoonlijk vind ik deze mogelijkheden ook zeer plausibele en geloof ik wel dat het ooit mogelijk wordt om een mens op een kunstmatige manier exact na te bouwen.  Aan de modificatie van de mens zijn wat mij betreft al meer bezwaren verbonden. Technisch zal dit mogelijk zijn, maar ik denk niet dat de menselijk geest, ons bewustzijn, dit aan zal kunnen. Hierin zit wat mij betreft een beperking van de mogelijkheden. Naast de technische mogelijkheid bestaat er nog een andere factor die meespeelt: de wenselijkheid van deze evolutie. Ik zet grote vraagtekens bij de vooronderstelling van de transhumanisten dat mensen niets liever willen dan de evolutie versnellen en zo snel mogelijk posthumaan te worden, met het verlies van enkele typisch menselijke eigenschappen als gevolg: willen wij onze emoties wel sturen? Is het wel zo gewenst dat iedereen volledige controle heeft over zijn uiterlijk? Zijn wij bereid onze persoonlijke identiteit ten gunste van een collectief opperwezen? Dit zijn allemaal vragen die volgens mij ten nadele van de transhumanisten beantwoord zullen worden. Transhumanisme is het verbeteren van de mens. Om de mens te kunnen verbeteren is het noodzakelijk de eigen identiteit op te offeren. Je zelf op te offeren te bate van het opperwezen. Eén van de uitgangspunten van transhumanisme is dat zelfopoffering en verering van een superieur wezen niet juist zijn. Hiermee maakt transhumanisme zichzelf onmogelijk


Noten

[1] Wat is transhumanisme, http://www.transcedo.org (31/03/2003)

[2] Moravec, H., Mind Children, Harvard University Press, 1988

[3] Pott, H., Survival in het mensenpark: over kunst, cyborgs en posthumanisme

[4] More, M., Extropian Principles 3.0, http://www.extropy.com/ideas/principles.html  (31/03/2003)

[5] More, M., Beyond the Machine, http://www.maxmore.com/machine.htm (31/03/2003)

[6] More, M., Beyond the Machine, http://www.maxmore.com/machine.htm (31/03/2003)

[7] More, M en Kurzweil, R., Max More and Ray Kurzweil on the Singularity, http://www.kurzweilai.net/articles/art0408.html?m=1 (31/03/2003)

[8] Sandberg, A., The calculus of identity, www.aleph.se/trans/cultural/philosophy/identity.html (31/03/2003)

[9] Chislenko, A., Drifting identities, http://www.lucifer.com/~sasha/articles/Identity.txt (31/03/2003)

[10] Frissen, V. en Mul, J. de, Under construction: persoonlijke en culturele identiteit in het multimediatijdperk (Amsterdam, 2000) 12