GNR Technologie

Inhoudsopgave

Voorblad……………………………………………………………………………………...………...1
Inhoudsopgave………………………………………………………………………………………...2
Inleiding…………………………………………………………………………………………...……3
GNR technologie………………………………………………………………………….…………..4
Bill Joy………………………………………………………………………………..………..……….4
Nick Bostrom………………………………………………………………………………..…………7
Raymond Kurzweil…………………………………………………………………………………….9
K. Eric Drexler………………………………………………………………………………...……….9
Conclusie…………………………………………………………………………………..…………..9
Referenties……………………………………………………………………………………………10

Inleiding

Laten we eerst stellen dat computer wetenschappers tegenwoordig er in kunnen slagen om intelligente machines te maken die alles beter kunnen dan dat mensen die dingen kunnen. Als die ontwikkeling zo blijft doorgaan, kan er worden vastgesteld dat het werk in de toekomst zal worden uitgevoerd door grote, complexe systemen (en machines) en dat wij, de mensen, niet meer nodig zullen zijn in het helpen uitvoeren. Dan heb je te maken met 2 mogelijke gevallen. Óf machines nemen alle beslissingen zelf óf mensen houden een controle functie over de machines en helpen daarom mee met beslissingen.

Als machines de autoriteit hebben om zelf beslissingen te maken, kunnen we de resultaten niet betwisten omdat wij zelf geen idee hebben hoe dit tot stand is gekomen. Ons lot ligt in de hand van machines en systemen, alhoewel wij dat zelf hebben weggegeven. Waarom zouden wij vrijwillig onze macht overdragen aan machines? Dat komt omdat wij onszelf in die positie manoeuvreren dat we afhankelijk worden van machines en uiteindelijk hun resultaten simpelweg aanvaarden. De maatschappij en haar problemen worden complexer en sinds wij meer vertrouwen op machines dan op ‘mens gemaakte’ oplossingen, zal er uiteindelijk een fase komen waarin wij helemaal niks meer zelf doen. Dan hebben de machines de controle (over ons) overgenomen. Wij kunnen dan niet meer zonder machines; dit zou leiden tot een dystopie.

Aan de andere kant kunnen wij de controle functie zelf behouden. Klein, privé machines en systemen zullen worden beheerd door de gemiddelde mens, maar complexe systemen zullen in de handen blijven van de elite – rijken en wetenschappers. De massa van de samenleving is eigenlijk niet meer nodig omdat de systemen en machines alles doen en sinds die in de handen zijn van de elite zal die massa dus een belasting zijn voor onze samenleving. Dan volgen er 2 scenario’s: ten eerste zal de massa meedogenloos worden uitgeroeid of meer humaan met propaganda en biologische technieken verdwijnen. Die technieken worden immers beheerd door de elite. Ten tweede laten ze ons leven maar houden ze ons voor de domme. We zullen een goed, maar doelloos leven hebben. Gemanipuleerd door de elite.

Om een brug te slaan met huidige, opkomende technieken zoals genetica, nanotechnologie en robots, als deze in een dusdanige ontwikkelde staat zijn, hoe ziet ons leven en de samenleving eruit? In dit essay zal eerst worden uitgelegd aan de hand van een artikel van Bill Joy wat deze technologieën precies zijn. Dit zal ook de leidraad in het verhaal zijn. Vervolgens worden verschillende auteurs, zoals Bostrom en Kurzweil, behandeld van wie de eigen kijk en mening op GNR uit verschillend publicaties wordt gehaald. In de conclusie zal mijn eigen standpunt aan bod komen aan de hand van de argumenten van de behandelde auteurs.

De vraagstelling die aan het einde van dit essay beantwoord zal worden luidt: “Met de huidige ontwikkelingen op GNR gebied, openen we hiermee Pandora’s doos van angsten?”

GNR technologie

Bill Joy maakt zich zorgen over de ontwikkeling van ‘genetics, nanotechnologies and robotics (GNR)’.
Dit essay zal dan ook gaan over de algemene toekomst van GNR en behandelt niet zozeer de geavanceerde technologie zelf. De ontwikkeling van nucleaire, biologische en chemische technologieën (NBC) volgen een ander pad van ontwikkeling. Om wat verschillen te noemen:

- NBC wordt ontwikkeld door overheden, GNR wordt ook ontwikkeld op ‘de vrije markt’
- Zeldzame grondstoffen en grote faciliteiten zijn nodig voor NBC, kennis is dé drijfveer voor GNR
- GNR is toegankelijker voor individuen en kleine groeperingen, met alle gevolgen van dien
Genetica heeft ook zo zijn voor- en nadelen. Grotere oogsten en minder gebruik van pesticides is er een. Nieuwe bacterie, planten, virussen en dieren kunnen worden ontwikkeld is een tweede. Als laatste worden nieuwe geneesmiddelen genoemd. Een nadeel ligt in het tweede voordeel; het creëren van een virus wat selectief mensen kan doden (White plague).

Nanotechnologie, productie dat niet zichtbaar is voor het menselijk oog. In de toekomst worden goedkope productie en oplossingen voor ziektes en lichamelijke aandoeningen verwacht. Een mooi scenario. Een nadeel kan zijn dat ontwikkelde materie superieur wordt aan de natuurlijke materie. Dit tast dan de biosfeer aan (Gray goo problem).
Als laatste dan de R van robots. Robots kunnen ons werk uit handen nemen, waardoor wij meer vrije tijd hebben en ‘kunnen terugkeren naar het Hof van Eden’. Creatie van onsterfelijke lichamen waarin we ons bewustzijn dan kunnen downloaden. Dit zijn genoemde, positieve scenario’s. Als negatief geldt dat we controle over machines verliezen omdat we zo afhankelijk van ze zijn geworden. Een gevolg is dat alleen nog een bepaalde elite overblijft.
Bill Joy

In het artikel “Why the future doesn’t need us” benadrukt Joy de mogelijke dreiging van GNR technologieën waar mee (als mensheid) mee te maken kunnen krijgen in de toekomst. Gedurende het artikel, legt Joy uit dat GNR anders behandeld moeten worden omdat deze iets kunnen creëren dat aan zelf replicatie kan doen. Hij zegt dat, vanwege dit vermogen, eventuele producten die voortvloeien uit GNR mogelijk uit de hand lopen (de controle verdwijnt) en het voorbestaan van de mensheid bedreigen. Daarom stelt Joy voor dat mensen hun onderzoek naar deze technologieën moeten matigen of helemaal afschaffen om een eventuele catastrofe te voorkomen.

Joy heeft het gevoel dat robots met bewustzijn pure science fiction is, totdat het hem tegendeel door een collega bewezen wordt. Ze kunnen op korte termijn werkelijkheid worden. Genetica en nanotechnologie als nieuwe hulpmiddelen in de wereld waren bekend, maar intelligente robots noemt hij meteen al een realistisch en dreigend scenario. In het artikel hanteert Joy een gemakkelijke stijl. Het is geschreven als een soort verhaal en makkelijk te begrijpen voor niet academici. Hij probeert mensen van zijn standpunt te overtuigen, alhoewel hij zelf ook wel het gevoel heeft dat de meerderheid het niet met hem eens zal zijn. Dat laat hij merken door verschillende passages van andere bekende mensen te revue te laten passeren. Hij begint hiermee door te vertellen over Theodore Kaczynski, de ‘Unabomber’. Deze man is bekend om zijn terroristische acties en tegenstand tegen technologie. Hij noemt deze man een Luddite, iemand die nieuwe technologie verafschuwt en voor een dystopie vreest. Een dystopie is een samenleving waarin chaos de boventoon voert. Het tegenovergestelde dus van een utopie. Daarna vertelt hij nog over andere, eigentijdse leiders in technologie zoals Moravec. Door goedgekozen passages en zijn eigen reputatie op technologisch gebied, presenteert Joy zijn visie op het einde van de mensheid. Dit is een echt en reëel scenario wat kan gebeuren door GNR technologieën waar andere denkers ook mee bezig zijn. Joy’s hele artikel waarborgt het idee dat alles fout zal gaan wát fout kan gaan en in het slechtste geval altijd optreed als mensen niet hard genoeg dit proberen te voorkomen. Hij neemt deze veronderstelling als een feit en probeert dit niet te rechtvaardigen. Het is belangrijk dat Joy daarom steeds naar andere mensen verwijst want anders kan het artikel misschien in twijfel worden getrokken door een te grote verbeelding.
Ons overmatig gebruik van antibiotica heeft al geleid tot problemen; resistentie van bacteriën. De oorzaak lijkt duidelijk zegt Joy: betrokken systemen zijn vaak een complexe aard, met interactie en terugkoppeling tussen onderdelen. Een wijzing hierin zal de afloop moeilijk voorspellen, vooral als dit een menselijke handeling is. Om dit enigszins te weerleggen wordt een vriend van Joy geciteerd die zegt: “Veranderingen komen geleidelijk aan en we zullen er aan wennen. Als ik in de toekomst 200 jaar oud kan worden door technologie, dan zou ik het overwegen”. Het is dus een proces wat Joy vreest en dat is te merken in het artikel.
Na deze mening probeert de auteur zijn argumentatie uit te bouwen. Dat doet hij door GNR technologieën te vergelijken met NBC technologieën (nucleair, biological, chemical). In het bijzonder noemt hij het Manhattan Project; de ontwikkeling van de atoombom door de VS en het tweemaal gooien daarvan op Japan. Daarna gaat Joy verder met de ontwikkeling van nucleaire wapens en wapenwedloop tussen de VS en Sovjet Unie die bijna het einde van onze wereld had betekend. Joy beargumenteert dat GNR technologie, met het vermogen van zelf replicatie en de toepassing buiten militaire doeleinden om, onmogelijk zou zijn om te stoppen als deze beginnen af te dwalen, net zoals een militaire technologie zoals nucleaire wapens de mensheid in gevaar brachten (en nog steeds brengen). Doordat we gewend zijn aan wetenschappelijke doorbraken, vergeten we soms dat ze een grotere bedreiging kunnen vormen dan we voor mogelijk hielden. Robots, gemanipuleerde organismen en nanobots hebben een gevaarlijke factor: ze kunnen zichzelf repliceren. Een bom ontploft maar één keer zegt Joy, maar fouten in GNR kunnen zich blijven opstapelen.

Om een GNR catastrofe te voorkomen, zegt Joy dat de wereld deze techniek misschien wel voorbij moet laten gaan of een heel strikt regime moet opstellen rond dit wetenschappelijk terrein, net zoals bij biologische wapens. Van GNR technologieën is het nog niet eens zeker of de mensheid kunnen bedreigen of niet, maar Joy neemt aan van wel. Hij houdt er dan ook geen rekening mee dat de samenleving zich hier misschien wel aan aanpast en leert te leven met GNR technologieën, net zoals dat gebeurd is door de eeuwen heen met andere toepassingen. Zo komt de auteur dus makkelijk tot een standpunt, waardoor de argumentatie wat aan de magere kant is.

Toch hebben GNR ook ongekende beloftes. Samen kunnen zij onze levensduur en kwaliteit van het leven verbeteren. Maar deze kleine stapjes vooruit noemt Joy een opeenstapeling van een groot gevaar. Wat is er anders aan GNR dan aan NBC? De NBC technologieën waren krachtig en de wapens een enorme bedreiging. De bouw van deze nucleaire wapens vergt echter schaarse grondstoffen (plutonium en uranium) en sterk beschermde informatie. De nieuwe GNR technologieën zijn zo nieuw en krachtig dat er nieuwe gevallen van misbruik en ongevallen kunnen optreden. Ze zijn in het bereik van individuen en kleine groeperingen, waar NBC vooral een ontwikkeling van de overheid is. NBC vergt geen grote installaties of zeldzame grondstoffen, kennis alleen zou je in staat stellen het te (mis)gebruiken. Joy noemt dit een nieuw kwaad voor extreme individuen zoals de hierboven genoemde Kaczynski.

Joy noemt zichzelf een Luddite, omdat hij wel gelooft dat wetenschap naar de waarheid zoekt en probeert om vooruitgang te realiseren. Hij noemt echter dat we er niet in slagen om de gevolgen van al onze vindingen te begrijpen, omdat we alleen maar bezig zijn met de ontdekking en innovatie op zich. Dit is niet alleen de schuld van wetenschapper en technologen, maar van elk mens. Het is de aard van nieuwsgierigheid van het beestje. De ongekende kracht van GNR, de mogelijkheid om de wereld te herscheppen, is gevaarlijk. We moeten ons afvragen hoe we hiermee kunnen gaan leven. Moeten we dan wel doorgaan met onderzoek als dit in de toekomst de nieuwe technologie te veel van ons verlangt.
Om nog even de GNR te behandelen, noemt Joy wat positieve kanten, maar doet dat wel gematigd.
Robots (en andere intelligente machines) kunnen ons werk uit handen nemen, waardoor we meer vrije tijd hebben en kunnen zoeken naar het ware doel van het leven. Een gevoel dat we leven in het Hof van Eden. Maar als we zelf in de toekomst halve robots (cyborgs) worden, zijn we dan nog wel mensen? Genetica zorgt in eerste instantie voor mooie oogsten in de landbouw, de creatie van goede bacteriën en virussen, het gebruik van nieuwe medicijnen en nog meer. Maar als we onszelf in de toekomst gaan ‘re-engineeren’ middels genetica, in hoeverre zijn we dan nog wel gelijk? Nanotechnologie levert ons manipulatie op atoom level op. Goedkope productie, het verdwijnen toekomstige aandoeningen en ziektes zijn zeker positief. Nanotechnologie is ook zeker onvermijdelijk in de vooruitgang van 21e eeuw. Maar net als met nucleaire technologie, het is gemakkelijker om destructieve dan om constructie doeleinden na te jagen. En als ontwikkelde materie superieur is aan materie zoals wij die kennen hier op de aarde, wat gebeurt er dan? Dit is bekend als het ‘Grey goo’ probleem.
Tot slot, het artikel levert dus een knap staaltje werk bij de presentatie van een reeks boeiende voorbeelden die te maken heeft emoties, zoals de menselijke angst voor het onbekende, en de toekomst. Echter, vanwege het ontberen van harde bewijzen, het noemen van vele doemscenario’s en het onbesproken laten van de huidige stand van zaken (van GNR technologieën), lijkt het moeilijk om een lezer de mening van de auteur te delen. Het artikel is erin geslaagd om het onderwerp op een interessante en leuke manier te delen, maar het ontbreekt aan overtuigingskracht.

Nick Bostrom

Voor Nick Bostrom is per GNR onderwerp een artikel gekozen en hieruit zijn stukken samengevat waarin Bostrom dat onderwerp behandelt. Nick Bostrom is positiever ten opzichte van GNR technologie dan Joy zal blijken.

Genetica
Voor Genetica is gebruik gemaakt van ‘Human genetic enhancements: a transhumanist perspective’ uit 2003.
De ‘enhancement’ opties gaan over de kwaliteitsverbetering van het leven, het bestrijden van ziektes en de vergroting van intellectuele, fysieke en emotionele capaciteiten van de mens. Zoals wij nu als mensen zijn, hoeft niet het eindstation te zijn. Transhumanisten, zoals Bostrom, hopen dat via wetenschap en technologie (middels rationeel gebruik) we ‘posthumans’ kunnen worden, met meer capaciteit dan de huidige mens. Er zijn zelfs al individuen die dat proberen te verwezenlijken.

Een uitzondering in dit verhaal is genetische manipulatie. Zo maar iets aanpassen in dat natuur is volgens transhumanisten het verkeerde gedachtegoed. Er wordt benadrukt dat de negatieve aspecten goed moeten worden afgewogen tegen de eventuele opbrengsten. Het verbeteren van mensen middels genetica is volgens Bostrom niet slecht, zolang het niet uit de hand loopt en we een ‘designer baby’ willen hebben. De ethiek die daar bij komt kijken is te groot. Als voorbeeld noemt Bostrom lange mannen in het westerse samenlevingen. Lang zijn is een voordeel. Ze verdienen beter, hebben sociale invloed en zien aantrekkelijker uit. Als ouders hun kinderen dan allemaal lang willen laten worden. Maar als iedereen lang is, heeft de samenleving er niets aan en is al het uitgegeven geld dus weggegooid.

Genetica leidt misschien tot betere behandeling van mensen met beperkingen, opdat hun leven kan worden verbetert. Je kunt stellen de genetica het potentieel heeft om onnodig lijden uit de weg te ruimen. Iedereen die probeert om genetica te verbieden, moeten in ogenschouw dat elke dag van misgelopen onderzoek mensen op de wereld niet verder helpt.

Het is beter om gezondheid als uitgangspunt te nemen. Als we allemaal gezonder zijn, zijn we persoonlijk beter af, maar ook de mensen om ons heen, omdat wij hen met een verkleinde kans aan ziektes kunnen helpen. Plus, als je gezonder bent, levert dat de samenleving meer op omdat je minder afhankelijk bent van zorginstellingen.

Bostrom vindt: “ Leg nadruk op wijzingen die, in aanvulling op het bevorderen van het welzijn van mensen, meer mogelijkheden open laten dan ze af te schrijven. Langere levensduur, beter geheugen en grotere intellectuele capaciteiten zijn voorbeelden voor verbeteringen. Ze zijn kandidaten om mee te beginnen”.

Nanotechnologie
Voor nanotechnologie is gebruik gemaakt van ‘Technological revolutions: ethics and policy in the dark’ uit 2006.

Nano-technologie levert ons, met controle tijdens het proces, tal van dingen op. De risico's van geavanceerde nanotechnologie zijn groot. Vermindering van deze risico's zal een periode van serieus onderzoek vergen. Dit onderzoek begint nadat meerdere sectoren van de samenleving het een en ander weten van nano. Dus de samenleving zal alleen nanotechnologie serieus nemen als het onderzoek serieus is. Hoe eerder een onderzoek dus begint, hoe meer we controle hebben in dit proces.
Ook al zou een onderzoek uitwijzen dat een nanotechnische revolutie slecht zou zijn voor de mensheid, dan is er nog steeds niet iets wat dat tegenhoudt. Ook al zou een overheid de geldkraan dichtdoen voor onderzoek naar nanotechnologie, dan gaat het onderzoek nog steeds door, vanwege private investeerders. Als een nieuwe technologie haalbaar is, dan zal dat het daglicht sowieso zien.
Verboden op technische ontwikkelingen zijn moeilijk om te realiseren. Bostrom typeert dit met het volgende: “If nanotechnology is outlawed, only outlaws will have nanotechnology.”
Er zijn mensen die alles weten over de vooruitzichten van geavanceerde nanotechnologie en deze mensen zouden een reden hebben om hun inspanningen te richten op een versnelde uitvoering van nanotechnisch onderzoek, zelfs als ze weten dat de risico's van geavanceerde nanotechnologie opwegen tegen de voordelen. Een ander argument voor de versnelling van onderzoek naar nanotechnologie is dat misschien een vijandige staat er eerst achterkomt als we zelf niet snel handelen.

Het is verleidelijk om al deze problemen te negeren. Op individueel niveau kan een mens besluiten: heeft nanotechnologie meer risico’s dan voordelen? Ja, dan stoppen we. Nee, dan gaan we er mee verder. Maar dat is te makkelijk. Het is beter ons af te vragen of de ontwikkeling van nanotechnologie samen met andere ontwikkelingen zo gereguleerd kan worden dat het ons op de lange termijn goede dingen oplevert.

Nanotechnology will have wide-ranging consequences for manufacturing, medicine, and computing.49 Machine intelligence, to be discussed further in the next section, is another potential revolutionary technology. Institutional innovations such as prediction markets might improve the capability of human groups to forecast future developments, and other technological or institutional developments might lead to new ways for humans to organize more effectively.50 The impacts of these and other technological developments on the character of human lives are difficult to predict, but that they will have such impacts seems a safe bet.
Robots
Voor dit onderwerp is de tekst ‘The future of humanity’ uit 2007 gebruikt.

Een ‘superintelligence’ kan worden gedefinieerd als een machine dat alle intellectuele capaciteiten van een mens kan overtreffen. Het designen van zo’n machine is een intellectuele activiteit, dus een superintelligence kan nog beter machines maken; dit is de ‘explosion of intelligence’ genoemd door Kurzweil. Dit houdt in dat mensen ver achter zullen blijven ten opzichte van machines. De eerste superintelligence zou dus de laatste uitvinding kunnen zijn die wij als mensen moeten doen. Het is niet ondenkbaar dat dit binnen een paar honderd jaar gerealiseerd kan zijn. Aangezien een ‘superintelligence’, per definitie veel effectiever is dan een menselijk brein in praktisch alle intellectuele inspanningen, zoals strategisch denken, wetenschappelijke analyse en technologische creativiteit.
Men zou kunnen geloven dat een superintelligence ontwikkeld zal worden binnen een paar eeuwen, en dat creatie van een superintelligence risicovol is, maar als de schepping en haar onmiddellijke nasleep voorbij is, zou de nieuwe beschaving sterk verbeterde overlevingskansen hebben omdat we ons zouden laten leiden door superintelligente voorspellingen en planning.

Een superintelligence kunnen dus in de toekomst door mensen worden gebouwd en zij zullen dan het lot van de mensheid bepalen – en of die überhaupt er zal blijven.

Ray Kurzweil
Ray Kurzweil zegt dat het tempo van de verbetering van de technologie zou gaan versnellen en dat we robots gaan worden of fuseren met robots. Psychologen houden dit tegen omdat de robots geen bewustzijn kunnen hebben. In ‘The singularity is near’ uit 2005 voorspelt Kurzweil een toekomst scenario met daarin het volgende resultaat: ‘explosion in superintelligence’. Hij erkent de eventuele gevaren nanotechnologie maar zegt net als Bostrom dat we verder moeten gaan met dit proces omdat het ons in de toekomst veel kan opbrengen. In zijn boek verwacht hij zelfs voortgang die een zelfde patroon volgt als de wet van Moore; exponentiële groei van microchips. Hij denkt dat dit mogelijk wordt in nanocomputing en biotechnologie. Ook Kurzweil is positiever dan Joy.
K. Eric Drexler

In het boek ‘Engines of creation’ uit 1986 stelt Drexler voor dat nanotechnisch schild bouwen, een soort immuun systeem voor biosfeer. Dit moet ons verdedigen tegen gevaarlijke ‘replicators’, die ontsnapt en kwaadwillig zijn. Maar zo’n schild zou zelf ook immuunsystemen kunnen ontwikkelen en die biosfeer zelf aanvallen in plaats van verdedigen. Dit soort voorbeelden gelden ook voor genetica en robots. Deze technologieën zijn dus te machtig om te worden afgeschermd. Deze zijn ongewenst of zouden onhaalbaar moeten zijn. Om terug te komen op de vraagstelling, Drexler denkt dat met de ontwikkeling van GNR de doos van Pandora dus bijna open is (of gaat). Dit leidt tot dystopische scenario’s en misschien moeten we onze utopische verlangens maar eens bijschaven.

Conclusie

Zoals is gebleken, is de tekst van Joy de leidraad in dit essay. Joy behandelt de GNR technologie en erkent de positieve opbrengsten, maar is eigenlijk tegen. Hij is bang dat deze nieuwe technieken ons niet verder zullen helpen in de toekomst, beter gezegd, we zullen slechter af zijn. Joy schildert een toekomst waarin we leven in een dystopie. Bostrom is veel positiever tegenover GNR. Hij ziet de potentiële opbrengsten, maar erkent ook de gevaren. Toch moeten we continueren met dit proces. Zolang we controle blijven houden over de techniek, ziet de toekomst er rooskleurig uit. Kurzweil is ook positiever dan Joy, alleen wat gematigder dan Bostrom. Drexler is net als Joy negatiever. Als je een kader zou hebben, is Joy uiterst links (negatief) en dan zou Bostrom rechts zijn (positief). Kurzweil hangt dan aan de rechterkant van het centrum en Drexler aan de linker.

En mijn eigen positie in dit verhaal? Ik denk dat het een combinatie van factoren is. Ik ben net als Bostrom niet radicaal tegen GNR. Ook ik dat dit de mensheid in de toekomst vooruit kan helpen. Toch zou ik niet als eerste vooraan lopen om mezelf een robot arm aan te laten meten, of een chip laten plaatsen in mijn hersenen. Dat is nog een te bizar idee en ik vermoed dat dit voor onze generatie(s) ook nog niet is weggelegd. Kortom, waarom zouden we een techniek afschrijven als dit ons kan helpen. We moeten alleen niet vergeten dat we als mensen de techniek de baas moeten blijven, we moeten weten wat systemen en machines in de toekomst doen. De insteek van Joy begrijp ik wel, hij is sceptisch en tegelijkertijd ook bang. Hij noemt immers de dystopie. Ook ik vind dat er nog genoeg onderzoek gedaan moet worden voordat wij allemaal ‘posthumans worden’. Als het zover is, dan geloven we er aan en zullen we dit maar moeten accepteren. De doos van Pandora blijft voorlopig gesloten.

Referenties

Kurzweil, R. (2005). The singularity is near. Uitgever: Penguin Group (VS)

Bostrom, N. (2003). Human genetic enhancements: a transhumanist perspective [Elektronische versie]. Journal of Value Inquiry, Vol. 37, No. 4, 493-506

Bostrom, N. (2006). Technological revolutions: ethics and policy in the dark [Elektronische versie]. Published in Nanoscale, 129-152

Bostrom, N. (2007). The future of humanity [Elektronische versie]. Published in New Waves in Philosophy of Technology, 1-29

Joy, B. (2000). Why the future doesn’t need us [Elektronische versie]. Wired Magazine, 8.04.

Drexler, K.E. (1986). Engines of creation. Uitgever: Doubleday