MEI 2017

FILOSOOF OVER FILOSOOF- Katleen Gabriels over James Moor



Wat is de mens? Over deze aloude vraag buigen filosofen zich al eeuwen. De computer dwingt ons om onze plaats in de wereld te bevragen. Zijn wij bijvoorbeeld zomaar vervangbaar door robots?


 

Als cyborg zullen wij sterven

Bij het brede publiek geniet de Amerikaanse filosoof James Moor geen wijdverbreide faam. Zelfs voor de meeste filosofen is hij een nobele onbekende. Nochtans is zijn werk van groot belang: Moor is één van de grondleggers van de computerethiek, de filosofische discipline die zich buigt over de ethische problematiek van informatie- en computertechnologie. Veel van de hedendaagse problemen, zoals surveillance, privacy en de talrijke veiligheidsschandalen, werden decennia geleden al door hem voorspeld. Een kennismaking met zijn gedachtegoed geeft een goede inkijk in de problemen van vandaag en morgen.

 
James (Jim) Moor werd in 1942 geboren in de Amerikaanse staat Ohio. Hij studeerde Wiskunde en Wijsbegeerte. Sinds 1972 is hij hoogleraar ‘Intellectual and Moral Philosophy’ aan Dartmouth College in New Hampshire. Zijn talloze analyses over computerethiek, nanotechnologie, robotethiek en artificiële intelligentie verwoordt hij steeds helder en genuanceerd.

 
De term ‘computerethiek’ verscheen in 1976 voor het eerst in een artikel van Walter Maner en verwijst naar de ethische problemen die ontstaan, vergroten of wijzigen door computertechnologie. Over de menselijke gevolgen van computers werden al langer zorgen geuit. De Amerikaanse wiskundige en filosoof Norbert Wiener (1894-1964) is de grondlegger van de cybernetica, een informatietechnologie die beschouwd wordt als de voorloper van computerethiek. In The Human Use of Human Beings: Cybernetics and Society, een boek uit 1950, stelde Wiener zich vragen bij de kracht van informatietechnologieën. Wiener besteedde onder meer aandacht aan hoe informatie- en communicatietechnologie fundamentele waarden zoals vrijheid op losse schroeven kan zetten. Een ander invloedrijk boek dat de ethische en sociale gevolgen van computers onder de aandacht bracht, is Computer Power and Human Reason van computerwetenschapper Joseph Weizenbaum (1923-2008) uit 1976.
   

OUDE VRAGEN, NIEUWE PROBLEMEN

Vragen over de ethische impact van computertechnologie mogen dan niet nieuw zijn, ze blijven onbetwistbaar actueel in onze internetmaatschappij. In 1995 had minder dan 1% van de wereldbevolking toegang tot het internet. Twintig jaar later was dat meer dan 40%: 3 miljard burgers op een wereldbevolking van 7 miljard mensen.

   
Meer dan 90% van de volwassenen in Vlaanderen heeft vandaag toegang tot internet. Negen op de tien Vlaamse jongeren tussen 12 en 18 jaar heeft een eigen smartphone. We zouden gemiddeld om de 18 minuten door onze smartphone onderbroken worden. Wereldwijd worden er dagelijks 4,5 miljard vind-ik-leuks uitgedeeld op Facebook, wat neerkomt op gemiddeld 3.125.000 likes per minuut. 

   
Bij iedere evolutie van het internet vergroten de ethische problemen. Inmiddels zijn we beland in het tijdperk van het Internet of Things of internet der dingen, een verzamelnaam voor allerhande toestellen, naast laptops of smartphones, die aan het netwerk gekoppeld worden. Volgens onderzoeksbureau Gartner zouden dat tegen 2020 25 miljard objecten kunnen zijn; als je daar laptops, smartphones en tablets bij optelt, dan zijn het er 33 miljard. Die objecten wisselen zelfstandig data uit en zoeken er zonder menselijke tussenkomst patronen in. Uiteindelijk wordt volgens de idee van het internet der dingen de volledige omgeving – en iedereen die daar deel van uitmaakt – onderdeel van het internet.

  Bij iedere evolutie van het internet vergroten de ethische problemen.
In stijgende lijn worden apparaten ‘slim’ en ‘verbonden’. Ook de smartphone is een computer die verbonden is met het internet. In winkels zijn al onder meer slimme horloges, tandenborstels en weegschalen te koop. Veel personenwagens zijn gekoppeld aan het netwerk. De technologie is onzichtbaar, want verwerkt in alledaagse gebruiksobjecten, maar tegelijk net heel doordringend, want alomtegenwoordig en onafgebroken aanwezig.
   

EEN PROFETISCHE BLIK

In 1985 publiceerde James Moor het artikel ‘What is computer ethics?’ (Moor, J. H. What is computer ethics?, Metaphilosophy 16 (4), pp. 266-275) waarin hij de noodzaak van computerethiek als academische discipline onderstreept. In het artikel anticipeert Moor op problemen die helaas allemaal werkelijkheid werden.

   
Zo schrijft hij over de ‘onzichtbaarheidsfactor’ van computertechnologie, die de deur openzet voor heimelijk misbruik zoals surveillance. Sinds 1985 is de wereld een aantal schandalen rijker. De onthullingen van Edward Snowden in 2013 maakten duidelijk dat massasurveillance ook in liberale democratieën plaatsvindt. De Amerikaanse inlichtingendienst NSA (National Security Agency) hield onder meer de telefoongeschiedenis en het surfgedrag van Amerikaanse burgers bij, ook van mensen die helemaal geen bedreiging vormden voor de staatsveiligheid. Ook buitenlanders die de Verenigde Staten bezochten, werden door de NSA en zijn afluisterprogramma PRISM gecontroleerd. Belgische bedrijven zoals Belgacom (nu Proximus) en Swift werden bespioneerd, terwijl buitenlandse leiders, waaronder Angela Merkel, via telefoon afgeluisterd werden.

  De onthullingen van Edward Snowden in 2013 maakten duidelijk dat massasurveillance ook in liberale democratieën plaatsvindt 
De onzichtbaarheidsfactor zal ook de privacyproblematiek exponentieel verhogen, aldus Moor in 1985. De technologie kan immers zo geprogrammeerd worden dat de gebruiker niet eens doorheeft dat men met gegevens aan de haal gaat. Ook die bezorgdheid bleek terecht. Facebook verenigt ondertussen meer dan 1,6 miljard actieve leden. Het businessmodel draait bij gratie van de verkoop van persoonlijke gegevens. Belgische onderzoekers ontdekten in 2015 dat Facebook ook internetgebruikers traceert die geen Facebookaccount hebben. Via websites met een vind-ik-leukknop plaatst het bedrijf ook cookies op de browsers van niet-gebruikers. 

  Het businessmodel van facebook draait bij gratie van de verkoop van persoonlijke gegevens
We vinden het logisch dat we ons huis afsluiten als we het verlaten of als we gaan slapen, om ons bezit te beschermen. Maar bij computerinformatie is bezit niet materieel, waardoor we niet altijd goed weten wat we precies moeten afschermen. Moor stelde in 1985 dat de onzichtbaarheidsfactor het eenvoudig zou maken om aan de hand van computers in de eigendom van anderen in te breken, en zo (vertrouwelijke) informatie te stelen. Inmiddels zijn de hackingschandalen niet meer te tellen. In 2012 werd LinkedIn gehackt; afgelopen mei, vier jaar na de hacking, werden 164 miljoen mailadressen met bijbehorende wachtwoorden verhandeld op het dark web, een deel van het internet waar een gewone gebruiker niet zal verzeild raken zolang die de specifieke toegang niet kent. Myspace was een aantal jaren geleden een populaire netwerksite; in de loop van dit jaar doken 427 miljoen paswoorden van meer dan 360 miljoen gebruikers op. De hacking zelf vond mogelijk al in 2008 plaats. Dropbox werd in 2012 gehackt, maar pas dit jaar werd duidelijk dat de hackers meer dan 60 miljoen mailadressen en wachtwoorden buit wisten te maken.
  Bij computerinformatie is bezit niet materieel, waardoor we niet altijd goed weten wat we precies moeten afschermen 

GYGES’ RING

In een interview uit 2006 verwijst James Moor naar de ring van Gyges uit De Staat van Plato. Wie de ring draagt, kan onzichtbaar worden en zo bestraffing ontlopen na het overschrijden van (ethische) grenzen. Moor plaatst het verhaal van de ring in een 21ste-eeuws kader: waarom zou je op een ethisch correcte manier gebruikmaken van het internet als het zo gemakkelijk is om het onrechtvaardig te gebruiken?

  Waarom zou je op een ethisch correcte manier gebruikmaken van het internet als het zo gemakkelijk is om het onrechtvaardig te gebruiken?
Onze kaders hinken steeds achterop. Elke computertechnologie met groot bereik en impact bestendigt een ‘beleidsvacuüm’, schrijft Moor in ‘What is computer ethics?’. De eerste hackers konden niet bestraft worden, omdat er geen wetgeving was die dat verbood. Door het internet ontstond de deeleconomie, waarbij je je bezit of vaardigheden tegen betaling aanbiedt via een van de vele peer-to-peer websites. Bij de taxidienst Uber kun je bijvoorbeeld je diensten als taxichauffeur aanbieden en bij het onlineplatform Airbnb verhuur je je woonst of een stuk ervan. Deeleconomieën ontwrichten bestaande modellen. Uber leidt tot spanningen met gelicenseerde taxidiensten en Airbnb wekt onvrede op bij hotel- en B&B-uitbaters omdat Airbnb-diensten ongereguleerd winst van hen wegkapen. De deeleconomie wordt pas gaandeweg strikter gereguleerd. Een ander voorbeeld is de recreatieve drone die al een aantal jaar te koop is. Pas dit jaar ging er een wet van kracht die verbiedt dat de zogenaamde speelgoeddrone hoger dan 10 meter vliegt.
  Onze kaders hinken steeds achterop. De eerste hackers konden niet bestraft worden, omdat er geen wetgeving was die dat verbood

DE KNEEDBAARHEID VAN COMPUTERS

De filosofische en ethische gevolgen van computertechnologie horen voor Moor zowel op de academische als de publieke agenda. In ‘What is computer ethics?’ onderstreept hij de nood aan ethische en regulerende kaders voor het ontwerp en gebruik van computertechnologie. Moor stelt dat de ‘logische kneedbaarheid’ (logical malleability) van computers de computerrevolutie mogelijk maakt, waarmee hij duidt op de formele en rekenkundige operaties en procedures van computers. Met rekenkundige invoer- (input) en uitvoeroperaties (output) kunnen computers ‘oneindig’ veel processen uitvoeren. Nieuwe mogelijkheden creëren nieuwe (ethische) problemen. De kernvraag van de computerrevolutie omschrijft Moor als volgt: hoe kunnen we de logica van computers zo modelleren dat het gebruik en de doeleinden ervan ethisch beter en in het algemeen belang bediend worden?

  Hoe kunnen we de logica van computers zo modelleren dat het gebruik en de doeleinden ervan ethisch beter en in het algemeen belang bediend worden? 
In een lezing uit 1996 riep hij op tot waakzaamheid dat het mondiale internetdorp niet voor onze ogen geplunderd wordt door individuele belangen. Twintig jaar later staan we aan de vooravond van aanhoudende technologische verbondenheid: objecten die nu nog offline zijn, zullen zich in het netwerk bij ons voegen. Al die slimme apparaten scheppen mogelijkheden, maar ook valkuilen. ‘Dieselgate’ maakte duidelijk hoe je slimme technologieën zo kunt programmeren dat je ze voor onethische doeleinden kunt inzetten: de sjoemelsoftware van Volkswagen kon zelfstandig bepalen wanneer het om een test ging. Zo kon men de emissiewaarden manipuleren, waardoor de wagen zuiniger leek dan die in werkelijkheid was. Volkswagen pleegde op massale schaal bedrog om de winstcijfers de hoogte in te jagen. Met technologieën die steeds slimmer worden, moeten we nog meer op onze hoede zijn dat er niet mee geknoeid werd. 
  De sjoemelsoftware van Volkswagen kon zelfstandig bepalen wanneer het om een test ging

NOOIT WAARDENEUTRAAL

Een misverstand dat Moor in zijn werk mee uit de wereld tracht te verhelpen, is dat technologieën waardevrije hulpmiddelen zouden zijn. Technologie is nooit zomaar een neutraal instrument: technologische ontwikkelingen weerspiegelen wat een maatschappij belangrijk vindt. Omgekeerd beïnvloedt technologie ook ons denken, gedrag en onze waarden en normen. Er zijn legio voorbeelden die duidelijk maken hoezeer onze waarden en vooroordelen in onze ontwerpen sluipen. Dat een ladyshave roze is en een scheermachine voor mannen niet, weerspiegelt stereotypen over vrouwen.

   
Algoritmen hebben vandaag een belangrijk aandeel in hoe we de wereld zien en welke producten we aankopen, bijvoorbeeld op Bol.com, hoewel we ons er tegelijk in bepaalde ongeïnformeerde gevallen niet ten volle van bewust zijn. Op basis van onze data worden we ook in profielen en categorieën gegoten. Algoritmen kunnen mensen benadelen: een studie toonde aan dat onlineadvertenties voor goed betaalde jobs minder vaak bij vrouwen verschijnen. Het is problematisch dat we nog altijd zo weinig weten over de logica die erachter schuilt, omdat algoritmen meestal goed bewaarde bedrijfsgeheimen zijn.

  Algoritmen hebben vandaag een belangrijk aandeel in hoe we de wereld zien en welke producten we aankopen
Bij zoekmachines zoals Google beslissen algoritmen welke resultaten je te zien zult krijgen. Die resultaten zijn steeds gefilterd. De ontwikkelaar bepaalt wat belangrijk is en welke classificaties noodzakelijk zijn: deze keuzes zijn nooit neutraal. Bovendien kunnen zelfs ontwikkelaars niet voorspellen welke keuzes de algoritmen verder zullen maken, omdat het systeem ook rekening houdt met individuele zoekgeschiedenis, surfgedrag, demografische informatie en data uit andere sites, zoals sociale media. Verder zorgt ‘search engine optimization’ ervoor dat webbeheerders en bedrijven de rangschikking van resultaten kunnen beïnvloeden. Algoritmen sturen dus niet alleen ons (aankoop)gedrag, maar ook hoe wij kennis en informatie opdoen via zoekmachines.
 

VAN HOMO SAPIENS TOT CYBORG

Wat is de mens? Over deze aloude vraag buigen filosofen zich al eeuwen. De computer dwingt ons om onze plaats in de wereld te bevragen. Zijn wij bijvoorbeeld zomaar vervangbaar door robots? En wat met computertechnologie die deel wordt van ons mens-zijn?

   
Moor stelt dat we vandaag als mens geboren worden, maar dat velen onder ons als cyborg zullen sterven. Cyborg staat voor ‘cybernetisch organisme’: deels mens, deels computer. Moors bewering is terecht, ook al klinkt de term cyborg misschien als sciencefiction. Een goed voorbeeld is de pacemaker, die in feite een computertje is. Er zijn bovendien pacemakers die met het internet verbonden zijn. Er zijn ook bionische ledematen, zoals een bionische arm voor oorlogsinvaliden of voor mensen met aangeboren beperkingen.

   
Andere vormen van implantaten in het lichaam, waar we al langer mee vertrouwd zijn, zijn knie- of heupprotheses. Dit zijn geen computertechnologieën, maar onze menselijke waardigheid en integriteit zijn er niet door veranderd. We hebben de implantaten gaandeweg probleemloos aanvaard.

   
Ook verdere ontwikkelingen van computerimplantaten, waar we nu nog niet mee vertrouwd zijn, kunnen een uitbreiding van de menselijke waardigheid vormen. Dankzij wetenschap en technologie verbetert de mens zich al eeuwen – met duidelijk resultaat, want we worden steeds ouder. We verbeteren onszelf ook met onderwijs of sport. Het debat moet zich volgens Moor vooral richten op ethische grenzen en problemen: wat is wenselijk? En ook: wat voor cyborgs willen we zijn? Computerimplantaten mogen bijvoorbeeld niet enkel toegankelijk zijn voor de happy few die ze kunnen betalen en zo als enigen van de voordelen kunnen genieten. Het principe van rechtvaardigheid moet een eerlijke democratische toegang tot de technologie verzekeren. 

  Dankzij wetenschap en technologie verbetert de mens zich al eeuwen – met duidelijk resultaat, want we worden steeds ouder.  
Om aan de vele problemen en vragen waar computertechnologie ons mee confronteert tegemoet te komen, ontwikkelde Moor ‘just consequentialism’ (rechtvaardig consequentialisme) als ethisch kader. Bij elke computertechnologie moeten we anticiperen op de gevolgen ervan op individueel en maatschappelijk niveau. Het gebruik en de gevolgen moeten steeds waarden zoals sociale rechtvaardigheid beschermen. 

 
Onze maatschappij is doordrongen van computertechnologie en in bepaalde gevallen kruipt die al letterlijk onder onze huid. De kennis over computerethische problemen mag niet bij een academische voorhoede blijven: we hebben er allemaal belang bij. Het internet heeft natuurlijk ook veel troeven. Zo maakt het de toegang tot informatie makkelijker. Een aantal teksten van Moor staat volledig online. Op die manier kunt u de vele pertinente vragen helpen beantwoorden. Zoals: wat voor cyborg wil jij zijn?

  De kennis over computerethische problemen mag niet bij een academische voorhoede blijven: we hebben er allemaal belang bij
Katleen Gabriels
   

   
Over de auteur
Katleen Gabriels is doctor in de Wijsbegeerte en Moraalwetenschappen. Momenteel is ze als postdoctoraal onderzoeker verbonden aan de VUB, en aan de onderzoekscentra ETHU (Centrum voor Ethiek en Humanisme) en CEMESO (Culture, Emancipation, Media & Society). Ze bestudeert de ethische gevolgen van computertechnologie. Ze schrijft regelmatig opiniestukken en wordt vaak als experte geraadpleegd in de media. Haar boek Onlife. Hoe de digitale wereld je leven bepaalt verscheen in november bij Lannoo en werd won de Liberales Boek van het jaar-prijs voor 2016.
   
     
Wil je de papieren versie van De Geus thuis ontvangen? klik hier voor meer informatie.