De lange armen van Big Tech

Je rijbewijs op je iPhone, huisvesting geleverd door Facebook, schoon drinkwater van Google en Jeff Bezos (Amazon), Elon Musk (Tesla, en recent Twitter overgenomen) en Richard Branson (Virgin Group) nemen je de ruimte in. Het klinkt mooi, maar inmiddels heeft Big Tech overal vingers in de pap. Hebben we wel oog voor de gevolgen van de sectoroverstijgende invloed van techbedrijven en is er wel voldoende toezicht? Nee, aldus Tamar Sharon, hoogleraar filosofie, digitalisering en samenleving en codirecteur van de iHub (Interdisciplinary Hub for Digitalization and Society) aan de Radboud Universiteit Nijmegen. Problemen rondom privacy en gegevensbescherming zijn slechts het topje van de ijsberg.

Veel organisaties omarmen de diensten die door techbedrijven geleverd worden. Kun je een voorbeeld geven dat uitlegt waarom dit zorgwekkend is?

“De groeiende aanwezigheid van Big Tech in allerlei sectoren brengt een aantal risico’s met zich mee. Deze worden vooral gezocht rondom privacy en gegevensbescherming, terwijl dat slechts het topje van de ijsberg is. We maken ons ook afhankelijk van Big Tech en dit zien we niet als we ons alleen om privacy bekommeren. Door de pandemie is dit alles in een stroomversnelling geraakt. Op universiteiten zijn we snel overgeschakeld op online diensten als Zoom en Microsoft Teams. Lokale en non-profit alternatieven als Surf en Jitsi bestonden wel, maar iedereen ging meteen naar de grote Amerikaanse spelers. Samen met de overstap naar de clouddiensten van Microsoft wordt het functioneren van universiteiten (een publieke sector) hiermee afhankelijk van deze bedrijven.

Het risico hiervan is soms moeilijk te bevatten, omdat dit heel geleidelijk gebeurt. Neem een voorbeeld uit de gezondheidszorg. Enkele jaren terug ontwikkelde Apple de ResearchKit: software waarmee onderzoekers medische studies uit kunnen voeren op iPhones, waarbij de sensoren van de telefoon gebruikt worden om data te verzamelen. Dit kan geweldig zijn voor allerlei onderzoeken. Iedereen met een iPhone kan deelnemen en je kan allerlei nieuwe data verzamelen. Apple verdient er geen geld aan en de data gaat rechtstreeks naar de onderzoekers, dus er zijn geen directe privacy-risico’s. Dit lijkt een geweldig initiatief. Maar wat Apple hier probeert te doen is hun software en hardware de standaard te maken voor het doen van klinische studies op afstand. Daarmee maakt Apple zichzelf onmisbaar voor toekomstig medisch onderzoek. Zullen alle onderzoeksinstituten nu iPhones nodig hebben? Welke rol zal Apple spelen in de vormgeving van onderzoek? Wie neemt de leiding in samenwerking tussen Apple en de onderzoeksinstituten? We moeten oog hebben voor de toekomstige nadelen, zelfs als deze diensten en producten nu gratis aangeboden worden.

Een ander voorbeeld: in april 2020 kwamen Google en Apple met een softwareprotocol voor apps voor bron- en contactonderzoek. Deze werden in een aantal landen ontwikkeld in reactie op de pandemie. Google en Apple hadden een aantal criteria waaraan de apps moesten voldoen om gebruik te maken van hun protocol. De belangrijkste, bepaald door privacy-experts, was dat de data decentraal op de telefoons bewaard moest blijven. Dat is goed voor privacy, maar het is niet per se het beste om een pandemie te bestrijden. Sommige publieke gezondheidsexperts en epidemiologen waren tegen gedecentraliseerde apps. Los van de weging van de voors en tegens, was de praktijk dat landen de criteria van Google en Apple naleefden vanwege de afhankelijkheid van hun software. Vertegenwoordigers van landen die stopten met de ontwikkeling van hun gecentraliseerde apps voelden zich hiertoe gedwongen door deze bedrijven. Ze hadden niet het gevoel dat er ruimte voor onderhandeling was. Google en Apple bepaalden daarmee hoe de maatregelen voor de publieke gezondheid eruit zouden zien.”

Onlangs hebben jullie de Sphere Transgression Watch gelanceerd om dergelijke invloed van Big Tech in kaart te brengen. Kun je kort uitleggen wat dit is?

“De Sphere Transgression Watch is een digitaal hulpmiddel dat de groeiende aanwezigheid van Big Tech bijhoudt in een aantal sectoren, ofwel ‘sferen’: gezondheid, onderwijs, stadsplanning, financiën, nieuwsvoorziening, enzovoort. Het is zowel een middel om bewustzijn hierover te creëren als een publiek archief met voorbeelden die anderen voor hun onderzoek kunnen gebruiken.

Dit is een uitkomst van een onderzoeksproject aan de Radboud Universiteit Nijmegen, gefinancierd door de European Research Council. We bestuderen de effecten van de groeiende rol van Big Tech in de gezondheidszorg en medische wetenschap, wat ik de ‘Googlisering van gezondheid’ noem. Het doel is om een framework te ontwikkelen voor de samenwerking tussen publieke onderzoeksinstellingen en deze techbedrijven. Dit ontbreekt momenteel. Ons project richt zich op gezondheid, maar dit speelt overal waar digitalisering plaatsvindt, vrijwel alle gebieden van de samenleving dus.

Met onze tool kun je inzoomen op een specifieke sfeer om de verschillende initiatieven van Big Tech daarin te zien. Maar je kunt dit ook per bedrijf bekijken, als je bijvoorbeeld wilt zien waar Apple mee bezig is geweest op het gebied van gezondheid, onderwijs of cultuur. Dit is een ‘levende’ tool. Ons team heeft veel data over initiatieven binnen de gezondheidszorg en medische wetenschap en we hebben ook wat onderzoek gedaan naar sommige andere sferen. Maar we hebben andere onderzoekers nodig om bij te dragen aan de rest. Er is een simpel formulier dat je in kunt vullen als je een datapunt aan wilt dragen voor de website.”

Wat is de achtergrond van dit project?

“De term ‘sphere transgression’ heb ik uit het werk van de politiek filosoof Michael Walzer. Walzer ziet de samenleving als een verzameling sferen – de markt, de politiek, het familieleven, enzovoort. Volgens hem kunnen we ongelijkheid binnen sferen accepteren: sommigen zijn wat rijker dan anderen, sommigen hebben meer politieke macht (de premier bijvoorbeeld), en sommigen hebben meer vrienden en geliefden dan anderen. In een rechtvaardige samenleving moeten voordelen binnen één sfeer echter niet leiden tot voordelen binnen een andere sfeer, oftewel, tot sphere transgressions. Het moet niet zo zijn dat iemand met meer geld daardoor ook een betere opleiding geniet of er politieke invloed mee kan kopen. En politieke macht moet geen toegang geven tot betere gezondheidszorg of voordelen op de financiële markt. Wat we nu zien met Big Tech is dat het voordeel dat ze gewonnen hebben in de sfeer van de digitale productie vertaald wordt naar voordelen in alle andere sferen van de samenleving.

De Sphere Transgression Watch laat zien dat we hier op twee niveaus naar moeten kijken. We moeten ons binnen elke sfeer afvragen wat de aanwezigheid van Big Tech met deze sferen doet. Hoe beïnvloeden de waarden, praktijken en belangen die Big Tech met zich meebrengt deze sferen die vanuit zichzelf al waarden, praktijken en belangen hebben? Daarnaast moeten we de vraag stellen hoe de invloed van deze bedrijven in deze sferen de samenleving als geheel beïnvloedt.”

Springen deze bedrijven niet in leegtes die zijn ontstaan door onvoldoende publieke investeringen? Is het probleem er een van techbedrijven die te ver gaan of van overheden die publieke goeden verwaarloosd hebben?

“Het is een combinatie van beide. Digitalisering vindt al decennia plaats naast bezuinigingen op de publieke sector en groeiende privatisering in Europa. Deze situatie wordt gevoed door een (onjuist) narratief van innovatie dat focust op de rol van de private sector als de drijvende kracht achter technologische ontwikkeling en innovatie, in het bijzonder de rol van de briljante geesten van enkele individuele entrepreneurs. De publieke sector wordt afgedaan als inefficiënt en verspillend. We horen over de noodzaak aan briljante entrepreneurs in Silicon Valley die de publieke sector moeten ‘verstoren’, vernieuwen en herorganiseren. Zo ontstaat een gevaarlijke dynamiek waar digitalisering en uitbesteding aan de private sector haast onvermijdelijk samen plaats vinden, alsof dit de enige manier is om te innoveren. Dat is natuurlijk niet het geval. Ten eerste hoeft innovatie niet digitaal te zijn (we kunnen ook in docenten investeren in plaats van in computers). Ten tweede hoeft digitalisering niet plaats te vinden via private bedrijven, of in ieder geval hoeft het niet geheel uitbesteed te worden. Dit kan ook door publieke instanties gebeuren.

Deze situatie was tijdens de pandemie bijzonder duidelijk in de Verenigde Staten en het Verenigd Koninkrijk. Overheden nodigden vertegenwoordigers van techbedrijven al heel vroeg uit om hun mogelijke bijdrage aan de bestrijding van de pandemie te bespreken. In de V.S. waren deze bedrijven betrokken bij het opzetten van testfaciliteiten en filantropische bijdragen aan scholen, ziekenhuizen, gemeentes en wetenschappelijke instituten. Andrew Cuomo bijvoorbeeld, de gouverneur van New York, nodigde Eric Schmidt (voormalig CEO van Google) en de Bill and Melinda Gates Foundation uit om te bespreken hoe ze technologie konden gebruiken om de ‘post-COVID werkelijkheid’ van New York vorm te geven.”

Het is op zich niet nieuw dat bedrijven op deze manier ingrijpen in de maatschappij. In Eindhoven speelde Philips bijvoorbeeld een grote rol in het aanbieden van betaalbare huisvesting, onderwijs, gezondheidszorg, enzovoort. Zie je belangrijke verschillen met hoe Big Tech vandaag de dag handelt?

“Ja, je kunt het aanbieden van die diensten door Philips zien als overschrijding. Maar – en hier kunnen we meer of minder cynisch over zijn – Philips deed dit vanuit een gevoel van verantwoordelijkheid en plicht tegenover hun werknemers. Bovendien deed Philips dit alleen voor de eigen werknemers en alleen in Eindhoven. Er is dus een verschil in zowel motivatie als schaal dat hier erg belangrijk is. De huidige techbedrijven doen dit om hun eigen invloed en macht op andere gebieden te vergroten en ze doen dit op een globale schaal. Ik denk niet dat we ooit zoiets als dit gezien hebben in het verleden.

Natuurlijk is dit soort commercialisatie niets nieuws. Denk aan Big Pharma. Maar met Big Pharma heb je nog een redelijk idee van waar je mee te maken hebt. Farmaceutische bedrijven houden het bij gezondheidszorg en medische wetenschap. En het is duidelijk hoe ze hun winst maken. Het is onduidelijk hoe Big Tech geld gaat verdienen met hun inmenging in allerlei sectoren – voor het grote publiek, maar ook nog vaak voor de bedrijven zelf. Hun verdienmodel is nog in de maak.”

Big Tech lijkt veel sneller op gebeurtenissen als de pandemie te kunnen inspringen dan dat regulering bedacht (en ingevoerd) kan worden. Hoe kunnen we hiermee om gaan?

“Dat is een van de moeilijkheden met de regulering van technologie. Innovatie gaat sneller dan de ontwikkeling van robuuste regelgeving. Wat dat betreft zijn we altijd aan het inhalen. Maar dat moeten we wel! We moeten begrijpen wat er gebeurt en regulering ontwikkelen die zich hierop richt. De EU in het bijzonder heeft hierin een leidende rol op zich genomen, met de AVG (Algemene Verordening Gegevensbescherming) en de Verordening Digitale Diensten.

Maar beleidsmakers moeten breder denken. De risico’s liggen niet alleen bij gegevensbescherming dus de AVG is niet genoeg. En de Verordening Digitale Diensten gaat voornamelijk over monopolievorming. Het behandelt de groeiende invloed van bedrijven in verschillende sectoren niet. Sectorspecifieke reguleringen zijn nuttig maar beperkt, omdat ze de grensoverschrijdende dimensie van Big Tech missen. Ik zie een rol voor mijn team en mijzelf om beleidsmakers een betere omlijning van het probleem te bieden zodat ze er hopelijk beter beleid voor kunnen maken. ”

Doe je in je persoonlijke leven iets anders vanwege ‘sphere transgressions’ die je tegengekomen bent?

[lachend] “Die vraag krijg ik vaak. Vergeleken met mijn collega’s in de computerwetenschappen ben ik niet bijzonder voorzichtig met mijn persoonlijke data en ik gebruik veel van de diensten die techbedrijven aanbieden omdat het handig is. In principe denk ik dat het niet aan individuen maar aan overheden is om de situatie te veranderen. Hoewel ik wel geloof dat individuen een rol kunnen spelen (als consumenten die bepaalde zaken van deze bedrijven kunnen eisen, en tegenwoordig zijn er veel goede alternatieven), zal dit erg beperkt zijn in sferen als de gezondheidszorg, het onderwijs en de wetenschap. Daar hebben we anderen voor nodig: mensen uit de praktijk (artsen, medisch onderzoekers, ziekenhuisbeheerders, docenten en schooldirecteuren), regelgevers in specifieke sectoren (ethische commissies) en beleidsmakers (het ministerie van Volksgezondheid, het ministerie van Onderwijs). Deze moeten zich bewust worden van wat er gaande is in hun sfeer en daarbuiten en de voorwaarden voor veilige samenwerking met bedrijven creëren die de belangen vertegenwoordigt van de relevante groepen (patiënten, studenten) en de samenleving als geheel.”