#10YearChallenge: De lerende machine

Hoe je met de challenge waarschijnlijk machines helpt te trainen in gezichtsherkenning; en waarom dat gevaarlijk is. En over je openbare bankgeheimen, gemanipuleerde verkiezingen en Cambridge Analytica.

Lieve mensen, sorry dat ik nooit iets geef als je voor je verjaardag via Facebook geld inzamelt voor een goed doel. En sorry dat ik nooit gezellig iemand tag in een foto.

Sinds een tijdje kun je met je verjaardag je vrienden op Facebook vragen om geld aan een goed doel te geven.
Aan de ene kant is het natuurlijk mooi dat FB goede doelen zo stimuleert, en inzamelen makkelijk maakt. Ik doe er toch niet aan mee, om te beginnen omdat ik op verschillende pagina’s en mijn profiel samen een paar duizend volgers heb, waarvan er elke dag mensen jarig zijn – zoveel geld heb ik gewoon niet.

Maar ook om een andere reden:
Facebook doet niets zonder eigenbelang. En de koppeling aan goede doelen is voor the Zuck een uitstekende, sociaal lijkende manier om rekeningnummers te kunnen koppelen aan de overdaad aan data die hij al over jou en mij in handen heeft.

Al die gegevens over jou zijn niet zomaar onschuldig. Dat blijkt steeds weer opnieuw bij de vele datalekken, die kunnen leiden tot identiteitsdiefstal. Identiteitsdiefstal, waarbij iemand zich voordoet als jou, bijvoorbeeld om zijn boetes of aankopen door jou te laten betalen, komt vaker voor dan je denkt. In 2012 werden volgens het ministerie van Binnenlandse Zaken alleen al 600.000 Nederlanders slachtoffer van identiteitsfraude.

Maar dat gebruik van je data niet onschuldig is, bleek zeker ook bij de rel rond Cambridge Analytica.
Cambridge Analytica slaagde er in om verkiezingen in extreemrechtse zin te beïnvloeden, zowel toen Trump werd gekozen als toen er voor de Brexit werd gestemd.

Cambridge Analytica beïnvloedde 200 verkiezingen

Het bedrijf, in handen van de extreemrechtse miljardair Robert Mercer en mede opgericht door Steve Bannon, slaagde erin om mensen te manipuleren door middel van de data die ze over die mensen had van Facebook. Die had ze in elk geval via een app verzameld, maar het is nog altijd niet duidelijk of Facebook de data niet gewoon aan ze gaf. Het is wel zeker dat Facebook al jaren wist dat Cambridge data misbruikte, maar er niets effectief tegen deed.
In totaal ging het om de profielen van 87 miljoen mensen.

Ze konden enorm veel uit die data afleiden, en je bijvoorbeeld indelen op politieke overtuiging, voorliefde voor wapens, smaak, goedgelovigheid, hoe eerlijk je bent, en of je meer introvert of meer extrovert bent.

Met al die kennis konden ze manipulatieve boodschappen sturen die precies zijn getarget op het zwakke punt van een persoon binnen elke groep. Ze gebruikten daarbij psyops, psychologische oorlogsvoeringtactieken, die het moederbedrijf SCL Group volgens eigen zeggen had opgedaan bij diverse coups en verkiezingen in onder andere Italië. SCL bestaat uit een uitgebreid web van bedrijven, waar Cambridge Analytica er één van is.

SCL demonstrated its capacity in “influence operations”: “to help orchestrate a sophisticated campaign of mass deception” on the public of a big city like London. (Slate)

Profiteerde Nederlands extreemrechts?

Het bedrijf ontkende aanvankelijk iets met Brexit te maken te hebben, maar klokkenluiders lieten vlak daarna zien dat dit een leugen was.

Ook Blut, Boden und Baudet pochte tegen Follow the Money dat de FvD gebruik maakte van de diensten van Cambridge Analytica. Maar nadat er een rel ontstond over de enorme privacyschendingen, ontkende Forum voor Democratie plotseling elke connectie. Aan jou om te besluiten of ze de eerste of de tweede keer logen.

Of Nederlandse protofascisten nu wel of niet bij je data op Facebook konden, we weten in elk geval zeker dat Cambridge Analytica data kreeg, en haar FB dataset-analyse gratis ter beschikking stelde aan het extreemrechtse UKIP van Nigel Farage.

Ook meer dan 200 verkiezingen in oa. Argentinië, India, Kenia, Malta, Mexico, Nigeria en Tsjechië werden zoveel mogelijk beïnvloed. Moederbedrijf SLC claimde zelfs dat ze meerdere coups heeft veroorzaakt met haar militaire desinformatiecampagnes.

„We exploiteerden Facebook om miljoenen profielen te vergaren”, aldus de klokkenluider Christopher Wylie. „Daarmee bouwden we modellen waarmee we de innerlijke demonen van mensen konden raken.”

Facebook wist het maar greep niet in

Facebook wist al sinds 2015 dat Cambridge Analytica de data van miljoenen gebruikers onterecht had bewaard en illegaal gebruikte. Maar ze deed er niets effectiefs aan.
Sterker nog, The Zuck ontkende in februari 2018 nog tegen een Britse parlementaire onderzoekscommissie dat Cambridge Analytica informatie van Facebookgebruikers bezat. Toen The Guardian en The New York Times de verhalen van een klokkenluider wilden publiceren, probeerde Facebook dat met dreiging van rechtszaken tegen te houden. Maar toen dat niet meer lukte en er documenten boven tafel kwamen die bewezen dat FB er al die tijd al van wist, blokkeerde Zuckerberg snel Cambridge Analytica, en deed in de VS tegenover de meest onkundige onderzoekscommissie van de geschiedenis alsof zijn neus bloedde.

Politieke onkunde – of onwil

De hearing even later in het Europarlement was nauwelijks beter. De voorzitter saboteerde daar een goede ondervraging, door eerst één voor één alle parlementariërs alle vragen te laten stellen, en daarna pas Mark Zuckerberg de gelegenheid te geven om in één keer alles te beantwoorden – of beter gezegd, een paar vragen die hem wel bevielen, en de rest onbeantwoord te laten. Dat format was trouwens zo voorgesteld door Zuckerberg.

Twee juweeltjes uit die ‘keiharde’ ondervraging:

• Nigel Farage, die zich dus gratis liet helpen door Cambridge Analytica met een desinformatieprogramma op Facebook, gebaseerd op de data van Facebook, mocht rustig doorgaan met die desinformatie. Hij mocht beweren dat Facebook rechtse meningen censureert. Hij vroeg Zuckerberg: “Is Facebook echt een neutraal platform?”
• Zuckerberg is simpelweg de ster van de avond. Op een gegeven moment besluit The Zuck dat hij geen zin meer heeft en dat het tijd is om op te stappen – “We zijn al vijftien minuten over tijd“.

Gevolgen: geen

Cambridge Analytica gaat failliet, maar maakt onmiddellijk een doorstart onder een nieuwe naam: Emerdata, wat meteen 19 miljoen dollar ophaalde bij investeerders en in doorverkochte vorm nog altijd bestaat. Ook het bedrijf Data Propria is een spin off: zij werken intussen aan de herverkiezing van Trump in 2020. En dan zijn een paar ex-werknemers tenslotte nog Auspex International begonnen, ‘a company intended to influence politics and society in Africa and the Middle East’.

Het moederbedrijf van Cambridge Analytica, SCL Group, beweerde zich op te heffen, maar loog daarover: het bestaat nog altijd en biedt nog steeds analyse van data en manipulatie aan: “We are highly experienced in managing relationships with target audiences”.

Facebook heeft even wat mensen zien vertrekken door het schandaal, maar groeit intussen weer. Er zijn geen echt grote acties tegen het bedrijf ondernomen vanuit overheden, ook al heeft het bedrijf drie jaar lang misbruik van de gegevens van haar gebruikers verzwegen, en zo meegewerkt, misschien zelfs expres, aan het beïnvloeden van 200 verkiezingen. Er is bovendien geen enkele garantie dat het bedrijf dat in de toekomst niet opnieuw zal doen.

Jij bent een product

Je moet altijd beseffen dat FB niet een product is wat jij gebruikt, maar dat jij het product bent wat FB verhandelt. Voor jouw data wordt grof betaald: Zuckerberg is niet zomaar de op twee na rijkste mens ter aarde geworden.

Met veel rijkdom komt veel macht. Dè grote vrees is natuurlijk dat Zuckerberg zich ooit verkiesbaar zal stellen en de nieuwe Trump wordt, maar dan vele malen machtiger. We kunnen het idee van democratie dan echt wel opgeven, als de enige grootmacht van de wereld geleid wordt door iemand die zo ongelofelijk veel van ons weet.

PSD2: Je bankgegevens zijn de volgende prooi

Maar ook op dit moment hebben partijen als Facebook enorm veel macht. Ik kan het bijvoorbeeld niet als geheel toevallig zien dat de EU de nieuwe richtlijn PSD2 heeft aangenomen.
PSD2 is een richtlijn voor banken, die bepaalt dat allerlei bedrijven, bijvoorbeeld Facebook, vanaf nu inzage in je bankrekening krijgen. Ze kunnen dan al je betalingen zien: wat je koopt van wie, voor hoeveel, hoeveel spaargeld je hebt, wat je verdient, waar het vandaan komt en of je wel eens rood staat.

Zozo, gepind bij de seksshop? En een middel tegen aambeien gehaald bij de apotheek? Oh, ik zie dat u kanker heeft, dan verzekeren we u toch maar liever niet…

Wel moet je daarvoor toestemming geven. Maar tja, wat is nou de grap: als jij geen toestemming geeft, maar het administratiekantoor van je werkgever, winkelketens en een aantal van je vrienden wèl, dan heb ik als grote partij je toestemming helemaal niet meer nodig: ik zie dan wat je krijgt en uitgeeft op de rekening van anderen.

Facebook is zo’n grote partij.

Het goede doel

Door geld via FB op je goede doel te storten, hebben ze nog geen toestemming tot mijn bankgegevens, maar kunnen ze al wel mijn bankrekening aan mijn naam koppelen, en die van jou natuurlijk ook. Dat gun ik ze niet. Ik gun jou en mezelf de privacy om onszelf te kunnen zijn, zonder dat Big Brother meegluurt bij alles wat we doen.

En gegluurd wordt er…

Gezichtsherkenning

De herkenbaarheid van je gezicht is al iets langer een belangrijke datamijn waar aan wordt gewerkt. Door mensen te taggen op Facebook en Instagram (ook van Facebook) leer je machines steeds beter te worden in het herkennen van personen. En dat is belangrijk, want het zorgt ervoor dat jij straks vaak geen data meer hoeft te geven om die toch te kunnen harvesten. Zelfs al blijf je bewust van sociale media weg. Bijvoorbeeld doordat je op een foto staat samen met iemand die wel aan Facebook doet. Aha, connectie gelegd.

Je kunt je afvragen of dat nou wel zo gevaarlijk is, gezichtsherkenning. Handig toch, als je phone je gezicht herkent en een dief dus je telefoon niet kan unlocken?

Mja. Daar had je ook een beveiligingscode voor kunnen gebruiken. Eigenlijk is gezichtsherkenning maar voor één ding belangrijk, en dat is controle.

Zelfs Microsoft, één van de partijen die goed verdient aan gezichtsherkenning, vraagt intussen om begrenzing door de overheid. Maar dat is vooralsnog aan dovemansoren gericht.

#10YearChallenge

Doe je mee aan die challenge om een oude en een nieuwe foto van jezelf te posten? Dan ben je waarschijnlijk ongewild aan het meewerken aan het gratis trainen van AI (Artificiële Intelligentie, machine learning dus) voor commerciële gezichtsherkenning. Daarvoor waarschuwen experts als Bill Hart-Davidson (professor machine learning) of tech-expert Kate O’Neill.

Machines kunnen gezichten al steeds beter herkennen, maar hebben nog moeite om mensen te blijven herkennen als ze ouder worden. De Ten Year Challenge voorziet ze van een schat aan gratis data, die makkelijk te verwerken is.

Facial recognition gaat niet alleen om commerciële toepassingen. Ook overheden willen maar al te graag gezichten van burgers kunnen herkennen.

In China zit er intussen een geautomatiseerd boetesysteem aan vast, met robots met gezichtsherkenning, die mensen beboeten als ze door een rood voetgangerslicht lopen. Doe je dat vijf keer in je leven? Dan wordt je feitelijk verbannen uit je eigen stad. Automatisch.

Maar zo is Nederland toch niet?
Oh nee? Onze politie maakt er nu al gebruik van, en de staat wil volgend jaar onderzoeken hoe ze automatische gezichtsherkenning verder kan invoeren.

Maar de mogelijkheden zijn eindeloos: wat dacht je van een jihadistische robot van een paar euro, die een aanslag pleegt op een persoon die hij herkent via gezichtsherkenning? Ook dat klinkt wel erg futuristisch. Maar hieronder zie je een demonstratie.

Voor staten is dit al een haalbare zaak. Maar terroristen bezitten toch niet zulke technologie? Nou, dat hoeft eigenlijk ook niet. Een drone kost niet veel meer. Google en binnenkort ook Amazon verkopen zelfs al deurbellen met gezichtsherkenning. Het lastigste is dus nog om aan een explosieve lading te komen, maar naar het schijnt hebben groepen als IS daar al wat ervaring mee…

Ik wil maar even zeggen: zet nooit twee foto’s van jezelf naast elkaar in een openbare post. Je wilt dit soort artificiële intelligentie niet helpen trainen. Binnen of buiten Facebook.

“Wat doe je dan op Facebook?”

Dat is een terechte vraag.

Ik ben op FB actief om waarschijnlijk ongeveer dezelfde reden als jij: ik ben graag in contact met vrienden en familie. En helaas zitten de meesten daarvan niet op privacyvriendelijke sociale media.
Daarnaast schrijf ik (onder andere over privacy). We proberen met Grutjes regelmatig om onze lezers weg te trekken van FB, en bijvoorbeeld via een nieuwsbrief per mail te bereiken. Helaas is dat vrij vruchteloos tot nu toe: Ons bereik via FB loopt af en toe in de tienduizenden, terwijl onze nieuwsbrief maar 250 abonnees heeft.

Ik ben als schrijver dus afhankelijk van FB. Ik ben daar niet blij mee, maar het is een feit.

Invloed op effectiviteit vrije meningsuiting

En het is een afhankelijkheid die nu al zeer nare kantjes heeft. Zo veranderde FB haar algoritme in het afgelopen jaar, waardoor publicisten zoals ik, maar bijvoorbeeld ook kranten, enorm veel minder bereik hebben gekregen. Bij kranten gaat het om 6% tot 14% van hun bereik, bij mij als blogger is het nog veel extremer, tot wel 70% van mijn lezers. Dat is genoeg om te twijfelen of je nog wel door moet gaan om er zoveel (onbetaald) werk en energie in te steken, of de stekker eruit moet trekken.

Facebook heeft dus al directe invloed op wat er gepubliceerd wordt en wat niet. Zelfs als het om publicaties elders op internet gaat.

Je kunt denken: “Maar intussen toch mooi, dat je kritiek op Zuckerberg nota bene juist via zijn bedrijf kunt verspreiden?”
Maar dat werkt hetzelfde als die goede doelen van FB. Zuckerberg laat kritiek op FB niet uit goedertierenheid toe. Als FB kritiek niet toe zou laten, zou er een rel ontstaan, en zou zelfs de overheid op een gegeven moment ingrijpen.

Oh, wat zeg je? “Dus de controle van de overheid op Facebook werkt?”
Ehm, lees dat stukje hierboven over Cambridge Analytica anders nog eens.

Dictatuur is niet meer wat ze geweest is

Bijna allemaal zijn we gelukkig nog altijd tegen fascisme, tegen dictatuur, en voor vrijheid. Zelfs onze extreemrechtse partijen noemen zich iets met vrijheid of democratie, ook al willen ze die juist afschaffen.
Wat lastig is, is dat we geneigd zijn om alles door de bril van de Tweede Wereldoorlog te zien, liefst een beetje simpel: We zijn geneigd om te denken dat onvrijheid en dictatuur altijd uit de loop van een geweer komt, van een soldaat met zo’n nazihelm.

Maar de autoritaire krachten in deze wereld zijn niet meer precies hetzelfde als die van vroeger. De meeste moderne autoritaire figuren komen niet meer aan de macht via de loop van een geweer, maar via verkiezingen. Denk maar aan Trump, Erdogan, Duterte, Netanyahu, Orbàn, en zelfs een fascist als Bolsonaro. Dat wil niet zeggen dat hun beleid per sé gezelliger is dan dat van een ouderwetse dictator zoals Moebarak. En ook niet dat ze democratie intact laten als ze eenmaal aan de macht zijn.

Manipulatie en flooding

Veel van die autoritaire figuren veroveren de macht via een combinatie van boodschappen via sociale media, waarbij een belangrijk deel van die boodschappen zo persoonlijk gericht mogelijk is, dankzij de geautomatiseerde analyse van zoveel mogelijk persoonlijke data.

Een ander deel van de verkiezingscampagne is flooding: Trump verdrinkt mensen in tegenstrijdige informatie en regelrechte leugens. Zijn doel is dat je aan alles gaat twijfelen, ook aan wat je voorheen als waar aannam. Tegenover wetenschap zet hij een leugen, met als doel dat je in een crisissfeer terecht komt, waarbij je niet meer op informatie of ratio vertrouwt, maar voor je gevoel gaat, en dat gevoel is als het aan Trump ligt: angst.
Angstige mensen kiezen graag een sterke leider, en voila, daar is Trump dan.

Commercie speelt eigen rol

Cambridge Analytica laat zien dat er steeds vaker een overlap is tussen de activiteiten van dergelijke autoritaire figuren en de rijkste bovenlaag en hun bedrijven. Je ziet het ook in het kabinet van Trump, waar miljonairs de boventoon voeren. En je ziet het natuurlijk vooral online, waar sociale mediabedrijven veel roepen over hoe ze nepnieuws bestrijden en racistische haattrollen verbannen, maar dat in werkelijkheid ook weer niet teveel doen: verontwaardiging is tot een verdienmodel en industrie uitgegroeid.

Oh, voor ik het vergeet: de opkomst van online trollenlegers van Alt Right is toch sterk verbonden met Breitbart? Laat Breitbart nu tot voor kort ook eigendom van Robert Mercer zijn, de financier van Cambridge Analytica.

Maar ook grote bedrijven zonder specifieke politieke agenda, zoals sociale media, hebben de kracht en zwakte van flooding gevonden. Ook zij hebben je liever een beetje emotioneel, want emotionele mensen blijven geïnteresseerd, en kopen veel. Mensen die tevreden zijn, zijn tenslotte slecht voor de economie, die kopen niks. Maar mensen die verontwaardigd en boos zijn, òf die in het andere uiterste cocoonen in de veilige haven van de kattenplaatjes, die blijven actief online en delen veel.

We hebben het hier niet over een geheimzinnige samenzwering: Het is simpelweg in het belang van sociale media om algoritmes te versterken die zowel verontwaardigde, als vertederende posts extra aandacht geven.
Terwijl FB je juist straft als je een link plaatst naar een langere inhoudelijke tekst die buiten FB, bijvoorbeeld op je eigen blog staat. Die straf bestaat dan uit een kleiner bereik. Want, denkt FB: mensen willen niet heel veel ingewikkelde teksten, en wij willen bovendien niet dat ze buiten FB gaan kijken. We houden ze liever hier, want hier verdienen we aan ze.

De blogosfeer was ooit enorm. Nu is er weinig meer van over. Je hebt immers meer bereik als je je tekst direct op FB zet, in plaats van op je eigen website met een link op FB. Zelfs als mensen een Facebookpagina liken, krijgen ze berichten lang niet altijd te zien, omdat FB je in een filterbubbel gevangen houdt van berichten waarvan The Zuck denkt dat die jou op FB houden. Een intranet waarmee hij het internet het liefst compleet zou vervangen.

Geen complot, maar een economisch systeem

Je leest nu zoveel enge dingen achter elkaar dat het allemaal misschien een beetje waanzinnig begint te lijken. Nou, het is ook best waanzinnig. Maar het is geen complot van enge mannetjes die de wereld willen veroveren.

Ho, dat zeg ik verkeerd.

Cambridge Analytica ging feitelijk wel degelijk om een complot van enge mannetjes die macht wilden veroveren, en daar soms behoorlijk goed in slaagden.

Maar veel andere dingen die in dit artikel genoemd worden, zijn niet het gevolg van één of andere conspiracy. Ze zijn wel het gevolg van technische mogelijkheden, binnen een economisch en politiek systeem wat hebberigheid stimuleert, en wat nauwelijks controle uitoefent op bedrijven als Amazon, Microsoft, Google en Facebook.

Om echt structureel iets tegen de ontwikkelingen uit dit artikel te doen is er meer nodig dan alleen een ander sociaal medium. We moeten dan vooral gaan nadenken over een economisch en politiek systeem wat mensen stimuleert op andere vlakken dan hebberigheid. Lees daar hier meer over.

Intussen, praktisch:

Alternatieven

Er zijn alternatieven voor Facebook en Twitter. Enkelen daarvan zijn niet op winstbejag gericht, maar zoals het hoort, open source en decentraal. Bijvoorbeeld Mastodon, Friendica en Diaspora. Maar helaas is op alle drie de critical mass nog onvoldoende: er zitten nog maar weinig van je vrienden en familie op, met als gevolg dat er ook maar weinig mensen actief lid van willen worden. Een cirkel naar beneden, tot nu toe.

Ik ben dus voorlopig nog afhankelijk van FB, omdat ik mijn netwerk daar erg waardevol vind, en niet kan en wil missen.

Dat wil alleen niet zeggen dat ik ze nog meer macht en informatie wil geven als ze al hebben.

Vijf tips

1. Je kunt natuurlijk ook buiten FB geld inzamelen voor een goed doel. Of je post voor je verjaardag wel een goed doel op FB, maar je vraagt mensen om daar gewoon direct geld naar te laten overmaken ipv. via een FB account.
2. Zuckerberg trackt niet alleen alles wat je doet op FB, maar ook alles wat je daarbuiten op internet doet. De browser Firefox heeft een gratis add-on ontwikkeld waarmee je dat tegen kunt gaan: FB wordt dan in een container geopend waar het niet zomaar meer kan meegluren op je andere tabs.
3. Wees net als ik eigenwijs met je content.
   Ja, je krijgt net iets minder views als je je video’s of muziek niet op FB video post, maar bij een concurrent.
   Ja, als je artikelen schrijft hebben je teksten iets minder lezers als je ze op je eigen site zet in plaats van alleen op je tijdlijn.
   Maar fuck em. Grijp je onafhankelijkheid.
   En nee, natuurlijk ga je niet voor een advertentie betalen om je oude bereik terug te krijgen. Wie eenmaal toegeeft aan chantage moet steeds meer betalen. Trap er niet in, ook niet in de eenmalige gratis promoties die FB soms rondstrooit als een volleerde dealer die nieuwe gebruikers met gratis dope verleidt.
4. Ga pro, en verwijder de gluurapps van FB van je telefoon:
   – Facebook kun je ook prima gebruiken via je browser in plats van via hun app.
   – Verwissel Whatsapp voor Signal – dat is namelijk wel privacyvriendelijk.
5. Stop tagging people in photo’s!

(Meer tips voor je privacy vind je hier.)