Gezichtsherkenning

Transcript

• 00:01

  Inge Wannet

  Als ik in de spiegel kijk, zie ik gewoon mijn gezicht in spiegelbeeld, maar de politie ziet iets heel anders. Die ziet een wandelende streepjescode waarmee ik in de openbare ruimte kan worden geïdentificeerd, gevolgd en geanalyseerd. Eenmaal gescand ben jij de controle over die gegevens kwijt en is er geen mogelijkheid meer om niet gevolgd te worden.
  
  [triphopmuziek speelt]

• 00:31

  Inge Wannet

  Je luistert naar de Big Brother Award podcast van Bits of Freedom. Mijn naam is Inge Wannet en samen met mijn collega’s zetten wij elk jaar de mensen en organisaties die jouw privacy het meeste hebben geschonden in het zonnetje. Dit jaar doen we dat in de vorm van een podcast. In deze achtdelige serie maak je kennis met de grootste privacyschenders van afgelopen jaar. Misschien heb jij wel op de winnaar van de Publieksprijs gestemd en een vakjury deelde de Expertprijs uit. Maar Bits of Freedom reikt ook elk jaar een positieve prijs uit: de Felipe Rodriguez award. Je luistert nu naar een aflevering over onze Expertprijs. Dat is dit jaar een oeuvreprijs, een lifetime achievement award. De prijs gaat dit jaar naar het Ministerie van Justitie en Veiligheid.
  
  [triphopmuziek speelt, gaat door terwijl Inge begint te praten]

• 01:20

  Inge Wannet

  In deze aflevering zoemen we weer in op één van de missers die leiden tot deze oeuvreprijs: de inzet van gezichtsherkenning door de politie. Ik ga hier straks over in gesprek met één van onze experts, Frederik Zuiderveen Borgesius. En dat doe ik niet alleen, want ik heb mijn collega Lotte Houwing meegenomen. Lotte, gezichtsherkenning door de politie, dat gebeurt steeds vaker toch?

• 01:42

  Lotte Houwing

  Het lijkt wel alsof de politie is geobsedeerd met onze gezichten. Zo test en tweakt zij aan de technologie bij de Johan Cruijff Arena. Heeft ze maar liefst meer dan 2,6 miljoen van onze gezichten in haar eigen databank opgeslagen, die ze ook nog eens niet op orde heeft. Zo misbruikt de politie de infrastructuur van de ANPR om nog meer van onze gezichten binnen te halen, heeft de politie gebruikgemaakt van de omstreden diensten van het bedrijf Clearview AI en geeft de politie daar geen openheid over. Best wel een opsomming waarvan ik op alle losse onderdelen door zou kunnen ranten, maar eigenlijk wil ik gewoon dat de politie onze gezichten met rust laat.
  
  [triphopmuziek speelt]

• 02:29

  Inge Wannet

  Frederik Zuiderveen Borgesius is hoogleraar ICT en Recht aan de Radboud Universiteit. Hij is verbonden aan de Digital Security Group van het iCIS en aan de iHub, de Interdisciplinary hub for Security, Privacy and Data Governance.
  
  We zitten hier naar aanleiding van de Big Brother Awards, natuurlijk. Waarom is de inzet van gezichtsherkenningstechnologie door de politie één van de redenen dat het Ministerie van Justitie en Veiligheid de Big Brother Award wint?

• 02:56

  Frederik Zuiderveen Borgesius

  Gezichtsherkenning software in het algemeen, is één van de grote privacyvraagstukken en problemen eigenlijk van de van nu en de komende tien jaar. Want het nachtmerriescenario is, dat speelt nog niet in Nederland, maar dat overal al die camera’s die hangen, dat die worden gekoppeld aan gezichtsherkenning software. En dan is eigenlijk het idee dat je min of meer anoniem en onbespied over straat kan lopen, verdwijnt dan, dat speelt nog niet. Maar wat wel speelt, is, ehm, dat de politie heeft een enorme databank gebouwd, grotendeels buiten beeld van media en politici, met, ehm, foto’s waarin ze kunnen checken van, ehm, waar ze in een foto kunnen checken of er een naam uitrolt én het blijkt dat ze ook af en toe gezichtsherkenningsoftware van Clearview hebben gebruikt. Dus twee redenen om ons zorgen te maken.

• 03:52

  Inge Wannet

  Want dat eh dat eerste systeem wat je noemt dat is CATCH, hè? Kun je uitleggen wat dat precies is?

• 03:57

  Frederik Zuiderveen Borgesius

  Nou, het is een databank die ze hebben aangelegd van foto’s die ze hadden genomen in … eerst voor andere redenen eigenlijk. Als je wordt verdacht van misdaden met een bepaalde minimumstraf zeg maar, ehm, dan bewaren ze je foto. Dat deden ze altijd al. Die hebben ze toen samengevoegd in een databank met een onvoorstelbaar aantal foto’s. Ik geloof meer dan 2,5 miljoen van in totaal meer dan 1,3 miljoen mensen en ik vind het eigenlijk ongelooflijk dat er zoveel mensen verdacht zijn geweest van, ehm, vrij zware misdaden. Het gaat dus niet alleen om veroordeelden, maar ook om verdachten, begrijp ik uit het beetje informatie wat openbaar is. Én heeft de politie zelf verteld d’r is nog een andere manier dat je in die databank terecht kan komen, namelijk als je bent gearresteerd en je wil je naam niet zeggen. De politie geeft daar zelf een voorbeeld van, namelijk als volgt: het schijnt meerdere keren voor te komen. Dat - je bent bij een demonstratie. Je wordt opgepakt en je wil je naam niet zeggen, dan fotografeert de politie je ook en kom je ook in die databank terecht. Maar verder heeft de politie niet uitgelegd van wat voor demonstraties dat waren. En ehm, het was al genoeg, gaf de politie zelf aan, als je bij een demonstratie bent en je bent een paar keer gewaarschuwd “mensen, jullie moeten hier weg," en je doet dat niet. Dus dat is geen enorm hoog vergrijpen dan kun je ook in die databank terechtkomen.

• 05:28

  Inge Wannet

  Waar gebruiken ze die database dan voor?

• 05:29

  Frederik Zuiderveen Borgesius

  Nou, het is handig als je bijvoorbeeld camerabeelden hebt van, ehm, iemand die een zware misdaad pleegt en je weet niet wie het is en je hebt camerabeelden met duidelijk bewijs dan kun je in die CATCH databank checken of er misschien al eerder foto’s van die persoon zijn; met de naam bijvoorbeeld. Dat is handig, maar ik schetste nu een scenario over een hele zware misdaad, maar de politie geeft zelf voorbeelden dat ze die CATCH data ook hebben gebruikt voor bijvoorbeeld inbraken, en dat is nou ja, minder zware misdaad.

• 06:05

  Inge Wannet

  Zijn er regels voor wanneer ze die database mogen inzetten?

• 06:07

  Frederik Zuiderveen Borgesius

  Ja, wat ik begrijp, of tenminste ik begrijp dat ze 'm alleen maar inzetten voor misdaden van bepaalde zwaarte. Juridisch gezien heet dat dan waarvoor voorlopige hechtenis is toegestaan. Ik weet niet die lijst misdaden allemaal uit m’n hoofd, maar wat ik zei, de politie geeft zelf voorbeelden van typisch zware misdaden waar je bij je op de eerste intuïtie denkt van: "nou, dat klinkt wel redelijk, een moordverdachte of zo.” Maar daar staan ook bij inbraak, insluiping en oplichting, en dat nou ja, dat kan heel zware oplichting zijn, maar inbraak en insluiping kan ook een redelijk licht geval van op het randje van kwajongenswerk zijn. Daarvoor werd die CATCH databank volgens de politie zelf ook gebruikt.

• 06:48

  Inge Wannet

  En je geeft ook aan dat er gezichten van verdachten in zitten, dus niet alleen van veroordeelde mensen. Mogen ze dat zomaar bewaren?

• 06:56

  Frederik Zuiderveen Borgesius

  Moreel gezien vind ik eigenlijk van niet, en de wet is een beetje vaag. Dat is niet de fout van de politie zelf, want er zijn verschillende wetten die verschillende bewaringstermijnen voorschrijven en dat maakt het allemaal wat, eh, wat vaag.

• 07:14

  Inge Wannet

  Waarom is het systeem volgens jou zo problematisch?

• 07:17

  Frederik Zuiderveen Borgesius

  Nou ten eerste, als er zo’n systeem aan wordt gelegd, dan vind ik dat dat eerst moet voorgesteld worden, eigenlijk in een aparte wet en dat de regering bijvoorbeeld een wetsvoorstel voorstelt en dat er daarna allerlei officiële adviesorganen, de Autoriteit Persoonsgegevens en de Raad van State, commentaar kunnen geven. Én zoals dat tegenwoordig gaat, dat er eerst een consultatieversie wordt gepubliceerd en dan kunnen Bits of Freedom en allerlei wetenschappers, wie dan ook, iedereen kan reageren. En dan idealiter komt er een debat in de opiniepagina’s, op TV en zo, en daarna in het parlement. Dus als het zo gebeurt, dan zou ik nog hopen dat er niet wordt beslist om zo’n systeem aan te leggen. Maar ja, als het dan na een serieus debat en een democratische stemming wordt aangenomen dan nou ja, soit, Maar dit is een beetje grotendeels buiten de radar van de publieke opinie en politici ontwikkeld en dat maakt het extra problematisch.

• 08:13

  Inge Wannet

  Ja, want dat dat hele debat en alles wat je net noemt voorafgaande aan de aanleg van die database, is dus niet gebeurd?

• 08:22

  Frederik Zuiderveen Borgesius

  Nee, het waren een paar scherpe journalisten die hebben - die bracht het voor het eerst naar buiten. In ieder geval voor het eerst dat ik er van hoorde, en dit soort nieuwtjes houd ik meestal wel bij. Dus het kwam, inmiddels wel weer een jaar of vijf geleden, kwam er zo langzaam steeds meer informatie naar buiten, ehm, maar er heeft niet een openbaar, duidelijk debat plaatsgevonden eerst.

• 08:40

  Inge Wannet

  En CATCH is dus een hele grote databank met heel veel gezichten. Hoe is die eigenlijk zo groot geworden?

• 08:46

  Frederik Zuiderveen Borgesius

  Nou die foto’s die politie d’r in heeft gestopt, die komen uit verschillende bronnen binnen de politie. Een deel, ik geloof enkele tienduizenden foto’s, die hadden ze al verzameld voor 2010 en die hebben ze er later ingestopt toen ze toch een databank aan het bouwen waren. Toen, vanaf 2010, zijn er ook weer minstens twee bronnen, zeg maar, voor bepaalde misdaden, eh, met een soort-eh drempelwaarde, dus niet de aller triviaalste, maar als er een bepaalde minimumstraf op staat, zeg maar, dan worden verdachten, dus niet alleen veroordeelden, maar ook verdachten gefotografeerd. Die werden altijd al bewaard, die foto’s, maar die worden nu ook in deze databank gestopt van : “joh, we hebben toch al, dus waarom niet in die databank stoppen met die gezichtsherkenningssoftware. De informatie die we hebben kun je er in komen zonder dat je ooit verder beboet of veroordeeld bent. En het is ook volstrekt onduidelijk of, die databank, of je daarna weer in zo’n demonstratie geval weer wordt verwijderd.

• 09:50

  Inge Wannet

  Hoe kom je er weer uit, uit die databank?

• 09:53

  Frederik Zuiderveen Borgesius

  Nou, in theorie, na vrijspraak word je d’r uit gehaald en moeten er dus binnen de staat van de rechtspraak worden, moet de politie ingelicht worden, of de politie moet zelf de afdeling inlichten. En in theorie moeten ze ook van iedere foto, soms - in sommige weten staan hele lange mogelijke bewaartermijnen. In andere wetten kortere, dus in theorie moeten ze bij iedere foto en ieder dossier bewaren, dit moet na zoveel maanden verwijderd, dit na zoveel jaar. Maar er zijn allerlei redenen om aan te nemen dat dat niet goed gaat. Trouwens daar is ook door gerapporteerd door journalisten van nu.nl bijvoorbeeld. Een voorbeeld is dat in 2020 geloof ik, waren d’r meer dan 200.000 verwijderd, want realiseerde de politie zichzelf ook, dit had daar helemaal niet in mogen staan. Op zich goed nieuws dat ze zelf af en toe daarin kijken. Maar ja, als het zulke grote aantallen zijn dan suggereert dat ook dat ze daarvoor niet streng genoeg zijn. En er werd ook gerapporteerd in media dat, dat er … dat de politie zelf al had ontdekt, dat er minstens tienduizenden foto’s van tienduizenden mensen daar onterecht in stonden, dus het gaat duidelijk niet altijd goed met die bewaartermijnen.
  
  Ik wil trouwens nog wat toevoegen, dat met CATCH bijvoorbeeld blijkt hoe belangrijk goede techjournalistiek is en dat we daar echt énorm zo veel geluk mee hebben in Nederland dat we bij allerlei media, nog veel meer dan 15 jaar geleden, dat we echt hele goeie techjournalisten hebben, die vaak hele belangrijke dingen vinden en, door met heel veel kennis, over rapporteren daar. Die verdienen wel een pluim eigenlijk en daar moeten we echt heel gelukkig mee zijn in Nederland.

• 11:37

  Inge Wannet

  Werkt het zo'n database? Hoe…hoe effectief is het?

• 11:40

  Frederik Zuiderveen Borgesius

  Nou, dat is niet zo duidelijk. Het is dus een énorme databank met meer dan 2,5 miljoen foto’s van meer dan 1,3 miljoen mensen. En wat de politie zelf tegenwoordig naar buiten brengt, is dat ongeveer 1000 keer per jaar wordt geprobeerd van: “databank heb je een naam bij deze foto?” Op zich is dat geruststellend. Het gaat niet dat er routineus honderduizenden foto’s worden gecheckt, en dan van die 1000 keer levert dat ongeveer 100 keer per jaar een hit op, in de zin dat de databank zegt van: “ja, deze foto is deze persoon”, en dan kijken daar ook nog twee politieagenten naar. Dus dat is op zich fijn zo’n check. Nu gaat het ook niet helemaal goed, want er heeft wel eens een rechter gezegd van: “nou jullie software en jullie twee politieagenten mogen dat wel zeggen, maar ik vind het niet duidelijk genoeg. Ik zie dit niet als bewijs.” Dan moeten we ook nog bedenken dat die 100 keer per jaar gemiddeld, dat die databank zegt dit is de naam bij deze foto, zegt niks over hoe belangrijk dat was in dat specifieke onderzoek. Misschien was het gewoon wat bonusinformatie of was het eigenlijk nog steeds niet genoeg, want hebben ze dan wel de naam bij iemand op camerabeelden maar waren de camerabeelden niet zodanig dat die, zeg maar … direct, een bepaalde misdaad waterdicht bewijzen. Dus het zal ongetwijfeld wel eens nuttig zijn, maar hoe belangrijk het in, ehm, in totaal is, is eigenlijk niet goed te beoordelen. En die paar getallen die we hebben, 100 hits - onduidelijk hoe belangrijk het is in een onderzoek, doet niet vermoeden dat het echt een enorm onderdeel is van de dagelijkse politiepraktijk, eh, waar die absoluut noodzakelijk is, omdat anders de maatschappij zou instorten of zo.

• 13:25

  Inge Wannet

  Het klinkt ook alsof de politie op deze manier veel makkelijker misdaden op kan lossen. Ze hebben weinig middelen en op deze manier kunnen ze hun werk misschien wel veel beter -.

• 14:33

  Frederik Zuiderveen Borgesius

  Ongetwijfeld! Er zullen – ongetwijfeld, ehm, kan het nuttig zijn. Daar twijfel ik geen moment aan. De vraag is meer of het nut opweegt tegen de privacyinbreuk en daar twijfel ik over.

• 13:49

  Inge Wannet

  En wie houdt er eigenlijk toezicht op het gebruik van de databank? Want je geeft wel aan dat er dus een aantal, nou ja, processen zijn ingericht om het niet, nou ja, niet zomaar te kunnen gebruiken. Maar hoe is het toezicht erop geregeld?

• 14:00

  Frederik Zuiderveen Borgesius

  D'r zijn interne privacy juristen bij de politie. Ik heb niet zo’n goed beeld van hoe…hoe dat werkt daar intern en de Autoriteit Persoonsgegevens.

• 14:15

  Inge Wannet

  Als de politie toch die databank in wil zetten. Wat zouden er dan volgens jou moeten gebeuren om daar wat meer grip op te krijgen?

• 14:20

  Frederik Zuiderveen Borgesius

  Wat eigenlijk zou moeten is dat als je zo'n grote databank aanlegt dat je dan eerst een, eh, in het Engels een data protection impact assessment en in het Nederlands heet het nog ingewikkelder, een gegevensbeschermingseffect beoordeling. Ja, zonder stotteren krijg ik ’t eruit. Inspiratie is daarbij gehaald uit het milieurecht en dan is het redelijk makkelijk voorstelbaar hoe je dat doet. Als je ergens een chemische fabriek wil neerzetten, dan moet je eerst in kaart brengen: wat zijn de risico’s? Ook in een gekke, onvoorziene gevallen, als er brand uitbreekt of zo, of als er een leiding breekt.Kun je de risico’s inperken? Bijvoorbeeld, weet ik veel, dubbele laag om de leidingen, en als je dat niet - risico’s niet genoeg kan inperken dan moet soms de conclusie zijn: je mag helemaal niet die chemische fabriek op deze plek bouwen. Dus daar was heel veel ervaring mee met dat soort impact assessment en dat is toen geïmporteerd, heel verstandig, in het privacyrecht dus dat zou moeten gebeuren. Dat is in der tijd niet gebeurd, maar toen was het ook niet - toen hadden ze daar spontaan voor kunnen kiezen. Dat was verstandiger geweest. Het was toen nog niet verplicht volgens de wet, nu wel. Wat mij betreft doen ze die alsnog, dan hoor je daar ook bij te bedenken van, nou ja, de risico’s zijn dat we overenthousiast worden, te veel [lacht] foto’s verzamelen, te lang bewaren, dat er te makkelijk in wordt gekeken en dan hoor je een heel systeem van checks and balances op te tuigen. Je kan je bijvoorbeeld voorstellen dat je zegt van nou eigenlijk voor een inbreker zoeken is eigenlijk niet een zwaar genoeg, een misdaad in het algemeen, om in die databank te kijken. En je zou je kunnen voorstellen systeem waar dat bijvoorbeeld het eerste rechter checkt of er wel in die databank gekeken mag worden. Dan kun je nog weer ingewikkelder systemen bedenken van nou, als je nu een terrorist, een verdachte terrorist, wil vangen, mag het een keer zonder rechter, als die d'r maar binnen een paar uur naar kijkt. Dat soort dingen. Je kan er heel systeem opbouwen met checks and balances en dat zou moeten gebeuren.

• 16:20

  Inge Wannet

  En dat zou ook nu nog voor CATCH moeten gebeuren?

• 16:24

  Frederik Zuiderveen Borgesius

  Ja, eindelijk alsnog zo'n data protection impact assessment lijkt me heel verstandig en uiteindelijk ook eigenlijk, euhm, bijvoorbeeld als je…als er nu nog een wettelijke specifieke wet zou aannemen, dan zou d’r automatisch mee een publiek debat getriggerd worden en adviezen van de Raad van State et cetera.

• 16:41

  Inge Wannet

  Dus dan met terugwerkende kracht zou het misschien toch allemaal net wat beter kunnen…?

• 16:48

  Frederik Zuiderveen Borgesius

  Of misschien dat dan uiteindelijk de conclusie is van: nou, misschien zijn de risico’s, privacy gerelateerde risico’s, te groot he. Misschien moeten, maar niet aanleggen zo gevaarlijk is Nederland eigenlijk niet. Hier in noordwest Europa de afgelopen twintig jaar is de veiligste plek in de geschiedenis van de mensheid. Er vinden, maar -het zijn er 150 te veel-, maar al twintig jaar lang komen niet boven de 150 moorden per jaar uit. Het is echt heel laag, eigenlijk, tenminste in absolute getallen zijn natuurlijk 150 teveel, maar op de 17 miljoen mensen is dat niet zoveel. Dus dit is echt één van de veiligste plek ongeveer in de geschiedenis van de mensheid, dus dat doet ook een beetje twijfelen van die techniek maakt het steeds makkelijker om grootschalig gegevens te verzamelen, om het…om misdaad te jagen. Maar…ja, die twee trends samen, het blijft maar veiliger worden, om allerlei redenen, niet alleen door enforcement, met een andere trend van de techniek maakt het steeds makkelijker om grootschalig data te verzamelen, te analyseren, snel te doorzoeken, lang te bewaren en zo, maakt dat je vaker moet denken van volgens mij van nou, laten we deze techniek eigenlijk maar niet inzetten. Het is het eigenlijk gewoon niet waard.
  
  [triphopmuziek speelt, gaat door terwijl Nico begint te praten]

• 18:05

  Nivo Voskamp

  Hoi, mijn naam is Nico, collega van Inge bij Bits of Freed om. Samen met vele vrijwilligers, partners en onze collega’s komen we op voor digitale burgerrechten. Wij verdedigen jouw privacy en communicatievrijheid op internet! Dit kunnen we alleen doen door support van onze trouwe donateurs. Ben je al donateur van Bits of Freedom? Dan zorg jij ervoor dat we ons werk onafhankelijk kunnen doen. Heel erg bedankt voor de support! Nog geen donateur en wil je dit wel worden, ga dan naar bitsoffreedom.nl/doneer.
  
  [triphopmuziek stopt]

• 18:42

  Inge Wannet

  Naast CATCH is er ook nog een ander systeem dat door het Nederlandse politie misschien wel gebruikt wordt. Buzzfeed bracht naar buiten dat de Nederlandse politie gebruik heeft gemaakt van de diensten van Clearview. Kun je uitleggen wat Clearview precies is?

• 18:56

  Frederik Zuiderveen Borgesius

  Clearview is een…ook een gezichtsherkenning systeem. Commercieel ontwikkeld door een Amerikaans bedrijf en dat is relevant, want daar gelden andere privacyregels die veel minder streng zijn dan in Europa en ook echt andere privacynormen. Heel veel mensen denken daar ook echt anders over privacy. Wat die hebben gedaan, dat bedrijf, die hebben, eh, in Amerika klopt dat eigenlijk wel…ongeveer van foto’s die op het web staan, eigenlijk alle informatie die op het web staat, is min of meer vogelvrij. Daar kun je mee doen, bijna wat je wil. In Europa zou dat helemaal niet gelden. Dingen die je zelf op Twitter of LinkedIn et cetera zet, die mogen - je foto’s of opmerkingen over jezelf, die mogen helemaal niet door anderen zomaar in een databank gestopt worden- in de Verenigde Staten- nou ik ken niet het hele Amerikaanse recht uit mijn hoofd, maar grosso modo mag dat wel. Nou, dat hebben ze heel enthousiast gedaan. En bij als je die van social media had, kun je daar ook een naam bij hangen vaak, natuurlijk. Ik weet niet wat de foutmarges zijn, maar je kan je voorstellen dat dat wel lukt natuurlijk. Pietje Puk die, die heeft 30 foto’s van zichzelf gepubliceerd en daar staat de hele tijd Pietje Puk bij. Dus nou, grosso modo, zo hebben ze die databank aangelegd en die proberen ze te exploiteren, geld mee te verdienen, en dat was volgens mij ook hun businessmodel door het aan te bieden aan allerlei politiediensten enzo, en ze hebben het ook gratis als try out aangeboden. In de Verenigde Staten wordt daar grootschalig gebruik van gemaakt. De Nederlandse politie heeft, ik geloof, nooit zo’n try out gedaan en sowieso nooit betaald voor het product. Dus zijn nooit als politiedienst abonnee geworden. Maar, volgens Buzzfeed heeft de politie er wel af en toe in gekeken. Naar aanleiding van vragen van politici heeft de Nederlandse Minister van Justitie uiteindelijk gezegd van zoiets, van heel voorzichtig geformuleerd. Als je die antwoorden bekijkt dan laat dat de ruimte open dat individuele politieagenten wel Clearview hebben gebruikt.

• 21:04

  Inge Wannet

  En hoeveel gezichten zitten er nu in die database?

• 21:05

  Frederik Zuiderveen Borgesius

  Nou de eerste berichten waren 3 miljard. Later bleek dat ze inmiddels op de 10 miljard foto’s zitten, dat zegt nog - dus foto’s van gezichten. Dat zegt nog niet - dat kunnen bijvoorbeeld van 2 miljard mensen zijn want dat kunnen meerdere foto’s van één persoon zijn, want, ja bijvoorbeeld, want je kan heel veel foto’s op je eigen Facebook account zetten.

• 21:26

  Inge Wannet

  Kan je uitleggen waarom de inzet van die diensten van Clearview zo kwalijk is als Nederlands politie dat zou doen?

• 21:31

  Frederik Zuiderveen Borgesius

  Zoals ik al zei, dat zoals Clearview die databank heeft aangelegd, dat zij dat in Nederland en Europa helemaal niet mogen. Want de AVG die verbiedt dat gewoon, om op grote schaal van iedereen die op het web vindt foto’s geautomatiseerd, een hele grote schaal dus hè…miljarden, om die allemaal in een databank te stoppen en de naam daaraan te hangen en doorzoekbaar te maken, mag absoluut niet van de AVG. Trouwens ze hebben ook - officieel vastgesteld door de Engelse privacy toezichthouder, is wel, geen EU-lid meer, maar ze passen nog steeds een soort kopie van de AVG toe. En de Australische privacy toezichthouder…die hebben een minder strenge wet dan de AVG maar zelf zij hebben, zeg maar, de AVG leidt die zij hebben in Australië, ook daar hebben ze geconcludeerd wat Clearview heeft gedaan, mag niet en een boete opgelegd…Dus de politie had geen net Europees bedrijf kunnen huren om dit te doen, want in Europa had die databank nooit gebouwd mag worden. Dus je zit hier met een dienst die wordt aangeboden, die in Europa niet zou mogen. Nou, dat vind ik het al moreel absoluut verwerpelijk om daar toch gebruik van te maken als politieagent. Dus dat punt is er. Dan punt twee is, als dat al gebeurd, daar moet natuurlijk langs de, dan moeten er opnieuw checks and balances zijn. Idealiter kijkt er een rechter eerst naar of in ieder geval hele hoge mensen bij de politie, dat er goed wordt afgewogen en dat er langs de huisjurist van de politie gaat en zo van: nou, misschien is er nu, weet ik veel, een kidnapping ofzo, met waar we beelden van hebben, dat het belang zo zwaar is, of een terroristische aanslag die echt denken te kunnen voorkomen. Nou, je kan hele ingewikkelde hypotheses bouwen met een verhaal, actiefilmachtig dat je denkt van nou in dit geval, ondanks dat het dat schandalig product is, misschien moet het dan maar één keertje mogen of zo. Maar het feit dat niet - dat politie niet heel makkelijk statistieken publiceert, zoveel is het gebruikt voor deze misdaden, dat doet vermoeden dat het veel meer uit de losse pols ging. En eigenlijk, ja, die databank is door een Europese bril, dat Clearview product, dat is gewoon illegaal. Dus eigenlijk vind ik dat je als politie daar helemaal van af moet blijven.

• 23:47

  Inge Wannet

  En hoe hoe kan het dan dat, dat er toch gebruik van is gemaakt?

• 23:50

  Frederik Zuiderveen Borgesius

  Nou ja, het is makkelijk, hè. Je kunt - wij kunnen, wij burgers kunnen ook allerlei Amerikaanse diensten op het web afnemen die helemaal niet mogen in Europa. Maar sowieso het feit dat het web en het internet van alles mogelijk maakt, maakt nog niet wat je het moet doen. En ik vind ook dat de politie zich, en de staat in het algemeen, zich netter moet gedragen dan burgers. Ja, dat burgers af en toe de fout ingaan is jammer, maar de staat moet het goede voorbeeld geven, natuurlijk.

• 24:18

  Inge Wannet

  Want er staat - er ontstaat ook een beetje het beeld dat de politie eigenlijk weinig grip heeft op het gebruik van dit soort technologie door medewerkers. Is dat een zorg die jij hebt?

• 24:29

  Frederik Zuiderveen Borgesius

  Ja, daar lijkt het wel op. Kijk, je kan nooit helemaal voorkomen dat af en toe een politieagent in zijn of haar enthousiasme iets doet wat niet mag. Daar heb ik wel begrip voor, maar volgens Buzzfeed, en de minister heeft dat ook niet ontkend, gaat het om tussen de 50 en 100 keer. En die getallen zijn al een jaar oud, volgens mij, en zo lang bestaat Clearview nog niet. Dus dat klinkt toch wel structureler. Het klinkt alsof agenten niet genoeg gewaarschuwd zijn van de…van de illegaliteit van dat systeem en dat die misschien niet genoeg gewaarschuwd zijn van, ehm, over wat ze wel en niet moeten doen. Maar het is een beetje giswerk omdat er zo weinig naar buiten komt bij de politie.

• 25:17

  Inge Wannet

  Ja, vind je dat de politie daar veel opener over zou moeten zijn?

• 25:20

  Frederik Zuiderveen Borgesius

  Ja en hier, laten we even aannemen, goede trouw aannemen, dat de politie echt geen beeld heeft van hoeveel individuele agenten het hebben gedaan. Maar ja, dan speelt er een ander probleem: te weinig…te weinig toezicht op agenten en te weinig waarschuwingen hebben ze gehad, kennelijk.

• 25:39

  Inge Wannet

  Ik wil nog heel even terug eigenlijk naar het het gevaar van van zo'n dienst als Clearview, want je hebt duidelijk uitgelegd dat, dat het niet mag. Een Europees bedrijf zou dit - dit zou geen Europees bedrijf kunnen zijn, maar ze hebben, ze hebben wel Europese gezichten er ook in zitten, toch? Ik bedoel mijn gezicht zit er waarschijnlijk ook in.

• 25:58

  Frederik Zuiderveen Borgesius

  Als je wel eens je eigen - als jouw foto op het web staat, dan sta je er waarschijnlijk wel in ja. Ja, dat is ten dele - veel Amerikanen, je komt het zelfs nog wel in Nederland tegen ook, maar vooral veel Amerikanen denken dat alles wat op het web staat vogelvrij is en dat is een beetje culturele norm daar. Dat zij beschouwen, het klopt ook wel een beetje, publiceren van een foto of het publiceren van een blogpost dat zien ze als vrijheid van meningsuiting en eigenlijk ook het verzamelen daarvan. Dat past ook wel in de vrijheid van nieuwsgaring en zo.., en dat beschouw Amerikanen als nog veel belangrijker dan in Europa. In Europa vinden vrijheid van meningsuiting en vrijheid van nieuwsgaring vinden we hele belangrijke grondrechten maar vinden we precies even belangrijk als privacy en daarom is het heel vaak moeilijk af te wegen. In de Verenigde Staten is informatie verzamelen en Freedom of Speech een soort joker die bijna alles overtreft, dus in Amerika klopt het grotendeels dat ze bij mekaar kunnen harken wat ze willen…volgens de wet, en dat is dus ook meer een culturele norm daar. Dus het zou kunnen dat ze daar gewoon niet aan hebben gedacht, dat het in Europa anders is. Dus wat heel verontrustend, of tenminste, het is heel verontrustend dat, dat als ze een grootschalig project beginnen, dat ze niet even een privacyjurist erbij halen, want de Amerikaanse privacyjuristen weten echt wel dat elders in de wereld andere privacynormen en -regels gelden. De AVG is wel zo beroemd en de - als ze dat niet wisten, dan kun je ze dat kwalijk nemen, want met zo’n project hoor je gewoon even juridisch advies in te winnen. Dit hadden ze al googlend trouwens ook wel kunnen vinden dat het niet mag in Nederland. Dus zo kan dat gebeuren.

• 27:42

  Inge Wannet

  Wat is het gevaar van de, van de inzet van een systeem als Clearview?

• 27:45

  Frederik Zuiderveen Borgesius

  Ga ik twee antwoorden geven. Eerst Clearview zelf. Nou, het is gewoon heel mooi dat sociale media - geven ons de kans en iedereen, ook als je onhandig vindt om zelf een blog te bouwen, jezelf te uiten. Dus dat is heel mooi voor vrijheid van meningsuiting en voor ontwikkeling van tieners enzo. Prachtig dat het tegenwoordig zo makkelijk kan. Maar als je weet dat iedere foto die je plaatst, ehm, in een databank terecht kan komen, nou, misschien worden sommige mensen afgeschrikt om dat te doen of durven ze geen foto meer te plaatsen die ze hebben genomen op de gay pride of voor een kerk of voor een, eh, voor een moskee of, dus of, of met hun partner of zoiets. Dus het kan, zou een enorm, wat juristen vaak een chilling effect noemen. Het zou kunnen leiden dat mensen eigenlijk niet goed meer over zichzelf durven te berichten op het web. Nou, dat zou jammer zijn, dus dat is het gevaar voor Clearview, maar als we een beetje - een paar - uitzoomen, qua techniek is het al mogelijk, als je genoeg geld investeert en dat wordt natuurlijk steeds makkelijker, om de gezichtsherkenning ook te koppelen aan camera’s die overal hangen. En dat is ja, technisch is dat mogelijk. Het is alleen nu kost het nog wat tijd en geld, investeringen. Maar we hebben al eerder gezien, dus dat die drempels die worden over het algemeen steeds weggenomen door het voortschrijden van de techniek. Dus binnen een paar jaar kunnen we zeggen - echt in de situatie zitten, in sommige Chinese steden is dat al, dat alle camera's die op straat hangen ook gekoppeld zijn aan gezichtsherkenning. Dan is het hele idee dat je een onbespied een ommetje kan lopen is ook weg, en dat zou ik echt diep schokkend vinden. Dat moeten we absoluut voorkomen volgens mij als maatschappij.

• 29:38

  Inge Wannet

  Kan het volgens jou nog goedkomen met de politie en de inzet van technologie?

• 29:42

  Frederik Zuiderveen Borgesius

  Nou, ik ben er zo lang bezig met de privacy en grondrecht dat ik daar alleen maar mee kan doorgaan. Als ik een beetje optimistisch blijf, dus ja hoor, denk ik, dat kan zeker nog goed komen.

• 29:52

  Inge Wannet

  Wat is daar voor nodig, volgens jou?

• 29:53

  Frederik Zuiderveen Borgesius

  Nou, op de korte termijn zou ik eigenlijk voor deze specifieke, voor die CATCH databank bijvoorbeeld, zou ik alsnog een data protection impact assessment willen zien en alsnog een politiek- en publiek debat. Dan hoop ik dat mensen kiezen van nou sowieso zo'n grote databank vinden we niet redelijk worden, eh, dus willen we niet aanleggen. In ieder geval zou dat betekenen, dus die moeten we dat enorm terugschakelen. Maar ja, soms wordt er ook democratisch een, ehm, een iets aangenomen waarvan ik denk dat had ik liever niet gehad. Maar ja, ik mag meestemmen en zo, dus ja, dan moet je ook accepteren. Dus dat is op de korte termijn over deze databanken en over het algemeen hoop ik dat politici en journalisten en krantenlezers en stemmers zich beter realiseren dat…hoe veilig Nederland eigenlijk is. En ik moet mezelf ook, ik ben, ik weet niet of dat verstandig is, maar ik ben een enorme nieuwsjunkie, en ik moet mezelf ook de hele tijd bij de les roepen van als je weer een moord ziet of zo, moet ik mezelf de hele tijd bewust eraan herinneren van ja, maar dat lijkt heel erg nú omdat dat op de voorpagina staat, maar je moet daar even - je ook stilstaan bij het grote plaatje. D’r zijn gewoon veel minder moorden dan bijvoorbeeld in - dan rond de eeuwwisseling en nog veel minder dan in de jaren ’90. En alle andere soorten geweld nemen ook af en allerlei praktisch alle andere soorten misdaden ook. Dus het zou heel goed zijn als we met z’n allen, ook stemmers en ook krantenlezers en ook journalisten, dat we vaker dat grote plaatje in ons hoofd houden en daarom minder verleid worden door anekdotes over geweld, nou ja, dat is te grof. 150 moorden is natuurlijk te veel. Het zijn niet alleen anekdotes, het is waar. Maar dat we minder verleid worden door al die shiny nieuwe gadgets om die allemaal in te zetten. Ja, dus dat is het grote plaatje waar ik op hoop en wat nodig is, denk ik. Ik moet me zelf ook bij de les houden hoor, want ik word soms ook afgeleid door media.

• 31:52

  Inge Wannet

  En is er nog iets wat het Ministerie van Justitie en Veiligheid volgens jou kan doen om, eh, nou ja, bijvoorbeeld volgend jaar niet weer een Big Brother Award te winnen voor de inzet van gezichtsherkenning?

• 32:04

  Frederik Zuiderveen Borgesius:

  Ja, wat ik zei, op korte termijn een impact assessment doen op deze databank van, gewoon, heroverwegen. En zelf - ik vind wat ik zei: de staat moet braver zijn nog dan dan gewone burgers, vind ik altijd. De staat moet een beetje…een beetje boe, het braafste jongetje van de klas zijn. Dus dat burgers af en toe afgeleid worden door bloedig nieuws, kun je ze niet kwalijk nemen. Maar de staat moet zich echt veel beter realiseren: zijn al die mogelijkheden die techniek onze biedt, zijn die wel redelijk, zijn die wel proportioneel en moeten we dat wel inzetten? En nogmaals, ik kan me voorstellen dat een individuele politieagent in zijn of haar enthousiasme een beetje doordraaft en ja op, in, in individuele gevallen heb ik daar ook wel begrip voor, niet, dat ik vind dat dat toegestaan wordt, maar dus zelf meer checks and balances inbouwen.
  
  [triphopmuziek speelt, gaat door terwijl Inge en Frederik praten]

• 32:58

  Inge Wannet

  Dank je wel.

• 32:59

  Frederik Zuiderveen Borgesius

  Graag gedaan.

• 33:08

  Inge Wannet

  Lotte, jij houdt je bij Bits of Freedom veel bezig met gezichtsherkenning door de politie. Welke links zie jij met ons werk?

• 33:16

  Lotte Houwing

  In ons werk zetten we druk om gezichten uit databanken te bevrijden. Zo ben ik zelf bezig om mijn eigen gezicht uit de databank van Clearview AI te halen met het gebruik van onze website ikwilinzage.nl. Dat zou jij via diezelfde website ook kunnen doen, maar wij houden natuurlijk niet op voor dat alle gezichten uit databanken zijn bevrijd. Daarom zijn wij in een coalitie genaamd reclaim your face bezig met het verkrijgen van een Europees verbod op gezichtsherkenning in de openbare ruimte én roepen wij op tot openheid vanuit de politie op hun gebruik van Clearview AI, zodat ook dit snel stopt.

• 33:51

  Inge Wannet

  En wat hoop je dat deze Big Brother Award doet?

• 33:56

  Lotte Houwing

  We hebben net een aantal voorbeelden gehoord van hoe de politie eigenlijk alle infrastructuur waar zij haar handen op kan leggen, gebruikt om onze gezichten vast te leggen. Ook hebben we gehoord dat er eigenlijk geen real time gezichtsherkenning in de straten nodig is om onze gezichten op de straten te kunnen herkennen. Dat houdt het angstscenario wat veel mensen hebben, een stuk dichterbij. Deze prijs moet die ontwikkeling een halt toeroepen. Het Ministerie moet verantwoordelijkheid nemen voor het gebruik van technologie door de politie en zorgen dat dit op een verantwoordelijke manier gebeurd, waarbij onze rechten en vrijheden goed zijn beschermd.

• 34:36

  Inge Wannet

  Het Ministerie van Justitie en Veiligheid ontving de Big Brother Award Expertprijs onder andere omdat ze zo gretig zijn op de inzet van gezichtsherkenning door de politie. Maar daarmee zijn we er nog niet. De komende weken loop ik met jullie langs een reeks privacyblunders en licht deze toe met onze experts.
  
  Deze podcast werd gemaakt door Bits of Freedom. Je hoorde mij Inge Wannet. De podcast werd geproduceerd en geëdit door Randal Peelen. Heel veel dank gaat uit naar onze donateurs, partners en vrijwilligers en alle experts die hun medewerking hebben verleend aan deze podcast. Wil jij ook onderdeel zijn van onze beweging? Ga dan naar onze website en doneer, abonneer je op onze nieuwsbrief of meld je aan als vrijwilliger.