Umstrittene Software Schweizer Firma hilft Staaten im Kampf gegen Pädophile – und Andersdenkende

Ein Winterthurer Start-up will mit einer Software, die Gesichter erkennt, Kinderpornografie bekämpfen. Das Unternehmen steht aber auch in Verhandlungen mit der Polizei von Abu Dhabi, die mutmasslich eine andere Verwendung verfolgt.

Zur Bekämpfung der Internet-Kriminalität sei die Schweizer Polizei zu träge, konservativ und zu wenig risikofreudig, sagt Tobias Bollinger. Der ehemalige Leiter der nationalen Koordinationsstelle Cyber-Kriminalität schwingt in einem Bericht der «Rundschau» des Schweizer Fernsehens die Werbetrommel für eine Gesicht-Erkennungs-Software, die von seiner Firma entwickelt wurde.

Die vom Winterthurer Start-up AVA-X entwickelte Funktion will Bolliger der Polizei zur Bekämpfung von Kinderpornografie anbieten. «Künstliche Intelligenz wird den Menschen niemals ersetzen können. Sie sollte aber sein engster Partner sein für spezifische Aufgaben, die eine Maschine besser erfüllen kann als ein Mensch.»

Nach KritikApple macht Rückzieher bei Kinderpornografie-Scans

Aus digitalen Quellen erhalte die Polizei eine Flut von Beweismitteln. Laut einer IT-Forensikerin der Kantonspolizei Aargau könnten rasch ein bis zwei Terabyte zusammenkommen. Verfüge man über eine Million Bilder, würden rasch ein bis zwei Monate zusammenkommen, um alles zu sichten, sagt sie zur «Rundschau».

«Technologie kann nicht gut oder böse sein»

Mit besagter Software würden etwa Kinder aus Millionen von Bildern identifiziert werden können und anhand von Objekten im Raum der Tatort identifiziert werden.

Gerät diese Technologie jedoch in die falschen Hände, wird schnell ein Albtraum daraus. So würden autoritäre Regimes solche Software bereits heute zur Verfolgung von Regierungskritiker*innen, Journalist*innen und sonstigen unangenehmen Gruppierungen verwenden.

Im DarknetDeutsche Ermittler zerschlagen grosse Kinderpornografie-Plattform

«Wir haben eine Technologie, die nicht gut oder böse sein kann», sagt Bolliger. Es komme darauf an, wie sie eingesetzt werde. So verkaufe er weder an Länder, die auf der Waffenexportliste des Bundes stünden, noch in solche, die Grundrechte verletzen.

Als vertrauenswürdigen Partner sieht er indes die Polizei von Abu Dhabi, mit der er derzeit in Verhandlungen steht. «Wenn es eine Missbrauchsabsicht gibt, dann können wir das nicht zu 100 Prozent verhindern, würden aber sofort reagieren, wenn wir Kenntnis davon hätten.» In den Vereinigten Arabischen Emiraten überwachen Hunderttausende Kameras den öffentlichen Raum. Zudem gehe der Staat hart gegen Kritiker*innen vor.

Der ganze «Rundschau»-Beitrag wird heute Abend ab 20.05 auf SRF ausgestrahlt