Das Ende der offenen Gesellschaft

Von Eduard Kaeser aus „Journal21“

Kommunizieren und Überwachen gehören seit jeher zusammen. Mit den aktuellen und kommenden technischen Möglichkeiten bekommt dieser Konnex aber eine neue Qualität.

Jedes neue Kommunikationsmittel ermöglicht auch ein neues Mittel der Kommunikationsüberwachung. Das beginnt schon mit dem privaten Gespräch; man kann es belauschen. Mit der Erfindung der Schrift und des Briefverkehrs entstand gleichzeitig die Praxis des heimlichen Briefeöffnens; mit Telegrafie und Telefonie das klandestine Anzapfen der Kanäle; im Schatten der Kamera etablierte sich die versteckte Aufnahme; im Schatten der Satellitenübertragung die Satellitenspionage; das Internet wird von übereifrigen Algorithmen der Datenauswertung infiltriert.

So gesehen könnte man sagen, ist Überwachung die natürlichste Sache der Welt. Es kommt nur darauf an, wie diese Welt ausschaut, oder genauer: mit wieviel Kommunikation sie überschwemmt wird. Und in dieser Hinsicht ist die Diagnose nicht sonderlich abwegig: mit viel zu viel. Könnte es also sein, dass das Bedürfnis nach Ausspähen und Überwachen in dem Masse wächst wie die kommunikative Inkontinenz im Netz endemisch wird?

Das mobile Panoptikum

Zu beobachten ist jedenfalls, dass überall da, wo wir uns befinden und wohin wir uns bewegen, ein mobiles Panoptikum uns begleitet, in Gestalt jener Fahrhabe von Apps, die wir ständig mit uns herumtragen. Das klassische Panoptikum war räumlich: In ihm wurde beobachtet, was geschieht. Das neue Panoptikum schliesst die Zeitdimension mit ein: Man schaut, was wahrscheinlich geschehen wird.

An der flankierenden Technologie wird fieberhaft herumgetüftelt. Sie nennt sich „Predictive Analytics“, und sie stellt Mittel zur Verfügung, die möglichst präzise Voraussagen treffen, was eine Person – Kunde, Straftäter, Sportgegner, Kriegsfeind – nächstens tun wird, und zwar am besten, bevor sie weiss, dass sie es tun wird. Amazon hat 2013 ein Patent angemeldet namens „antizipatorischer Versand“: „eine Methode, Pakete zu liefern, bevor der Kunde ‚kaufen’ klickt.“

Die Methode beruht auf einem ausgeklügelten Algorithmus, der errechnet, was als nächstes zu versenden sei. Er durchforstet die Datenmasse vorangegangener Bestellungen, Produktsuchen, Wunschlisten, Inhalte von Einkaufswagen, Rücksendungen und sogar der Zeitdauer, in der ein Kursor bei einem Artikel im Onlineshop verweilt. Es herrscht Krieg, der Krieg um Kundschaft – und „prädiktive Analyse“ ist eine Wunderwaffe. Das Patent zeigt, wie Amazon seinen Datenschatz verwenden will, um Konkurrenten auszustechen.

Gedanken hacken

„Wir wissen, wo du bist. Wir wissen, wo du warst. Wir wissen mehr oder weniger, worüber du nachdenkst“ – ein pompöser Dreiklang aus dem Mund von Ex-Google-Chef Eric Schmidt. Man mag hier die schon etwas ermüdende Grossmaulattitüde von Internetprognostikern heraushören, doch in der Wunschform ist die Äusserung durchaus ernstzunehmen.

Ultimatives Ziel im neuen Panoptikum ist nicht nur die Überwachung und Analyse des Sprechens und Handelns, sondern auch des Denkens: Gedanken hacken. Wir befinden uns längst auf diesem Weg mit den Wearables, die schon fast zu Zusatzorganen geworden sind, und aus denen stündlich, ja minütlich Daten in die Cloud emanieren.

Eine andere, sich rasch entwickelnde Technologie hilft, das Verhalten des Individuums nicht nur aus seinen äusseren Datenspuren vorauszusagen, sondern aus seinem inneren Zustand. Es gibt bereits das „Affective Computing“, Mustererkennungs-Software, die aus meiner Physiognomie meine Wünsche und Absichten zu erraten sucht. Ein Programm mit dem sinnigen Namen „Beyond Verbal“ analysiert die Intonation der Stimme.

Das Startup „Humanyze“ benutzt soziometrische Methoden in Kombination mit Wearables, um den Personalbüros von Firmen in der Durchleuchtung der Befindlichkeit ihrer Angestellten zu Hand zu gehen. Alle diese Technologien sind Beispiele für das, was der britische Medienwissenschafter Andrew Mc Stay als „empathisches Medium“ bezeichnet.

Aber wie können Algorithmen wissen, was ich denke, wenn das nicht einmal andere Menschen können? wird man skeptisch fragen. Und die Antwort darauf, zumindest die Antwort der Algorithmen-Designer, lautet: Sie können es tatsächlich nicht, aber das spielt auch immer weniger eine Rolle, weil die Einschätzungen, die uns die Maschinen liefern, stets treffgenauer werden.

Die Innenwelt eines Kunden wird in dem Masse entbehrlich, in dem sie sich nach aussen in ein prognostizierbares Datenprofil stülpt. Und das tun wir schon heute unermüdlich mit unserer Klickerei. Person oder persönliches Datenprofil: einerlei. In diesem Sinn wird es in Zukunft gar nicht mehr so wichtig sein, zwischen Mensch und Maschine zu unterscheiden.

Das zentrale Problem ist die „polis“

Das zentrale Problem ist ein politisches, und zwar im emphatischen Sinne des Wortes „polis“: der Öffentlichkeit und der offenen Gesellschaft. Im Datenuniversum hinterlässt tendenziell jede Kommunikation (im weitesten Sinne einer sozialen Transaktion verstanden) ein Depositum in irgendeiner Datenbank.

„Depositum“ in der Bedeutung von Verwahrung scheint mir hier der richtige Ausdruck zu sein, weil er auf den Kern des Problems zeigt: auf eine Vertrauensfrage. Wenn ich einer Bank Geld in Verwahrung gebe, dann weiss ich in der Regel nicht, was sie mit diesem Geld anstellt, aber ich vertraue (zumindest bis vor kurzem tat ich es) ihrem verantwortlichen Umgang mit ihm. Kann ich einer Datenbank auf solche Weise vertrauen? Die Antwort lautet bündig: Nein.

Die Kommunikation im Netz hat ein nicht mehr überblickbares und regulierbares Ausmass erreicht. Spätestens seit Snowden wissen wir, dass nicht nur die Kommunikationskanäle – im öffentlichen und privaten Bereich – angezapft werden, sondern dass unsere „persönlichen“ Datenprofile ausreissen können und in irgendwelchen Datensilos, die häufig alles andere als „sichere Häfen“ sind, auf ihre weitere Verwendung warten.

Nicht wenige Internetbenutzer können ein Lied davon singen, wie sie auf verschlungenen Wegen in den Datenbanken von Kreditinstituten, Versicherungen, Assessment-Firmen, „Data Brokers“, Werbeagenturen, Strafverfolgungs- oder Verfassungsschutzbehörden landeten, und anschliessend mit erheblichem rechtlichen Aufwand ihren „Ruf“ wiedergutmachen mussten.

Vertrauen in Algorithmen statt in Menschen

Unser Vertrauen in wirtschaftliche Grossunternehmen und staatliche Institutionen ist empfindlich gestört. An seine Stelle tritt immer mehr ein Sicherheitsbedürfnis. Oder präziser: Dieses Bedürfnis wird uns andauernd eingeredet durch die Orakelei über reale oder potenzielle Gefahren.

Die eigentliche Gefahr verliert man dabei aus den Augen: In unserem Ruf nach Sicherheit verschiebt sich das Vertrauen vom Menschen auf die Maschine. Wir setzen es in das Funktionieren von Algorithmen, zum Beispiel zum Schutz von Informationskanälen. Aber das ist ein unsicheres Vertrauen, wie die Bespitzelungsaffäre der NSA zeigt.

Verteidiger der Datenschnüffelei führen zu deren Legitimierung gerne das Argument ins Treffen, dass man ja Daten für Maschinen sammle, und Maschinen würden diese nicht in einem justiziablen Sinn „lesen“. Das Argument ist schwach auf der Brust, denn Algorithmen sind nicht neutral, sie sind von den oft stillschweigenden Ideologien und Voreingenommenheiten ihrer Designer vorbelastet. Und gerade im neuen Panoptikum wird es zu einer vordringlichen politischen Aufgabe, diese Vorbelastung ans Licht der Öffentlichkeit zu bringen, vor Gericht und in den Medien.

Das Dilemma des „datifizierten“ Rechtsstaates

Auf der anderen Seite kämpft der Rechtsstaat mit einem Dilemma. Er hat für die Sicherheit seiner Bürger zu sorgen. Dazu gehört der Schutz der Kommunikationskanäle vor Schnüffelei. Aber auch Kriminelle und Staatsfeinde geniessen ipso facto solchen Schutz. Der Staat möchte also, im Namen seines Schutzes, möglichst umfassende Kenntnis über die Gefährlichkeit seiner Bürger.

Er hat freilich ein Entscheidungsproblem: Wie effizient auch staatliche Durchleuchtungstechniken sind, sie können nie sicher sagen, ob ein Gedanke, der aus einem Datenprofil erschlossen wird, aktuell oder nur potenziell gefährlich ist. Das Problem ist unlösbar, also „löst“ man es wie den gordischen Knoten. Man erklärt alle Bürger für potenziell gefährlich. Schliesslich haben immer mehr Bürger ein Datenprofil, aus dem sich mögliche „Gefährlichkeiten“ schliessen lassen.

Fliessender Übergang von Dissens zu Delikt

Wir alle leben nunmehr unter der Herrschaft des Verdachts. Die Perspektive ist ungeheuerlich; allerdings ist sie bereits politische Realität: Man betreibt „vorsorgliche“ Spionage im Innern, weil sich der Feind auch im Innern aufhalten kann. Damit verwischt man die für den liberalen Staat vitale Grenze zwischen Dissens und Delikt.

Der ehemalige FBI-Direktor Robert Mueller befürwortete die Aufhebung einer solchen Grenze bereits im Jahre 2006: „Zwischen jenen, die Dissens äussern, und jenen, die eine terroristische Tat begehen, existiert ein Kontinuum. Irgendwo in diesem Kontinuum müssen wir mit unseren Nachforschungen beginnen. Tun wir das nicht, dann tun wir unseren Job nicht.“

Man muss hier tief Luft holen und sich klar machen, dass die Äusserung auf eine Selbstermächtigung staatlicher Organe hinausläuft, eine kritische Haltung präemptiv als Terror zu klassifizieren. Wer aber verschiebt die Punkte im Kontinuum, und aus welchen Gründen? Verschiebt sich der Schutz des Bürgers unter der Herrschaft des Verdachts „kontinuierlich“ in seine Ausspähung? Man kann sich fragen, was die grössere Gefahr darstellt: die terroristische Tat oder die Befugnis, eine Tat als terroristisch zu bezeichnen.

Die übereifrigen Schützer und Wächter unserer Sicherheit müssen selber ins Visier genommen werden. Denn eine Gesellschaft, in der die Überwacher das unüberwachte Sagen haben, ist keine offene mehr.

Originaltext