7 minuten
18 May 2017
Ende Januar war Linus Neumann mal wieder im Deutschen Bundestag eingeladen. Als Sachverständiger ist der Rat des 33-jährigen Psychologen, Hackers, Podcasters („Logbuch: Netzpolitik“) und Sprechers des Chaos Computer Clubs geschätzt. Ein Fachgespräch zu „Social Bots“ war angesetzt, eins der bestimmenden Themen der IT-Sicherheit. Wir treffen Neumann in Berlin-Mitte. In einer rustikalen Hinterhofwerkstatt sitzen überwiegend junge Männer an Computertischen, um sie herum liegen Lötstation, Platinen und Spielkonsolen. Wir gehen in den Keller, setzen uns zu ihm aufs Sofa. Los geht’s.
Herr Neumann, verbessern oder verschlechtern Computer die Welt?
Beides. Ein Computer kann alles. Das hat ihm zum Durchbruch verholfen: Er ist universell programmierbar und kann vieles abbilden. Ich kann mit einem Computer eine Drohne steuern und Menschen den Tod bringen. Oder ich lasse den Computer Daten analysieren und unterstütze die medizinische Forschung. Dem Computer ist das scheißegal. Das vergessen viele Menschen.
In der Arbeitswelt empfinden viele Menschen Roboter als Konkurrenz. Sie haben Angst davor, ersetzt zu werden.
Die Automatisierung rüttelt an den Grundfesten unseres Wirtschaftssystems, deswegen verteufeln oder fürchten wir sie. Vollbeschäftigung und einfache Lohnarbeit scheinen keine große Zukunft zu haben, wenn immer mehr Tätigkeiten von Computern und Robotern erledigt werden. Kaum jemand denkt in Ruhe darüber nach, wie wir eine digitalisierte Gesellschaft gestalten sollten und wie wir gemeinsam davon profitieren können. Viele der Arbeiten, die uns die Maschinen abnehmen werden, sind ja nicht per se schön. Als Menschheit könnten wir froh sein, sie nicht mehr erledigen zu müssen – wenn wir nur ein tragbares Konzept hätten.
Die Sorgen sind nicht berechtigt?
Doch. Mittelfristig ist fast jeder Job automatisierbar. Ein Computer könnte heute schon große Teile der Arbeit von Anwälten, Anästhesisten oder Beamten erledigen – und zwar besser! Bestimmte Jobs werden bloß nicht von Robotern oder Computerprogrammen erledigt, weil das noch zu teuer oder technisch noch nicht optimal lösbar ist. In vielen Bereichen ist das aber nur eine Frage der Zeit.
Haben Sie ein Beispiel?
Der Versandhändler Amazon beschäftigt auch deshalb heute noch so viele Mitarbeiter in Packzentren, weil es noch keine Roboterhände gibt, die mit der menschlichen Hand mithalten können. Sobald aber jemand ein vielseitiges Greifinstrument zu einem halbwegs rentablen Preis entwickelt, wird Amazon wohl keine Packer mehr brauchen. Die machen einfach zu viel Ärger, werden krank, wollen zu viel Geld, dürfen nur acht Stunden arbeiten. Roboter sind pflegeleichter und werden auch irgendwann billiger sein.
In einer idealen Welt hätten Packer mehr Zeit für Bildung und würden anspruchsvollere Jobs bekommen.
Im Idealfall wäre das so. Momentan sieht es nicht danach aus, als würde das passieren. Wir sind nicht auf die Automatisierung unserer Arbeitswelt vorbereitet – das haben wir als Gesellschaft in den letzten Jahrzehnten versäumt. Wenn wir unsere Ausrichtung nicht ändern, wird es viele überflüssige Arbeitskräfte und die damit einhergehenden Probleme geben.
Was haben wir denn versäumt?
Politik und Wirtschaft haben versäumt, rechtzeitig über alternative Beschäftigungsmodelle nachzudenken. Wenn ich weiß, dass es irgendwann nur noch selbstfahrende Autos gibt, oder, um ein historisches Beispiel zu bemühen, keinen Kohleabbau mehr, dann muss ich den einen oder anderen Plan in der Tasche haben. Des Weiteren haben wir es versäumt, den mündigen Umgang mit Computern von klein auf zu erlernen. Ein Großteil selbst meiner Generation ist nicht so fit im Umgang mit Computern, wie es notwendig wäre.
Sie sind dreiunddreißig …
Leute in meinem Alter bekommen Kinder. Denen können die Eltern dann auch nichts erklären. Wenn wir Pech haben, sitzen am Ende nur Idioten da, die von ihrem Computer genauso wenig Ahnung haben wie von ihrem Fernseher – nur dass der Fernseher ihnen nicht den Job weggenommen hat.
Züchten wir eine Generation von unmündigen Konsumenten?
Das Internet hatte eine frühe Blüte als Kommunikations- und Informationsmedium – aufgebaut und getragen von Idealisten. Heute droht es immer mehr zu einem Konsummedium zu mutieren. In der Kommentarspalte dürfen wir unseren Senf dazu geben – offenbar reicht das vielen aus.
Wie gut lehren Schulen den Umgang mit dem Netz?
Ich sehe kaum passende Angebote. Wir diskutieren heute teilweise noch darüber, ob Kinder in der Schule überhaupt mit der Existenz von Internet und Computer konfrontiert werden sollen. Dabei sollten wir sie befähigen, sie mündig zu nutzen, um das Leben von morgen zu gestalten. Es geht nicht darum, ein bisschen im World Wide Web herumzuklicken, sondern einen informierten Umgang mit dem Netz und seinen Möglichkeiten zu pflegen. Ein Beispiel: Oft wird auch heute noch Wikipedia verteufelt, weil „da ja jeder reinschreiben kann“. Stattdessen sollte geübt werden, nicht alles zu glauben und Quellen vernünftig zu prüfen – das hätte uns auch die Debatten um „Fake News“ und „Social Bots“ ersparen können. Vor allem aber müssen wir den Spaß am Programmieren anregen, am Verstehen. Wie funktionieren diese Maschinen, die unsere Gesellschaft immer mehr bestimmen? Zu diesen und anderen Themen bietet der Chaos Computer Club seit langem ehrenamtliche Kurse für Schulklassen an: „Chaos macht Schule“. Aber das ist längst nicht genug – und zeigt das Versäumnis des Bildungssystems.
Zurück zu den Arbeitsplätzen. Bisher wurde wenig automatisiert.
Es gibt ein grundsätzliches Problem: Wenn Produktion und Dienstleistungen größtenteils von Robotern erledigt werden und die Menschen dadurch ihre Jobs und ihr Einkommen verlieren, können sie die Produkte oder Dienstleistungen dieser Roboter nicht mehr kaufen. Ihnen fehlt das Geld. Deswegen befürworten auch einige Top-Manager die Idee eines bedingungslosen Grundeinkommens. Dann hätte jeder Mensch, egal, ob beschäftigt oder nicht, mehr Geld für Konsum, um das zu kaufen, was die Roboter bauen.
Es gibt viele Crowdworker, die mit ihrem Laptop bestimmen, wann und wo sie arbeiten. Dafür müssen sie flexibel reagieren, ohne den Schutz eines Betriebsrats. Ist das Freiheit oder Ausbeutung?
Wird nicht jeder ausgebeutet? Ich wüsste nicht, dass es irgendein Gesellschaftssystem gäbe, wo die Mehrheit der Leute nicht ausgebeutet wird – ob nun als Festangestellter oder als Freelancer. Es ist gut möglich, dass das Modell der Festanstellung langfristig keine Zukunft mehr hat. Dann müssen wir sinnvolle Möglichkeiten zur Absicherung von Freiberuflern finden.
Wie sollte das geregelt werden?
Früher gab es den Betriebsrat, der Forderungen innerhalb eines Unternehmens durchsetzte und auf Einhaltung pochte. Es gab Gewerkschaften, die ganze Branchen in den Arbeitskampf führen konnten. Es gab gesetzliche Regelungen zum Schutz der Arbeitnehmer in Festanstellungen. In Zukunft brauchen wir mehr Vereinbarungen, die die soziale Absicherung von Individuen schützen. Dazu müssen Ideen entstehen, wie man den Kapitalismus halbwegs menschlich flankiert – und vor allem, wie wir mit Menschen umgehen, deren Arbeit aufgrund der Digitalisierung überflüssig wird.
Wie fair geht es denn im Netz zu?
Früher verteilten sich die Besuche und Aufrufe gleichmäßiger auf unterschiedliche Server und Angebote. Heute entfallen 90 Prozent des Verkehrs auf internationale Multi-Milliarden-Unternehmen wie Google, Facebook, Amazon und Co. Es gibt also eine Zentralisierung. Das ist wie im Einzelhandel: Früher hatte jedes Dorf zwei Bäckereien. Heute gibt es nur noch die Filiale einer Backkette. Kapital akkumuliert sich – das gilt auch im Internet.
Alles scheint kostenlos zu sein. Wie verdienen diese Unternehmen Geld?
Werbung ist bisher die einzige sinnvolle Einnahmequelle. Firmen wie Google und Facebook machen damit Milliarden, weil sie detaillierte Informationen über ihre Nutzer haben und dieses Wissen zur zielgerichteten Werbung nutzen. Dabei erschließen sie sich immer mehr Informationsquellen.
Was meinen Sie genau?
Facebook möchte alles, was die Menschen im Internet tun und wollen, möglichst selbst abbilden – also eine große Datenbank mit dem Wissen über die Menschen erstellen. Um das zu erreichen, müssen die Nutzer möglichst alles, was sie tun, über Facebook selbst erledigen. Sei es das Lesen von Zeitungsartikeln oder das Schreiben von Kurznachrichten mit dem Mobiltelefon – Facebook hat das Ziel, „das Internet“ zu sein, den Rest obsolet zu machen. Zur Not übernimmt Facebook auch Firmen, die signifikante Datenberge oder Kundenzahlen haben. Als sich der Facebook-Messenger nicht durchsetzte, kaufte die Firma kurzerhand den Platzhirschen Whatsapp für 19 Milliarden Dollar. Die können es sich leisten.
Halten Sie das für gefährlich?
In den sozialen Netzwerken bilden wir heute einen Teil der demokratisch relevanten Prozesse ab. In sozialen Netzwerken führen wir einen Großteil unseres gesellschaftlichen Diskurses. Aber die Agora wurde durch eine große Shopping-Mall ersetzt und ist durch Werbung finanziert.
Und in der Konsequenz bekommen Nutzer vor allem ihre eigenen Ansichten gespiegelt?
In sozialen Netzwerken können sich Nutzer ihre eigene Welt zusammenstellen und die Netzwerke „lernen“ davon – mit dem Ziel, die Nutzer auf der Seite zu halten. Es ist paradox: Einerseits haben wir in sozialen Netzwerken den Zugang zur gesamten Welt. Andererseits überfordert uns genau diese Möglichkeit. Als Folge igeln wir uns ein – und die Algorithmen der sozialen Netzwerke beziehungsweise die Unternehmen helfen uns dabei. Der Effekt wird oft „Filterblase“ genannt.
Wie entkomme ich der Filterblase?
Die Filterblase wird mir nicht hermetisch übergestülpt, sondern von mir geschaffen. Ich habe die freie Wahl, wo ich mich noch bewege, nur wird es mir nicht von allein angeboten. Das Forschen und das kritische Denken müssen wir schon selber lernen.
Im US-Wahlkampf wurde mit Social Bots gearbeitet. Was genau ist das?
Letztlich sind das verhältnismäßig simple Programme, die Accounts in sozialen Netzwerken automatisch bedienen. Die Bots folgen anderen Accounts, „liken“ Beiträge und werden genutzt, um Links zu verbreiten und anderen Accounts Zustimmung oder Widerspruch entgegenzubringen. Kurzum: Sie haben alle Handlungsmöglichkeiten menschlicher Nutzer und versuchen auch, den Anschein zu erwecken, welche zu sein. Sie werden dazu eingesetzt, uns den Eindruck zu vermitteln, dass bestimmte Personen und Positionen beliebter oder unbeliebter seien, als es tatsächlich der Fall ist. Social Bots sind eine recht kostengünstige Methode, um unsere Wahrnehmung in sozialen Netzen zu beeinflussen. Diese Netzwerke halten wir schließlich für eine uns umgebende Realität – und in dieser Realität kann mit Social Bots zum Beispiel die Normalisierung faschistischer Positionen vorangetrieben werden. In Kombination mit Lügen, die neuerdings „Fake News“ heißen – als wären sie eine neue Erfindung –, werden Menschen aufgehetzt und verunsichert.
Manipulieren Social Bots Wahlen?
In Deutschland haben wir seit 65 Jahren die „Bild“-Zeitung. Wir haben seit mehr als 30 Jahren das Privatfernsehen. Parteien haben Millionenetats für jeden Wahlkampf. Und jetzt sollen ein paar Fake Accounts in sozialen Netzwerken plötzlich wahlentscheidend sein? Ich halte diese These für sehr gewagt. Zu diesem Ergebnis kommt übrigens auch die kürzlich groß anberaumte Studie des Büros für Technikfolgenabschätzung des Deutschen Bundestags, da jene Forscher, die diese Panikmache auch heute noch weiter vorantreiben, nicht in der Lage sind, empirische Belege für einen signifikanten, dauerhaften und praktisch relevanten Effekt vorzuweisen.
Im Web finden sich viele Hass-Kommentare. Sollte man die Betreiber der Plattformen in die Pflicht nehmen und das weltweit einheitlich regeln?
Irgendetwas weltweit einheitlich zu regeln, ist illusorisch. Der ganze Hass kommt nicht aus dem Internet, der kommt aus den Menschen. Dieser Hass taucht in Wellen auf. Im Moment haben wir wieder mehr in der Gesellschaft. Durch das Internet wird das sichtbarer. Durch Verbote aber bekämpft man nur die Symptome, nicht die Ursachen.
Prominente wie der SPD-Spitzenkandidat Martin Schulz haben in einer „Charta der Digitalen Grundrechte“ gefordert, dass „ethisch-normative Entscheidungen“ nur von Menschen getroffen werden dürfen, nicht von Robotern.
Computer haben keine Ethik. Deshalb müssen ethische Entscheidungen von Menschen getroffen werden. Das ist eine sinnvolle und notwendige Forderung. Wir müssen darauf achten, wie und von wem Algorithmen programmiert werden – und was ihr Maßstab für die jeweiligen Entscheidungen ist.