Der Fall Shreya Singhal war eines der bestimmenden Urteile des modernen Internetrechts

Mit dem Urteil Shreya Singhal hat Indien der Welt gezeigt, wie man Pluralität und Innovation online schützen kann. Der Entwurf von Vermittlerregeln des IT-Ministeriums entfernt sich von dieser Errungenschaft

Meinungsfreiheit herausfilternPlattformen erhalten regelmäßig Vorwürfe, dass Benutzer gegen das Gesetz verstoßen haben, von Anklägern, die die Entfernung bestimmter Beiträge oder Konten fordern. (Illustration von C. R. Sasikumar)

In einem bahnbrechenden Urteil Anfang dieses Monats entschied der Oberste Gerichtshof Indiens, dass das Recht der Bürger auf Redefreiheit und das Recht, Geschäfte über das Internet zu tätigen, verfassungsrechtlich geschützt sind. Die neue Entscheidung baut teilweise auf einem ebenso wichtigen Fall aus dem Jahr 2015 auf, Shreya Singhal gegen Union of India, in dem der Gerichtshof Schlüsselregeln für die Beziehung zwischen demokratischen Regierungen und kommerziellen Internetplattformen definierte. In diesem Fall wurden Gerichte und Regierungsbehörden – nicht Unternehmen wie Google oder Facebook – aufgefordert, zu entscheiden, welche Äußerungen und Informationen gegen das Gesetz verstoßen und aus der Öffentlichkeit im Internet entfernt werden müssen.

Während ich meine Studenten in Stanford unterrichte, war Shreya Singhal eine der bestimmenden Regeln des modernen Internetrechts. Es hatte wichtige Konsequenzen für Anwälte, die Deaktivierungsanträge auf Plattformen wie Google prüfen, wie ich es in meiner vorherigen Rolle als Associate General Counsel dieses Unternehmens getan habe. Aber seine größte Bedeutung war für kleinere Unternehmen und normale Internetnutzer. Shreya Singhal stellte klar, dass zuständige öffentliche Behörden und nicht private Plattformen zu Gericht kommen sollten, wenn Online-Sprache angeblich gegen das Gesetz verstoßen. In der Praxis hat dies es Plattformen ermöglicht, ihre Nutzungsbedingungen durchzusetzen und gleichzeitig sicherzustellen, dass nur Gerichte und Regierungsbehörden entscheiden, welche Äußerungen und Informationen gesetzlich verboten sind. Dieses Modell wird heute in Indien angegriffen, vor allem durch die vom Ministerium für Information und Technologie vorgeschlagenen Vermittlerregeln.

Shreya Singhal hat ein schwerwiegendes Problem mit den Anreizen von Plattformen behoben, rechtmäßige Inhalte aus dem Internet zu entfernen. Plattformen erhalten regelmäßig Vorwürfe, dass Benutzer gegen das Gesetz verstoßen haben, von Anklägern, die die Entfernung bestimmter Beiträge oder Konten fordern. Manchmal sind diese Behauptungen richtig. Aber allzu oft sind sie falsch und sollen Plattformen manipulieren, um bestimmte Sprecher zum Schweigen zu bringen. Einige versuchen, wichtige Online-Gespräche zu unterdrücken, wie beispielsweise die Berichterstattung über Polizeibrutalität oder wissenschaftliche Forschung. Andere – laut einer frühen Studie die Mehrheit – kommen von Unternehmen, die versuchen, ihren Konkurrenten zu schaden. Untersuchungen, auch in Indien, haben gezeigt, dass Plattformen jeder Größe diese ungültigen Anfragen von Anklägern oft einfach erfüllen – indem sie juristische Redewendungen unangemessen zum Schweigen bringen oder den Zugang von Kunden zu legitimen Unternehmen abschneiden. Das Gericht in Shreya Singhal korrigierte diesen einseitigen Anreiz und sagte, dass verbindliche Entscheidungen darüber, welche Inhalte gegen das Gesetz verstoßen, von Gerichten oder zuständigen Regierungsbehörden nach fairen Verfahren kommen sollten – und nicht von privaten Plattformen oder Anklägern.

Die vorgeschlagenen Regeln des IT-Ministeriums weichen dramatisch von diesem Prinzip ab. Zum einen erfordern sie, dass Plattformen innerhalb von nur 24 Stunden auf Regierungsanforderungen reagieren, ohne Mechanismen, um Fehler zu korrigieren oder verwirrende Befehle zu klären. Wie Dutzende von öffentlichen Interessengruppen, darunter die Internet Freedom Foundation und Human Rights Watch, darauf hingewiesen haben, ist dies ein Rezept für übermäßige Einhaltung und unnötige Entfernung rechtmäßiger Meinungsäußerungen. Die Regeln verlangen auch alarmierend, dass Plattformen automatisierte Tools entwickeln, um die Sprache von Internetnutzern proaktiv zu überwachen und zu entfernen.

Die Idee, dass Plattformen Sprache mithilfe automatisierter Softwarefilter beurteilen können, hat sich in den letzten Jahren nicht nur in Indien durchgesetzt. Gesetzgeber in Europa und anderswo sahen sich mit ähnlichen Vorschlägen konfrontiert, die teilweise durch die optimistischen (und oft kommerziell eigennützigen) Behauptungen etablierter Plattformen über das Potenzial von Technologien wie der künstlichen Intelligenz angeheizt wurden.

Aber Softwarefilter sind kein Ersatz für menschliches Urteilsvermögen – geschweige denn für eine ordnungsgemäße Überprüfung durch Gerichte oder Regierungsbehörden. Wie unabhängige Technologen und Forscher gewarnt haben, können selbst die besten Filter schwerwiegende Fehler machen und die Probleme, mit denen Internetnutzer und Unternehmen bereits durch unrechtmäßige Entfernungen konfrontiert sind, noch verschlimmern. Insbesondere können Filter den Kontext, in dem das Material erscheint, nicht verstehen. Das heißt, selbst wenn ein Filter nur Duplikate von Inhalten findet, die bereits als illegal gelten – zum Beispiel ein Rekrutierungsvideo für Terroristen – können wir nicht erwarten, dass er Sprache versteht oder schützt, die dasselbe Material in wichtigen neuen Kontexten verwendet, wie z oder Stipendium. Kritiker europäischer Filtervorschläge, darunter UN-Beamte, Menschenrechts- und Journalistenorganisationen sowie mehrere zivilgesellschaftliche Gruppen, äußerten dort genau diese Besorgnis und veranlassten das EU-Parlament, Filter aus dem neuesten Entwurf eines Gesetzesentwurfs zu terroristischen Inhalten zu streichen. Ein weiteres umstrittenes europäisches Gesetz führte 2019 ein Filtermandat für Urheberrechtsverletzungen ein. Dieses Gesetz wird nun vor dem höchsten Gericht der EU als Menschenrechtsverletzung angefochten, in einem Fall, der die gleichen tiefgreifenden Fragen zur öffentlichen und privaten Macht über Online-Rede aufwirft, die Indiens Oberster Gerichtshof in Shreya Singhal betrachtet hat.

Das Filtern von Mandaten wirft ebenso ernste Bedenken hinsichtlich der wirtschaftlichen Entwicklung und Innovation auf. Startups und kleine Plattformen können es sich nicht leisten, 100 Millionen US-Dollar in Filtertechnologien zu investieren, wie YouTube sagt. Ein Gesetz, das Filter vorschreibt, mag für die etablierten Unternehmen wirtschaftlich vertretbar sein, aber für ihre kleineren Konkurrenten verheerend – ganz zu schweigen von gemeinnützigen Betreibern von Foren für Online-Rede, wie Wikipedia in Kommentaren gegen den Vorschlag des IT-Ministeriums betonte. Die Auferlegung neuer Entfernungsverpflichtungen nur auf große Unternehmen könnte einige dieser Probleme lindern, würde jedoch die Anreize für mittelgroße und wachsende Plattformen verzerren. Und die Ermutigung großer Plattformen, ungeschickte Filter oder überstürzte Entfernungsprozesse einzuführen, würde die Bedrohungen für Online-Sprecher und kleine Unternehmen, die von diesen Plattformen abhängig sind, nur verschlimmern.

Die Gesetze, die Internetplattformen regeln, können und sollten einer sorgfältigen öffentlichen Überprüfung unterzogen werden. In vielen Fällen kann eine Änderung angebracht sein. Aber der Auftrag des IT-Ministeriums zur überstürzten und automatisierten Entfernung von Inhalten ist ein großer Schritt in die falsche Richtung. Die Verlagerung von der Abhängigkeit von Gerichten und Behörden hin zu einer weitreichenden Entfernung durch Plattformen wird sich auf eine ungezählte Anzahl von Einzelpersonen und Unternehmen im Internet auswirken. Dies könnte durchaus gegen die indische Verfassung verstoßen: Der Oberste Gerichtshof lehnte es letzten Monat ab, die verfassungsrechtlichen Parameter von Shreya Singhal in einem Fall zu prüfen, in dem es um die angebliche Verleumdung eines Asbestunternehmens durch einen Blogger ging, aber der Rechtsstreit in dieser Frage wird fortgesetzt. In der Zwischenzeit können indische Entscheidungsträger den von Shreya Singhal für Indien geschaffenen Platz als weltweit führendes Unternehmen bei sorgfältig durchdachten Internetgesetzen bewahren, indem sie sich dem Filtermandat des Regelentwurfs widersetzen.

Dieser Artikel erschien erstmals in der Printausgabe am 17. Januar 2020 unter dem Titel „Ausfilterung der Redefreiheit“. Der Autor ist Direktor für Vermittlerhaftung am Stanford’s Center for Internet and Society und war zuvor Associate General Counsel bei Google.