Sie können Siri ausschalten, aber nicht den Staat

Menaka Guruswamy schreibt: Es gibt Pläne für einen stärkeren Einsatz von KI und das Sammeln unserer Daten für verschiedene Zwecke. Das Fehlen jeglicher datenschutzrechtlicher Paradigmen ist in diesem Zusammenhang zutiefst beunruhigend.

Während sich Indien behutsam dem Abschluss des zweiten Lebensjahres in einer Pandemie nähert, ist ein Trend sicher – wir werden uns immer mehr auf künstliche Intelligenz verlassen, um unseren Tag zu überstehen. (Abbildung: C. R. Sasikumar)

Die Dussehra-Pause gab mir die Chance, in die Berge zu fahren. Sieben Stunden von Delhi entfernt, in Uttarakhand, sind Sie umgeben von üppigem Grün, Hügeln, Wanderwegen und sogar Gerüchten über einen lauernden Leoparden. In dieser Umgebung begann ich mit dem neuen Buch des Nobelpreisträgers Kazuo Ishiguro, Klara and the Sun, über einen Ort, an dem Kinder AFs oder künstliche Freunde haben, Maschinen mit KI, die darauf programmiert waren, auf menschliche Wesen zu reagieren – wie sie beobachteten Darüber hinaus speicherten sie mehr Informationen über ihre Besitzer und wussten, wie sie darauf reagieren sollten.

Klara, die AF, konnte bald das Verhalten, die Sprache, den Gang und alle Arten von Reaktionen des Kindes nachahmen, für das sie gekauft wurde. Die Schwierigkeiten begannen, als die Eltern Klara perfekter fanden als ihr Kind. Ishiguro stellt uns eine tiefe Frage: Ist Liebe ersetzbar? Für unsere Zwecke beschreibt das Buch den Prozess des Deep Learning, bei dem Programme der künstlichen Intelligenz in der Lage sind, Informationen aufzunehmen und Argumente zu demonstrieren, die uns als Menschen auszeichnen.

Das Szenario, das Ishiguro beschreibt, ist keine Science-Fiction oder eine weit hergeholte Wiedergabe der Zukunft. Während Indien sich behutsam dem Abschluss des zweiten Lebensjahres in einer Pandemie nähert, ist ein Trend sicher – wir werden uns immer mehr auf künstliche Intelligenz verlassen, um unseren Tag zu überstehen. 1956 schrieb John McCarthy: Künstliche Intelligenz erlaubt es einer Maschine, sich so zu verhalten, dass man sie intelligent nennen würde, wenn sich ein Mensch so verhalten würde. Siri, auf die Apple-Konsumenten angewiesen sind, ist ein Beispiel für künstliche Intelligenz. Damit Siri jedoch intelligent ist und sogar eine Katze erkennt, müssen Siris Schöpfer fast 100.000 Bilder von Katzen füttern, um eine zu erkennen, wenn Sie sie fragen.



Wir befinden uns jetzt in einer Ära, die von einem Covid-inspirierten Rückzug in die digitale oder virtuelle Welt geprägt ist. In der weltgrößten Demokratie mit 1,7 Milliarden Menschen haben immer mehr Bürger wichtige Informationen über sich selbst als Teil staatlicher oder privater Datenplattformen gespeichert. Die Regierung sammelt Informationen für Aadhaar, für CoWin-Impfungen, aus unseren Steuererklärungen, aus unserem Führerschein und einer Vielzahl anderer Instrumente, die es uns ermöglichen, uns in der öffentlichen Welt der Staatsbürgerschaft zurechtzufinden.

Private Plattformen wie Facebook, Twitter und viele andere sammeln auf ihren Plattformen, was uns einzigartig macht – unsere Meinungen, unsere Vorlieben und Abneigungen, unsere Ideologien. Basierend auf diesen Daten liefern Algorithmen Nachrichten und Informationen, die unseren Überzeugungen entsprechen, an unser Twitter- oder Facebook-Selbst. Inzwischen konsumieren wir Popkultur auf den Privatsphäre unserer Laptops über OTT-Plattformen wie Amazon Prime, Netflix oder Hotstar, anstatt ins Theater zu gehen. Algorithmen auf jeder dieser Plattformen empfehlen Filme oder Serien, die uns aufgrund unserer vorherigen Betrachtung gefallen.

Doch der Einsatz von Algorithmen beschränkt sich nicht nur auf Filmempfehlungen. Es wird in vielen Teilen der Vereinigten Staaten verwendet, um die Wahrscheinlichkeit von Rückfällen bei Gefangenen vorherzusagen und daher Strafen auf der Grundlage von maschinellen Vorhersagen zu verhängen. Damit einher gehen Verzerrungen – schließlich spiegeln die Daten, die zur Erstellung der Algorithmen zugeführt werden, die Meinungen der Programmierer wider, die die Informationen eingeben. Ist beispielsweise die Postleitzahl des Wohnortes einer Person wahrscheinlich, dass die Möglichkeit besteht, neue Verbrechen zu begehen? Wenn Sie in einem weißen Viertel leben, ist die Wahrscheinlichkeit geringer, ein neues Verbrechen zu begehen? Wie macht man den Algorithmus fair und transparent?

In Indien haben die Bürger trotz all dieser Datenerhebung, die scheinbar irreversibel ist, kein Recht auf ihre Daten oder auf Schutz vor ihrer Entnahme und im Allgemeinen vor ihrem Missbrauch. Es gibt kein Datenschutzgesetz, obwohl ein Gesetzentwurf im parlamentarischen Ausschuss für Informationstechnologie diskutiert wird. Unser einziger Schutz ist derzeit das Urteil des Obersten Gerichtshofs in Puttaswamy, in dem entschieden wurde, dass Bürger das Recht auf informationelle Privatsphäre haben. Dies erweist sich jedoch mangels gesetzlicher Regelungen als schwierig umzusetzen.

Während der Staat einseitige Rechte zur Erhebung und Nutzung unserer Daten hat, hat er sich auch die Möglichkeit gegeben, private Parteien zu regulieren. Zum Beispiel werden die Regeln für Informationstechnologie (Richtlinien für Vermittler und Ethikkodex für digitale Medien) von 2021 verwendet, um vorzuschreiben, dass WhatsApp, das eine Ende-zu-Ende-Verschlüsselung verwendet, die Identifizierung des ersten Urhebers der Informationen ermöglichen muss. Gegenwärtig ist es so, als ob der Staat seine Bürger tiefgreifend lernen kann. Wir, die Bürger, haben wiederum keine Rechtsmittel gegen den Missbrauch dieses Lernens. Siri kann man ausschalten, aber nicht den Zustand.

Unsere Regierung denkt über das Potenzial und die Unvermeidlichkeit einer stärkeren Nutzung von KI nach. Die Niti Aayog National Strategy for Artificial Intelligence 2018 weist auf den größeren Bedarf an KI in Sektoren wie Bildung, Gesundheitswesen und Landwirtschaft hin. Niti Aayog weist darauf hin, dass Hindernisse für den stärkeren Einsatz von KI der fehlende Zugang zu Daten sowie Bedenken hinsichtlich Datenschutz und Sicherheit sind. Die Papiere weisen zwar auf diese Bedenken hin, machen aber auch deutlich, dass die Ziele der staatlichen Politik die Schaffung eines Datenmarktplatzes umfassen – ein einsetzbares Modell, in dem Käufer und Verkäufer von Daten zusammengebracht werden sollen.

Inmitten dieser Pläne für einen stärkeren Einsatz von KI und das Sammeln unserer Daten ist das Fehlen eines gesetzlich vorgesehenen Rechteparadigmas zutiefst beunruhigend. Es verstößt gegen eine verfassungsmäßige Prämisse, dass die Bürger ihre Rede, ihre Meinungsäußerung, ihr geistiges Eigentum und ihre Freiheitsrechte schützen müssen. Ohne diese Schutzmaßnahmen wird der Staat sein tiefes Wissen über uns fortsetzen und das sammeln, was uns menschlich macht und unsere Persönlichkeit definiert – unsere personenbezogenen Daten.

Diese Kolumne erschien erstmals am 16. Oktober 2021 in der Printausgabe unter dem Titel „State, Siri and You“. Der Autor ist Senior Advocate am Supreme Court of India. „Eröffnungsargument“ ist eine zweiwöchentliche Kolumne.