Fragen Sie ChatGPT, ob künstliche Intelligenz gefährlich für die Demokratie ist: Die Antwort wird sehr differenziert ausfallen. Er wird zunächst drei Gefahren aufzählen: Voreingenommenheit/Diskriminierung; Meinungsmanipulation; Überwachung/Privatsphäre. Dann drei Hoffnungen: Verbesserung der öffentlichen Dienstleistungen; Bürgerbeteiligung; Transparenz und Verantwortlichkeit. Schließlich wird er zu dem Schluss kommen, dass alles davon abhängt „Regulatorische Maßnahmen und ethische Reflexion“ implementiert, das kein Brot isst. Stellen Sie die gleiche Frage an Menschen – Philosophen, Technologiespezialisten, Ökonomen oder Experten für Geopolitik –, wird ihre Antwort weitaus weniger beruhigend ausfallen. Für einige von ihnen wäre KI sogar die größte Bedrohung überhaupt für unsere Zivilisation. Es ist daher dringend erforderlich, es so umfassend wie möglich zu diskutieren und sogar ein Moratorium für seine Entwicklung zu verhängen.

Zu denjenigen, die versuchen, die öffentliche Meinung auf KI aufmerksam zu machen, gehört der israelische Historiker Yuval Noah Harari, Autor mehrerer Bestseller (vor allem „Sapiens“). In einem aktuellen Artikel herausgegeben von der Zeitschrift „Time“., warnt er uns: Es ist die Sprache, diese Säule aller Kultur, aller Geselligkeit, die angegriffen wird. In der Vergangenheit haben wir uns in unseren schlimmsten Albträumen vorgestellt, dass KI anfangen würde, Menschen zu töten oder körperlich zu versklaven. Was heute passiert, ist anders: KI dringt durch ihre Fähigkeit, Sprache zu erzeugen und zu manipulieren, sei es in Form von Schrift, Ton oder Bildern, in unser Leben ein. „KI hat das Betriebssystem unserer Zivilisation gehackt“, schließt Harari. Ihm zufolge besteht die Gefahr, dass die Demokratie das erste Opfer dieser Sprachbesetzung durch Maschinen wird.

„Wenn ich ein Gespräch mit jemandem führe und nicht sagen kann, ob es ein Mensch oder eine KI ist, ist das das Ende der Demokratie.“ entscheidet der Historiker. Dies ist auch die Meinung des Quebecer Forschers Yoshua Bengio, einem der Väter des Deep Machine Learning, den wir im April interviewt haben.

Eine Flut von Fake News und Fake News

Konkrete Gefahr: die nächsten Wahlkämpfe. Wir wissen bereits, dass KI Apotheken dabei geholfen hat, Unmengen an Daten über Wähler zu sammeln und sie zugunsten der Wahl von Donald Trump oder des Brexit zu manipulieren. Aber die Werkzeuge, um dies zu erreichen, sind jetzt viel leistungsfähiger. Die massive Generierung politischer Propaganda (über Schwärme von Social-Media-Beiträgen oder die Herstellung künstlicher Videos) ist zum Kinderspiel geworden. Da Wahlkampfpolitiker im Allgemeinen skrupellos sind, müssen Sie mit einer Flut von Fake News und Fake News rechnen. Aber der Einsatz von KI kann noch weiter gehen: Durch die Analyse der Rekrutierungsmechanismen von Sekten im Web können Software-Roboter diese reproduzieren und Zehntausende Wähler fanatisieren, sogar echte Kulte schaffen, wie zum Beispiel die QAnon-Bewegung.

Die andere große Gefahr für die Demokratie ist die allgemeine Überwachung durch den Staat oder durch große Unternehmen, die dazu neigen, Systeme zu entwickeln „soziale Bewertung“. Sensoren, Gesichtserkennung und die Datenverarbeitung aller Handlungen und Gesten ermöglichen es China bereits, das Leben seiner 1,4 Milliarden Einwohner zu kontrollieren. Dank KI können chinesische Führer leicht den Grad ihrer Bürgersinnigkeit oder Loyalität gegenüber der Kommunistischen Partei messen! Robocop ist nicht mehr weit: In Shanghai experimentieren wir bereits mit automatischen Systemen zur Anklageerhebung für acht Straftaten. Auch wenn Frankreich weit von einem solchen Techno-Totalitarismus entfernt ist, bereiten die jüngsten Maßnahmen den Verteidigern der öffentlichen Freiheiten bereits Sorgen: Drohnen über den Demonstrationen, die Installation von KI-gestützten Kameras für die Olympischen Spiele 2024 in Paris, ein Justizgesetz, das Ermittlern den Zugang zu Smartphone-Mikrofonen und -Kameras ermöglicht …

Schließlich könnte KI die digitale Kluft in unseren Gesellschaften vergrößern: zwischen einer Elite, die mit diesen neuen Technologien vertraut ist und weiß, wie sie sie zu ihrem Vorteil nutzen kann (insbesondere im Finanzwesen, wo KI bereits reichlich genutzt wird) … und den Massen von Menschen, die von der aktuellen Beschleunigung völlig überfordert sein werden. Sogar völlig ersetzt in ihren Jobs. Die „Gelbwesten“ von morgen.

Große Hoffnungen in die Medizin

Diese Gefahren sind umso größer, als der Großteil der Forschung und Produktion im Bereich der künstlichen Intelligenz von digitalen Giganten monopolisiert wird, seien es amerikanische (Google, Meta, Microsoft) oder chinesische (Baidu). Unsere Zukunft wird daher von Kulturen geprägt, die weit von unseren europäischen Werten entfernt sind, was die Forscherin Asma Mhalla, Lehrerin an Columbia, Sciences-Po und Polytechnique, die bei Couthures anwesend sein wird, anprangert.

Für Optimisten hingegen ist künstliche Intelligenz nur ein Werkzeug. Es wird das sein, was wir daraus machen. Wenn sein Aufkommen große Hoffnungen in Bezug auf Medizin oder Umwelt weckt, warum könnte es dann nicht auch unsere demokratischen Praktiken neu beleben? Befürworter einer fundierten Entscheidungsfindung (evidenzbasierte Politikgestaltung) glauben, dass KI bei der Vorbereitung und Umsetzung mehrerer öffentlicher Richtlinien helfen wird. Ein weiterer potenziell sinnvoller Einsatz dieser Algorithmen: die Organisation von Bürgerbefragungen, die Sortierung und Analyse von Beschwerden und anderen Beiträgen. Letztendlich stellen sich die Enthusiasten Gesellschaften vor, in denen wir alle „digitale Zwillinge“ hätten, die unseren Geschmack, unsere Interessen, unsere Sensibilität und unsere Überzeugungen widerspiegeln und dank derer unsere Führungskräfte die bestmöglichen Entscheidungen für die Gemeinschaft treffen würden.

Anhänger eines „Kampfoptimismus“, des Festivals und seiner Partner Bluenove wird Freiwillige einladen, an einem Workshop zum Schreiben utopischer Geschichten mit dem Titel „Bright Mirror“ teilzunehmen. Die Gelegenheit, sich die KI ihrer Träume vorzustellen: ein Werkzeug im Dienste des sozialen, ökologischen und menschlichen Fortschritts … nicht nur einer technokapitalistischen Elite.