24 - Fraunhofer. Das Magazin 3.19 »Wir sind eine nette Gesellschaft« Fake oder News? Warum wir so anfällig sind für Manipulation — und wie Demokratie sich schützen muss: ein Gespräch mit Prof. Ulrich Schade, Fraunhofer FKIE. Interview: Josef Seitz »KI wird nicht die Welt- herrschaft übernehmen«, ist Prof. Ulrich Schade überzeugt. »Zumindest nicht«, schränkt er ein, »solange wir leben.« Seit 2002 leitet Schade die Forschungsgruppe »Informationsanalyse« am Fraunhofer FKIE in Wachtberg bei Bonn. © Fraunhofer FKIE / Petra Kaiser Lüge oder Wahrheit, Herr Professor Schade, was ist schneller? Die Lüge ist durch moderne Technik nahezu beliebig schnell geworden. Da hinkt der Faktencheck durch den Menschen hoffnungslos hinterher. Unser Tool führt keinen Faktencheck durch, weist aber auf News hin, die Fake News sein könnten (s. Chart rechts), und das in Echtzeit. Manchmal genügt es auch schon, herauszufinden, woher eine Nachricht kommt, um sie mit Vorsicht zu betrachten. Sie fasziniert das Verhältnis von Mensch und Künstlicher Intelligenz? Ein Teil der Intelligenz dieser Systeme liegt gar nicht in den Systemen selbst. Sie liegt in den Köpfen von uns Menschen. Es sind doch wir, die sich an die Programme adaptieren. Nehmen wir allein die Sprachassistenten Alexa und Siri. Nach einer gewissen Zeit sind wir es, die gelernt haben, wie wir mit denen kommunizieren müssen, um die Antworten zu bekommen, die wir suchen. Um dem Nutzer stärker bewusst zu machen, wie dumm diese Systeme eigentlich sind, muss man nachsehen, unter welchen Randbedingungen sie nicht funktionieren. Es ist die Suche nach diesen Grenzen der maschinellen Verfahren, die mich fasziniert. Bleiben wir bei der Suche nach den Grenzen des Menschen. Hat sich die Macht in digitalen Zeiten verschoben? Wir sind eine nette Gesellschaft. Wir gehen vom Guten aus. Das macht uns im Vergleich zu autoritären Staaten ganz ein- deutig manipulierbarer. Auf die Gefahr müssen wir reagieren. ebenso nur mit Zweidrittelmehrheit berufen. Auch das ist ein guter Schutz. Zu sicher sollten wir uns dadurch nicht fühlen. Denn das Gesetz, dass man einen Verfassungsrichter nur mit zwei Dritteln Mehrheit ernennen darf, das kann schon sehr viel leichter mit einer einfachen Mehrheit geändert werden. So ein Einfallstor vor Manipulatoren zu schließen, ist eine relativ schlichte Sache mit großer Wirkung, um unseren Rechtsstaat besser zu verteidigen. Sind Sie also pessimistisch, wenn Sie an die Zukunft denken? Zumindest nicht wegen Künstlicher Intelligenz. Die Maschine ist immer gut für ihr Spezialgebiet, schon unmittelbar dane- ben ist ihr Können am Ende. Ein Programm spielt entweder Schach. Oder es spielt das Brettspiel Go. Ein Mensch kann beides lernen – und dann würde er die Ideen und Strate- gien von dem einen Spiel auf das andere übertragen. Das kann die Maschine nicht. KI wird nicht die Weltherrschaft übernehmen, zumindest nicht, solange wir leben. Da bin ich zuversichtlich. Die Maschine kann das eine perfekt. Menschen können sehr viel ziemlich gut. Das klingt tröstlich. Wie unterscheidet sich das Denken des Menschen vom Vorgehen der Künstlichen Intelligenz? Bleiben wir beim Schach. Der Mensch hat die Möglichkeit, an sein Ziel zu denken – er rechnet vom Ziel zurück, mit welchen Schritten er gewinnen kann. Der Computer denkt nicht ans Ziel, er berechnet mögliche Folgen nach vorne – schnell, aber ohne Fantasie*. Sind Demokratien bedroht durch Manipulationen? Stellen Sie beim Menschen eine Bereitschaft fest, sein Denken an die Maschine abzugeben? * Mehr dazu: Schomann, Conrad (2019). Inoffizielle Engine-WM TCEC – Finale: LC0 vs. Stockfish. Rochade Europa, 4, 42-43. Zumindest sollten wir gewarnt sein. Ich habe kürzlich ein interessantes Gedankenexperiment in »Politik und Geschich- te« gelesen: Unser Grundgesetz, dessen 70. Geburtstag wir ja gerade feiern, ist nur mit Zweidrittelmehrheit zu ändern. Das ist ein guter Schutz. Unsere Verfassungsrichter kann man Bequemlichkeit ist immer eine Gefahr. Wir müssen Kinder, Jugendliche und – ja! – auch uns Erwachsene wieder zum Selberdenken anregen. Und wir brauchen viel mehr Medien- kompetenz, um uns und unsere Meinungen vor Manipula- tionen zu schützen.