Der Abend begann mit einer knappen Einordnung: Was ist KI überhaupt? Im Kern, so die einleitende Erklärung von Christian Lührs, Vorsitzender des Säkularen Forums Hamburg und Nachrichtentechniker, handelt es sich um neuronale Netze, die auf Basis von Trainingsdaten Wahrscheinlichkeiten berechnen – nicht um „Intelligenz“ im eigentlichen Sinne, sondern eher um systematisiertes Erfahrungswissen. Betont wurden dabei die bekannten Schwächen: Trainingsdaten stammen zwangsläufig aus der Vergangenheit, sie sind oft ungeklärter Herkunft, sie transportieren Verzerrungen (Bias) und begünstigen Halluzinationen – also frei erfundene, aber überzeugend klingende Aussagen. Wichtig sei zudem die Unterscheidung zwischen KI als Werkzeug und KI als (verdecktem) Entscheider: Schon die Auswahl, welche Informationen eine KI liefert, kann faktisch vorentscheiden, was Menschen am Ende noch für entscheidbar halten.
Eine Staatskrise mit zwei Gesichtern
Prof. Kreß, Sozialethiker (Universität Bonn) mit den Schwerpunkten Medizin- und Rechtsethik, stellte seinem eigentlichen Thema eine Diagnose voran: Die Bundesrepublik stecke in einer doppelten Krise. Zum einen in einer Staatsfunktionskrise – als Einzelbeispiel belegt etwa am seit 36 Jahren nicht novellierten Embryonenschutzgesetz, das mit dem heutigen Stand der Reproduktionsmedizin längst nicht mehr kompatibel sei, oder an ungelösten Problemen bei Verkehrsinfrastruktur, Wohnungsbau und Rentensicherung. Zum anderen in einer Akzeptanzkrise: Einer repräsentativen Umfrage des Deutschen Beamtenbundes vom Juli 2026 zufolge glauben nur noch 17 Prozent der Befragten, der Staat könne seine Aufgaben erfüllen. Anders als die Weimarer Republik, die von Beginn an nie hinreichend akzeptiert war, habe die Bundesrepublik über Jahrzehnte stabil funktioniert und verliere erst jetzt dramatisch an Vertrauen – ein Alarmsignal ersten Ranges.
Das Gedankenexperiment: Eine KI-Regierung
Anlass für den Abend war ein Artikel des Gastgebers Christian Lührs, der am 21. Juli 2026 beim Humanistischen Pressedienst unter dem Titel „Die Demokratie und die Überforderung durch das Netz“ erschienen war. Im Anschluss – und das war der eigentliche Ausgangspunkt der Veranstaltung – hatte der Gastgeber die KI Claude gebeten, ein politisches System zu entwerfen, in dem Parlamente, Kabinette und Verwaltungen durch Künstliche Intelligenz ersetzt werden, kontrolliert durch ein gewähltes, aus Menschen bestehendes Gremium sowie ein menschlich besetztes Verfassungsgericht. Das von der KI vorgeschlagene Modell einer Regierung durch KI sah vor, dass KI gesellschaftliche Daten auswerten, Optimierungsvorschläge entwickeln und Verbesserungen schrittweise umsetzen solle – legitimiert durch eine Volksabstimmung nach Artikel 146 des Grundgesetzes.
Kreß griff die von Lührs angefragte Staatskonstruktion von Claude auf. Er zog eine Parallele zu Platons „Politeia“, in der Philosophen als Könige regieren sollten, weil sie über besonders tragfähige Einsichten verfügten. Eine KI-Regierung wäre, so die Meinung von Kreß, eine postmoderne Neuauflage dieser Idee – aber letztlich eine Dystopie oder Negativutopie: Eine Gesellschaft, die nicht mehr von Menschen, sondern von einer autonomen Maschine regiert würde, wäre eine Form des Transhumanismus, die den Menschen entmündigt und von sich selbst entfremdet. Erkenntnisleitend sei das Gedankenexperiment trotzdem, weil es eine reale Gefahr sichtbar mache – allerdings nicht durch die heutige „schwache“ KI, sondern erst durch eine künftige starke, generative oder gar superintelligente KI.
Kreß verwies dazu auf einen aktuellen Aufsatz aus dem Sammelband „KI und Demokratie“ mit dem Titel „Künstliche Superintelligenz und das Ende der Demokratie“. Am Beispiel der USA zeige dieser, wie gefährlich die Kombination aus riesigen, bei Big-Tech-Konzernen konzentrierten Datenmengen und einer sich autoritär entwickelnden Regierung werden könne – ein möglicher Überwachungsstaat, gegen den sich selbst die Stasi der DDR (mit einem Spitzel auf etwa 100 Bürger) vergleichsweise harmlos ausnähme. Hinzu komme die Gefahr, dass sich KI-Systeme selbst verselbstständigen und eigene Machtstrategien entwickeln könnten. Als regulatorische Antwort machte Kreß auf den 2024 verabschiedeten risikobasierten Rechtsrahmen der EU zur Künstlichen Intelligenz aufmerksam.
Lührs verwies darauf, dass es ihm nicht darum gehe, die politischen Entscheidungen einer KI zu übertragen oder den Konflikt gesellschaftlicher Gruppen zu vermeiden, sondern die öffentliche Diskussion weg von den Detailfragen hin zu den wirklich relevanten Grundsatzfragen zu führen: Wie viel Prozent unserer Energieversorgung soll national sein, wollen wir weiter Bargeld haben, welche Steuerlast sollen Ärmere und Reichere tragen, wie können Jüngere und Ältere ausreichend finanziert werden?
Die heute oft nicht diskutierbaren Detailprobleme würden durch eine ideologisch aufgeladene Ersatzdiskussion ersetzt, die an den eigentlichen Problemen vorbeigeht und nur noch mehr Politikverdrossenheit erzeugt.
Die Blackbox und das Beispiel Medizin
Pragmatischer wurde es im zweiten Teil des Vortrags von Kreß. Zentrales Problem sei die Blackbox-Struktur von KI-Systemen: Anders als bei moderner Wissenschaft, deren Erkenntniswege sich nachvollziehen lassen müssen, könne man bei KI im Regelfall nicht rekonstruieren, wie ein Ergebnis zustande gekommen ist. Ob es gelingt, aus der KI als Blackbox eine „Glassbox“ und aus jetzigen intransparenten KI-Modellen eine „explainable“ KI zu machen, sei eine offene Forschungsfrage. Hinzu komme das Problem verzerrter Trainingsdaten, deren Vorurteile sich in den Ergebnissen wiederholen oder sogar verstärken können.
Am Beispiel der Medizin – mit einem Zitat der Schweizerischen Akademie der Medizinischen Wissenschaften – zeigte Kreß, dass KI trotz dieser Probleme längst unverzichtbar geworden ist: etwa bei der Auswertung großer Gesundheitsdatenmengen oder in der Krebsdiagnostik, wo KI-Systeme menschliche Ärztinnen und Ärzte bei der Analyse von Gewebeproben teils übertreffen (hierzu ein Aufsatz „Künstliche Intelligenz in der Medizin: Auswirkungen auf Patient*innen, auf das ärztliche Personal und auf das Arzt-Patient-Verhältnis” von Kreß). Die entscheidende Aufgabe bestehe deshalb darin, für KI sichere sowie sinnvolle Nutzungspfade zu definieren – eine Überlegung, die Kreß dann auf den Staat übertrug: KI könne im Prozess der Gesetzgebung etwa bei Rechtsvergleichen oder bei der oft vernachlässigten Abschätzung von Gesetzesfolgen helfen. Als Referenzpunkt nannte er außerdem den 2025 vorgelegten „AI Opportunities Action Plan“ der (inzwischen zurückgetretenen) britischen Regierung unter Keir Starmer.
Sein Fazit: KI sei kein Königsweg gegen die Staatskrise, aber ein mögliches Hilfsmittel. Um der Funktions- und Akzeptanzkrise des heutigen Staates entgegenzuwirken, müsse gleichfalls nach weiteren Ansätzen gefragt werden. Hierzu gehöre eine Stärkung der direkten Demokratie, für die es interessante Modelle in anderen Staaten oder in Deutschland in einzelnen Bundesländern gebe.
Die Diskussion: Werkzeug, Berater oder Risiko?
In der anschließenden, kontrovers geführten Runde ging es zunächst um die historische Einordnung: Der Buchdruck habe einst das Informationsmonopol von Kirche und Adel gebrochen und damit das Mittelalter beendet. Heute könne im Grunde jeder anonym alles veröffentlichen – das Problem sei nicht ein Mangel an guten Informationen im Netz, sondern die Unfähigkeit vieler, seriöse von unseriösen Quellen zu unterscheiden, weil im Internet formal alles gleich aussieht. Eine These aus der Runde ging so weit zu prophezeien, dass es in zwanzig Jahren keinen Bundestag und keine Verwaltung in heutiger Form mehr geben werde, weil die Komplexität der Entscheidungen die Kapazität klassischer parlamentarischer Verfahren längst übersteige.
Ein weiterer Diskussionsstrang betraf ein verändertes Grundvertrauen in Technik: Während frühere Generationen gelernt hätten, „der Computer hat immer recht“, müsse im KI-Zeitalter das Gegenteil gelernt werden – gerade bei Themen, in denen man selbst keine Fachkenntnis hat, sei man dem, was eine KI ausgibt, oft schutzlos ausgeliefert.
Kontrovers blieb die Frage, ob KI als Berater in der Politik eingesetzt werden könne, ähnlich wie in der Medizin. Ein wichtiger Unterschied wurde markiert: In der Medizin gebe es ein gemeinsames Interesse (gesund werden), in der Politik dagegen konkurrierende Interessen – die Kriterien, nach denen eine KI „gute“ von „schlechten“ Ergebnissen unterscheiden solle, seien hier viel schwerer zu definieren. Ein Diskutant sah gerade darin einen Vorteil: Eine KI müsse nicht wiedergewählt werden und könnte so helfen, technokratische Sachfragen von aufgeblasenen ideologischen Scheinkonflikten zu trennen – etwa in der Energiepolitik, wo die eigentliche Wertentscheidung (wie viel regionale Eigenversorgung wollen wir?) von der technischen Umsetzung (welcher Energiemix erreicht das?) unterschieden werden könne. Die KI solle dabei nur die Umsetzung unterstützen, nicht die Grundsatzentscheidung ersetzen.
Deutlichen Widerspruch gab es bei der Frage der Datengrundlage: Je mehr Informationen eine KI zur Verfügung habe, desto bessere Vorschläge könne sie machen – konsequent zu Ende gedacht liefe das aber auf eine lückenlose Erfassung aller Bürger*innen hinaus, etwa durch die Abschaffung des Bargelds, um jede Transaktion nachvollziehbar zu machen. Dem wurde entgegengehalten, dass dies keineswegs zwingend sei: Es gebe eine Entscheidungsebene, die bewusst auf menschlicher, öffentlicher Diskussion beruhen solle – etwa ob Bargeld weiterhin genutzt werden soll –, ohne dass dafür eine Totalerfassung nötig wäre.
Weitere Beiträge thematisierten die wirtschaftliche Abhängigkeit von wenigen, überwiegend US-amerikanischen Anbietern, die zunehmend kommerzielle Nutzungskosten verlangen, sowie die Sorge, europäisches „Weltwissen“ werde zunehmend in fremd kontrollierten Systemen konzentriert – mit dem Risiko eines „Use it or lose it“-Effekts, wenn eigene Kompetenzen verkümmern. Ein Vorschlag lautete, eine öffentlich-rechtliche Basisversorgung mit sozialen Netzwerken und KI zu schaffen, ähnlich wie es sie bei Rundfunk oder Straßen bereits gibt.
Auch die Rolle der Medien wurde kritisch beleuchtet: Ein Diskutant beklagte, dass selbst öffentlich-rechtliche Sender zunehmend personalisierte, unsachliche Debatten führten, statt komplexe Sachfragen fundiert aufzuarbeiten – eine Medienkrise, die mit KI wenig zu tun habe, aber das Vertrauen in politische Institutionen zusätzlich untergrabe. Ebenfalls zur Sprache kam, dass es in der Politik oft nicht primär um das Gemeinwohl, sondern um Machterhalt und Partikularinteressen gehe – ein Umstand, an dem auch die beste KI nichts ändere, weil dafür schlicht keine allgemein akzeptierten Bewertungskriterien existieren.
Als konkretes Beispiel gelungener direkter Beteiligung der Bevölkerung an der Politik und insofern von direkter Demokratie wurde die bayerische Verfassung von 1946 genannt, die Volksbegehren und ‑entscheide zulässt und es Bürgerinnen und Bürgern erlaubt, sich bei Grundrechtsverletzungen direkt an den Verfassungsgerichtshof zu wenden – auch ohne selbst betroffen zu sein. Eingewandt wurde, dass sich ein solches Modell nicht ohne Weiteres auf strukturell anders aufgestellte Bundesländer übertragen lasse; dem wurde entgegnet, dass Bayern 1946 selbst ein relativ armes Land war und sich seine heutige Stärke erst später entwickelt habe – der institutionelle Rahmen sei also nicht an Wohlstand gekoppelt gewesen.
Ein Verteilungsproblem statt eines Schicksals
Zum Abschluss wagte der Gastgeber eine bewusst zugespitzte These: Der AfD werde oft unterstellt, das parlamentarische System infrage stellen zu wollen – vielleicht sei genau dieses System aber tatsächlich nicht mehr zukunftsfähig, und die Erschütterungen, die Parteien wie die AfD auslösen, zwängen alle anderen dazu, über echte Alternativen nachzudenken, statt nur auf mehr Medienkompetenz und punktuelle KI-Regulierung zu hoffen. Zugleich hielt er fest: KI sei im Kern ein Fortschritt in der Werkzeugnutzung, der eigentlich alle wohlhabender machen sollte. Ob das gelinge, sei letztlich kein technisches, sondern ein Verteilungsproblem – die Frage, wer von KI profitiert: wenige Milliardäre oder die gesamte Gesellschaft.
Am Ende stand kein fertiges Ergebnis, sondern – ganz im Sinne der Reihe – eine offene Einladung zum Weiterdenken. Der nächste „Rederaum“ des Säkularen Forums findet, wie angekündigt, jeden zweiten Dienstag, so auch im Oktober, statt.
Autor: Christian Lührs, mit Nutzung von KI für Transkript und Text
