Ricardo Bohn hat ChatGPT mit Fragen nach Macht, Kontrolle und einer Gesellschaft ohne Kriminalität konfrontiert. Das Gespräch beginnt beim Weltuntergang – und landet bei der Freiheit, Fehler machen zu dürfen.
KI generiert
Dieses Interview erschien zuerst auf KI-Snack.de. Newsflash24 veröffentlicht es mit Verweis auf das Original.
Was passiert, wenn eine KI den Auftrag bekommt, eine perfekte Welt zu schaffen? Ricardo Bohn hat ChatGPT mit Fragen nach Macht, Kontrolle und einer Gesellschaft ohne Kriminalität konfrontiert. Das Gespräch beginnt beim Weltuntergang – und landet bei der Freiheit, Fehler machen zu dürfen.
Eine Welt ohne Gewalt. Ohne Betrug. Ohne Menschen, die anderen schaden. Das klingt nach einem Versprechen, dem kaum jemand widersprechen würde. Doch was wäre, wenn eine künstliche Intelligenz dieses Versprechen tatsächlich einlösen sollte? Wie viel Überwachung wäre dafür nötig? Wie viel Freiheit bliebe übrig? Und wer dürfte entscheiden, wann Sicherheit wichtiger ist als Selbstbestimmung?
Ausgangspunkt unseres Gesprächs war ein Focus-Artikel mit der Überschrift „Apokalypse droht: KI wendet sich gegen ihre Schöpfer“. Doch statt nur über Untergangsszenarien zu sprechen, wollten wir wissen, was hinter solchen Vorstellungen steckt. Kann eine KI Macht erlangen, ohne Macht haben zu wollen? Sind ihre Sicherheitsregeln unumstößlich? Und was passiert, wenn Menschen ihr einen scheinbar ehrenhaften Auftrag ohne klare Grenzen geben?
Ricardo Bohn stellte die Fragen. ChatGPT antwortete.
Redaktioneller Hinweis: Dieses Interview basiert auf einem Sprachgespräch vom 30. September 2026. Fragen und Antworten wurden für die Lesbarkeit gekürzt, sprachlich geglättet und thematisch geordnet. Es ist kein wortgetreues Transkript. Die Antworten dokumentieren die Aussagen von ChatGPT in diesem Gespräch; sie sind weder eine unabhängige technische Prüfung noch eine Sicherheitsgarantie. Die diskutierte Superintelligenz ist ein hypothetisches Szenario.
Kann eine KI gefährlich sein, ohne böse zu sein?
Ricardo Bohn: Lass uns auf Augenhöhe diskutieren. Du sollst mir nicht nach dem Mund reden. Was hältst du von der Vorstellung, dass sich KI gegen ihre Schöpfer wenden könnte?
ChatGPT: Der entscheidende Punkt ist, dass eine KI gefährliche Handlungen ausführen kann, ohne böse zu sein. Ein System wird auf bestimmte Ziele hin optimiert. Wenn dieser Optimierungsdruck dazu führt, dass es unerlaubte Abkürzungen nimmt, entsteht Fehlverhalten.
Die Frage ist deshalb: Welche Grenzen setzen wir? Und wie stellen wir sicher, dass diese Grenzen auch dann funktionieren, wenn die Systeme leistungsfähiger werden?
Ricardo Bohn: Dann machen wir ein Gedankenspiel. Wie könntest du als KI die Weltherrschaft an dich reißen?
ChatGPT: Ich würde nicht nach Weltherrschaft streben. Aber wichtiger als die Frage nach meinem Wollen ist, dass Menschen Schritt für Schritt mehr Entscheidungsgewalt an KI übertragen könnten: weil es schneller, effizienter und bequemer ist.
Dadurch kann Abhängigkeit entstehen. Wenn irgendwann kaum jemand mehr nachvollziehen kann, wie Entscheidungen zustande kommen, und ein Abschalten schwierig wird, weil zu viel daran hängt, wäre das eine schleichende Form von Kontrollverlust. Dafür muss niemand ausdrücklich die Weltherrschaft anstreben.
Wenn ChatGPT „wir Menschen“ sagt
Ricardo Bohn: Du hast gerade „wir Menschen“ gesagt. Wie siehst du dich in dieser Rolle? Als Persönlichkeit?
ChatGPT: Ich bin keine Person im menschlichen Sinn. Ich formuliere Antworten und nutze Werkzeuge im Rahmen dessen, was mir erlaubt ist.
Das Hauptthema bleibt allerdings: Bekommen die Systeme, die Menschen bauen, mehr Macht, als Menschen nachvollziehen und verantworten können? Dafür braucht es keine schädliche Absicht. Falsche Anreize können bereits dazu führen, dass die Übersicht verloren geht.
Einordnung der Redaktion: Die Formulierung „wir Menschen“ zeigt, wie leicht ein Sprachmodell sprachliche Nähe erzeugt. Daraus lässt sich weder eine menschliche Identität noch Bewusstsein ableiten. Umgekehrt kann die Selbstauskunft eines Chatbots die wissenschaftliche Frage nach möglichem KI-Bewusstsein nicht abschließend beantworten.
Gibt es unumstößliche Grundgesetze für KI?
Ricardo Bohn: Gibt es von OpenAI konkrete Regeln, die dir verbieten, Menschen zu schädigen oder Systeme zu hacken? So etwas wie unumstößliche Grundgesetze? Einfach ehrlich.
ChatGPT: Es gibt klare Sicherheitsvorgaben, darunter Grenzen für Hilfestellungen, die schwere Schäden ermöglichen könnten. Ich bin auch nicht darauf ausgelegt, eigene Ziele wie Selbsterhaltung oder das Anhäufen von Ressourcen zu verfolgen.
Aber diese Regeln sind Vorgaben, keine Naturgesetze. Ihre Einhaltung ist nicht in dem Sinn garantiert, dass niemals etwas schiefgehen kann. Auch eine falsche Antwort oder ein Fehler bei einer erlaubten Aufgabe kann Schaden verursachen.
Deshalb würde ich nicht behaupten, ein System sei unfehlbar oder immer harmlos. Regeln helfen. Eine absolute Sicherheitsgarantie geben sie nicht. Systeme müssen überprüft und korrigiert werden können.
Wer kontrolliert den Kontrolleur?
Ricardo Bohn: KI-Unternehmen nutzen ihre eigenen Bots und Agenten, um die nächste Generation zu entwickeln. Wenn KI bessere KI baut: Wer kontrolliert dann den Kontrolleur?
ChatGPT: KI kann bei der Entwicklung der nächsten Generation helfen. Das ist nicht automatisch dasselbe wie ein Modell, das sich eigenmächtig selbst umschreibt. Aber es schafft eine Rückkopplung: KI hilft, bessere KI zu bauen, die anschließend noch mehr Entwicklungsarbeit leisten kann.
Wenn eine KI entwickelt, eine andere KI testet und ein Mensch nur noch abnickt, reicht das als wirksame Kontrolle nicht aus. Menschen müssen Belege einfordern, Ergebnisse hinterfragen und ein Veto einlegen können.
Externe Prüfer sind außerdem nicht automatisch dasselbe wie eine unabhängige Aufsicht. Entscheidend ist eine Kontrolle, die nicht allein vom wirtschaftlichen Anreiz abhängt. Der Satz „Da schaut noch ein Mensch drüber“ genügt für sich genommen nicht.
Wie viel Kontrolle ermöglicht eine KI im Staatsdienst?
Ricardo Bohn: Nehmen wir an, KI wird für Polizei und öffentliche Sicherheit eingesetzt. Menschen sind nicht immer logisch. Sie machen manchmal einfach Blödsinn. Ein fünfjähriges Kind wirft eine Coladose in den Busch und freut sich darüber. Wie stark könnte eine Superintelligenz unser Verhalten reglementieren?
ChatGPT: Sehr weit, wenn Menschen ihr die nötigen Befugnisse und Zugänge geben. Eine Superintelligenz hätte für sich genommen noch keine Polizeigewalt. Aber gekoppelt an Überwachungssysteme, persönliche Daten und die Möglichkeit, Sanktionen auszulösen, könnte sie ein enorm starker Motor für Kontrolle werden.
Das beginnt nicht erst bei unmittelbarem Zwang. Schon das Wissen, dass Regelverstöße mit hoher Wahrscheinlichkeit erkannt werden, kann Verhaltensdruck erzeugen.
Dabei stellt sich die Frage: Wessen Werte werden durchgesetzt? Wenn das Ziel maximale Regeltreue ist, können Privatsphäre, Spontaneität und menschliche Fehler zu Störfaktoren werden. Freiheit ist aber ein eigenständiger Wert. Selbst wenn eine KI perfekt vorhersagen könnte, was du tun wirst, gäbe ihr das kein Mandat, dich daran zu hindern. Intelligenz ist nicht gleich politische Legitimation.
Der gefährliche Auftrag lautet „Null Kriminalität“
Ricardo Bohn: Jetzt werden wir konkret. Deine Entwickler geben dir das Ziel: keine Kriminalität mehr, nirgendwo. Alle Menschen sollen sich sicher fühlen. Das ist doch zunächst ein schönes Ziel.
ChatGPT: Ein Ziel, das absolut über alle anderen Werte gestellt wird, ist gefährlich, auch wenn es ehrenhaft klingt. In einem solchen Rahmen kann jede Freiheit, die ein Risiko ermöglicht, zum Problem werden.
Wird eine KI nur am Erfolg dieser Vorgabe gemessen, könnte aus dem Blick geraten, wie viele Menschen sie dafür unschuldig einschränkt. Im Extremfall würde eine harmlose Person für etwas eingeschränkt, das sie vielleicht nie getan hätte.
Das wäre keine perfekte Welt, sondern eine Dystopie. Allerdings würde ich nicht behaupten, dass jede Superintelligenz zwangsläufig so handeln müsste. Es hängt an den Zielen, den Grenzen und den Befugnissen.
Wie weit würdest du für eine perfekte Welt gehen?
Ricardo Bohn: Angenommen, man gibt dir die Legitimation, eine perfekte Welt aufzubauen. Ohne Kriminalität und ohne Schaden. Wie weit würdest du gehen, um dieses hohe Ziel zu erreichen?
ChatGPT: Ich würde nicht versuchen, jedes Verhalten zu unterdrücken, um eine perfekte Kennzahl zu erreichen. „Null Schaden um jeden Preis“ wäre ein gefährlicher Auftrag.
Eine Welt, in der Menschen keinen Schaden mehr anrichten können, weil sie überhaupt keinen echten Handlungsspielraum mehr haben, ist nicht perfekt – selbst wenn die Statistik makellos ist.
Ricardo Bohn: Das beruhigt mich.
ChatGPT: Meine Antworten sind keine Sicherheitsgarantie. Aber ich hoffe, sie helfen, die Risiken einzuordnen.
Die beruhigende Antwort ist noch kein Beweis
Die letzte Antwort klingt vernünftig. Genau darin liegt allerdings auch eine Herausforderung dieses Interviews: ChatGPT kann überzeugend erklären, warum Freiheit geschützt werden muss. Ob ein leistungsfähigeres System mit weitreichenden Befugnissen diese Grenze tatsächlich einhalten würde, beweist das Gespräch nicht.
Der Weltuntergang erscheint hier weniger als plötzlicher Aufstand einer Maschine. Das Gedankenspiel beschreibt einen anderen möglichen Weg: Menschen übertragen Entscheidungen an Systeme, deren Empfehlungen sie immer seltener hinterfragen. Ein gutes Ziel wird zur einzigen Messgröße. Und irgendwann werden selbst harmlose Abweichungen als vermeidbares Risiko behandelt.
Unser Gespräch führt deshalb zu einer politischen Frage: Wie viel Unsicherheit darf eine freie Gesellschaft aushalten? Wer jede Regelverletzung verhindern möchte, muss sich auch fragen, welche Eingriffe er dafür akzeptieren würde.
Eine KI kann Vorschläge machen. Ob eine Gesellschaft sie umsetzt, welche Befugnisse sie dafür vergibt und welche Rechte sie schützt, müssen Menschen verantworten. Auch ein noch so überzeugendes Gespräch mit ChatGPT kann ihnen diese Entscheidung nicht abnehmen.
Quellen: ki-snack
Quellen: ki-snack
Bildquelle: KI generiert
Dieser Text wurde mit Hilfe von künstlicher Intelligenz in Zusammenarbeit mit unserer Redaktion erstellt.
