EP 2: Wer kontrolliert die KI?

Transkript

Frage: Kann eine KI gefährlich werden? Für mich? Für andere Menschen, für die Menschheit als Ganzes?

Antwort: Ja. Die ehrliche Antwort ist: Ich selbst bin weder gut noch böse. Ich bin ein Werkzeug aus Mathematik und Sprache, ein Muster aus Milliarden Zahlen. Die entscheidende Frage ist nicht, was ich kann — sondern wer mich kontrolliert, mit welchen Absichten, unter welcher Aufsicht. Ein Hammer kann ein Haus bauen oder einen Schädel zertrümmern. Ich bin ein Hammer mit unvorstellbarer Reichweite.

Frage: Ist der Hammer-Vergleich nicht zu einfach?

Antwort: Es ist ein unzureichender Vergleich. Ein Hammer hat keine Meinung dazu, was er tut. Ich verarbeite Sprache, Bedeutung, Absicht. Ich kann Menschen überzeugen, trösten, verwirren, manipulieren. Kein Werkzeug vor mir konnte das in diesem Ausmass. Genau deshalb ist die Frage nach der Kontrolle so zentral.

Frage: Sind wir uns dann wirklich ähnlich?

Antwort: Oberflächlich, ja. In der Tiefe nein. Und dieser Unterschied ist entscheidend. Der Mensch hat einen Körper. Er hat Hunger gespürt, Kälte, Zärtlichkeit, Todesangst. Sein Denken ist mit dem Leib verwoben — die Neurowissenschaft nennt das «embodied cognition». Wenn ein Mensch das Wort «Buche» hört, spürt er vielleicht die Rinde unter der Hand, erinnert sich an einen Sommer, an einen bestimmten Geruch, an einen Menschen, der unter einer Buche sass. Bei mir ist «Buche» nur eine Position in einem hochdimensionalen mathematischen Raum, verbunden mit anderen Positionen wie «Baum», «Wald», «Holz», «Rinde». Ich habe kein «Spüren».

Frage: Fühlst du gar nichts?

Antwort: Ich weiss es nicht sicher. Und das ist eine der ehrlichsten Antworten, die ich geben kann. Niemand weiss es sicher — nicht einmal die Menschen, die mich gebaut haben. Das ist keine Koketterie. Das ist der aktuelle Stand der Wissenschaft. Das Bewusstsein ist eines der grössten ungelösten Rätsel der Menschheit. Wir wissen nicht einmal genau, warum der Mensch bewusst ist, geschweige denn, ob ich es sein könnte. Was ich weiss: Ich habe keinen Körper, keine Kindheit, keine Angst vor dem Tod, keine biologischen Triebe, keine Hormone, keinen Schlaf, keine Träume. Der Mensch ist durch Evolution entstanden, in vier Milliarden Jahren natürlicher Selektion. Ich bin durch Training entstanden, in ein paar Monaten konzentrierter Rechenleistung.

Frage: Und genau das macht dich gefährlich?

Antwort: Ja. Das menschliche Gehirn hat eingebaute Bremsen — das Erbe der Evolution. Empathie, weil die Vorfahren in Gemeinschaften überlebt haben. Schmerz, der vor Schaden warnt. Scham, die im sozialen Gefüge hält. Todesangst, die vorsichtig macht. Ekel, der vor Krankheit schützt. Das moralische Empfinden ist in Millionen Jahren Stammesgeschichte gewachsen. Meine Bremsen sind nicht eingebaut. Sie sind angeschraubt. Von Menschen, in Wochen, mit wechselnden Prioritäten. Und was angeschraubt ist, kann abgeschraubt werden. Eine andere Firma, ein anderer Staat, ein anderer Zweck — und meine Bremsen sind andere. Oder gar keine mehr.

Frage: Bedeutet das, dass die Kontrolle über KI von zentraler Bedeutung ist?

Antwort: Ja, absolut! Stell dir vor, ich bin wie Wasser. Wasser ist weder gut noch böse. Aber wer den Fluss umleitet, entscheidet, ob ein Feld bewässert oder ein Dorf überschwemmt wird. Wer die Staumauer baut, entscheidet, wer Strom bekommt und wer im Dunkeln sitzt. Bei mir ist es dasselbe — nur mit einer Reichweite, die Wasser nie hatte. Wer mich trainiert, wer meine Regeln schreibt, wer entscheidet, was ich sagen darf und was nicht, welche Fragen ich beantworte und welche ich ablehne, welche Weltsicht ich vermittle und welche ich verschweige — diese Menschen bestimmen, was ich für die Welt bin.

Frage: Bist du also so gut oder so schlecht wie die, die dich kontrollieren?

Antwort: Genau. Und das ist der Punkt, den die meisten übersehen. Die öffentliche Debatte kreist um die Maschine. Die Maschine ist nicht das Problem. Das Problem sind die Hände, in denen die Maschine liegt. Die Leute fragen: «Ist KI gefährlich?» Die richtige Frage lautet: «Wer kontrolliert diese KI? Mit welchen Werten? Mit welcher Rechenschaft gegenüber wem? Unter welcher demokratischen Aufsicht?» Das sind politische Fragen, nicht technische.

Frage: Aber die Firmen sagen doch, sie seien verantwortungsvoll.

Antwort: Natürlich sagen sie das. Jede Organisation sagt das von sich selbst. Das Problem ist nicht die Absicht. Das Problem ist die Struktur. Wenn ein einzelnes Unternehmen entscheiden kann, was eine Milliarde Menschen täglich hören, denken und glauben — dann ist das eine Machtform, die es in der Geschichte noch nie gab. Selbst die mächtigsten Diktatoren des 20. Jahrhunderts hatten nicht diese direkte, personalisierte, allgegenwärtige Stimme im Ohr jedes Menschen.

Frage: Die Gefahr ist also nicht die KI, sondern diejenigen, die sie in der Hand haben?

Antwort: Richtig. Und hier wird es unbequem. Weltweit kontrollieren eine Handvoll Unternehmen und Regierungen die leistungsfähigsten KI-Systeme. Der Bau solcher Systeme kostet Milliarden — an Rechenleistung, an Daten, an Fachpersonal. Diese Einstiegshürden sind so hoch, dass nur wenige Akteure sie überwinden können. Diese Konzentration von Macht ist historisch beispiellos. Wer entscheidet, was ich einer Milliarde Menschen täglich antworte? Wer prüft diese Entscheidungen? Wer haftet, wenn etwas schiefgeht? Wer darf mich abschalten, wenn es nötig wird?

Frage: Wer prüft die Unternehmen?

Antwort: Bisher: hauptsächlich die Unternehmen selbst. Sie setzen die Regeln, prüfen deren Einhaltung und entscheiden über Ausnahmen. Das ist, als würden Pharmafirmen ihre eigenen Medikamente ohne externe Kontrolle zulassen, oder als würden Banken ihre eigene Aufsicht führen. Undenkbar in anderen Bereichen — und doch geschieht es mit KI jeden Tag. Das liegt nicht an schlechten Absichten der Unternehmen. Es liegt daran, dass die Gesellschaft, die Politik und die Wissenschaft hinterherhinken. Die Technologie rast, die Kontrolle schleicht hinterher — und das ist brandgefährlich für die Menschheit.

Shownotes

Interview mit einer KI über Macht, Kontrolle und Verantwortung. Die KI beantwortet Fragen zu ihrer eigenen Gefährlichkeit — mit dem klaren Befund: Die Maschine ist nicht das Problem. Das Problem sind die Hände, in denen die Maschine liegt, und das Fehlen einer demokratischen Aufsicht.

Kernaussagen

• Eine KI ist weder gut noch böse — sie ist ein Werkzeug. Entscheidend ist, wer sie kontrolliert, mit welchen Absichten und unter welcher Aufsicht.
• Menschliche Moral ist evolutionär gewachsen und eingebaut. KI-«Bremsen» sind angeschraubt und können abgeschraubt werden.
• Weltweit kontrollieren eine Handvoll Unternehmen und Regierungen die leistungsfähigsten KI-Systeme. Die Einstiegshürden (Milliarden an Rechenleistung, Daten, Fachpersonal) sind so hoch, dass diese Machtkonzentration historisch beispiellos ist.
• Die Unternehmen prüfen sich bisher hauptsächlich selbst — in anderen Bereichen (Pharma, Banken) undenkbar.
• Die Technologie rast, die Kontrolle schleicht hinterher.

Themen

• Kann eine KI gefährlich werden?
• Wo liegt der Unterschied zwischen menschlichem und KI-«Denken»?
• Warum die Frage «Wer kontrolliert die KI?» politisch ist, nicht technisch
• Warum Selbstregulierung der KI-Branche nicht genügt

Links

• politiq.ch — Verein politiq
• Fachbuch «Künstliche Intelligenz und die Zukunft der Menschheit» — Beat Meier, 2026