Künstliche Intelligenz

22. Juni 2025, akt. 20. Dezember 2025

Segen oder Fluch?

Bild von freepik (KI-generiert)

Eine Definition und die Beleuchtung der vielen Facetten der Künstlichen Intelligenz findet sich bei Wikipedia. Die Entwicklung geht rasant voran und hat in den letzten Monaten deutliche Fortschritte gemacht. Zum Beispiel bietet die Suchmaschine Google seit Kurzem oben (also an ganz prominenter Stelle!) einen KI-generierten Text unter der Überschrift „Übersicht mit KI“ an, der tatsächlich meistens richtig gut ist!

Klickt man auf die drei vertikalen Punkte rechts erfährt man grob, wie und aus welchen Quellen dieser Text entstanden ist. Der große Nutzen dieser Übersicht ist zweifelsfrei, dass er bereits eine Zusammenfassung verschiedener verteilter Informationen darstellt, die nun nicht mehr selbst im Einzelnen gefunden werden müssen. Großartig — oder? Da dies hier ein durchaus kritischer Aufsatz sein will, antworte ich: ja und nein.

Der Nutzen ist unbestritten und die Unterstützung, welche KI schon heutzutage in verschiedenen Bereichen unseres Lebens bieten kann (man denke nur an die Medizin!) tatsächlich ein Segen! Aber: schon in dem ganz einfachen und unkritischem Beispiel von eben, darf (und sollte!) die Frage nach dem Wahrheitsgehalt gestellt werden:

• Welche Quellen werden herangezogen?
• Sind diese verlässlich, vollständig und ausgewogen?
• Werden alle Aspekte berücksichtigt?
• Welches KI-Modell kommt zum Einsatz und mit welchen Daten wurde es trainiert?

Dabei sind dies gar nicht alles KI-spezifische Fragen, sondern solche, die auch bei anderen Nachrichten gestellt werden sollten. Es gibt noch viele weitere interessante Fragen, wenn man sich ein wenig damit beschäftigt, wie KI funktioniert und wie die Ergebnisse generiert werden.

Ich möchte noch einige weitere Aspekte nennen, die mir – neben der Frage nach dem Wahrheitsgehalt – ebenfalls sehr wichtig erscheinen:

• Bei wem liegt die finale Entscheidung?
• Gibt es auch negative Folgeeffekte für den Menmschen?

Auf die erste Frage gehe ich im nächsten Abschnitt noch ein, aber was könnten negative Folgeerscheinungen sein? Nun, als es noch keine Navigationssysteme gab, benutzten wir Land- oder bestenfalls Straßenkarten, bei einer längeren Reise schauten wir uns die Route und wichtige Zwischenstationen (wo man z.B. die Fernstraße wechseln musste) an und prägten uns all das ein, damit ein flüssiges Reisen möglich war. Generell wussten wir in etwa, wo wir entlang fahren mussten. Seit es die gut funktionierende Navigation gibt (die bestenfalls sogar Staus oder neue Baustellen vermeidet), ist diese Fähigkeit Schritt für Schritt verloren gegangen.

Oder ein anderes Beispiel: wer hat heutzutage noch Telefonnummern im Kopf? Jedes moderne Kommunikationsgerät verfügt über einen Nummernspeicher, oft sogar über die Fähigkeit, diesen zwischen verschiedenen Geräten abzugleichen. In Folge wurde die Fähigkeit, sich Telefonnummern zu merken, nicht mehr trainiert und was nicht benötigt wird, verkümmert (leider). Dies ist ein Grund, warum ich Kennworte möglichst nicht speichere, sondern immer wieder eingebe, um die Erinnerung daran wach zu halten. Nebenbei ist hier auch an eine Notfall-Lösung zu denken, wenn die normalerweise benutzte Ablage nicht (mehr) zur Verfügung steht (ein in die Badewanne gefallenes Mobiltelefon ist gar nicht sooo selten). Ja, es gibt „die Cloud“ — aber auch dazu später noch weitere Gedanken.

Was tun? — Wachsam bleiben …

Bei allen unbestreitbaren Vorteilen dieses noch jungen Zweigs der Datenverarbeitung scheint mir vor allen Dingen wichtig, dass wir Menschen die Gewalt über Aktionen behalten, die durch KI ausgelöst werden können (Zauberlehrling: die Geister, die ich rief …). Inzwischen (dank unserer Bequemlichkeit und auch einer gewissen Sorglosigkeit, wie ich finde) gibt es eine ganze Reihe von Möglichkeiten, wo KI direkt in echte Lebensvorgänge eingreifen könnte, denken wir an automatische Türen, Aufzüge, Geldautomaten, Kassensysteme …

Bei YouTube habe ich ein 🎥 interessantes Video zum „KI-Ego“ gefunden. Auch in einem 🎥 anderen Video geht es um diese Dinge und es wird eindringlich auf mögliche Probleme hingewiesen, wenn zu sorglos mit diesem neuen und mächtigen Werkzeug (und nichts anderes sollte es sein!) umgegangen wird. Halluzination (!) von KI wird in 🎥 diesem Video besprochen – ebenfalls sehr sehenswert! Auch ein ganz altmodisches Medium (nämlich ein Buch) möchte ich an dieser Stelle noch empfehlen: „Die KI war’s! Die Tücken der künstlichen Intelligenz!“ von Prof. Dr. Katharina Zweig, die sich auf recht unterhaltsame Weise mit diesem Thema beschäftigt (ISBN 3453218566, erhältlich z.B. im Wissenschaft Shop).

Die Tatsache, dass dies alles noch ziemlich neu ist und die Entwicklung so schnell voranschreitet, hat auch zur Folge, dass z.B. meist noch belastbare juristische Regeln für den Einsatz von KI und dessen mögliche Folgen fehlen. Hier sehe ich ein ganz wichtiges und dringliches Handlungsfeld für die Berufsgruppen, die damit befasst sind und die dabei unbedingt zusammenarbeiten sollten!

… und vorsorgen!

Außerdem sollte nach meiner Überzeugung immer auch daran gedacht werden, dass die wichtigste Grundlage für den Einsatz von Rechen- und Automatisierungstechnik nicht unbedingt immer zur Verfügung steht. Was geschieht bei einem längeren lokalen Stromausfall oder gar einem Blackout (wie z.B. auf der Iberischen Halbinsel am 28. April  2025)? Die jungen Menschen, die Digital Natives, können sich ein Leben ohne Internet (und damit auch ohne Strom!) nur schwer bis gar nicht vorstellen (was gar kein Vorwurf eines Älteren sein soll!) Trotzdem – gerade in einer wieder unsicherer gewordenen Welt – halte ich das vorausschauende Durchdenken auch solcher Szenarien für (über-)lebens­notwendig. Bei automatisiert ablaufenden bzw. gesteuerten Prozessen ist es im Störfall unter Umständen sehr schwierig, eine Aktion auszulösen, die in dieser Weise nicht vorgesehen, aber notwendig ist. Dann dürfte keine Zeit sein, eine KI zu „überzeugen“ oder gar auf diesen Fall neu zu trainieren.

Für Hard- und Software-Entwickler heißt das meiner Überzeugung nach, Möglichkeiten zu schaffen, dass im Notfall automatische Steuerungen (möglichst mit nicht-elektrischen Mitteln!) umgangen werden können. Eine Automatik-Tür muss sich auch öffnen lassen, wenn kein Strom (auch kein Notstrom!) zur Verfügung steht. Wo das nicht realisierbar ist, muss für möglichst lange Zeiträume Notstrom zur Verfügung stehen. In Krankenhäusern wird in der Regel eine Notstromversorgung für 24 Stunden sichergestellt, was meines Erachtens für einen Blackout unter Umständen als eine relativ kurze Zeitspanne angesehen werden muss. Dazu gibt es einen Aufsatz im Deutschen Ärzteblatt.

Für uns alle bleibt die Möglichkeit, nicht immer alle „Bequemlichkeiten“ auch zu nutzen, sondern – neben unseren Muskeln – auch unsere grauen Zellen in Bewegung zu halten: Versuchen, sich Dinge zu merken und/oder aufzuschreiben (oft hilft das).

Update August 2025

Die Warnungen vor den Gefahren von AI – insbesondere von Menschen, die selbst auf diesem Gebiet arbeiten oder gearbeitet haben und folglich als kompetent anzusehen sind! – werden allgemein noch viel zu wenig beachtet und/oder ernst genommen. Deshalb möchte ich hier auf einige Quellen zum Thema hinweisen, die ich für wichtig und beachtenswert halte:

• Website zu KI-Risiken
  Zitat von dort:
  Aber ist das nicht alles bloß Hype und Panikmache?
  Wenn die Chefs der KI-Firmen von baldiger KI auf menschlichem Niveau oder gar „Superintelligenz“ reden, ist Skepsis angebracht. Wenn aber unabhängige KI-Forscher wie der Nobelpreisträger Geoffrey Hinton und der Turing-Award-Gewinner Yoshua Bengio, die die Grundlagen der modernen KI entwickelt haben, vor unkontrollierbarer KI warnen, sollte man sie ernst nehmen. Wer behauptet, das sei alles nur „Panikmache“, muss begründen, warum die bisher genannten Probleme nicht eintreten können.
• 🎥 Warum wir uns die (nahe) Zukunft mit KI nicht vorstellen können
• 🎥 Die Warnung des Nobelpreisträgers (und Begründers der modernen KI)
• 🎥 Warum die Kontroll-Illusion unsere Existenz bedroht

Ich empfehle ausdrücklich auch die Lektüre des Buchs von Karl Olsberg mit dem Titel „Kontroll-Illussion“, welches sogar kostenlos als ePub oder PDF herunter geladen werden kann.

Update Anfang Oktober 2025 – Es gibt Hoffnung …

• 🎥 Die KI vor der Mark Zuckerberg WARNT - Meta
• 🎥 UN-Vollversammlung: Top KI-Forscher fordern rote Linien für KI

Update Ende Oktober 2025 – Wir können etwas tun!

🎥 Warum Top-KI-Forscher und viele andere ein Verbot von Superintelligenz fordern
Viele (ganz verschiedene) Menschen haben einen Aufruf aufgesetzt und unterschrieben, in dem ein Verbot der weiteren Entwicklung von Superintelligenz bis auf Weiteres gefordert wird.

Es geht ihnen dabei nicht darum, KI generell zu verteufeln, sondern „nur“ darum, die Entwicklung von so genannter „Superintelligenz“ solange auszusetzen, bis klar ist, wie diese beherrschbar bleibt. Das ist gewiss eine sinnvolle Forderung, ich habe unterschrieben.

Eine Gegenbetrachtung: 🎥 AI Hype - Weshalb Stagnation wahrscheinlicher ist als Singularität. Die Annahme, dass der exponentiell steigende Resourcenbedarf von KI zu einer Abflachung der Entwicklung führen kann bzw. muss, halte ich für nachvollziehbar, entschärft aber das Problem meines Erachtens nur partiell.

Update Ende Dezember 2025

Der im Update von Oktober erwähnte Aufruf wurde inzwischen von über 130.400 Menschen unterzeichnet, damals waren es etwas über 50.000 Stimmen.
Noch nicht unterschrieben? Auch Ihre oder Deine Stimme zählt!

Kurz vor Weihnachten noch ein positiver Ausblick: Mit so genannter Tool-KI (auf maschinellem Lernen beruhende Anwendungen, die für eine bestimmte Aufgabe entwickelt werden, diese „übermenschlich“ gut beherrschen, aber keine „Kenntnis“ von der Welt als Ganzes haben) kann die Menschheit eine Zukunft schaffen, die die großen und unbestrittenen Vorteile maschinellen Lernens nutzt, ohne den Gefahren einer allumfassenden agentischen KI (AGI) ausgesetzt zu sein.

🎥 Keep The Future Human: Wie wir eine gute Zukunft mit KI schaffen können

zur Übersicht der Beiträge

Sie wollen mir etwas zu diesem Thema mitteilen? Dann schreiben Sie bitte eine Nachricht zu diesem Beitrag.

18 weitere Beiträge:
Balkonkraftwerk (12. Juni 2025, akt. 12. Januar 2026)  •  Stirbt der gute Manitu? (7. Dezember 2025)  •  Digitale Vorsorge, digitaler Nachlass (5. November 2025)  •  Energiebedarf modernen Lebens (31. Oktober 2025, akt. 4. November 2025)  •  Ist das Internet kostenlos? (4. November 2025)  •  Zwangsbeglückung (7. Juni 2025, akt. 31. Oktober 2025)  •  Erlebnisse in der DDR (14. Juni 2025, akt. 30. Oktober 2025)  •  Mobilfunk und Strahlung – eine Richtigstellung (8. Juni 2025, akt. 29. Oktober 2025)  •  Revisionssichere Archivierung (16. Juni 2025, akt. 16. Oktober 2025)  •  Angriff auf Wordpress (5. Juni 2025, akt. 3. September 2025)  •  Energieversorgung Deutschland (1. August 2025)  •  Datenschutz in Europa (15. Juli 2025)  •  Zeitungsdigitalisierung (26. Juni 2025)  •  Kennworte (25. Juni 2025)  •  Elektromobilität / Lithiumabbau (21. Juni 2025)  •  Elektrosmog (9. Juni 2025, akt. 10. Juni)  •  Schwibbogenbau (Dezember 2024)  •  Gefahr durch Induktionsherde? (17. Dezember 2024)