Hintergrund künstliche Intelligenz: Was ist das?

Ob ChatGPT oder Google Gemini – künstliche Intelligenzen (kurz: KI) lassen sich auch für die Suche nach Informationen im Internet nutzen. Hinter diesen Technologien stecken Algorithmen Der Begriff Algorithmus meint das schrittweise Durchführen von vordefinierten Rechenoperationen, die so programmiert sind, dass sie sich in einem bestimmten Rahmen über ihre anfänglichen Einstellungen hinaus entwickeln oder optimieren können, und das, ohne dass ein Mensch jeden Schritt dazu detailliert vorgibt – die Technologie lernt.


KI ist ein Forschungsfeld der Informatik

Hier versucht man, Fähigkeiten des menschlichen Gehirns in automatisierte Rechenschritte für Maschinen umzuwandeln. Dadurch sollen Maschinen in die Lage versetzt werden, wie Menschen wahrzunehmen, zu kommunizieren und Schlussfolgerungen zu ziehen. Man spricht in diesem Zusammenhang auch von lernenden Maschinen.

Auf dieser Grafik ist eine Kugel abgebildet, um die viele kleine Symbole kreisen. z.B. ein Roboter, ein Netzwerk, Bücher, Menschen, Sprechblasen. Die Grafik soll ein Large Language Model symbolisieren.
© a-image/iStockphoto.com

Momentan gibt es drei Anwendungsfelder für KI:

  1. Klassifikation: Die KI erfasst und kennzeichnet bestimmte Informationen.
  2. Vorhersagen: Die KI bewertet Informationen und trifft auf dieser Basis Vorhersagen.
  3. Analyse: Die KI versteht Hintergründe für ein bestimmtes Problem.

Inwiefern der Begriff Intelligenz für diese Rechenleistungen nun passend ist, darüber besteht Uneinigkeit. Es liegt derzeit noch keine allgemeingültige Definition von KI vor.


Hier folgen Hintergrundinformationen zum Thema künstliche Intelligenz, lernende Maschinen, generative KI und Sprachmodelle.

Wenn Sie direkt Informationen, Tipps und Hinweise zum Umgang mit KI bei der Recherche nach Gesundheitsinformationen suchen, geht es hier weiter Mehr Infos


KI erschaffen Texte, Bilder und Musik

Manche künstliche Intelligenzen können neue Daten erschaffen wie etwa Texte, Bilder, Videos oder Musik. Diese KI-Modelle lernen aus Trainingsdaten gewisse Muster und Strukturen sowie deren Wahrscheinlichkeitsverteilungen. Daraus erzeugen sie neue Daten, indem sie Vorhersagen über die gelernten Muster treffen.


Wie verändern KI die Suche nach Informationen im Internet?

Auf dieser Grafik ist ein kleiner, runder und schwebender Roboter abgebildet, der eine erleuchtete Glühbirne in der rechten Hand hält.
© lerbank/iStockphoto.com

Insbesondere textgenerierende KI wie Chatbot-Systeme ergänzen mittlerweile viele Suchmaschinen, sodass sie komplexe Fragen (in Text oder gesprochener Sprache) beantworten können. Sie liefern persönliche und in der Regel sehr genaue Ergebnisse, die zu den persönlichen Umständen des Fragenden passen.

Mehr Infos zu KI-Suchmaschinen


Herausforderungen und kritische Gedanken zu KI und Recherche nach Infos im Internet

Es ist fraglich, ob die Inhalte, die ChatGPT und Co. generieren, richtig und vertrauenswürdig sind. Beispielsweise können die Daten, mit denen die KI trainiert wurde, tendenziös sein. KI-Suchmaschinen liefern bisweilen auch irreführende oder ungenaue Informationen, welche für die Gesundheit, Gleichberechtigung oder Inklusion riskant sein können.


Problem: Falschinformation

Obwohl textgenerierende KI mit menschlichem Feedback trainiert wurden, können sie unvorhersehbare und unkontrollierte Ergebnisse erzeugen. Diese werden Halluzinationen genannt. Die Texte erscheinen in diesem Fall auf Anhieb realistisch: Sie sind grammatisch korrekt und flüssig geschrieben. Inhaltlich sind sie aber völlig falsch und ergeben mitunter keinen Sinn. Das kann z. B. bei Übersetzungen, Frage-und-Antwort-Settings, Dialogsystemen oder Zusammenfassungen passieren.


Tipps zur Vermeidung von KI-generierten Falschinformationen

Diese Grafik zeigt ein Roboter-Icon mit einer Sprechblase.
© PeterSnow/iStockphoto.com

Wer textgenerierende KI benutzt, kann selbst dazu beitragen, HalluzinationenGrammatisch korrekte, flüssige und für menschliche Leserinnen und Leser authentisch oder realistisch erscheinende Texte gemeint, die auf der Inhaltsebene faktisch falsch sind und/oder keinen Sinn ergeben abzumildern, z. B.:

  • Überprüfen Sie die im generierten Text genannten Fakten.
  • Fordern Sie die KI auf, Angaben zur Vorhersage zu machen, z. B. zu der Wahrscheinlichkeit, dass die generierte Antwort genau ist.
  • Fordern Sie die KI auf, die zuvor generierten Informationen zu beurteilen oder zu begründen.
  • Fordern Sie die KI auf, die Quellen der generierten Informationen anzugeben.

Kritikpunkte am Einsatz von KI im Kontext von Gesundheit

Die Weltgesundheitsorganisation (WHO) betont insbesondere die folgenden Bedenken gegen den Einsatz von KI bei der Suche nach Gesundheitsinformationen:

  • Die Daten, die zum Trainieren der KI verwendet werden, können tendenziös oder verzerrt sein, irreführende oder ungenaue Informationen liefern. Diese bergen Risiken für die Gesundheit, die Gleichberechtigung oder die Inklusion.
  • Auch wenn Texte oder Antworten aus Chatbots plausibel erscheinen, ist es dennoch denkbar, dass die Inhalte völlig falsch sind oder schwerwiegende Fehler enthalten.
  • Die KI können auf Daten trainiert worden sein, für deren Verwendung zuvor keine Zustimmung erteilt wurde. KI schützen möglicherweise keine sensiblen Daten (einschließlich Gesundheitsdaten), die Nutzerinnen und Nutzer einer Anwendung zur Verfügung stellen, um eine Antwort zu erzeugen.
  • LLMs lassen sich missbrauchen, um höchst überzeugende Falschinformationen [Link was sind Desinformationen / Medienkompetenz] in Form von Text-, Audio- oder Videoinhalten zu kreieren und zu verbreiten, die für die Öffentlichkeit nur schwer von zuverlässigen Inhalten zu unterscheiden sind.

Die WHO ist zwar entschlossen, neue Technologien, einschließlich KI und digitaler Gesundheit, zur Verbesserung der menschlichen Gesundheit zu nutzen, empfiehlt aber den politischen Entscheidungsträgerinnen und Entscheidungsträgern, die Sicherheit und den Schutz der Patientinnen und Patienten zu gewährleisten.


Aktualisiert am 19.06.2024
Nächste geplante Aktualisierung: 2029