Ob ChatGPT oder Google Gemini – künstliche Intelligenzen (kurz: KI) lassen sich auch für die Suche nach Informationen im Internet nutzen. Hinter diesen Technologien stecken Algorithmen Der Begriff Algorithmus meint das schrittweise Durchführen von vordefinierten Rechenoperationen, die so programmiert sind, dass sie sich in einem bestimmten Rahmen über ihre anfänglichen Einstellungen hinaus entwickeln oder optimieren können, und das, ohne dass ein Mensch jeden Schritt dazu detailliert vorgibt – die Technologie lernt.
KI ist ein Forschungsfeld der Informatik
Hier versucht man, Fähigkeiten des menschlichen Gehirns in automatisierte Rechenschritte für Maschinen umzuwandeln. Dadurch sollen Maschinen in die Lage versetzt werden, wie Menschen wahrzunehmen, zu kommunizieren und Schlussfolgerungen zu ziehen. Man spricht in diesem Zusammenhang auch von lernenden Maschinen.
Klassifikation: Die KI erfasst und kennzeichnet bestimmte Informationen.
Vorhersagen: Die KI bewertet Informationen und trifft auf dieser Basis Vorhersagen.
Analyse: Die KI versteht Hintergründe für ein bestimmtes Problem.
Inwiefern der Begriff Intelligenz für diese Rechenleistungen nun passend ist, darüber besteht Uneinigkeit. Es liegt derzeit noch keine allgemeingültige Definition von KI vor.
Hier folgen Hintergrundinformationen zum Thema künstliche Intelligenz, lernende Maschinen, generative KI und Sprachmodelle.
Wenn Sie direkt Informationen, Tipps und Hinweise zum Umgang mit KI bei der Recherche nach Gesundheitsinformationen suchen, geht es hier weiter Mehr Infos
KI-Systeme werden in unserer Umwelt für verschiedene Zwecke eingesetzt. Entsprechend können sich die dahinterliegenden Technologien unterscheiden. Derzeit werden zwei Arten von KI-Systemen voneinander abgegrenzt.
Der Begriff der sogenannten starken KI wird für die Vision einer künstlichen Intelligenz der Zukunft verwendet. Solch eine KI existiert also bisher nicht. Forschende haben die Idee, Computersysteme zu bauen, die die menschlichen intellektuellen Fähigkeiten nicht nur perfekt simulieren, sondern sie auch übertreffen oder über mentale Zustände, Einsichtsfähigkeit und Emotionen verfügen.
Bei der sogenannten schwachen KI, auf der aktuell der Fokus der KI-Entwicklung liegt, handelt es sich um Systeme, die bestimmte menschliche Fähigkeiten nachahmen können. Sie werden für konkrete Aufgaben oder Problemlösungen entwickelt und eingesetzt. Fast alle existierenden KI sind schwache KI. Beispiele sind Sprachproduktionssysteme wie ChatGPT, medizinische Diagnosesysteme, Systeme zur automatischen Gesichtserkennung, Sprachassistenzsysteme, selbstfahrende Autos oder Haushaltsroboter.
Maschinelles Lernen ist ein Forschungsbereich der künstlichen Intelligenz. Er befasst sich damit, wie eine Maschine ein Problem lösen kann, für das sie vorher nicht programmiert worden ist. Die Maschine soll die Lösungsschritte für dieses Problem selbstständig entwickeln.
Unter den lernenden KI-Systemen erregten bisher insbesondere solche Systeme Aufmerksamkeit, die auf dem sogenannten tiefen Lernen (englisch Deep Learning) basieren. Das ist eine besondere Art des maschinellen Lernens, bei der Strukturen wie in einem menschlichen Gehirn nachgeahmt werden. Dadurch können sehr komplexe und ungeordnete Daten verarbeitet werden. Es wird dann eine Aufgabe des Lernprozesses, die Daten sinnvoll zu zusammenzubringen. Mit diesem Lernansatz erschafft z. B. ChatGPT Inhalte.
KI erschaffen Texte, Bilder und Musik
Manche künstliche Intelligenzen können neue Daten erschaffen wie etwa Texte, Bilder, Videos oder Musik. Diese KI-Modelle lernen aus Trainingsdaten gewisse Muster und Strukturen sowie deren Wahrscheinlichkeitsverteilungen. Daraus erzeugen sie neue Daten, indem sie Vorhersagen über die gelernten Muster treffen.
Diese Art der KI wird dafür entwickelt, Texte zu lesen, zu verstehen und zum Beispiel auf Rechtschreibung zu überprüfen. Momentan sind diese KI noch nicht sehr gut darin, Texte und deren Inhalte sinnvoll zu interpretieren.
Textgenerierende KI wie ChatGPT von der Firma Open AI funktionieren über das Gespräch zwischen Mensch und Maschine. Man kann der KI über einen Chat Fragen stellen und die KI erstellt passende Antworten dazu.
Die KI hat dabei keine inhaltliche Vorstellung von ihrer Antwort. Vielmehr stellt sie Kombinationen von Wörtern zusammen, die sie zuvor gelernt hat und die der Wahrscheinlichkeit nach häufig zusammen verwendet werden.
Wenn eine Person eine KI beispielsweise fragt: „Wie viele Finger hat eine menschliche Hand?“ (Antwort: fünf), lautet die dahinterliegende Aufgabe für die KI in etwa so: Basierend auf der statistischen Verteilung von Wörtern in einer großen Textmenge in deutscher Sprache, folgen welche Wörter mit großer Wahrscheinlichkeit auf diesen Satz?
Die KI kennt also nicht die Anatomie der menschlichen Hand. Sie hat lediglich gelernt, dass die Wörter Hand, Finger und fünf in Texten am häufigsten gemeinsam vorkommen.
Für das Training braucht die KI große Textmengen, beispielsweise aus dem Internet. Daraus kann sie später Texte generieren, die Nutzerinnen und Nutzern Fragen beantworten, etwas zusammenfassen oder übersetzen oder sie mit Geschichten oder Gedichten unterhalten.
Sprachassistenten wie Alexa, Siri oder Cortana sind Dialogsysteme, die Fragen beantworten und einfache Aufgaben für Menschen erledigen. Sie erkennen und verarbeiten die gesprochene menschliche Sprache und antworten darauf.
Sprachassistenten können auch Internetsuchen durchführen, um Fragen zu beantworten. Sie lesen aber nur eine der gefundenen Antworten vor. Dabei entscheidet das System, welche Informationen es weitergibt und welche nicht.
Kompetenzen des selbstbestimmten Umgangs mit Sprachassistenten.de
Das universitäre Projekt MOTIV informiert rund um sprachbasierte interaktive (KI-)Systeme wie Siri, Alexa und Co. Ziel des Projekts ist es, zu einem souveränen Umgang mit digitaler Technik beizutragen. Nutzerinnen und Nutzer erfahren mehr über die Funktionsweise, die Handhabung und Hintergründe rund um sprachbasierte KI-Systeme.
Ein Angebot von: Projekt MOTIV an der Universität Würzburg, gefördert vom Bayerischen Forschungsinstitut für Digitale Transformation (bidt)
Manche KI können Bilder erkennen und selbstständig Bilder erzeugen. Man kann dieser KI beispielsweise sagen oder schreiben: „Zeige mir ein Bild von einem Eisbären.“ Die KI sucht dann aus einer Datenbank ein Bild mit einem Eisbären und zeigt es an.
Wie verändern KI die Suche nach Informationen im Internet?
Insbesondere textgenerierende KI wie Chatbot-Systeme ergänzen mittlerweile viele Suchmaschinen, sodass sie komplexe Fragen (in Text oder gesprochener Sprache) beantworten können. Sie liefern persönliche und in der Regel sehr genaue Ergebnisse, die zu den persönlichen Umständen des Fragenden passen.
Herausforderungen und kritische Gedanken zu KI und Recherche nach Infos im Internet
Es ist fraglich, ob die Inhalte, die ChatGPT und Co. generieren, richtig und vertrauenswürdig sind. Beispielsweise können die Daten, mit denen die KI trainiert wurde, tendenziös sein. KI-Suchmaschinen liefern bisweilen auch irreführende oder ungenaue Informationen, welche für die Gesundheit, Gleichberechtigung oder Inklusion riskant sein können.
Problem: Falschinformation
Obwohl textgenerierende KI mit menschlichem Feedback trainiert wurden, können sie unvorhersehbare und unkontrollierte Ergebnisse erzeugen. Diese werden Halluzinationen genannt. Die Texte erscheinen in diesem Fall auf Anhieb realistisch: Sie sind grammatisch korrekt und flüssig geschrieben. Inhaltlich sind sie aber völlig falsch und ergeben mitunter keinen Sinn. Das kann z. B. bei Übersetzungen, Frage-und-Antwort-Settings, Dialogsystemen oder Zusammenfassungen passieren.
Tipps zur Vermeidung von KI-generierten Falschinformationen
Wer textgenerierende KI benutzt, kann selbst dazu beitragen, HalluzinationenGrammatisch korrekte, flüssige und für menschliche Leserinnen und Leser authentisch oder realistisch erscheinende Texte gemeint, die auf der Inhaltsebene faktisch falsch sind und/oder keinen Sinn ergeben abzumildern, z. B.:
Überprüfen Sie die im generierten Text genannten Fakten.
Fordern Sie die KI auf, Angaben zur Vorhersage zu machen, z. B. zu der Wahrscheinlichkeit, dass die generierte Antwort genau ist.
Fordern Sie die KI auf, die zuvor generierten Informationen zu beurteilen oder zu begründen.
Fordern Sie die KI auf, die Quellen der generierten Informationen anzugeben.
Kritikpunkte am Einsatz von KI im Kontext von Gesundheit
Die Weltgesundheitsorganisation (WHO) betont insbesondere die folgenden Bedenken gegen den Einsatz von KI bei der Suche nach Gesundheitsinformationen:
Die Daten, die zum Trainieren der KI verwendet werden, können tendenziös oder verzerrt sein, irreführende oder ungenaue Informationen liefern. Diese bergen Risiken für die Gesundheit, die Gleichberechtigung oder die Inklusion.
Auch wenn Texte oder Antworten aus Chatbots plausibel erscheinen, ist es dennoch denkbar, dass die Inhalte völlig falsch sind oder schwerwiegende Fehler enthalten.
Die KI können auf Daten trainiert worden sein, für deren Verwendung zuvor keine Zustimmung erteilt wurde. KI schützen möglicherweise keine sensiblen Daten (einschließlich Gesundheitsdaten), die Nutzerinnen und Nutzer einer Anwendung zur Verfügung stellen, um eine Antwort zu erzeugen.
LLMs lassen sich missbrauchen, um höchst überzeugende Falschinformationen [Link was sind Desinformationen / Medienkompetenz] in Form von Text-, Audio- oder Videoinhalten zu kreieren und zu verbreiten, die für die Öffentlichkeit nur schwer von zuverlässigen Inhalten zu unterscheiden sind.
Die WHO ist zwar entschlossen, neue Technologien, einschließlich KI und digitaler Gesundheit, zur Verbesserung der menschlichen Gesundheit zu nutzen, empfiehlt aber den politischen Entscheidungsträgerinnen und Entscheidungsträgern, die Sicherheit und den Schutz der Patientinnen und Patienten zu gewährleisten.
Auf den folgenden Webseiten finden Sie weitere Informationen zu den Themen künstliche Intelligenz, deren Einsatzgebiete in der Gesundheitsbranche sowie Chancen und Risiken.
„Was ist eigentlich künstliche Intelligenz – KI?“ | Landeszentrale für politische Bildung NRW
Dieses Erklärvideo gibt einen kurzen Überblick rund um die Themen: Was ist KI und wie funktioniert sie?
Ein Angebot von: Landeszentrale für politische Bildung Nordrhein-Westfalen im Ministerium für Kultur und Wissenschaft des Landes Nordrhein-Westfalen
„Was ist Künstliche Intelligenz?“ | klicksafe
Auf dieser Webseite gibt es einfach formulierte Infos und Videos rund um das Thema künstliche Intelligenz.
Ein Angebot von: Initiative klicksafe im Digital Europe Programm (DIGITAL) der Europäischen Union für mehr Sicherheit im Internet, Medienanstalt Rheinland-Pfalz, Landesanstalt für Medien NRW
„Künstliche Intelligenz: Was muss ich wissen?“ | Bundesministerium für Bildung und Forschung
Diese Webseite erklärt, was Nutzer und Nutzerinnen zur KI wissen müssen. Sie bietet u. a. Antworten auf Fragen wie: Was ist künstliche Intelligenz? Wie weit entwickelt ist künstliche Intelligenz?
„Künstliche Intelligenz im Gesundheitsbereich: Ein Überblick“ | Fraunhofer-Institut für System- und Innovationsforschung
Wie wird KI im Gesundheitsbereich verwendet? Es wird die Rolle von KI in Gesundheits-Apps, der Diagnosefindung mittels Chatbots, COVID-19-Management sowie der Entscheidungsunterstützung bei Erkrankungen wie Krebs erläutert. Es werden Chancen und Risiken von KI aufgezeigt.
„KI in der Medizin – Chance oder Risiko?“ (Audiobeitrag) | Deutschlandfunk
KI in der Medizin – ist es eine Chance oder ein Risiko? Der Deutschlandfunk bietet einen Podcast, inwiefern KI als positiv oder negativ zu erachten ist.
„Smartphone-Doktor ist kein Ersatz“ | Deutschlandfunk
Diese Webseite erklärt, wieso der Smartphone-Doktor einen Arztbesuch nicht ersetzen kann. Es werden die Themen der Haftung bei falscher Diagnosefindung sowie Datensicherheit aufgegriffen.
„Einblicke in KI“ | kinsights.de
Algorithmus, Deep Learning und Black Box …Was soll das bedeuten? Es handelt sich um ein interaktives Lern-Tool auf Deutsch, Englisch, Französisch und Spanisch. Hier findet man Antworten auf Fragen rund um KI im Zusammenhang mit Ethik, Technik und Datenschutz sowie ein ausführliches Glossar mit den zentralen Begriffen rund um KI. Es gibt außerdem Informationen dazu, in welchen Bereichen des Lebens künstliche Intelligenzen bereits zum Einsatz kommen.
„Lernende Systeme. Die Plattform für Künstliche Intelligenz“ ׀ acatech e. V.
Auf dieser Plattform werden Informationen rund um das Thema KI aus Wissenschaft, Wirtschaft und Gesellschaft vereint. Es wird unter anderem auch auf Onlinekurse und Lernmaterialien rund um KI verwiesen.
Antweiler D, Beckh K, Chakraborty N, Giesselbach S, Klug K, Rüping S. Natural Language Processing in der Medizin: Von der automatisierten Befundanalyse bis zum Arztbriefgenerator: Künstliche Intelligenz für dokumentenbasierte Prozesse im Krankenhaus. Sankt Augustin; 2023.
Bruno A, Mazzeo PL, Chetouani A, Tliba M, Kerkouri MA. Insights into Classifying and Mitigating LLMs‘ Hallucinations; 14.11.2023. Verfügbar unter: http://arxiv.org/pdf/2311.08117v1.
Chowdhary KR, Hrsg. Fundamentals of Artificial Intelligence. New Delhi: Springer India; 2020.
Chowdhary KR. Natural Language Processing. In: Chowdhary KR, Hrsg. Fundamentals of Artificial Intelligence. New Delhi: Springer India; 2020. S. 603–49.
Clusmann J, Kolbinger FR, Muti HS, Carrero ZI, Eckardt J-N, Laleh NG et al. The future landscape of large language models in medicine. Commun Med (Lond) 2023; 3(1):141. doi: 10.1038/s43856-023-00370-1.
Creswell A, White T, Dumoulin V, Arulkumaran K, Sengupta B, Bharath AA. Generative Adversarial Networks: An Overview. IEEE Signal Process. Mag. 2018; 35(1):53–65. doi: 10.1109/MSP.2017.2765202.
Deutscher Ethikrat. Mensch und Maschine: Herausforderungen durch Künstliche Intelligenz; Stellungnahme; 20.3.2023.
Deutschland sicher im Netz e.V. KI Insights – Glossar [Stand: 08.03.2024]. Verfügbar unter: https://www.kinsights.de/.
Enquette-Kommission „Künstliche Intelligenz“. Unterrichtung der Enquete-Kommission Künstliche Intelligenz – Gesellschaftliche Verantwortung und wirtschaftliche, soziale und ökologische Potenziale: Bericht der Enquete-Kommission Künstliche Intelligenz – Gesellschaftliche Verantwortung und wirtschaftliche, soziale und ökologische Potenziale: Deutscher Bundestag; 28.10.2020 [Stand: 04.03.2024]. Verfügbar unter: https://dserver.bundestag.de/btd/19/237/1923700.pdf.
Früh A, Haux D. Foundations of Artificial Intelligence and Machine Learning; 2022.
Goodfellow I, Pouget-Abadie J, Mirza M, Xu B, Warde-Farley D, Ozair S et al. Generative adversarial networks. Commun. ACM 2020; 63(11):139–44. doi: 10.1145/3422622.
Kohne A, Kleinmanns P, Rolf C, Beck M. Chatbots: Aufbau und Anwendungsmöglichkeiten von autonomen Sprachassistenten. Wiesbaden, Heidelberg: Springer Vieweg; 2020.
Lanquillon C. Grundzüge des maschinellen Lernens. In: Schacht S, Lanquillon C, Hrsg. Blockchain und maschinelles Lernen. Berlin, Heidelberg: Springer Berlin Heidelberg; 2019. S. 89–142.
Luo R, Sun L, Xia Y, Qin T, Zhang S, Poon H et al. BioGPT: Generative Pre-trained Transformer for Biomedical Text Generation and Mining. Briefings in Bioinformatics 2022; 23(6):4171. Verfügbar unter: http://arxiv.org/pdf/2210.10341v3.
Martini M. Blackbox Algorithmus – Grundfragen einer Regulierung Künstlicher Intelligenz. Berlin, Heidelberg: Springer Berlin Heidelberg; 2019.
Raina V, Krishnamurthy S. Building an Effective Data Science Practice: A Framework to Bootstrap and Manage a Successful Data Science Practice. 1st edition. Erscheinungsort nicht ermittelbar, Boston, MA: Apress; Safari; 2021. Verfügbar unter: https://learning.oreilly.com/library/view/-/9781484274194/?ar.
Shanahan M. Talking about Large Language Models. Commun. ACM 2024; 67(2):68–79. doi: 10.1145/3624724.
Touvron H, Lavril T, Izacard G, Martinet X, Lachaux M-A, Lacroix T et al. LLaMA: Open and Efficient Foundation Language Models; 27.2.2023. Verfügbar unter: http://arxiv.org/pdf/2302.13971v1.
Wang Y, Yu Z, Wang J, Heng Q, Chen H, Ye W et al. Exploring Vision-Language Models for Imbalanced Learning. Int J Comput Vis 2024; 132(1):224–37. doi: 10.1007/s11263-023-01868-w.
Wendehorst C, Woopen C, Haberer J, Hansen M, Heckmann D, Kelber U et al. Gutachten der Datenethikkommission. Berlin; 2019.
