Schwache und starke KI: Warum ChatGPT intelligenter wirkt, als wir es erklären können
Ich habe schon häufiger mit ChatGPT diskutiert.
Manchmal über Texte, manchmal über Argumente, gelegentlich über eine Antwort, die auf den ersten Blick überzeugend klingt und sich beim Nachprüfen als frei erfunden herausstellt.
Besonders interessant finde ich, wie selbstverständlich ich dabei mit einer Maschine spreche.
Ich stelle eine Frage. Sie antwortet. Ich widerspreche. Sie erklärt mir, warum mein Einwand berechtigt ist. Manchmal entschuldigt sie sich sogar.
Das ist ausgesprochen höflich.
Und gelegentlich ein bisschen irritierend.
Denn was genau passiert eigentlich, wenn eine Maschine so mit uns kommuniziert? Versteht sie meine Frage? Erkennt sie einen Fehler? Oder erzeugt sie Antworten, die für uns nach Verständnis aussehen?
Bei der Beschäftigung mit der Geschichte künstlicher Intelligenz bin ich wieder auf zwei Begriffe gestoßen, die dabei helfen, diese Fragen einzuordnen: schwache KI und starke KI.
Sie klingen zunächst nach einer ziemlich einfachen Unterscheidung.
Die eine kann weniger. Die andere kann mehr.
Ganz so einfach ist es leider nicht.
Was ist schwache KI?
Schwache KI, auf Englisch Weak AI, bezeichnet im verbreiteten technischen Sprachgebrauch künstliche Intelligenz, die für bestimmte Aufgaben oder Aufgabenbereiche entwickelt wurde.
Häufig wird dafür auch der Begriff Artificial Narrow Intelligence (ANI) verwendet.
Solche Systeme können innerhalb ihres Einsatzbereichs erstaunliche Leistungen erbringen.
Ein Schachprogramm kann einen Weltmeister besiegen. Eine Bilderkennungssoftware kann bestimmte Muster in medizinischen Aufnahmen identifizieren. Ein Navigationssystem kann Verkehrsbedingungen berücksichtigen und eine geeignete Route berechnen.
Dafür braucht keines dieser Systeme eine umfassende Vorstellung davon, wie die Welt funktioniert.
Ein Schachprogramm muss sich keine Gedanken darüber machen, ob sein Gegner einen schlechten Tag hatte.
Es muss auch nicht verstehen, warum Menschen freiwillig mehrere Stunden vor einem Brett sitzen und darüber nachdenken, wohin sie ein kleines Holzpferd bewegen.
Es muss Schach spielen.
Und darin kann es sehr gut sein.
Das Wort schwach ist deshalb etwas irreführend.
Es beschreibt die Begrenzung der Intelligenz auf bestimmte Fähigkeiten. Über die Qualität dieser Fähigkeiten sagt es wenig aus.
Manche Systeme der schwachen KI sind Menschen in ihren jeweiligen Aufgaben längst überlegen.
Trotzdem verfügen sie dadurch nicht automatisch über die Fähigkeit, beliebige neue Probleme zu verstehen und zu lösen.
Beispiele für schwache KI im Alltag
Wir begegnen schwacher KI häufiger, als uns bewusst ist.
Dazu gehören unter anderem:
Spracherkennung: Systeme, die gesprochene Sprache in Text umwandeln.
Bilderkennung: Anwendungen, die Objekte, Muster oder Auffälligkeiten in Bildern erkennen.
Empfehlungssysteme: Software, die Filme, Musik oder Produkte anhand von Daten vorschlägt.
Navigationssysteme: Anwendungen, die Routen berechnen und Verkehrsbedingungen berücksichtigen.
Schach- und Go-Programme: Systeme, die in klar definierten Spielen außerordentlich leistungsfähig sind.
Sprachmodelle: KI-Systeme, die Sprache verarbeiten und eine große Bandbreite sprachbezogener und weiterer Aufgaben bewältigen können.
Die Beispiele unterscheiden sich erheblich in ihrer Komplexität.
Ein klassisches Schachprogramm besitzt einen relativ klar abgegrenzten Aufgabenbereich. Ein modernes großes Sprachmodell kann dagegen programmieren, übersetzen, Texte analysieren und Fragen aus sehr unterschiedlichen Wissensgebieten beantworten.
Das macht die Einordnung heutiger Sprachmodelle besonders interessant.
Denn die Grenze zwischen einer spezialisierten Anwendung und einer vielseitig einsetzbaren KI wirkt inzwischen weniger eindeutig als früher.
Was ist starke KI?
Starke KI, auf Englisch Strong AI, beschreibt eine weitergehende Vorstellung künstlicher Intelligenz.
Im allgemeinen Sprachgebrauch ist damit häufig eine KI gemeint, die über breite, menschenähnliche intellektuelle Fähigkeiten verfügt.
Ein solches System könnte Wissen aus unterschiedlichen Bereichen anwenden, sich an unbekannte Situationen anpassen und neue Probleme bewältigen, ohne für jede Aufgabe eigens entwickelt werden zu müssen.
Dafür wird oft der Begriff Artificial General Intelligence (AGI) verwendet, auf Deutsch allgemeine künstliche Intelligenz.
Stell dir ein System vor, das eine neue Aufgabe erhält, sich die notwendigen Grundlagen aneignet und das Gelernte anschließend auf ganz andere Probleme überträgt.
Es könnte beispielsweise eine Sprache lernen, technische Zusammenhänge verstehen, eine unbekannte Arbeitsumgebung erschließen und aus neuen Erfahrungen eigenständig lernen.
So ungefähr stellen sich viele Menschen allgemeine künstliche Intelligenz vor.
Das klingt nach einem ausgesprochen vielseitigen Mitarbeiter.
Wobei ich mir vorstellen kann, dass auch eine solche Maschine irgendwann fragen würde, warum sie an einem Freitag um 16:45 Uhr noch an einer Besprechung teilnehmen muss.
Allerdings gibt es eine Schwierigkeit.
Wir haben keine allgemein akzeptierte Definition dafür, welche Fähigkeiten ein System besitzen müsste, um eindeutig als AGI zu gelten.
Und beim Begriff starke KI wird es noch etwas komplizierter.
Starke KI und AGI sind nicht immer dasselbe
In vielen populären Erklärungen werden starke KI und AGI gleichgesetzt.
Für einen ersten Überblick ist das verständlich. Beide Begriffe beschreiben eine Form künstlicher Intelligenz, die über die Fähigkeiten heutiger spezialisierter Systeme hinausgehen soll.
In der Philosophie hat starke KI allerdings eine andere, weitergehende Bedeutung.
Dort geht es auch um die Frage, ob eine Maschine tatsächlich verstehen, denken oder bewusste mentale Zustände besitzen könnte.
Ein System könnte theoretisch sehr viele Aufgaben auf menschlichem Niveau bewältigen, ohne dass damit die Frage nach seinem Bewusstsein beantwortet wäre.
Diese Unterscheidung ist wichtig.
Denn Leistungsfähigkeit, allgemeine Intelligenz und Bewusstsein sind drei verschiedene Fragen.
Sie hängen möglicherweise zusammen. Wie genau, ist umstritten.
Wenn ich in diesem Artikel von AGI spreche, meine ich deshalb vor allem allgemeine intellektuelle Fähigkeiten. Bei starker KI berücksichtige ich zusätzlich die philosophische Bedeutung des Begriffs.
Schwache und starke KI: Die wichtigsten Unterschiede
MerkmalSchwache KIStarke KI / AGIAufgabenbereichBestimmte Aufgaben oder FähigkeitsbereicheBreite, allgemeine FähigkeitenLernenInnerhalb der Möglichkeiten des jeweiligen SystemsFlexible Anpassung an neuartige Aufgaben als angestrebte EigenschaftWissen übertragenIn unterschiedlichem, begrenztem UmfangWeitreichend über verschiedene Bereiche hinwegBeispieleSchachprogramme, Bilderkennung, heutige LLMsKein allgemein anerkanntes BeispielBewusstseinKein nachgewiesenes BewusstseinPhilosophisch umstritten; für AGI nicht in jeder Definition erforderlichHeutiger StatusPraktisch im EinsatzAls allgemein anerkannter Entwicklungsstand nicht nachgewiesen
Die Tabelle zeigt die grundlegenden Unterschiede.
Sie hat allerdings eine Schwäche, die viele solcher Übersichten besitzen.
Sie lässt die Begriffe sauberer erscheinen, als sie in der Forschung tatsächlich sind.
Gerade bei modernen Sprachmodellen wird deutlich, dass es zwischen eng spezialisierten Programmen und einer allgemein intelligenten Maschine viele Abstufungen geben kann.
Und genau deshalb lohnt sich ein genauerer Blick auf ChatGPT.
Gehört ChatGPT zur schwachen oder starken KI?
ChatGPT und andere heutige große Sprachmodelle werden üblicherweise der schwachen beziehungsweise nicht-allgemeinen KI zugeordnet.
Das klingt zunächst merkwürdig.
Schließlich kann ChatGPT weit mehr als eine einzige Aufgabe erledigen.
Es kann einen Text übersetzen, Programmcode erklären, eine Tabelle auswerten, eine Geschichte entwickeln oder bei der Planung eines Projekts helfen.
Es kann über Philosophie diskutieren und im nächsten Moment erklären, wie man eine Excel-Formel schreibt.
Manche dieser Fähigkeiten waren vor wenigen Jahren noch ausgesprochen beeindruckend.
Heute regen wir uns darüber auf, wenn die Formatierung einer Tabelle nicht stimmt.
Wir gewöhnen uns offenbar schnell an technische Wunder.
Was ist ein Large Language Model?
Ein Large Language Model (LLM) ist ein großes Sprachmodell, das anhand umfangreicher Daten trainiert wird.
Beim Training lernt es statistische und strukturelle Zusammenhänge in Sprache und anderen verarbeiteten Daten. Dadurch kann es passende Fortsetzungen erzeugen und auf Eingaben reagieren.
Vereinfacht gesagt, sagt ein Sprachmodell während der Textgenerierung voraus, welche sprachlichen Einheiten als Nächstes folgen sollten.
Diese Beschreibung ist technisch stark verkürzt. Moderne Modelle können durch ihre Architektur, ihr Training und zusätzliche Verfahren komplexe Fähigkeiten entwickeln, die weit über das einfache Ergänzen eines Satzes hinausgehen.
Dennoch ist es hilfreich, sich die Grundlage bewusst zu machen.
Wenn ein Sprachmodell eine Antwort formuliert, bedeutet das zunächst, dass es eine Ausgabe erzeugt, die zu seiner Eingabe und seinem Training passt.
Ob die Antwort sachlich richtig ist, muss gesondert beurteilt werden.
Ob das System den Inhalt in einem menschenähnlichen Sinn versteht, ist eine weitere Frage.
Und ob es über allgemeine Intelligenz verfügt, lässt sich daraus ebenfalls nicht unmittelbar ableiten.
Warum heutige LLMs noch nicht als AGI gelten
Moderne Sprachmodelle zeigen beeindruckende Fähigkeiten in vielen Bereichen. Einige können Werkzeuge verwenden, Bilder analysieren, mehrstufige Aufgaben bearbeiten und mit anderen Systemen zusammenarbeiten.
Trotzdem bleiben wichtige Grenzen.
Ihre Zuverlässigkeit variiert je nach Aufgabe. Sie können sachliche Fehler erzeugen, Zusammenhänge falsch beurteilen oder bei veränderten Bedingungen Schwierigkeiten bekommen.
Auch ihre Fähigkeit, selbstständig aus neuen Erfahrungen zu lernen und Wissen zuverlässig auf beliebige neue Situationen zu übertragen, entspricht nicht ohne Weiteres der allgemeinen Anpassungsfähigkeit, die viele AGI-Definitionen voraussetzen.
Zudem fehlt ein allgemein akzeptierter Maßstab, mit dem sich das Erreichen von AGI eindeutig feststellen ließe.
Deshalb ist es sinnvoll, bei der Einordnung vorsichtig zu bleiben.
Die Fähigkeiten heutiger Sprachmodelle sind real. Die Frage, welche Form von Intelligenz dahintersteht, wird weiter erforscht.
Und wahrscheinlich wäre es hilfreich, zuerst etwas genauer zu klären, was wir eigentlich messen wollen.
Kann eine KI verstehen, was sie sagt?
Diese Frage führt zu einem der bekanntesten Gedankenexperimente der KI-Philosophie.
1980 veröffentlichte der Philosoph John Searle das sogenannte Chinese-Room-Argument.
Die Grundidee ist relativ einfach.
Stell dir einen Menschen vor, der kein Chinesisch versteht. Er sitzt in einem Raum und erhält chinesische Schriftzeichen.
Im Raum befinden sich außerdem ausführliche Anweisungen, mit denen er die Zeichen nach bestimmten Regeln verarbeiten und passende Zeichenfolgen zurückgeben kann.
Von außen könnte es so aussehen, als würde die Person Chinesisch verstehen.
Tatsächlich folgt sie lediglich den Anweisungen.
Searle wollte damit zeigen, dass die regelgerechte Verarbeitung von Symbolen allein noch kein tatsächliches Sprachverständnis beweist.
Das Gedankenexperiment ist bis heute umstritten. Andere Philosophen und Wissenschaftler haben verschiedene Einwände formuliert.
Ich finde daran besonders interessant, wie sehr wir uns beim Beurteilen von Intelligenz auf das verlassen, was wir beobachten können.
Jemand antwortet sinnvoll auf eine Frage.
Also gehen wir davon aus, dass er die Frage verstanden hat.
Im Umgang mit Menschen funktioniert diese Annahme meistens recht gut.
Bei Maschinen müssen wir genauer hinsehen.
Warum Sprache uns so leicht beeindruckt
Sprache hat für uns eine besondere Bedeutung.
Wir erklären damit die Welt, erzählen Geschichten, begründen Entscheidungen und versuchen, andere Menschen zu verstehen.
Wenn ein System überzeugend mit Sprache umgehen kann, wirkt es deshalb schnell intelligent.
Ich merke das auch bei meiner eigenen Arbeit.
Wenn ich ChatGPT bitte, einen Gedanken kritisch zu hinterfragen, kann es Einwände formulieren, auf die ich selbst noch nicht gekommen bin.
Das ist nützlich.
Wenn ich anschließend eine Quelle überprüfe und feststelle, dass eine Behauptung nicht stimmt, muss ich meine Begeisterung allerdings etwas korrigieren.
In meinem Artikel ChatGPT for Writers: How I Use It Without Letting It Write for Me beschreibe ich genauer, wie ich solche Systeme als Unterstützung beim Denken und Schreiben einsetze.
Dabei interessiert mich zunehmend, wie leicht wir eine überzeugende Formulierung mit einer überzeugenden Begründung verwechseln.
Das passiert übrigens auch bei Menschen.
Nur haben die meisten von uns wenigstens gelegentlich den Anstand, bei einer schwierigen Frage etwas unsicher zu klingen.
Was haben schwache und starke KI mit den KI-Wintern zu tun?
Die Unterscheidung zwischen schwacher und starker KI erklärt auch einen Teil der Geschichte künstlicher Intelligenz.
In meinem Artikel über die zwei großen KI-Winter beschreibe ich, wie überzogene Erwartungen in den 1970er- und späten 1980er-Jahren zu erheblichen Rückschlägen führten.
Damals gab es bereits Systeme, die bestimmte Aufgaben gut bewältigen konnten.
Doch aus einzelnen Erfolgen entstanden weitreichende Vorstellungen darüber, was Maschinen bald alles leisten würden.
Die Forschung stieß an technische und konzeptionelle Grenzen. Fördermittel wurden gekürzt, Geschäftsmodelle scheiterten und das öffentliche Interesse ließ nach.
Beim Lesen dieser Geschichte ist mir aufgefallen, wie vertraut manche Diskussionen klingen.
Ein System beherrscht eine neue Fähigkeit.
Wir beginnen darüber nachzudenken, welche weiteren Fähigkeiten es entwickeln könnte.
Und irgendwann reden wir über eine allgemeine Intelligenz, obwohl wir gerade erst gelernt haben, was die ursprüngliche Anwendung zuverlässig kann.
Natürlich unterscheiden sich heutige Sprachmodelle erheblich von den Systemen früherer Jahrzehnte.
Trotzdem lohnt es sich, die Begriffe sauber zu verwenden.
Ein bemerkenswerter Fortschritt in einem Bereich ist zunächst einmal ein bemerkenswerter Fortschritt.
Das reicht eigentlich schon.
Wir müssen daraus nicht sofort eine Theorie über die Zukunft des menschlichen Denkens entwickeln.
AGI und Superintelligenz: Wo liegt der Unterschied?
Wenn über starke KI gesprochen wird, taucht häufig noch ein weiterer Begriff auf: künstliche Superintelligenz, auf Englisch Artificial Superintelligence (ASI).
Damit ist eine hypothetische Form künstlicher Intelligenz gemeint, deren allgemeine intellektuelle Fähigkeiten die des Menschen deutlich übertreffen würden.
Der Unterschied lässt sich vereinfacht so beschreiben:
Schwache KI: Systeme mit begrenzten, auch sehr leistungsfähigen Fähigkeiten.
AGI: Eine hypothetische KI mit breiten, menschenähnlichen oder darüber hinausgehenden allgemeinen Fähigkeiten.
Superintelligenz: Eine hypothetische KI, die menschliche Fähigkeiten in nahezu allen relevanten intellektuellen Bereichen deutlich übertrifft.
Dabei ist Superintelligenz kein feststehender nächster Entwicklungsschritt.
Schon die Frage, ob und wie AGI erreicht werden könnte, ist offen.
Auch die Vorstellung, Intelligenz lasse sich auf einer einzigen Skala von schwach über stark bis superintelligent einordnen, vereinfacht vieles.
Ein Mensch kann hervorragend schreiben und trotzdem Schwierigkeiten mit Mathematik haben.
Ein anderer versteht komplizierte technische Zusammenhänge, findet aber bei einer Geburtstagskarte keine passenden Worte.
Wir besitzen unterschiedliche Fähigkeiten.
Warum sollte die Bewertung künstlicher Intelligenz einfacher sein?
Wie lässt sich allgemeine künstliche Intelligenz überhaupt messen?
In der KI-Forschung gibt es verschiedene Ansätze, allgemeine Intelligenz anhand von Fähigkeiten zu beschreiben.
Ein Beispiel ist das von Forschern bei Google DeepMind vorgeschlagene Modell Levels of AGI.
Dabei werden unter anderem die Breite der Fähigkeiten und das erreichte Leistungsniveau betrachtet.
Ein System, das in einem einzelnen Bereich außergewöhnlich gut ist, unterscheidet sich demnach von einem System, das in vielen Bereichen flexibel und zuverlässig arbeitet.
Auch der Grad der Autonomie spielt bei der Bewertung und beim praktischen Einsatz eine Rolle.
Solche Modelle helfen, die Diskussion genauer zu führen.
Denn die Frage „Ist das schon AGI?“ ist erstaunlich schwer zu beantworten, solange sich niemand darüber einig ist, welche Eigenschaften dafür ausreichen.
Vielleicht liegt darin eine kleine Ironie.
Wir versuchen herauszufinden, wann eine Maschine allgemein intelligent ist.
Und müssen uns dafür zunächst darüber verständigen, was allgemeine Intelligenz bedeutet.
Eine Aufgabe, mit der sich Menschen schon ziemlich lange beschäftigen.
Brauchen wir starke KI, damit künstliche Intelligenz unsere Arbeit verändert?
Für mich ist das die interessanteste Frage.
Denn während wir darüber diskutieren, ob heutige Sprachmodelle bereits eine Form allgemeiner Intelligenz besitzen oder irgendwann entwickeln könnten, verändern sie längst konkrete Arbeitsprozesse.
Texte werden recherchiert, übersetzt, zusammengefasst und überarbeitet. Software wird mit KI-Unterstützung entwickelt. Unternehmen automatisieren bestimmte Aufgaben.
Auch meine eigene Arbeit als Autor und Content Strategist hat sich verändert.
In AI for Writing: What I Use It For—and What I Don't beschreibe ich, welche Aufgaben ich inzwischen mit KI-Unterstützung erledige.
Die technischen Fähigkeiten solcher Systeme sind für mich dabei nur ein Teil der Frage.
Mindestens genauso wichtig finde ich, welche Entscheidungen wir ihnen überlassen.
Eine KI kann einen Text formulieren. Wer entscheidet, ob er veröffentlicht werden sollte?
Sie kann Informationen zusammenfassen. Wer prüft, ob dabei Wesentliches fehlt?
Sie kann einen Vorschlag machen. Wer übernimmt die Verantwortung für die Folgen?
Mit diesen Fragen beschäftige ich mich auch in meiner Human Decision Map, einem interaktiven Tool über menschliche Entscheidungshoheit beim Schreiben mit KI.
Ich glaube, dass wir die Wirkung künstlicher Intelligenz leicht unterschätzen, wenn wir ausschließlich über ihre mögliche Entwicklung zur AGI sprechen.
Schon heutige Systeme beeinflussen, wie wir arbeiten, Informationen bewerten und Entscheidungen vorbereiten.
Dafür brauchen sie kein nachgewiesenes Bewusstsein.
Und auch keine allgemeine Intelligenz im menschlichen Sinne.
Vielleicht sollten wir zuerst klären, was wir unter Intelligenz verstehen
Die Begriffe schwache und starke KI helfen dabei, die Fähigkeiten heutiger Systeme einzuordnen.
Sie zeigen aber auch, wie schwierig unsere Vorstellungen von Intelligenz sind.
Wir können Maschinen beibringen, Aufgaben zu lösen, die für Menschen ausgesprochen anspruchsvoll sind.
Gleichzeitig fällt es uns schwer, eindeutig zu bestimmen, ab wann daraus allgemeine Intelligenz wird.
Vielleicht liegt das daran, dass wir den Begriff bei Menschen relativ großzügig verwenden.
Wir nennen jemanden intelligent, wenn er schnell Zusammenhänge erkennt, schwierige Probleme löst oder originelle Gedanken entwickelt.
Bei einer Maschine möchten wir es dann doch etwas genauer wissen.
Kann sie verstehen? Kann sie lernen? Kann sie selbstständig denken? Ist sie sich ihrer eigenen Existenz bewusst?
Das sind berechtigte Fragen.
Nur sollten wir uns darüber im Klaren sein, dass wir dabei unterschiedliche Dinge untersuchen.
Ich finde die Fähigkeiten heutiger Sprachmodelle beeindruckend. Einige davon nutze ich fast täglich.
Und manchmal ertappe ich mich dabei, wie ich einem System Eigenschaften zuschreibe, weil seine Antworten so menschlich klingen.
Vielleicht ist genau das der Punkt, an dem es sich lohnt, etwas genauer hinzusehen.
Denn wir haben Maschinen inzwischen beigebracht, erstaunlich gut mit unserer Sprache umzugehen.
Jetzt müssen wir aufpassen, dass wir ihnen dabei nicht vorschnell unsere Vorstellungen von Intelligenz mitgeben.
Quellen
IBM: Typen künstlicher Intelligenz zur gängigen Einteilung von schwacher KI, allgemeiner KI und Superintelligenz.
IBM: Artificial General Intelligence zur Unterscheidung zwischen AGI, starker KI und Bewusstsein.
Stanford Encyclopedia of Philosophy: The Chinese Room Argument zu John Searles Gedankenexperiment und der philosophischen Bedeutung von starker KI.
Stanford Encyclopedia of Philosophy
Google DeepMind: Levels of AGI zur Bewertung allgemeiner KI anhand von Leistungsfähigkeit, Breite der Fähigkeiten und Autonomie.
Über den Autor
Carsten Jan Weichelt ist Content Writer und Content Strategist. Er beschäftigt sich mit künstlicher Intelligenz, Schreiben und der Frage, wie neue Technologien unsere Arbeit und unsere Entscheidungen verändern.
Er nutzt KI in seiner beruflichen Schreibpraxis und entwickelt eigene kreative und interaktive Projekte, darunter Kuh Alma und die Human Decision Map. In seinen Artikeln verbindet er praktische Erfahrungen mit Beobachtungen über Technologie, Kreativität und menschliches Verhalten.