{"id":1331,"date":"2023-06-06T16:36:00","date_gmt":"2023-06-06T16:36:00","guid":{"rendered":"http:\/\/34.240.245.214\/blog\/?p=1331"},"modified":"2025-09-30T11:24:19","modified_gmt":"2025-09-30T11:24:19","slug":"wie-chatgpt-funktioniert","status":"publish","type":"post","link":"https:\/\/dialogify.io\/de\/blog\/wie-chatgpt-funktioniert\/","title":{"rendered":"Wie ChatGPT funktioniert"},"content":{"rendered":"

Was steckt hinter den Grundkonzepten von ChatGPT?<\/h2>\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
Von Sau Sheong<\/a>, ver\u00f6ffentlicht auf Medium<\/a>.<\/div>\n<\/div>\n<\/div>\n<\/div>\n<\/div>\n<\/div>\n<\/div>\n<\/div>\n<\/div>\n<\/div>\n<\/div>\n

Es gibt derzeit so viel Aufregung, Vorfreude und Angst bez\u00fcglich ChatGPT, aber kaum etwas, das erkl\u00e4rt, wie es funktioniert. Sicherlich gibt es viele technische Papiere und dergleichen, aber f\u00fcr den Durchschnittsb\u00fcrger k\u00f6nnen sie etwas abschreckend sein.<\/p>\n

Dieser Artikel zielt darauf ab, eine einfache Sichtweise darauf zu pr\u00e4sentieren, wie ChatGPT und verwandte KI-Technologien funktionieren, ohne zu sehr ins Detail zu gehen. Nat\u00fcrlich wird es Fachbegriffe geben, aber ich werde versuchen, sie auf verst\u00e4ndlichere Weise zu erkl\u00e4ren. Dies mag ein ehrgeiziges Ziel sein (wie man etwas erkl\u00e4rt, ohne es zu erkl\u00e4ren), aber ich werde mein Bestes geben.<\/p>\n

Der ChatGPT-Algorithmus<\/h2>\n

Beginnen wir damit, zu erkl\u00e4ren, was ChatGPT ist und wie der ChatGPT-Algorithmus funktioniert.<\/p>\n

ChatGPT<\/h3>\n

ChatGPT ist ein Chatbot<\/em>, ein Computerprogramm, das Konversationen mit menschlichen Benutzern simulieren kann. Chatbots verwenden Natural Language Processing (NLP), um die Eingabe des Benutzers zu verstehen und eine relevante Antwort auf die Frage oder Anfrage des Benutzers zu generieren. NLP ist ein Bereich der KI, der sich mit der Interaktion zwischen Computern und menschlicher Sprache befasst.<\/p>\n

ChatGPT verwendet GPT (Generative Pre-trained Transformer), ein grosses Sprachmodell, das von OpenAI entwickelt wurde. Neben ChatGPT gibt es auch andere \u00e4hnliche Chatbots wie Bard von Google und Claude von Anthropic. Weitere bekannte Chatbots sind Siri von Apple, Alexa von Amazon und der Google Assistant.<\/p>\n

Grosse Sprachmodelle<\/h3>\n

Gro\u00dfe Sprachmodelle<\/em> (LLMs) sind KI-Modelle, die menschliche Sprache erlernen und generieren k\u00f6nnen. LLMs sind ein wesentlicher Bestandteil von NLP. Einige der bekannten LLMs sind GPT von OpenAI, LaMDA (Language Model for Dialogue Applications) von Google und LLaMA (Large Language Model Meta AI) von Meta. Diese Modelle lernen aus einer grossen Menge an Textdaten und verwenden ihr Wissen, um neuen Text zu generieren oder zu verstehen.<\/p>\n

Die grundlegende Idee hinter LLMs besteht darin, das n\u00e4chste Wort in einer Sequenz vorherzusagen, basierend auf den zuvor verwendeten Worten.<\/p>\n

Zum Beispiel, wenn du diese Wortfolge hast:<\/p>\n

A quick brown fox jumps over the lazy<\/pre>\n
Das LLM wird das n\u00e4chste Wort vorhersagen:<\/p>\n
A quick brown fox jumps over the lazy dog<\/strong><\/pre>\n
Es verwendet dazu eine KI-Technik namens maschinelles Lernen.<\/p>\n
Machine Learning<\/h3>\n
Machine Learning<\/em> ist eine Familie von KI-Algorithmen, bei denen grosse Datenmengen verarbeitet werden, um ein KI-Modell zu trainieren, das Entscheidungen trifft.<\/p>\n
Angenommen, du m\u00f6chtest einem Kind beibringen, wie ein Hund aussieht. Du k\u00f6nntest ihm viele Bilder von verschiedenen Hunden zeigen. Nachdem das Kind genug Bilder von Hunden gesehen hat, beginnt es zu verstehen, welche charakteristischen Merkmale Hunde tendenziell haben – sie haben vier Beine, einen Schwanz, k\u00f6nnen unterschiedliche Gr\u00f6ssen haben, aber ihre Gesichter haben \u00e4hnliche Strukturen und so weiter. Wenn das Kind einen Hund sieht, den es noch nie zuvor gesehen hat, kann es aufgrund der gelernten Muster erkennen, dass es sich um einen Hund handelt.<\/p>\n
\n
\n
\"\"<\/picture><\/div>\n<\/div>\n<\/figure>\n
Maschinelles Lernen funktioniert auf \u00e4hnliche Weise. Angenommen, wir m\u00f6chten das n\u00e4chste Wort nach einer Wortsequenz vorhersagen. Wir geben dem Computer zun\u00e4chst eine grosse Menge an Textdaten. Das k\u00f6nnen B\u00fccher, Artikel, Websites oder alles M\u00f6gliche mit W\u00f6rtern sein. W\u00e4hrend des Trainings lernt das Modell die Sprachmuster. Dies wird als Trainingsdaten<\/em> bezeichnet. Es lernt, dass bestimmte W\u00f6rter oft zusammen auftreten (wie „braun“ und „Fuchs“) und dass es Regeln in der Sprache gibt, denen wir normalerweise folgen (wie wir Adjektive in der Regel vor die von ihnen beschriebenen Nomen stellen). Schliesslich werden diese Muster zu einem Modell<\/em> – einer Reihe von gelernten Regeln, die es verwenden kann, um das n\u00e4chste Wort vorherzusagen.<\/p>\n
Der grundlegende Baustein der im LLM verwendeten maschinellen Lernalgorithmen ist das neuronale Netzwerk.<\/p>\n
Neuronales Netzwerk<\/h3>\n
Ein neuronales Netzwerk<\/em> ist ein maschinelles Lernalgorithmus, der so funktioniert, wie wir glauben, dass das menschliche Gehirn arbeitet. Es besteht aus vielen kleinen Teilen, die Knoten oder Neuronen genannt werden und in Schichten<\/em> gruppiert sind, die zusammenarbeiten, um aus Daten zu lernen.<\/p>\n
\n
\n
\"\"<\/picture><\/div>\n<\/div>\n<\/figure>\n
Die Lernphase eines neuronalen Netzwerks erfolgt w\u00e4hrend eines Prozesses namens Training<\/em>. Nehmen wir das vorherige Beispiel, so dass wir das n\u00e4chste Wort in einem Satz vorhersagen m\u00f6chten.<\/p>\n
Zun\u00e4chst m\u00fcssen wir vor dem Training die Trainingsdaten in Sequenzen bestimmter L\u00e4ngen aufteilen, sagen wir 10 W\u00f6rter, um das n\u00e4chste Wort nach der Sequenz vorherzusagen.<\/p>\n
Als n\u00e4chstes wandeln wir die W\u00f6rter in den Sequenzen in Vektoren um, im Wesentlichen eine Liste von Zahlen. Dieser Vorgang wird als Einbettung<\/em> bezeichnet, und die Vektoren werden manchmal als Einbettungen<\/em> oder Wortvektoren<\/em> bezeichnet. W\u00f6rter, die einander \u00e4hnlich sind, haben \u00e4hnliche Vektoren.<\/p>\n
Um das neuronale Netzwerk zu trainieren, f\u00fcttern wir die Sequenzen von Einbettungen nacheinander ein. Nach jedem Wort aktualisiert das neuronale Netzwerk seinen internen Zustand, der aus Knoten besteht, die in Schichten gruppiert sind, je nachdem, was es gelernt hat. Wenn alle Einbettungen einer Sequenz in das neuronale Netzwerk eingespeist wurden, bitten wir es um eine Vorhersage.<\/p>\n
Die vorhergesagte Einbettung wird mit der tats\u00e4chlichen Einbettung f\u00fcr das n\u00e4chste Wort in der Sequenz verglichen. Der Unterschied zwischen diesen Einbettungen ist der Vorhersagefehler, der verwendet wird, um den internen Zustand des neuronalen Netzwerks durch einen Prozess namens Backpropagation<\/em> anzupassen. Die Anpassungen erfolgen so, dass die vorhergesagte Einbettung der tats\u00e4chlichen Einbettung n\u00e4herkommt.<\/p>\n
Dieser Prozess wiederholt sich, und das neuronale Netzwerk wird mit allen Trainingsdaten trainiert, bis es sehr gut darin ist, das n\u00e4chste Wort in einem Satz herauszufinden. Nach Abschluss des Trainings kann das Modell nun Vorhersagen treffen. Der Prozess, bei dem ein Modell zur Vorhersage aufgefordert wird, wird als Inferenz<\/em> bezeichnet.<\/p>\n
Fr\u00fche neuronale Netzwerke hatten eine geringe Anzahl von Knoten und Schichten. Mit zunehmender Verf\u00fcgbarkeit von Trainingsdaten und der Entwicklung raffinierterer Methoden zur Organisation der Knoten wurde die Anzahl der Knoten und Schichten jedoch enorm, in Millionen und Milliarden. Ein weiterer Begriff f\u00fcr Algorithmen mit solch grossen neuronalen Netzwerken ist Deep Learning<\/em>. Das Wort Deep<\/em> in Deep Learning bezieht sich auf die Anzahl der Schichten in den versteckten Schichten.<\/p>\n
Fr\u00fchere neuronale Netzwerk-Algorithmen wie rekurrente neuronale Netzwerke (RNN) und Long Short-Term Memory (LSTM)-Netzwerke wurden h\u00e4ufig in der nat\u00fcrlichen Sprachverarbeitung (NLP) verwendet, haben jedoch Stabilit\u00e4tsprobleme bei sehr langen Textsequenzen.<\/p>\n
Im Jahr 2017 ver\u00f6ffentlichte Google ein Paper, in dem der Transformer, ein Typ neuronales Netzwerk, vorgestellt wurde, der die NLP enorm verbesserte und pl\u00f6tzlich alles ver\u00e4nderte.<\/p>\n
Transformers<\/h3>\n
Angenommen, du unterh\u00e4ltst dich mit einer Gruppe von Freunden dar\u00fcber, einen Filmabend zu planen. Wenn einer deiner Freunde etwas sagt, verstehst du seine Worte nicht nur aufgrund dessen, was er gerade gesagt hat, sondern du ber\u00fccksichtigst die gesamte Unterhaltung \u2014 \u00fcber welchen Film ihr gesprochen habt, wer wann verf\u00fcgbar ist, welche Snacks ihr plant zu besorgen und so weiter. Transformers tun etwas \u00c4hnliches, insbesondere wenn es um Sprache geht.<\/p>\n
\n
\n
\"\"<\/picture><\/div>\n<\/div>\n<\/figure>\n
Ein Transformer<\/em> ist eine Art von neuronalem Netzwerkalgorithmus, der besonders gut mit Kontext in Daten umgehen kann. Er beschr\u00e4nkt sich nicht darauf, nur das aktuell verarbeitete Datenst\u00fcck (wie ein Wort in einem Satz) und das unmittelbar vorherige Datenst\u00fcck zu betrachten. Stattdessen kann er alle Datenpunkte (alle W\u00f6rter im Satz) ber\u00fccksichtigen, herausfinden, welche f\u00fcr den aktuellen Datenpunkt (das Wort) am relevantesten sind, und diese nutzen, um den aktuellen Datenpunkt besser zu verstehen.<\/p>\n
Lass uns einen Satz als Beispiel nehmen:<\/p>\n
Obwohl ich bereits zu Abend gegessen habe, habe ich immer noch Hunger.<\/span><\/pre>\n
Wenn ein Transformer das Wort Hunger<\/code> verstehen m\u00f6chte, betrachtet er nicht nur die unmittelbar vorhergehenden W\u00f6rter wie habe ich immer noch<\/code>. Er ber\u00fccksichtigt auch zu Abend gegessen<\/code> aus fr\u00fcheren Teilen des Satzes, da es relevant ist, um zu verstehen, warum jemand Hunger<\/code> haben k\u00f6nnte.<\/p>\n
Diese F\u00e4higkeit stammt von dem Aufmerksamkeitsmechanismus<\/em>, den Transformers verwenden. Dieser erm\u00f6glicht es ihnen, aufgrund ihrer Relevanz verschiedene Teile der Eingabedaten zu beachten. Das macht Transformers hervorragend f\u00fcr Aufgaben wie maschinelle \u00dcbersetzung und Textgenerierung, bei denen das vollst\u00e4ndige Verst\u00e4ndnis des Kontexts der Eingabedaten entscheidend ist.<\/p>\n
Alle k\u00fcrzlich erstellten LLMs, einschliesslich GPT, basieren auf Transformers.<\/p>\n
Tokens<\/h3>\n
Wir haben \u00fcber W\u00f6rter in einem Satz f\u00fcr das Training oder die Inferenz gesprochen, aber tats\u00e4chlich arbeiten LLMs nicht mit W\u00f6rtern. Stattdessen verwenden sie Tokens<\/em>.<\/p>\n
Ein Token<\/em> ist ein Textabschnitt. H\u00e4ufige und kurze W\u00f6rter entsprechen in der Regel einem einzelnen Token. Lange und seltener verwendete W\u00f6rter werden in der Regel in mehrere Tokens aufgeteilt. Du kannst direkt OpenAI-Tokenizer<\/a> deinen Text eingeben und sehen, wie er in Tokens aufgeteilt wird.<\/p>\n
\n
\n
\"\"<\/picture><\/div>\n<\/div>\n<\/figure>\n
Du fragst dich vielleicht, warum die W\u00f6rter auf diese Weise tokenisiert werden.<\/p>\n
Angenommen, wir verwenden jeden Buchstaben als Token. Dadurch wird der Text in Tokens aufgeteilt und die Gesamtzahl der verschiedenen Tokens klein gehalten. Allerdings k\u00f6nnen wir nicht ann\u00e4hernd so viele Informationen codieren. Im obigen Beispiel k\u00f6nnen 8 Tokens nur ChatGPT<\/code> codieren, w\u00e4hrend 8 OpenAI-Tokens den ganzen Satz codieren k\u00f6nnen. Aktuelle LLMs haben eine Begrenzung f\u00fcr die maximale Anzahl von Tokens, die sie verarbeiten k\u00f6nnen, daher m\u00f6chten wir so viele Informationen wie m\u00f6glich in jedem Token packen.<\/p>\n
Was ist, wenn jedes Wort ein Token ist? Im Vergleich zum Ansatz von OpenAI w\u00fcrden wir nur 5 Tokens ben\u00f6tigen, um denselben Satz darzustellen, was effizienter ist. Allerdings m\u00fcssen LLMs eine vollst\u00e4ndige Liste der Tokens haben, auf die sie stossen k\u00f6nnten, und diese Methode kann nicht mit erfundenen W\u00f6rtern (sehr h\u00e4ufig in der Fiktion) oder fachspezifischen W\u00f6rtern (sehr h\u00e4ufig in technischen Dokumenten) umgehen.<\/p>\n
Training von ChatGPT<\/h2>\n
Nun, da wir den ChatGPT-Algorithmus verstehen, wollen wir verstehen, wie er trainiert wurde. Fangen wir mit einigen Grundlagen des \u00fcberwachten und un\u00fcberwachten Lernens an.<\/p>\n
\n
\n
\"\"<\/picture><\/div>\n<\/div>\n<\/figure>\n
Beim \u00fcberwachten Lernen<\/em> handelt es sich um eine Art des maschinellen Lernens, bei dem wir dem Modell Eingabedaten und die richtigen Ausgaben zur Verf\u00fcgung stellen. Angenommen, du m\u00f6chtest ein Modell trainieren, um Nachrichtenartikel in verschiedene Kategorien wie Wirtschaft, Sport oder Unterhaltung zu klassifizieren. Du w\u00fcrdest damit beginnen, einen Datensatz mit gekennzeichneten Nachrichtenartikeln zu sammeln. F\u00fcr jeden Artikel w\u00fcrdest du ihn manuell mit der entsprechenden Kategorie kennzeichnen. Sobald du den Datensatz hast, kannst du ihn verwenden, um das Modell zu trainieren.<\/p>\n
Beim un\u00fcberwachten Lernen<\/em> hingegen geht es um unlabeled Daten. Dem Modell werden Eingaben gegeben, aber es gibt keine expliziten korrekten Ausgaben. Das Modell muss selbstst\u00e4ndig Strukturen in den Eingaben finden. Ein Beispiel hierf\u00fcr ist das Clustering, bei dem das Modell \u00e4hnliche Daten gruppiert.<\/p>\n
Vor GPT wurden die meisten NLP-Modelle mit \u00fcberwachtem Lernen f\u00fcr spezifische Zwecke wie Textklassifikation oder Sentimentanalyse trainiert. Das Problem dabei ist, dass es schwierig ist, grosse Mengen an gekennzeichneten Daten zu finden. Ausserdem sind diese Modelle sehr spezialisiert und k\u00f6nnen nur f\u00fcr den Zweck verwendet werden, f\u00fcr den sie trainiert wurden.<\/p>\n
GPT wird jedoch zun\u00e4chst mit un\u00fcberwachtem Lernen auf unlabeled Daten vortrainiert und dann mit \u00fcberwachtem Lernen f\u00fcr spezifische Aufgaben feinabgestimmt.<\/p>\n
Feinabstimmung<\/h3>\n
Im maschinellen Lernen gibt es das Konzept des Transferlernens. Die Idee besteht darin, ein Modell, das f\u00fcr eine Aufgabe trainiert wurde, als Ausgangspunkt f\u00fcr eine verwandte Aufgabe zu verwenden. Dies ist sehr n\u00fctzlich, da das Training dieser Modelle von Grund auf viel Daten und Rechenressourcen erfordern kann.<\/p>\n
Feinabstimmung<\/em> ist eine spezifische Art des Transferlernens. Im Zusammenhang mit GPT bedeutet Feinabstimmung, dass das Modell, das bereits auf einer gro\u00dfen Menge von Textdaten trainiert wurde (die Vortrainierungsphase), anschlie\u00dfend auf eine spezifischere Aufgabe weiter trainiert wird.<\/p>\n
Nehmen wir als Beispiel an, du hast ein GPT-Modell, das auf einer grossen Menge an Internettext vortrainiert wurde. Nun m\u00f6chtest du einen Chatbot erstellen, der Ratschl\u00e4ge zur gesunden Ern\u00e4hrung gibt. Das GPT-Modell hat w\u00e4hrend des Vortrainings viel \u00fcber Sprache gelernt, ist jedoch m\u00f6glicherweise nicht sehr gut darin, spezifische Ratschl\u00e4ge zur Ern\u00e4hrung zu geben.<\/p>\n
Daher sammelst du einen Datensatz von Unterhaltungen, in denen Menschen gute Ratschl\u00e4ge zur gesunden Ern\u00e4hrung geben. Anschliessend nimmst du dein vortrainiertes GPT-Modell und stimmst es mit diesem neuen Datensatz ab. Das Modell hat nun aus deinen spezifischen Unterhaltungen \u00fcber Ern\u00e4hrungsratschl\u00e4ge gelernt und seine Parameter leicht angepasst, um in dieser Aufgabe besser zu werden.<\/p>\n
Im Wesentlichen erm\u00f6glicht uns die Feinabstimmung, ein allgemeines Modell f\u00fcr spezifische Aufgaben anzupassen, sodass es f\u00fcr unterschiedliche Zwecke n\u00fctzlicher und effizienter wird. Der Vorteil besteht darin, dass wir kein komplexes Modell wie GPT von Grund auf trainieren m\u00fcssen, was erhebliche Zeit-, Daten- und Rechenressourcen sparen kann.<\/p>\n
Au\u00dferdem stellte sich heraus, dass GPT-Modelle, die nur vortrainiert und nicht feinabgestimmt wurden, f\u00fcr sich genommen recht leistungsf\u00e4hig sind. Modelle, die trainiert, aber nicht feinabgestimmt werden, werden als foundation models<\/em> bezeichnet.<\/p>\n
Verschiedene Typen von Modellen<\/h3>\n
Modelle k\u00f6nnen f\u00fcr verschiedene Aufgaben trainiert werden (oder Foundation-Modelle k\u00f6nnen feinabgestimmt werden). Wenn du zum Beispiel ein Completion<\/em>-Modell verwendest, k\u00f6nntest du ihm einen solchen Prompt geben:<\/p>\n
Es war einmal, in einem weit entfernten K\u00f6nigreich<\/span><\/pre>\n
Das Modell nimmt diesen Prompt und generiert den Rest des Textes wie folgt:<\/p>\n
Es war einmal, in einem weit entfernten K\u00f6nigreich, ein tapferer Ritter und ein furchteinfl\u00f6\u00dfender Drache<\/strong>.<\/span><\/pre>\n
Die meisten Sprachmodelle sind minimale Completion-Modelle.<\/p>\n
Ein konversationales<\/em> Modell (wie ChatGPT) wird mit konversationellen Daten trainiert, wie zum Beispiel Dialoge aus B\u00fcchern, Drehb\u00fcchern oder Transkriptionen gesprochener Unterhaltungen. Dadurch lernt das Modell die hin- und hergehende Natur von Unterhaltungen zu verstehen, einschliesslich der Beziehung zwischen Antworten und vorherigen Nachrichten.<\/p>\n
Ein Anweisungs<\/em>-Modell (wie InstructGPT) wird darauf trainiert, menschliche Anweisungen zu verstehen und darauf zu reagieren. Dies kann Trainingsdaten umfassen, die aus Befehlen und den entsprechenden Handlungen oder Anweisungen und den entsprechenden Antworten bestehen.<\/p>\n
Ein Frage-und-Antwort (Q&A)<\/em>-Modell wird mit Daten trainiert, die Fragen mit ihren Antworten beinhalten, wie zum Beispiel Daten von Q&A-Websites, Lehrb\u00fcchern oder anderen Bildungsressourcen. Dadurch lernt das Modell, informative und pr\u00e4zise Antworten auf direkte Fragen zu geben.<\/p>\n
ChatGPT training<\/h3>\n
ChatGPT basiert auf GPT-3.5, bzw. GPT4, und wird dann zweimal feinabgestimmt – zun\u00e4chst mithilfe von \u00fcberwachtem Lernen und anschlie\u00dfend mithilfe von verst\u00e4rkendem Lernen.<\/p>\n
Im ersten Schritt, dem \u00fcberwachten Feinabgleich<\/em> (SFT), liefern menschliche KI-Trainer Gespr\u00e4che, in denen sie beide Seiten spielen – den Benutzer und einen KI-Assistenten. Den Trainern werden vom Modell geschriebene Vorschl\u00e4ge gegeben, um ihnen bei der Formulierung ihrer Antworten zu helfen. Mit diesem neuen Datensatz wird ChatGPT feinabgestimmt.<\/p>\n
Im zweiten Schritt wird ChatGPT mithilfe einer Technik namens verst\u00e4rkendem Lernen mit menschlichem Feedback<\/em> (RLHF) feinabgestimmt.<\/p>\n
Verst\u00e4rkendes Lernen<\/em> ist ein Typ des maschinellen Lernens, bei dem ein Agent (in diesem Fall ChatGPT) durch Versuch und Irrtum lernt, sich in einer Umgebung zu verhalten. Der Agent erh\u00e4lt Belohnungen f\u00fcr Aktionen, die zu gew\u00fcnschten Ergebnissen f\u00fchren, und Bestrafungen f\u00fcr Aktionen, die zu unerw\u00fcnschten Ergebnissen f\u00fchren. Im Laufe der Zeit lernt der Agent, Aktionen durchzuf\u00fchren, die seine Belohnungen maximieren.<\/p>\n
KI-Trainer f\u00fchren Gespr\u00e4che mit ChatGPT unter Verwendung derselben Prompts, um mehrere alternative Erg\u00e4nzungen zu erstellen. Die KI-Trainer ordnen diese Erg\u00e4nzungen ein, um ein Belohnungsmodell zu trainieren. Im verst\u00e4rkenden Lernen ist ein Belohnungsmodell<\/em> eine M\u00f6glichkeit, dem Agenten Feedback dar\u00fcber zu geben, wie gut er abschneidet. Es nimmt eine Aktion entgegen und gibt an, wie gut oder schlecht sie ist. Das Ziel des Belohnungsmodells besteht darin, im Laufe der Zeit die Summe der Belohnungen zu maximieren.<\/p>\n
Schlie\u00dflich wird ChatGPT feinabgestimmt, um Ausgaben zu generieren, die gem\u00e4ss diesem Belohnungsmodell eine hohe Bewertung erhalten.<\/p>\n
Die Verwendung von ChatGPT<\/h2>\n
Man k\u00f6nnte denken, es sei ziemlich sinnlos, \u00fcber die Verwendung von ChatGPT zu sprechen, da es sich um einen Chatbot handelt und du einfach mit ihm chattest. Das ist nicht ganz falsch, aber es ist m\u00f6glicherweise nicht die beste Art, ChatGPT zu verwenden. Wenn du nicht vorsichtig bist, k\u00f6nntest du falsche und irref\u00fchrende Informationen erhalten.<\/p>\n
Halluzination<\/h3>\n
Gelegentlich produzieren LLMs falsche oder unsinnige Ergebnisse, obwohl sie selbstbewusst pr\u00e4sentiert werden k\u00f6nnen. Dies wird als Halluzination<\/em> bezeichnet.<\/p>\n
\n
\n
\"\"<\/picture><\/div>\n<\/div>\n<\/figure>\n
LLMs k\u00f6nnen aus mehreren Gr\u00fcnden Halluzinationen erzeugen. Erstens werden diese Modelle mit massiven Mengen an Textdaten aus dem Internet trainiert, die sowohl korrekte als auch inkorrekte Informationen enthalten. Obwohl sie viel aus diesen Daten lernen, k\u00f6nnen sie gelegentlich faktisch falsche Antworten generieren oder Dinge erfinden.<\/p>\n
Zweitens haben LLMs kein wirkliches Verst\u00e4ndnis oder keinen gesunden Menschenverstand wie Menschen. Sie arbeiten aufgrund von Mustern in den Daten, mit denen sie trainiert wurden. Wenn sie also auf eine Frage oder ein Thema sto\u00dfen, von dem sie nichts gelernt haben, versuchen sie m\u00f6glicherweise, eine Antwort zu generieren, die plausibel klingt, aber tats\u00e4chlich erfunden ist.<\/p>\n
Dar\u00fcber hinaus k\u00f6nnen LLMs empfindlich auf geringf\u00fcgige \u00c4nderungen in der Formulierung der Eingabe reagieren, was zu Variationen in ihren Antworten f\u00fchrt. Manchmal k\u00f6nnen diese Variationen zu Inkonsistenzen oder unsinnigen Antworten f\u00fchren.<\/p>\n
Es gibt einige bekannte M\u00f6glichkeiten, Halluzinationen in LLMs zu reduzieren.<\/p>\n
Eine der bedeutenden M\u00f6glichkeiten, Halluzinationen in LLMs zu reduzieren, besteht darin, die Trainingsdaten zu verbessern. Vielf\u00e4ltigere und hochwertigere Daten k\u00f6nnen zu genaueren und weniger halluzinatorischen Antworten f\u00fchren.<\/p>\n
Eine detaillierte menschliche \u00dcberwachung, insbesondere w\u00e4hrend des Fine-Tunings, kann ebenfalls dazu beitragen, Halluzinationen zu verringern. Menschen k\u00f6nnen Echtzeit-Feedback geben, Ungenauigkeiten korrigieren und die F\u00e4higkeit des Modells verbessern, zuverl\u00e4ssige Antworten zu liefern.<\/p>\n
Einige architektonische \u00c4nderungen k\u00f6nnen Halluzinationen m\u00f6glicherweise mildern, z. B. die Entwicklung von Modellen, die besser in der Lage sind, eine koh\u00e4rente Erz\u00e4hlung \u00fcber l\u00e4ngere Textpassagen aufrechtzuerhalten.<\/p>\n
Ein gut gestalteter Prompt kann das LLM dazu f\u00fchren, genaue, themenbezogene und nicht-halluzinatorische Antworten zu liefern. Daher ist es wichtig zu verstehen, wie das Design des Prompts die Antworten der KI beeinflusst.<\/p>\n
Prompting<\/h3>\n
Ein Prompt<\/em> ist ein kurzer Text, der verwendet wird, um ein LLM bei der Generierung einer Antwort zu f\u00fchren. Die Idee besteht darin, dem Modell Kontext oder Richtung f\u00fcr die Art des generierten Textes zu geben. Ohne einen Prompt w\u00fcsste ein Sprachmodell nicht, wo es anfangen soll.<\/p>\n
Ein gut gestalteter Prompt kann das LLM dabei unterst\u00fctzen, gute und genaue Antworten zu generieren und Halluzinationen zu reduzieren oder zu vermeiden. Hier sind einige Tipps f\u00fcr das Schreiben guter Prompts:<\/p>\n
    \n
  • Es ist offensichtlich, aber manchmal vergessen wir, einfach zu schreiben und klare Anweisungen zu geben. Mehrdeutige Prompts k\u00f6nnen zu interessanten Antworten f\u00fchren, aber sie k\u00f6nnen auch falsche Antworten liefern.<\/li>\n
  • Verwende Trennzeichen, um verschiedene Teile des Prompts deutlich zu kennzeichnen. Beim Schreiben von Prompts verwendest du oft Anweisungen und Daten. Wenn du sie klar trennst, wird das LLM nicht verwirrt und vermischt sie, um Halluzinationen zu erzeugen.<\/li>\n<\/ul>\n
    Fasse den Text, der von doppelten eckigen Klammern begrenzt ist, in \r\neinem einzigen kurzen Satz mit nicht mehr als 10 W\u00f6rtern zusammen.\r\n\r\n[[ Es waren die besten Zeiten, es waren die schlimmsten Zeiten, es war das\r\nZeitalter der Weisheit, es war das Zeitalter des Unsinns, es war die\r\nEpoche des Glaubens, es war die Epoche des Unglaubens, es war die\r\nJahreszeit des Lichts, es war die Jahreszeit der Dunkelheit, es war der\r\nFr\u00fchling der Hoffnung, es war der Winter der Verzweiflung, wir hatten\r\nalles vor uns, wir hatten nichts vor uns, wir waren alle auf direktem Weg\r\nin den Himmel, wir waren alle auf direktem Weg in die andere Richtung - \r\nkurz gesagt, die Epoche glich so sehr der gegenw\u00e4rtigen Epoche, dass\r\neinige ihrer lautstarksten Autorit\u00e4ten darauf bestanden, dass sie nur\r\nim h\u00f6chsten Grad des Vergleichs aufgenommen wird, sei es gut oder b\u00f6se.]]<\/span><\/pre>\n
    Die Epoche war paradoxerweise von extremen Kontrasten und \u00c4hnlichkeiten gepr\u00e4gt.<\/span><\/pre>\n
    \n
    \n
    \"\"<\/picture><\/div>\n<\/div>\n<\/figure>\n
      \n
    • Fordere das LLM auf, Bedingungen zu \u00fcberpr\u00fcfen, bevor es die entsprechende Antwort gibt. Das \u00dcberpr\u00fcfen von Bedingungen kann verhindern, dass das LLM Dinge erfindet, wenn es die Antwort nicht kennt.<\/li>\n<\/ul>\n
      Fassen Sie den Text, der von doppelten eckigen Klammern begrenzt ist, in \r\neinem einzigen kurzen Satz mit nicht mehr als 10 W\u00f6rtern zusammen. Wenn es \r\nsich bereits um einen einzigen Satz handelt, der weniger als 10 W\u00f6rter \r\nenth\u00e4lt, sagen Sie einfach: \"Es ist bereits zusammengefasst.\"\r\n\r\n[[Die Epoche war paradoxerweise von extremen Kontrasten und \u00c4hnlichkeiten gepr\u00e4gt.]]<\/span><\/pre>\n
      Es ist bereits zusammengefasst.<\/span><\/pre>\n
        \n
      • Gib Beispiele f\u00fcr die gew\u00fcnschten Antworten, bevor du die Anfrage stellst. Du kannst das LLM anleiten, indem du dem LLM Beispiele gibst, wie es antworten soll.<\/li>\n<\/ul>\n
        Gib mir in einem kurzen Satz Schl\u00fcsselinformationen \u00fcber eine Stadt. \r\nZum Beispiel:\r\nIch: \"Erz\u00e4hl mir etwas \u00fcber Paris.\"\r\nSie: \"Es ist eine Stadt der Romantik und Geschichte.\"\r\nIch: \"Erz\u00e4hl mir etwas \u00fcber London.\"\r\nSie: \"Es ist eine Stadt der kulturellen Vielfalt und markanten Geb\u00e4ude.\"\r\nIch: \"Erz\u00e4hl mir etwas \u00fcber Singapur.\"\r\nSie:<\/span><\/pre>\n
        \"Singapur ist ein lebendiger Stadtstaat, der f\u00fcr seine Sauberkeit und Multikulturalismus bekannt ist.\"<\/span><\/pre>\n
          \n
        • Gib die Schritte an, um die Aufgabe abzuschliessen. Wenn du die genauen Schritte kennst, die du m\u00f6chtest, die das LLM ausf\u00fchrt, um die endg\u00fcltige Antwort zu erhalten, kann es hilfreich sein, diese Schritte anzugeben, um es auf dem Weg zu f\u00fchren.<\/li>\n
        • Iteriere und verfeinere die Eingabeaufforderung. Die Erstellung einer Eingabeaufforderung ist oft iterativ. Du schreibst eine einfache Version und verfeinerst sie immer wieder, indem du Details und Klarheit hinzuf\u00fcgen, bis du die gew\u00fcnschte Art der Antwort erhalten.<\/li>\n<\/ul>\n
          Fazit<\/h2>\n
          ChatGPT und andere LLM-Chatbots wie Bard und Claude sind faszinierend. Ein Blick unter die Oberfl\u00e4che, um die Grundlagen ihrer Funktionsweise zu verstehen, kann uns bessere Einblicke geben, um sie f\u00fcr uns besser zu nutzen.<\/p>\n
          Viel Spass beim Chatten!<\/p>\n<\/div>\n","protected":false},"excerpt":{"rendered":"
          Was steckt hinter den Grundkonzepten von ChatGPT? Von Sau Sheong, ver\u00f6ffentlicht auf Medium. Es gibt derzeit so viel Aufregung, Vorfreude und Angst bez\u00fcglich ChatGPT, aber kaum etwas, das erkl\u00e4rt, wie es funktioniert. Sicherlich gibt es viele technische Papiere und dergleichen, aber f\u00fcr den Durchschnittsb\u00fcrger k\u00f6nnen sie etwas abschreckend sein. Dieser Artikel zielt darauf ab, eine […]<\/p>\n","protected":false},"author":3,"featured_media":2005,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"footnotes":""},"categories":[181],"tags":[],"class_list":["post-1331","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-generative-ki"],"acf":[],"_links":{"self":[{"href":"https:\/\/dialogify.io\/de\/wp-json\/wp\/v2\/posts\/1331","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/dialogify.io\/de\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/dialogify.io\/de\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/dialogify.io\/de\/wp-json\/wp\/v2\/users\/3"}],"replies":[{"embeddable":true,"href":"https:\/\/dialogify.io\/de\/wp-json\/wp\/v2\/comments?post=1331"}],"version-history":[{"count":0,"href":"https:\/\/dialogify.io\/de\/wp-json\/wp\/v2\/posts\/1331\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/dialogify.io\/de\/wp-json\/wp\/v2\/media\/2005"}],"wp:attachment":[{"href":"https:\/\/dialogify.io\/de\/wp-json\/wp\/v2\/media?parent=1331"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/dialogify.io\/de\/wp-json\/wp\/v2\/categories?post=1331"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/dialogify.io\/de\/wp-json\/wp\/v2\/tags?post=1331"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}