GPT-3 – menschlich klingende Texte von künstlicher Intelligenz
Von Andrea Humbel, Mai 17, 2023
Ein Sprachvorhersagemodell basierend auf künstlicher Intelligenz (KI), das Texte besser schreibt, zusammenfasst, vereinfacht oder übersetzt als Menschen? GPT-3 ist eines der aktuellsten Themen im Zusammenhang mit KI und wird von verschiedensten Experten als «die Zukunft der künstlichen Intelligenz» betitelt. Aber was genau steckt dahinter?
Was ist GPT-3 und wie funktioniert es?
GPT-3 steht für «Generative pre-trained Transformer 3», was übersetzt «generativ vortrainierter Transformer 3» heisst. Einfach erklärt ist GPT-3 die 3. Generation eines Sprachvorhersagemodells der Non-Profit-Organisation OpenAI, das auf maschinellen Lernmodellen basiert und ein künstliches neuronales Netzwerk nutzt, welches für deep learning und natürliche Sprachverarbeitung entwickelt wurde.
Sprachvorhersagemodelle werden mit enormen Textmengen trainiert und geben Worte aus, die mit grösster Wahrscheinlichkeit als nächstes kommen. Gibt man zum Beispiel den Text «Artificial» in ein Sprachvorhersagemodell ein, wird basierend auf den vortrainierten Texten die wahrscheinlichste, nächste Wortfolge ausgegeben, die z.B. «Intelligence» sein kann. Ein Algorithmus wie GPT-3 berücksichtigt aber nicht nur ein einziges wahrscheinliches Wort, sondern gleich mehrere.
GPT-3 ist auf eine grosse Menge an vorhandenen Internettexten trainiert, um Muster in Reden und Sprachen zu erkennen. Es kann also mit wenig Eingabetext eines Benutzers einen komplett neuen, umfassenderen Text generieren, der klingt, als wäre er von Menschen geschrieben.
GPT-3 – ein Vergleich
GPT-3 ist das grösste neuronale Netzwerk mit über 175 Billionen trainierbaren, maschinellen Lernparametern. Die Grafik zeigt den Vergleich mit anderen Modellen auf dem Markt:
Quelle: Springboard.com
GPT-3 hat somit etwa 100 Mal mehr Parameter als andere Vorgängermodelle. Deshalb meistert GPT-3 neben dem Generieren von Texten, die wie von Menschen geschrieben klingen, auch Aufgaben, für die das System nie trainiert wurde.
Wofür kann GPT-3 eingesetzt werden?
Durch eine kleine Texteingabe des Benutzers können komplett neue Texte generiert, gekürzt, zusammengefasst oder sogar Fragen beantwortet werden. Auf copy.ai (GPT-3 basiert) können mit nur wenigen Textinputs in sekundenschnelle Blogartikel, Social Media Posts oder motivierende Sprüche generiert werden, wie beispielsweise zum Schreiben von Zertifikatsarbeiten:
Quelle: copy.ai
Aber mit GPT-3 lässt sich noch viel mehr machen. Basierend auf wenig Textvorschlag können zum Beispiel
- voll funktionsfähige Codes zur Programmierung (oder Klonung) von Websites oder Apps
- Gedichte, die wie von Goethe selber klingen
- Reime
- Chat-Dialoge
- Quizfragen
- Bilder und Grafiken
erstellt werden. Überall wo es nicht effizient oder praktisch ist, Menschen zur Generierung von Text einzusetzen und durch wenig Texteingabe eine grosse Menge an neuem Text generiert werden soll, kann GPT-3 helfen und Kosten sparen. Im Kundendienst oder Verkauf kann GPT-3 genutzt werden, um Anfragen zu beantworten oder Chatbots zu unterstützen.
In der obigen Auflistung ist «Bilder und Grafiken» tatsächlich nicht falsch. Denn auch das ist heute dank GPT-3 und unserer Technologie möglich. DALL:E 2 ist ein neues KI- System von OpenAI, das realistische Bilder und Kunst, basierend auf einer Beschreibung in natürlicher Sprache, erstellen kann. Nachfolgend das Resultat mit der Eingabe «Astronaut on moon with a glass of water»:
Quelle: DALL:E
Die Möglichkeiten mit GPT-3 in Kombination mit anderen Technologien sind bereits jetzt enorm spannend und vielseitig. Was diese Entwicklung für gewisse Jobprofile und ganze Industrien bedeutet, wird umso spannender. Zukünftig könnten auch juristische oder andere bisher für Laien schwer verständliche Texte umformuliert werden, sodass sie auch ein Laie versteht.
ABER…
…leider hat auch diese glänzende Welt Nachteile, denn GPT-3
- ist nur begrenzt lernfähig, da die Modelle vortrainiert sind
- kann die Ergebnisse nicht erklären oder interpretieren
- ist je nach Anwendung eingeschränkt, wenn zu wenig Textinput vorhanden ist
- birgt eine breite Palette an Bias (Verzerrungen/Vorurteile) und somit Gefahren, weil das Modell von Internet-Texten trainiert ist und diese Vorurteile enthalten können.
Forscher fanden heraus, dass GPT-3 besonders gut darin ist radikale, rassistische und sexistische Texte auszuliefern oder auch für Fake News verwendet werden kann. GPT-3 ermöglicht so leider auch den falschen Gruppierungen relativ einfach menschenähnlich geschriebene Texte zu automatisieren und zu verbreiten.
Werden wir in Zukunft Texte und vielleicht sogar Bilder nur noch per Knopfdruck von KI erstellen?
GPT-3 bietet enormes Potenzial, aber weist aktuell auch noch viele Fehler auf. Trotzdem könnte GPT-3 in Zukunft unverzichtbar werden. Unternehmen sollten sich Gedanken machen, wo GPT-3 gefahrlos einen Mehrwert liefern und ergänzend oder erleichternd eingesetzt werden kann, sodass sie die Technologie tatsächlich weiterbringt.
14 coole GPT-3 basierte Apps
Dieser Fachbeitrag wurde im Rahmen eines Leistungsnachweises für das CAS Disruptive Technologies verfasst und wurde redaktionell aufgearbeitet.