Ein Nachmittag mit GPT-2: Erste Gehversuche

OpenAI hat mittlerweile eine kleinere Version von GPT-2 veröffentlicht — nicht das große Modell, vor dem sie gewarnt hatten, aber genug, um selbst damit herumzuspielen. Ich habe mir einen Nachmittag Zeit genommen.

Erste Erkenntnis: Es ist kein Zauberstab. Gibt man einen Satzanfang ein, kommt oft etwas heraus, das grammatikalisch fast perfekt ist, inhaltlich aber irgendwann komplett abdriftet. Ich habe mit einem Satz über einen Handwerksbetrieb in Augsburg angefangen, und nach drei Sätzen ging es plötzlich um eine Fußballmannschaft in Argentinien. Das hat mich sehr amüsiert.

Zweite Erkenntnis, und die ist ernster: Für kurze Strecken — einen Satz, zwei Sätze — ist das Ergebnis teilweise erschreckend gut. Es klingt menschlich. Nicht wie eine Maschine, die Wörter aneinanderreiht, sondern wie jemand, der einen Gedanken zu Ende führt. Für automatisch generierte Produktbeschreibungen, kurze Social-Media-Texte oder Ideen-Steinbrüche könnte sowas schon heute nützlich sein, wenn man es klug einsetzt und selbst nachbearbeitet.

Ich habe mir vorgenommen, das im Blick zu behalten. Diese Technologie wird nicht stehen bleiben. Und wenn ich mir vorstelle, wo sie in drei, vier Jahren steht, wenn sich die Modelle so schnell weiterentwickeln wie in den letzten zwei Jahren — dann wird das nicht mehr nur ein Spielzeug für einen verregneten Nachmittag sein.

Beitrag aus dem Jahr 2019, übernommen aus dem Blog meiner früheren Website. Gegenüber dem damaligen Original wurden eventuell Rechtschreibfehler korrigiert und Bilder ersetzt.