https://tecwiki.de/rubriken/ki/Recent content in KI on TecWikiHugodeWed, 26 Aug 2026 00:00:00 +0200https://tecwiki.de/glossar/inferenz/Wed, 26 Aug 2026 00:00:00 +0200https://tecwiki.de/glossar/inferenz/<h2 id="zwei-getrennte-vorgänge">Zwei getrennte Vorgänge</h2> <p>Beim Training werden die Parameter eines Modells aus Beispieldaten bestimmt. Das geschieht in einem abgeschlossenen Durchlauf und ist der aufwendige Teil. Bei der Inferenz bleibt das Modell unverändert: es bekommt eine Eingabe und liefert eine Ausgabe.</p> <p>Daraus folgt eine Eigenschaft, die häufig missverstanden wird: ein Modell lernt im laufenden Betrieb nicht dazu. Was in einer Sitzung eingegeben wird, ändert seine Parameter nicht. Erscheint ein System dennoch lernfähig, liegt das an Daten, die der Anfrage beigelegt werden, oder an einem späteren Trainingslauf, nicht an der Inferenz selbst.</p>https://tecwiki.de/glossar/llm/Wed, 26 Aug 2026 00:00:00 +0200https://tecwiki.de/glossar/llm/<h2 id="was-ein-sprachmodell-tut">Was ein Sprachmodell tut</h2> <p>Ein Sprachmodell schätzt, wie wahrscheinlich eine Fortsetzung auf einen gegebenen Text ist. Es erzeugt seine Ausgabe Stück für Stück: aus dem bisherigen Text wird das nächste Element bestimmt, dieses wird angehängt, und der Vorgang wiederholt sich. Groß heißt in diesem Zusammenhang, dass das Modell sehr viele Parameter hat und mit sehr großen Textmengen trainiert wurde.</p> <h2 id="token">Token</h2> <p>Modelle arbeiten nicht mit Wörtern, sondern mit Token: Zeichenfolgen, die je nach Sprache und Wort einem ganzen Wort, einer Silbe oder wenigen Zeichen entsprechen. Die Zerlegung stammt aus dem Training und ist für ein Modell fest. Deshalb werden Länge und Kosten einer Ein- oder Ausgabe in Token gemessen, nicht in Zeichen.</p>