Glossar: Self-Hosted LLMs für Datensouveränität

Projekt: Self-Hosted LLMs für Datensouveränität – Blog-Serie Zweck: Zentrale Begriffserklärungen für alle Posts Dieses Glossar erklärt technische Begriffe, die in der Blog-Serie verwendet werden. Die Begriffe sind alphabetisch sortiert und nach Kategorien gruppiert. Inhaltsverzeichnis Training & Optimization Model Architecture & LoRA Memory & Hardware Serving & Infrastructure Evaluation & Metriken Data & Datasets Training & Optimization Activation / Activations Zwischenergebnisse, die während des Forward Pass (Berechnung der Predictions) eines Neural Networks entstehen. Diese müssen für den Backward Pass (Gradient-Berechnung) im Speicher gehalten werden. Bei großen Models und Batches können Activations mehrere GB VRAM benötigen. ...

April 29, 2025 · 10 min