Künstliche Intelligenz entwickelt sich schneller, als die meisten Menschen mithalten können. Ständig entstehen neue Begriffe in der KI-Sicherheits- und Ausrichtungsforschung.
Wörter wie Ausrichtung, Belohnungsmanipulation und Interpretierbarkeit werden häufig verwendet. Klare Definitionen fehlen jedoch oft für diese zunehmend wichtigen Konzepte.
Dieses Glossar schließt genau diese Lücke für neugierige Leser. Es sammelt das zentrale Vokabular der KI-Sicherheit an einem Ort. Jeder Eintrag erklärt einen Begriff in klarer, zugänglicher Sprache.
KI-Sicherheits- und Ausrichtungsglossar
Zentrale Begriffe aus der KI-Ausrichtungs- und Sicherheitsforschung — von Trainingstechniken wie RLHF bis zu Fehlermodi wie Belohnungsmanipulation und Mesa-Optimierung. Suche oder filtere nach Kategorie.
Hier findest du Konzepte, die Trainingsmethoden von KI-Modellen beschreiben. Begriffe wie RLHF und Konstitutionelle KI erklären, wie Modelle lernen.
Andere beschreiben Fehlermodi, etwa Belohnungsmanipulation und Mesa-Optimierung. Manche Einträge behandeln Aufsicht, wie skalierbare Aufsicht und Angriffssimulation.
Das Glossar ist so aufgebaut, dass du frei stöbern oder suchen kannst. Nutze die Suchleiste, um einen bestimmten Begriff sofort zu finden.
Filtere nach Kategorie, um Konzepte, Methoden oder Fehlermodi zu erkunden. Kategorien helfen dir zu verstehen, wie Ideen miteinander zusammenhängen. Egal ob Einsteiger oder Experte, dieses Glossar hilft in der KI-Sicherheit.