Alignment-Steuer: Die Kosten sicherer künstlicher Intelligenz

Die Alignment-Steuer ist der Leistungskosten, der durch den Bau sicherer und an menschlichen Werten ausgerichteter KI-Systeme entsteht. Sie stellt die Leistungslücke zwischen einem KI-System ohne Sicherheitsbeschränkungen und einem mit Alignment-Techniken wie RLHF, konstitutioneller KI oder formaler Verifikation dar. Paul Christiano prägte den Begriff, um Alignment nicht als Hindernis, sondern als zu minimierende Kosten zu rahmen.

Alignment-Overhead verbraucht Ressourcen (Rechenleistung, Forscherzeit, Daten), die sonst für reine Leistungsverbesserung aufgewendet werden könnten. Techniken wie Reinforcement Learning from Human Feedback erfordern umfangreiche menschliche Annotation. Red-Teaming und Sicherheitstests fügen Entwicklungszyklen hinzu. Formale Verifikation erzwingt architektonische Einschränkungen. Diese Kosten akkumulieren über die Zeit und vergrößern die Lücke zwischen alignierten und nicht-alignierten Leistungstrajektorien.

Der optimale Alignment-Overhead maximiert die gesellschaftliche Wohlfahrt, definiert als Leistungsfähigkeit mal (1 - Risiko). Zu wenig Alignment bedeutet, dass hohes Risiko die Wohlfahrt erodiert. Zu viel bedeutet unzureichende Leistungsfähigkeit. Das Optimum hängt von der Alignment-Qualität ab — bessere Techniken verschieben das Optimum hin zu mehr Investition, weil jede Overhead-Einheit mehr Sicherheit kauft.

Wettbewerbsdynamiken erzeugen ein kollektives Handlungsproblem. Jedes Labor hat einen individuellen Anreiz, den Alignment-Overhead für Wettbewerbsvorteile zu minimieren, aber der Gesamteffekt ist ein höheres gesellschaftliches Risiko. Koordinationsmechanismen wie Sicherheitsstandards, regulatorische Anforderungen oder freiwillige Verpflichtungen können das Gleichgewicht in Richtung des sozialen Optimums verschieben.