Die Verantwortungslücke durch KI – der EU AI Act.

Künstliche Intelligenz unterstützt Entscheidungen in immer mehr Unternehmensbereichen – von der Personalauswahl über Leistungsbewertungen bis hin zu strategischen Analysen und Programmierung. Das spart Zeit und erhöht die Effizienz.

Doch mit jeder delegierten Entscheidung entsteht eine Frage, die oft übersehen wird:

Wer trägt eigentlich die Verantwortung?

Rechtlich bleibt die Verantwortung beim Menschen. Praktisch folgen Mitarbeitende jedoch häufig den Empfehlungen eines Systems, dessen Entscheidungsweg sie weder vollständig nachvollziehen noch kritisch hinterfragen.

Genau hier entsteht eine Verantwortungslücke.

Diese Entwicklung gewinnt rechtlich an Bedeutung.

Der europäische AI Act verlangt ausdrücklich eine wirksame menschliche Aufsicht über KI-Systeme.

Menschliche Kontrolle bedeutet jedoch mehr als einen Button zu klicken oder eine Empfehlung freizugeben. Sie setzt voraus, dass Menschen die Kompetenz besitzen, Vorschläge kritisch zu prüfen, einzuordnen und – wenn nötig – bewusst zu verwerfen.

Die eigentliche Herausforderung der kommenden Jahre liegt deshalb nicht allein in der Einführung leistungsfähiger KI-Systeme.