Der AI Act, oder Artificial Intelligence Act, ist ein umfassender regulatorischer Rahmen, der von der Europäischen Union eingeführt wird, um die Nutzung von Künstlicher Intelligenz (KI) in Europa zu regulieren. Während Entwickler von KI-Systemen häufig im Fokus solcher Regulierungen stehen, ist es ebenso wichtig, die Auswirkungen auf Unternehmen zu verstehen, die KI-Software anwenden, aber nicht selbst entwickeln. Dieser Artikel beleuchtet, was der AI Act für Unternehmen bedeutet, die KI-Software in ihrem Betrieb einsetzen und welche Schritte sie unternehmen müssen, um den Anforderungen gerecht zu werden.

Der AI Act ist ein Gesetzesrahmen, der entwickelt wurde, um den Einsatz von Künstlicher Intelligenz in der EU sicherer, transparenter und ethischer zu gestalten. Er klassifiziert KI-Systeme nach ihrem Risiko in unterschiedliche Kategorien – von geringem Risiko bis hin zu unvertretbarem Risiko. Die Regulierungen variieren je nach Risikoklasse, wobei die strengsten Auflagen für KI-Systeme mit hohem Risiko gelten.

Für Unternehmen, die KI-Software in ihrem täglichen Betrieb nutzen, bringt der AI Act eine Reihe von Verpflichtungen mit sich, auch wenn sie die Technologie nicht selbst entwickeln.

Unternehmen müssen zunächst die von ihnen verwendeten KI-Systeme identifizieren und bewerten, in welche Risikokategorie diese Systeme nach dem AI Act fallen. Systeme, die als „hohes Risiko“ eingestuft werden, unterliegen besonders strengen Anforderungen. Dazu gehören umfangreiche Dokumentationspflichten, regelmäßige Audits und strenge Kontrollen zur Vermeidung von Missbrauch oder Diskriminierung.

Auch wenn ein Unternehmen die KI nicht selbst entwickelt hat, trägt es die Verantwortung für deren Einsatz. Das bedeutet, dass Unternehmen sicherstellen müssen, dass die von ihnen eingesetzte KI-Software den gesetzlichen Anforderungen des AI Acts entspricht. Dies kann bedeuten, dass sie von den Softwareanbietern Nachweise über die Einhaltung der Vorschriften anfordern oder selbst interne Prüfungen durchführen müssen.

Der AI Act verlangt von Unternehmen, dass sie die Nutzer und Betroffenen darüber informieren, wenn KI-Systeme eingesetzt werden, und wie diese Systeme funktionieren. Dies betrifft insbesondere den Einsatz von KI in Bereichen wie Kundenservice, Personalmanagement oder Entscheidungsfindung. Unternehmen müssen sicherstellen, dass ihre Mitarbeiter und Kunden verstehen, wie die KI funktioniert, welche Daten sie verwendet und welche Auswirkungen dies haben kann.

Unternehmen, die KI-Systeme anwenden, müssen sicherstellen, dass ihre Mitarbeiter ausreichend geschult sind und die Risiken und Verantwortlichkeiten im Umgang mit KI verstehen. Dies umfasst nicht nur technische Schulungen, sondern auch Schulungen zu den ethischen und rechtlichen Implikationen des Einsatzes von KI-Systemen. Die Schulungen sollten regelmäßig aktualisiert werden, um den sich verändernden Anforderungen gerecht zu werden.

Der AI Act erfordert, dass Unternehmen ihre KI-Systeme kontinuierlich überwachen und bei Bedarf anpassen. Dies bedeutet, dass Unternehmen regelmäßig überprüfen müssen, ob ihre Systeme den aktuellen gesetzlichen Anforderungen entsprechen und ob sie ihre Ziele auf eine ethisch vertretbare Weise erreichen. Dazu gehört auch das Einholen von Feedback von Nutzern und das Anpassen der Systeme, wenn Probleme erkannt werden.

• Inventarisierung: Erfassen Sie alle KI-Systeme, die in Ihrem Unternehmen eingesetzt werden.
  • Erfassen Sie Zweck, Funktionsweise und Einsatzbereiche jedes KI-Systems.
  • Dokumentieren Sie, welche Daten von jedem System verarbeitet werden.
• Risikokategorisierung: Klassifizieren Sie jedes KI-System gemäß den Risikokategorien des AI Acts (geringes, hohes, unvertretbares Risiko).
  • Stellen Sie sicher, dass die Kategorisierung regelmäßig überprüft und bei Änderungen aktualisiert wird.

• Anbieterzertifikate: Fordern Sie von den Anbietern Ihrer KI-Systeme Nachweise darüber an, dass ihre Produkte den Anforderungen des AI Acts entsprechen.
  • Überprüfen Sie, ob die Anbieter Zertifikate, Prüfberichte oder andere relevante Dokumentationen bereitstellen können.
• Interne Prüfungen: Führen Sie interne Audits durch, um die Einhaltung der Vorschriften des AI Acts sicherzustellen.
  • Stellen Sie sicher, dass alle Systeme den festgelegten Standards und Anforderungen entsprechen.

• Informationsbereitstellung: Entwickeln Sie klare und verständliche Informationen über den Einsatz von KI-Systemen in Ihrem Unternehmen.
  • Bereiten Sie Informationsmaterialien vor, die erklären, wie KI-Systeme funktionieren und welche Auswirkungen sie auf Nutzer und Kunden haben.
• Kundenkommunikation: Informieren Sie Kunden über die Nutzung von KI, insbesondere in Bereichen, die ihre Daten betreffen.
  • Stellen Sie sicher, dass Kunden nachvollziehen können, wie ihre Daten verarbeitet werden und welche Rechte sie haben.

• Mitarbeiterschulung: Entwickeln und implementieren Sie Schulungsprogramme, die Mitarbeiter über die Nutzung von KI und die Anforderungen des AI Acts informieren.
  • Führen Sie regelmäßige Schulungen durch, um sicherzustellen, dass alle Mitarbeiter auf dem neuesten Stand sind.
• Ethische und rechtliche Schulungen: Bieten Sie spezielle Schulungen an, die sich auf die ethischen und rechtlichen Aspekte des KI-Einsatzes konzentrieren.
  • Stellen Sie sicher, dass die Mitarbeiter die Auswirkungen ihrer Arbeit mit KI-Systemen vollständig verstehen.

• Überwachungsprozesse: Implementieren Sie Systeme zur kontinuierlichen Überwachung der Leistung und Einhaltung der Vorschriften durch Ihre KI-Systeme.
  • Richten Sie ein Feedback-System ein, um Probleme oder Anomalien schnell zu erkennen und zu beheben.
• Regelmäßige Audits: Planen Sie regelmäßige Audits der KI-Systeme ein, um sicherzustellen, dass alle gesetzlichen Anforderungen erfüllt bleiben.
  • Überprüfen und aktualisieren Sie Ihre Systeme und Prozesse bei Bedarf, insbesondere bei Änderungen in der Gesetzgebung.

• Gesetzesaktualisierungen: Halten Sie sich über Änderungen und Aktualisierungen des AI Acts auf dem Laufenden- z.B. mit unserem Newsletter.
  • Passen Sie Ihre internen Richtlinien und Prozesse an, um neuen Anforderungen gerecht zu werden.
• Interne Kommunikation: Stellen Sie sicher, dass alle relevanten Abteilungen über Änderungen im AI Act informiert werden und wissen, wie diese die bestehenden Systeme beeinflussen können.

• Risikobewertung: Führen Sie regelmäßige Risikobewertungen durch, um potenzielle Gefahren im Zusammenhang mit dem Einsatz von KI-Systemen zu identifizieren und zu minimieren.
  • Entwickeln Sie Szenarien und Pläne zur Risikobewältigung.
• Notfallpläne: Erstellen Sie Notfallpläne für den Fall, dass ein KI-System Fehlfunktionen zeigt oder nicht den gesetzlichen Anforderungen entspricht.
  • Definieren Sie klare Verantwortlichkeiten und Prozesse für den Umgang mit Vorfällen.

Der AI Act stellt neue Herausforderungen für Unternehmen dar, die KI-Software anwenden, auch wenn sie diese nicht selbst entwickeln. Die Einhaltung der gesetzlichen Anforderungen ist unerlässlich, um rechtliche Risiken zu minimieren und das Vertrauen in KI-Systeme zu stärken. Durch sorgfältige Auswahl Ihres KI-Anbieters, genaue Planung, regelmäßige Schulungen und eine proaktive Herangehensweise können Unternehmen sicherstellen, dass sie den Anforderungen des AI Acts gerecht werden und gleichzeitig die Vorteile von KI-Technologien optimal nutzen.