Deep Care Logo weiss
Deep Care Logo

EU AI Act: Auswirkungen auf die KI-Nutzung in der betrieblichen Gesundheitsprävention

Juli 5, 2024
Bild zeigt eine Frau welche die KI-Assistenz Isa am Schreibtsich nutzt. Über das Bild ist eine durchsichtige EU Flagge mit der Aufschrift

Die Nutzung von Künstlicher Intelligenz (KI) ist zu einem integralen Bestandteil unseres Alltags geworden, sowohl in der Arbeitswelt als auch im persönlichen Gebrauch. Um das Vertrauen in diese Technologie zu stärken und klare Richtlinien für deren Einsatz zu schaffen, hat der Rat der 27 EU-Mitgliedstaaten am 21. Mai 2024 den EU Artificial Intelligence Act (AI Act) verabschiedet. Diese Verordnung markiert weltweit das erste umfassende Regelwerk zur Regulierung von KI und setzt einen einheitlichen Rahmen innerhalb der Europäischen Union.

Was ist der EU AI Act und welche Bedeutung hat er?

Der AI Act etabliert klare Regeln für die Entwicklung, Vermarktung und Nutzung von KI-Systemen innerhalb der EU. Er verfolgt einen risikobasierten Ansatz, bei dem die Regulierung je nach dem potenziellen Risiko einer KI-Anwendung variiert. KI-Systeme werden in drei Hauptkategorien eingeteilt:

  1. Hohes Risiko: Dies umfasst meist KI-Systeme, die in sensiblen Bereichen wie kritischer Infrastruktur, Gesundheitswesen, Bildung oder öffentlicher Sicherheit eingesetzt werden. Solche Systeme unterliegen strengen Vorschriften, um Grundrechte zu schützen und Missbrauch zu verhindern. Beispiele sind KI-Systeme zur biometrischen Identifikation oder zur Kreditwürdigkeitsbewertung, die personenbezogene Daten verarbeiten.
  2. Begrenztes Risiko: KI-Anwendungen, die bestimmte Risikoschwellen nicht überschreiten, müssen Transparenz- und Informationspflichten erfüllen. Ein Beispiel hierfür sind Systeme, die Arbeitsplatzdaten analysieren, jedoch keine umfassenden personenbezogenen Profile erstellen.
  3. Minimales Risiko: Diese Kategorie umfasst KI-Systeme, die nur geringe oder keine Risiken für die Rechte und Freiheiten der Nutzer darstellen und daher minimalen regulatorischen Anforderungen unterliegen. Ein Beispiel ist die digitale KI-Assistenz „Isa“, die lokal arbeitet und keine umfassenden personenbezogenen Profile erstellt.

Weiterführende Links zum Thema:

Auswirkungen auf EU-Staaten und Deutschland

Für EU-Staaten wie Deutschland bedeutet der AI Act eine Angleichung der regulatorischen Standards für KI, was die Markttransparenz erhöht und den grenzüberschreitenden Einsatz von KI-Technologien erleichtert. Deutschland, als eine der führenden Wirtschaftsmächte innerhalb der EU, sieht in der klaren Regulierung von KI eine Chance, sowohl Innovationen zu fördern als auch den Schutz seiner Bürgerinnen und Bürger zu gewährleisten. Wie konkret die Bundesregierung die Vorgaben der EU in nationales Recht umsetzen möchte ist bislang noch nicht klar.

Weiterführende Links zum Thema:

KI-Nutzung in der betrieblichen Prävention

Mit Ausnahme der KI-Assistentin Isa werden in deutschen Betrieben derzeit wenige KI-Systeme im Kontext der betrieblichen Prävention eingesetzt. Grundsätzlich kann KI jedoch genutzt werden, um Risiken besser zu identifizieren, gezieltere Maßnahmen abzuleiten, Gesundheitsprogramme zu personalisieren oder zu automatisieren.

KI-basierte Systeme können Daten aus verschiedenen Quellen sammeln und analysieren, um bspw. Gesundheitsrisiken der Mitarbeiter zu identifizieren. Dies kann wie im Fall von Isa beispielsweise Daten zu Arbeitsbedingungen oder Gesundheitsverhalten umfassen – zukünftig vermutlich sogar mentale Gesundheitsparameter . Auf Basis dieser Daten können Unternehmen präventive Maßnahmen ergreifen, um die Gesundheit und Sicherheit am Arbeitsplatz zu fördern. KI kann potenzielle Gefahren also frühzeitig erkennen, um gezielte Präventionsmaßnahmen abzuleiten oder selbst einzuleiten. Zudem kann sie genutzt werden, um personalisierte Gesundheitsprogramme für Mitarbeiter zu erstellen, die auf ihren individuellen Bedürfnissen und Gesundheitszielen basieren. Automatisierte Gesundheitsberatungssysteme können Mitarbeitern kontinuierliche Unterstützung bieten, indem sie auf ihre persönlichen Gesundheitsdaten und Verhaltensmuster reagieren und entsprechende Empfehlungen geben.

Wie wirkt sich der EU AI Act und die nun folgenden Regulierungen der Bundesregierung auf KI-Anwendungen im betrieblichen Gesundheitsmanagement aus?

Der AI Act bietet sowohl Anbietern als auch Nutzern und Entscheidern klare Leitlinien:

  • Transparenz und Informationspflichten: Anbieter von KI-basierten Lösungen im Arbeitsschutz und Gesundheitsmanagement müssen sicherstellen, dass Nutzer über die Funktionsweise der Systeme und die Verwendung ihrer Daten umfassend informiert sind.
  • Datenschutz und Sicherheitsmaßnahmen: Die Einhaltung von Datenschutzstandards und die Implementierung angemessener Sicherheitsmaßnahmen werden verstärkt überwacht, um den Schutz personenbezogener Daten zu gewährleisten.

Unternehmen und Mitarbeitende, die KI-Angebote nachfragen oder nutzen, erhalten dadurch weitreichendere Informationsrechte bezüglich der KI-Systeme und der Nutzung ihrer Daten. Gleichzeitig wird die Wahrscheinlichkeit von Datenmissbrauch gesenkt, was das Vertrauen der Konsumenten in KI-basierte Produkte und Dienstleistungen stärkt und die Akzeptanz solcher Technologien fördert.

Einordnung von „Isa“ unter dem EU AI Act

Unsere digitale KI-Assistentin Isa wird aufgrund ihrer lokal arbeitenden und datenschutzkonformen Natur der Kategorie „minimales Risiko“ gemäß dem AI Act zugeordnet. Das bedeutet, dass Isa nur geringen regulatorischen Anforderungen unterliegt, was ihre Akzeptanz und Implementierung im betrieblichen Gesundheitsmanagement, Arbeitsschutz sowie bei Gesundheitsangeboten von Krankenkassen erleichtert.

Ein weiterer Grund für diese Einstufung liegt in Isas Funktionsweise. Selbst bei einer Fehlfunktion oder einer falschen Entscheidung stellt Isa keine unmittelbare Gefahr für die Nutzer dar. Isa gibt den Nutzern Empfehlungen zur Verbesserung der Ergonomie oder zum ausreichenden Trinken und vermittelt Kompetenzen zu gesunden Gewohnheiten. Wenn Isas Analysen jedoch Einfluss auf die medizinische Behandlung eines Nutzers hätten, würde dies zu einer höheren Risikoklassifizierung führen.

Ein klarer Rahmen für eine sichere und innovative Zukunft

Der EU AI Act stellt einen wegweisenden Schritt dar, um die Potenziale von Künstlicher Intelligenz in Europa zu fördern, ohne die Grundrechte der Bürger zu gefährden. Er schafft klare Rahmenbedingungen für den Einsatz von KI-Technologien und bietet gleichzeitig die Flexibilität, Innovationen voranzutreiben. Deutschland und andere EU-Staaten stehen vor der Herausforderung, den AI Act in ihre nationalen Rechtsordnungen zu integrieren, um einen sicheren und verantwortungsvollen Umgang mit Künstlicher Intelligenz zu gewährleisten. KI-Unternehmen werden stärker in die Verantwortung genommen, um die Sicherheit ihrer Systeme zu gewährleisten, mehr Transparenz zu schaffen und klare gesetzliche Vorgaben zu beachten. Unter der Voraussetzung, dass das Regelwerk in den Ländern der EU gut umgesetzt wird, kann es eine faire Wettbewerbsgrundlage für Unternehmen schaffen, die hohe Datenschutz- und Sicherheitsstandards für ihre KI-Systeme anstreben und sich an ethische Grundsätze halten möchten.

Bleibe auf dem Laufenden