Neue Vorschriften für künstliche Intelligenz (KI) und mögliche Auswirkungen auf Treuhänder

Treuhänder sollten sich über die jüngsten Entwicklungen im Bereich der KI im Klaren sein, darunter neue und aktuelle Änderungen der staatlichen Gesetzgebung, das zunehmende Interesse der Bundesstaaten und der Bundesregierung an der Regulierung der KI sowie die Rolle der KI in ERISA-Rechtsstreitigkeiten. Während der Schwerpunkt bisher auf den Auswirkungen der KI auf Altersvorsorgepläne lag, die wir bereits hier erörtert haben, müssen sich auch Treuhänder aller Arten von Plänen, einschließlich Gesundheits- und Sozialleistungsplänen, über die jüngsten Entwicklungen im Bereich der KI auf dem Laufenden halten.

Aktuelle Änderungen der staatlichen Gesetze

Zahlreiche Bundesstaaten haben kürzlich neue Gesetze mit Schwerpunkt auf KI verabschiedet, von denen einige die Personalentscheidungsprozesse von Arbeitgebern regeln. Wichtige Beispiele hierfür sind:

• Kalifornien – Im Jahr 2024 hat Kalifornien über 10 Gesetze im Zusammenhang mit KI verabschiedet, die sich mit folgenden Themen befassen:
  • Die Verwendung von KI mit Datensätzen, die Namen, Adressen oder biometrische Daten enthalten;
  • Wie man Patienten mithilfe von KI Informationen zum Gesundheitswesen vermittelt; und
  • KI-gestützte Entscheidungsfindung bei medizinischen Behandlungen und Vorabgenehmigungen.

Weitere Informationen zu den neuen KI-Gesetzen in Kalifornien finden Sie in Foleys Client Alert „Decoding California’s Recent Flurry of AI Laws”(Entschlüsselung der jüngsten Flut von KI-Gesetzen in Kalifornien).

• Illinois – Illinois hat ein Gesetz verabschiedet, das Arbeitgebern untersagt, KI bei Beschäftigungsaktivitäten in einer Weise einzusetzen, die zu diskriminierenden Auswirkungen führt, unabhängig von der Absicht. Nach diesem Gesetz sind Arbeitgeber verpflichtet, Arbeitnehmer und Bewerber zu informieren, wenn sie KI für arbeitsplatzbezogene Zwecke einsetzen wollen.

Weitere Informationen zum neuen KI-Gesetz in Illinois finden Sie in Foleys Kundenmitteilung „Illinois verabschiedet Gesetz zum Schutz vor diskriminierenden Auswirkungen von KI im Arbeitsleben“.

• Colorado – Der Colorado Artificial Intelligence Act (CAIA), der am 1. Februar 2026 in Kraft tritt, schreibt „angemessene Sorgfalt” vor, wenn Arbeitgeber KI für bestimmte Anwendungen einsetzen.

Weitere Informationen zum neuen KI-Gesetz in Colorado finden Sie in Foleys Kundenmitteilung „Regulierung künstlicher Intelligenz bei Beschäftigungsentscheidungen: Was steht für 2025 an?”.

Diese Gesetze zielen zwar nicht speziell auf Vorsorgepläne für Arbeitnehmer ab, spiegeln jedoch einen Trend wider, wonach die Bundesstaaten Personalpraktiken umfassend regulieren, auf die Regulierung von Entscheidungsprozessen im Personalwesen abzielen und Teil eines sich wandelnden regulatorischen Umfelds sind. Im Jahr 2024 wurden Hunderte weiterer Gesetzesvorlagen auf Bundesstaatsebene sowie AI-bezogene Durchführungsverordnungen vorgeschlagen, was auf weitere Regulierungsmaßnahmen im Jahr 2025 hindeutet. Es bleibt jedoch unklar, inwiefern diese Gesetze mit den Vorsorgeplänen für Arbeitnehmer in Konflikt stehen und ob die Vorrangigkeit des Bundesgesetzes ERISA gegenüber den Regulierungsbemühungen der Bundesstaaten zum Tragen kommen könnte.

Jüngste Maßnahmen der Bundesregierung

Die Bundesregierung hat kürzlich Leitlinien zur Verhinderung von Diskriminierung bei der Erbringung bestimmter Gesundheitsdienstleistungen herausgegeben und eine Informationsanfrage (RFI) zu möglichen KI-Vorschriften für die Finanzdienstleistungsbranche abgeschlossen.

• Leitlinien des US-Gesundheitsministeriums (HHS) zu Bürgerrechten und Nichtdiskriminierung durch KI – Das HHS hat über sein Büro für Bürgerrechte (OCR) kürzlich einen Brief mit dem Titel „Ensuring Nondiscrimination Through the Use of Artificial Intelligence and Other Emerging Technologies” (Sicherstellung der Nichtdiskriminierung durch den Einsatz künstlicher Intelligenz und anderer neuer Technologien) veröffentlicht. Diese Leitlinien betonen, wie wichtig es ist, dass der Einsatz von KI und anderen Entscheidungshilfen im Gesundheitswesen den Bundesgesetzen zur Nichtdiskriminierung entspricht, insbesondere gemäß Abschnitt 1557 des Affordable Care Act (Abschnitt 1557).

Abschnitt 1557 verbietet Diskriminierung aufgrund von Rasse, Hautfarbe, nationaler Herkunft, Geschlecht, Alter oder Behinderung in Gesundheitsprogrammen und -aktivitäten, die finanzielle Unterstützung vom Bund erhalten. Die Leitlinien der OCR betonen, dass Gesundheitsdienstleister, Krankenkassen und andere betroffene Einrichtungen KI-Tools nicht in einer Weise einsetzen dürfen, die zu diskriminierenden Auswirkungen auf Patienten führt. Dies umfasst Entscheidungen in Bezug auf Diagnose, Behandlung und Ressourcenzuteilung. Arbeitgeber und Plan-Sponsoren sollten beachten, dass diese Leitlinien für eine Untergruppe von Krankenversicherungen gelten, darunter solche, die unter Abschnitt 1557 fallen, jedoch nicht für alle vom Arbeitgeber finanzierten Krankenversicherungen.

• Finanzministerium veröffentlicht RFI zur KI-Regulierung – Im Jahr 2024 veröffentlichte das US-Finanzministerium eine RFI zu den Einsatzmöglichkeiten, Chancen und Risiken künstlicher Intelligenz im Finanzdienstleistungssektor. Die RFI enthielt mehrere wichtige Überlegungen, darunter die Bekämpfung von Voreingenommenheit und Diskriminierung durch KI, Verbraucherschutz und Datenschutz sowie Risiken für Drittnutzer von KI. Die RFI hat zwar noch nicht zu konkreten Vorschriften geführt, unterstreicht jedoch die Aufmerksamkeit der Bundesregierung für die Auswirkungen von KI auf Finanzdienstleistungen und Leistungen für Arbeitnehmer. Das ERISA Industry Committee, eine gemeinnützige Vereinigung, die große US-Arbeitgeber in ihrer Eigenschaft als Träger von Vorsorgeplänen für Arbeitnehmer vertritt, erklärte, dass KI bereits für Anwendungen im Bereich der Altersvorsorge, Chatbots, Portfoliomanagement, Handelsausführungen und Wellness-Programme eingesetzt wird. Zukünftige Vorschriften könnten sich auf diese und verwandte Bereiche beziehen.

KI-gestützte ERISA-Rechtsstreitigkeiten

Mögliche ERISA-Ansprüche gegen Plan-Sponsoren und Treuhänder werden mithilfe von KI identifiziert. Ein Beispiel dafür ist die KI-Plattform Darrow AI, die laut eigenen Angaben:

„Entwickelt, um die Analyse großer Datenmengen aus Planunterlagen, behördlichen Einreichungen und Gerichtsverfahren zu vereinfachen. Unsere Technologie deckt Unstimmigkeiten, Verstöße gegen Treuhandpflichten und andere ERISA-Verstöße mit hoher Genauigkeit auf. Mit unseren fortschrittlichen Analysen können Sie potenzielle Ansprüche schnell identifizieren, ihre finanziellen Auswirkungen bewerten und stichhaltige Fälle aufbauen ... Sie können sich effektiv für Mitarbeiter einsetzen, die Gerechtigkeit in Bezug auf ihre Alters- und Gesundheitsleistungen suchen.“

Darüber hinaus behauptet diese KI-Plattform, dass sie Verstöße aufspüren kann, die viele Arten von Arbeitgebern betreffen, sei es ein kleines Unternehmen oder ein großes Unternehmen, indem sie verschiedene Datenquellen analysiert, darunter Nachrichten, SEC-Unterlagen, soziale Netzwerke, wissenschaftliche Arbeiten und andere Quellen von Drittanbietern.

Insbesondere Gesundheits- und Sozialleistungspläne entwickeln sich ebenfalls zu einem Schwerpunktbereich für KI-gestützte ERISA-Rechtsstreitigkeiten. KI-Tools werden zur Analyse von Leistungsdaten, Anbieternetzwerken und Verwaltungsentscheidungen eingesetzt, um möglicherweise diskriminierende Praktiken oder Unstimmigkeiten bei der Festlegung von Leistungen aufzudecken. So könnte KI beispielsweise Muster von Voreingenommenheit bei Vorabgenehmigungen oder Diskrepanzen bei der Anwendung von Gesetzen zur Gleichstellung im Bereich der psychischen Gesundheit aufzeigen.

Die zunehmende Komplexität dieser Tools erhöht den Druck auf Treuhänder, da sie nun damit rechnen müssen, dass potenzielle Anspruchsteller KI einsetzen, um ihre Entscheidungen zu hinterfragen und ihre Vorgehensweise mit beispielloser Präzision zu planen.

Nächste Schritte für Treuhänder

Um sich in dieser sich wandelnden Landschaft zurechtzufinden, sollten Treuhänder proaktive Maßnahmen ergreifen, um KI-bezogene Risiken zu bewältigen und gleichzeitig die Vorteile dieser Technologien zu nutzen:

• Bewertung von KI-Tools: Führen Sie eine formelle Bewertung der KI-Tools durch, die für die Planverwaltung, die Einbindung der Teilnehmer und die Einhaltung von Vorschriften eingesetzt werden. Diese Bewertung umfasst eine Prüfung der verwendeten Algorithmen, Datenquellen und Entscheidungsprozesse, einschließlich einer Bewertung, um sicherzustellen, dass die Produkte auf die Einhaltung von Nichtdiskriminierungsstandards geprüft wurden und nicht versehentlich zu voreingenommenen Ergebnissen führen.
• Audit-Dienstleister: Führen Sie umfassende Audits der Dienstleister des Plans durch, um deren Einsatz von KI zu bewerten. Fordern Sie detaillierte Angaben zu den eingesetzten KI-Systemen an, wobei der Schwerpunkt darauf liegen sollte, wie diese Vorurteile abbauen, die Datensicherheit gewährleisten und die geltenden Vorschriften einhalten.
• Überprüfung und Aktualisierung von Richtlinien: Formulieren oder überarbeiten Sie interne Richtlinien und Governance-Rahmenwerke, um den Einsatz von KI in der operativen Planung und die Einhaltung von Antidiskriminierungsgesetzen zu überwachen. Diese Richtlinien sollten Leitlinien für die Einführung, Überwachung und Einhaltung von KI-Technologien enthalten und so die Übereinstimmung mit den treuhänderischen Pflichten sicherstellen.
• Verbesserung der Risikominderung:
  • Treuhänderhaftpflichtversicherung: Erwägen Sie den Abschluss oder die Erweiterung einer Treuhänderhaftpflichtversicherung, um potenzielle Ansprüche aus der Nutzung von KI abzudecken.
  • Datenschutz und -sicherheit: Verbesserung der Datenschutz- und Sicherheitsmaßnahmen zum Schutz sensibler Teilnehmerdaten, die von KI-Tools verarbeitet werden.
  • Verringerung von Voreingenommenheit: Festlegung von Verfahren zur regelmäßigen Überprüfung und Validierung von KI-Tools hinsichtlich Voreingenommenheit, um die Einhaltung von Antidiskriminierungsgesetzen sicherzustellen.
• Integrieren Sie KI-Aspekte in Ausschreibungen (RFPs): Berücksichtigen Sie bei der Auswahl von Anbietern spezifische KI-bezogene Kriterien in Ausschreibungen. Dies kann erfordern, dass Anbieter die Einhaltung staatlicher und bundesstaatlicher Vorschriften nachweisen oder zertifizieren und sich an die branchenüblichen Best Practices für den Einsatz von KI halten.
• Beobachten Sie rechtliche und regulatorische Entwicklungen: Bleiben Sie über neue staatliche und bundesstaatliche KI-Vorschriften sowie über die sich entwickelnde Rechtsprechung im Zusammenhang mit KI und ERISA-Rechtsstreitigkeiten auf dem Laufenden. Richten Sie einen Prozess für routinemäßige rechtliche Überprüfungen ein, um zu beurteilen, wie sich diese Entwicklungen auf den Planbetrieb auswirken.
• Schulungen anbieten: Treuhänder, Verwalter und relevante Mitarbeiter über die potenziellen Risiken und Vorteile von KI bei der Planverwaltung, neue Technologien und die Bedeutung der Einhaltung geltender Gesetze aufklären. Die Schulung sollte einen Überblick über gesetzliche Verpflichtungen, bewährte Verfahren für die Implementierung von KI und Strategien zur Risikominderung bieten.
• Dokumentation der Sorgfaltspflicht: Führen Sie umfassende Aufzeichnungen über alle Schritte zur Bewertung und Nachverfolgung von KI-Tools. Dazu gehören Aufzeichnungen über Audits, Kommunikation mit Anbietern und Aktualisierungen interner Richtlinien. Eine klare Dokumentation kann im Falle eines Rechtsstreits als wichtige Verteidigungsgrundlage dienen.
• Beurteilen Sie die Anwendbarkeit von Abschnitt 1557 auf Ihren Plan: Treuhänder von Gesundheits- und Sozialplänen sollten feststellen, ob der Gesundheitsplan Ihrer Organisation Abschnitt 1557 unterliegt und ob die OCR-Richtlinien direkt auf Ihre Geschäftstätigkeit anwendbar sind. Ist dies nicht der Fall, sollten Sie die Gründe dafür bestätigen und dokumentieren.

Treuhänder müssen angesichts der zunehmenden Bedeutung von KI in Vorsorgeplänen für Arbeitnehmer wachsam bleiben, insbesondere angesichts der regulatorischen Unsicherheit. Durch proaktive Maßnahmen und die Einführung solider Risikomanagementstrategien lassen sich Risiken mindern und die Einhaltung aktueller und zu erwartender gesetzlicher Standards sicherstellen. Durch Sorgfalt und Transparenz können Treuhänder die Vorteile von KI nutzen und gleichzeitig die Interessen der Planteilnehmer wahren. Bei Foley & Lardner LLP verfügen wir über Experten in den Bereichen KI, Altersvorsorge, Cybersicherheit, Arbeitsrecht, Finanzen, Fintech, Regulierungsfragen, Gesundheitswesen und ERISA. Sie beraten Treuhänder regelmäßig zu potenziellen Risiken und Haftungsfragen im Zusammenhang mit diesen und anderen KI-bezogenen Themen.