Het New York Department of Financial Services publiceert nieuwe richtlijnen over het gebruik van kunstmatige intelligentie in de verzekeringssector – Wat u moet weten

Op 11 juli 2024 heeft het New York Department of Financial Services (DFS) Insurance Circular Letter No. 7 (2024) (Letter No. 7) uitgegeven, waarin richtlijnen worden vastgesteld voor het gebruik van kunstmatige intelligentie (AI) bij het nemen van beslissingen over het accepteren van risico's en het vaststellen van premies. De richtlijnen verplichten verzekeraars om een governancekader te ontwikkelen en te implementeren om de risico's van AI te beheersen, waarbij toezicht door de raad van bestuur, het senior management en gekwalificeerd personeel moet worden opgenomen. In een persbericht waarin Brief nr. 7 werd aangekondigd, beschreef DFS-hoofdinspecteur Adrienne Harris het doel van de brief als volgt: "ervoor zorgen dat de implementatie van AI in de verzekeringssector geen structurele vooroordelen in stand houdt of versterkt die hebben geleid tot onwettige of oneerlijke discriminatie, en tegelijkertijd de stabiliteit van de markt waarborgen."

Samenvatting van de richtlijnen in brief nr. 7 en belangrijke punten voor naleving

Met brief nr. 7 wil DFS richtlijnen geven aan verzekeraars die bevoegd zijn om verzekeringen af te sluiten in de staat New York, artikel 43-ondernemingen, gezondheidsorganisaties, erkende broederschappen en het New York State Insurance Fund (gezamenlijk "verzekeraars" genoemd) met betrekking tot de ontwikkeling en het beheer van het gebruik van externe consumentengegevens en informatiebronnen (ECDIS), kunstmatige-intelligentiesystemen (AIS) en andere AI-voorspellingsmodellen die worden ingezet bij het afsluiten en prijzen van verzekeringspolissen en lijfrentecontracten.

Omgaan met bezorgdheid over eerlijkheid

Hoewel het gebruik van ECIDS en AIS voordelig kan zijn voor verzekeraars, vreest DFS dat het gebruik van dergelijke technologieën ongelijkheid kan versterken en verergeren en het risico op onnauwkeurige, willekeurige, grillige of oneerlijk discriminerende resultaten kan vergroten, wat allemaal onevenredig grote gevolgen kan hebben voor kwetsbare gemeenschappen en individuen of anderszins de verzekeringsmarkt in New York kan ondermijnen. Van bijzonder belang zijn de bronnen, nauwkeurigheid en betrouwbaarheid van ECDIS, vooral wanneer de bron niet onderworpen is aan het toezicht van DFS, evenals het zelflerende gedrag van AIS, dat onevenredige effecten op kwetsbare individuen en gemeenschappen kan versterken en vergroten. Daarom moeten verzekeraars nu kunnen aantonen dat ECDIS en AIS die worden gebruikt voor het afsluiten van verzekeringen en het vaststellen van prijzen, worden ondersteund door algemeen aanvaarde actuariële normen en moeten zij een duidelijke, empirische, statistisch significante, rationele en niet onredelijk discriminerende relatie aantonen tussen de gebruikte variabelen en het relevante risico van de verzekerde.

Om ECDIS of AIS te kunnen gebruiken bij het afsluiten van verzekeringen of het vaststellen van premies, moet een verzekeraar door middel van een uitgebreide beoordeling vaststellen dat de uit AI afgeleide richtlijnen voor het afsluiten van verzekeringen en het vaststellen van premies niet in strijd zijn met de verzekeringswetgeving. Een dergelijke uitgebreide beoordeling moet minimaal de volgende drie stappen omvatten:

1. Beoordeel of het gebruik van ECDIS of AIS onevenredige nadelige gevolgen heeft voor het verzekeren of de prijsstelling voor verzekerden in vergelijkbare situaties of verzekerden van een beschermde klasse.
2. Beoordeel of er een legitieme, wettige en eerlijke verklaring of reden is voor het verschillende effect op verzekerden in vergelijkbare situaties.
3. Het uitvoeren en op passende wijze documenteren van een zoektocht naar en analyse van minder discriminerende alternatieve variabelen of methodologieën.

Impact van corporate governance

Overeenkomstig 11 NYCRR § 90.2 zijn verzekeraars verplicht om een corporate governance-kader te hebben dat past bij hun aard, omvang en complexiteit. Een dergelijk kader moet zorgen voor een robuust toezicht op het gebruik van AI door de verzekeraar in de geest van Brief nr. 7. Dit toezicht wordt uitgeoefend door de raad van bestuur van elke verzekeraar, en het governancekader moet duidelijke verantwoordingslijnen met betrekking tot het gebruik van AI bieden en ervoor zorgen dat het senior management voldoende in staat is om de algemene impact van AI op de verzekeringssector te begrijpen. Brief nr. 7 bepaalt verder dat verzekeraars die AI gebruiken, de ontwikkeling en het beheer van dergelijke technologieën moeten formaliseren in schriftelijke beleidsregels en procedures – een "levend" document dat ten minste eenmaal per jaar moet worden herzien en goedgekeurd door de bestuursorganen of het senior management (indien daartoe gemachtigd) van de verzekeraars, om rekening te houden met de snel ontwikkelende markt en te voldoen aan de beste praktijken in de sector.

Naast schriftelijke beleidsregels en procedures moeten verzekeraars uitgebreide documentatie bijhouden met betrekking tot het gebruik van alle AI, ongeacht of deze intern of door derden is ontwikkeld (in overeenstemming met 11 NYCRR 243). Verzekeraars moeten de relevante risico's in elke fase van de levenscyclus van het AIS beheren, evenals in het totaal, wat kan worden bereikt binnen een bestaande risicobeheerfunctie of afzonderlijk als onderdeel van een onafhankelijk programma. Zoals vereist door 11 NYCRR § 89.16, moeten verzekeraars al beschikken over een interne auditfunctie om algemene en specifieke audits, beoordelingen en tests uit te voeren die nodig zijn om activa te beschermen, de effectiviteit en efficiëntie van controles te evalueren en de naleving van beleid en regelgeving te beoordelen. De nieuwe richtlijn vereist dat de interne auditfunctie op passende wijze wordt afgestemd op elk gebruik van ECDIS en AIS.

Verzekeraars moeten begrijpen hoe ECDIS of AIS worden gebruikt in tools van externe leveranciers die de verzekeraar gebruikt bij het afsluiten van verzekeringen en het vaststellen van premies, en zijn ervoor verantwoordelijk dat dergelijke tools aan alle wettelijke en regelgevende vereisten voldoen. Verzekeraars moeten schriftelijke normen, beleidsregels, procedures en protocollen ontwikkelen voor de aanschaf, het gebruik van of het vertrouwen op ECDIS of AIS van derden. Verzekeraars moeten ook procedures ontwikkelen om onjuiste informatie uit hun AIS te corrigeren en te verwijderen die de verzekeraar heeft vastgesteld of die aan een externe leverancier is gemeld.

Transparantie is essentieel

Verzekeraars moeten het gebruik van ECDIS of AIS bij het afsluiten van verzekeringen of het vaststellen van premies aan potentiële verzekerden bekendmaken. De informatie moet het volgende omvatten: (i) of de verzekeraar AIS gebruikt bij het afsluiten van verzekeringen of het vaststellen van premies; (ii) of de verzekeraar gegevens over de persoon gebruikt die zijn verkregen van externe leveranciers (bijvoorbeeld via ECDIS); en (iii) dat deze persoon het recht heeft om informatie op te vragen over de specifieke gegevens die hebben geleid tot de beslissing om de verzekering af te sluiten of de premie vast te stellen, inclusief contactgegevens voor het indienen van een dergelijk verzoek. In geval van een afwijzing, beperking, tariefverschil of andere ongunstige acceptatiebeslissing, moeten de reden(en) die aan de verzekerde of potentiële verzekerde worden meegedeeld, details bevatten over alle informatie waarop de verzekeraar zijn beslissing heeft gebaseerd. DFS heeft nu het standpunt ingenomen dat het niet adequaat bekendmaken van de materiële elementen van een AIS en de externe gegevensbronnen waarop deze is gebaseerd (al dan niet afkomstig van ECDIS) aan een consument, een oneerlijke handelspraktijk kan vormen in de zin van de verzekeringswet.

Wij staan klaar om u te helpen

Ons juridische team staat klaar om u te helpen bij het navigeren door dit veranderende regelgevingslandschap. Wij kunnen u helpen met:

• Impactbeoordeling: beoordeling van de impact van de nieuwe regelgeving op uw bestaande ECDIS- of AI-systemen.
• Nalevingsprocedures: Ontwikkeling van nalevingsprocedures voor ECDIS- en AIS-analyse.
• Ontwikkeling van een governancekader: Implementatie van een robuust governancekader voor ECDIS en AI-toezicht.
• Consumenteninformatie: Opstellen van duidelijke en beknopte consumenteninformatie over het gebruik van ECDIS of AI bij verzekeringsbeslissingen.

Door proactief aan deze vereisten te voldoen, kunt u ervoor zorgen dat uw bedrijf blijft voldoen aan Letter No. 7 en alle andere toepasselijke DFS-vereisten en het risico op regelgevende maatregelen minimaliseren. Aarzel niet om contact met ons op te nemen voor meer informatie over het navigeren door dit nieuwe tijdperk van elektronisch gegevensgebruik en AI in de verzekeringssector.