Don’t Buy The Buzzwords: “AI Washing” Gets Its Reckoning

Sinds de release van ChatGPT 3.5 in november 2022 is de publieke belangstelling voor kunstmatige intelligentie (AI) enorm toegenomen, een klassiek voorbeeld van een hype cycle. Net als bij eerdere technologische doorbraken kunnen bedrijven in de verleiding komen om hun AI-mogelijkheden te overschatten om de aandacht van investeerders te trekken.

Maar daar zou wel eens snel een einde aan kunnen komen, aangezien de Amerikaanse Securities and Exchange Commission (SEC) deze trend van 'AI-washing' nauwlettend in de gaten houdt en organisaties waarschuwt voor overdreven beweringen.[1]

Wat is AI-washing?

"AI-washing" is het opzettelijk overdrijven van de AI-mogelijkheden van een product of dienst om dat product of die dienst innovatiever of intelligenter te laten lijken dan het in werkelijkheid is, en zo de verkoop of betrokkenheid "kunstmatig" op te blazen. De term is afgeleid van "greenwashing" (dat zelf weer afkomstig is van "whitewashing"), een term die vaak wordt gebruikt om bedrijven, producten of diensten te beschrijven die hun inspanningen om de impact op het milieu te verminderen overdrijven om milieubewuste consumenten aan te spreken.

Regelgevers waarschuwen al enige tijd voor de risico's van AI-washing. SEC-voorzitter Gary Gensler waarschuwde tijdens een AI-conferentie in december 2023: "Doe het niet... Je moet niet aan greenwashing doen, en je moet ook niet aan AI-washing doen. Ik weet niet hoe ik het anders moet zeggen." Gensler herhaalde deze boodschap in een toespraak aan de Yale Law School in februari 2024 en waarschuwde bedrijven opnieuw om hun AI-mogelijkheden niet te overschatten: "Als een bedrijf geld inzamelt bij het publiek, moet het eerlijk zijn over het gebruik van AI en de daarmee samenhangende risico's... Naarmate SEC-geregistreerden meer informatie over AI verstrekken, blijven de basisprincipes van goed effectenrecht van toepassing. Beweringen over vooruitzichten moeten een redelijke basis hebben en beleggers moeten worden geïnformeerd over die basis."

Meer recentelijk, op 15 april 2024, waarschuwde Gurbir Grewal, directeur van de afdeling Handhaving van de SEC:

Als u haast heeft om beweringen te doen over het gebruik van AI in uw beleggingsprocessen om te profiteren van de groeiende belangstelling van beleggers, stop dan even. Neem een stap terug en vraag uzelf af: geven deze beweringen een accurate weergave van wat we doen of zijn ze slechts ambitieus? Als het laatste het geval is, kunnen uw acties neerkomen op een vorm van 'AI-washing' die in strijd is met de federale effectenwetgeving.

Toch zal de impact van AI op ons leven blijven toenemen, en de manier waarop bedrijven en firma's AI bekendmaken en bespreken, zal blijven evolueren in combinatie met de risico's die aan dergelijke bekendmakingen verbonden zijn. Zoals Mark Zuckerberg tijdens de earnings call van Meta in juli 2024 stelde, zal AI op de een of andere manier invloed hebben op de producten van bijna alle bedrijven. Hij voegde daaraan toe: "Daarom zijn er al die grappen over hoe alle tech-CEO's tijdens deze earnings calls alleen maar over AI praten." Deze opmerking benadrukt de druk die CEO's en bedrijven voelen om op de AI-trein te springen en mee te gaan met de trend.

Recente handhavingsmaatregelen van de SEC

Op 18 maart 2024 maakte de SEC bekend dat zij voor het eerst een schikking had getroffen met twee beleggingsadviseurs, Delphia en Global Predictions, wegens schending van de antifraudebepalingen van de Investment Advisors Act van 1940 door vermeende onjuiste voorstellingen over hun gebruik van AI. Beide bedrijven beweerden dat zij bepaalde AI-technologieën gebruikten om investeerders aan te trekken, maar maakten in werkelijkheid geen gebruik van die AI-mogelijkheden.

Delphia beweerde publiekelijk dat het AI en machine learning gebruikte om klantgegevens te analyseren om investeringsbeslissingen te onderbouwen, en beweerde dat het "collectieve gegevens gebruikte om [zijn] kunstmatige intelligentie slimmer te maken, zodat het kon voorspellen welke bedrijven en trends op het punt stonden om groot te worden en daarin kon investeren voordat anderen dat deden". Volgens de SEC waren de beweringen van Delphia onjuist en misleidend, omdat Delphia niet over de AI-mogelijkheden beschikte die het publiekelijk claimde.

Evenzo beweerde de SEC dat Global Predictions valse en misleidende verklaringen had afgelegd over zijn AI-expertise als de "eerste gereguleerde AI-financieel adviseur" en zijn technologieën die "[e]xpert AI-gedreven prognoses" bevatten.

Delphia en Global Predictions hebben beide schendingen van sectie 206(2) van de Advisers Act geschikt vanwege hun valse en misleidende verklaringen. Beide bedrijven bleken ook de Marketing Rule te hebben geschonden, die het voor geregistreerde beleggingsadviseurs onwettig maakt om advertenties te produceren die onjuiste verklaringen over materiële feiten bevatten. Delphia betaalde een civielrechtelijke boete van 225.000 dollar en Global Predictions betaalde een civielrechtelijke boete van 175.000 dollar.

Meer recentelijk, op 11 juni 2024, kondigde de SEC aan dat zij een rechtszaak zou aanspannen tegen de CEO en oprichter van een inmiddels gesloten AI-recruitmentstartup wegens vermeende schendingen van de antifraudebepalingen van de Securities Act van 1933 en de Securities Exchange Act van 1934. In haar klacht beweerde de SEC dat de CEO "zich schuldig had gemaakt aan ouderwetse fraude door gebruik te maken van nieuwe modewoorden als 'kunstmatige intelligentie' en 'automatisering'." De SEC beweerde verder dat de CEO investeerders voor ten minste 21 miljoen dollar had opgelicht door misleidende verklaringen af te leggen over de kwantiteit en kwaliteit van de klanten van het bedrijf, het aantal kandidaten op zijn platform en de inkomsten van het bedrijf.

Directeur Grewal sloot zijn opmerkingen in het persbericht af met de volgende waarschuwing: "Naarmate steeds meer mensen op zoek gaan naar investeringsmogelijkheden op het gebied van AI, zullen we de markten blijven controleren op AI-washing en het soort wangedrag dat in de klacht van vandaag wordt aangevoerd. Maar tegelijkertijd is het van cruciaal belang dat beleggers op hun hoede zijn voor bedrijven die de hype rond kunstmatige intelligentie misbruiken om fondsen te werven."

Belangrijkste opmerkingen

Zoals blijkt uit deze handhavingsmaatregelen, neemt de SEC AI-washing zeer serieus en moeten bedrijven zorgvuldig en eerlijk te werk gaan om ervoor te zorgen dat ze zich niet met deze praktijk bezighouden – noch opzettelijk, noch onopzettelijk. Om naleving van de protocollen van de SEC te garanderen, moeten bedrijven het volgende in overweging nemen:

Maak volledig en nauwkeurig bekend hoe u AI gebruikt. AI-mogelijkheden variëren, dus vermijd het gebruik van standaardformuleringen die te vaag of te algemeen zijn. Vermijd ook het gebruik van vage of overdreven beweringen en hypothetische voorbeelden om te beschrijven wat uw AI-model kan doen.
Wees specifiek over de aard en omvang van uw AI-technologieën, de rol die AI speelt in uw bedrijfsvoering en eventuele risico's of beperkingen die aan AI verbonden zijn.
Begrijp hoe uw belangrijkste dienstverleners AI inzetten en gebruiken, aangezien dat waarschijnlijk het aandachtspunt zal zijn van toekomstige toezichtregels van de SEC.
Geef details over de AI-implementaties van het bedrijf, inclusief welke processen of producten hierdoor worden beïnvloed, de omvang van de implementatie en eventuele meetbare resultaten.
Een AI-governancekader opzetten en implementeren om een 'steunpilaar' te bieden voor AI-initiatieven en ervoor te zorgen dat deze aansluiten bij de doelstellingen en ethische normen van het bedrijf.
Geef training aan marketingteams van bedrijven om ervoor te zorgen dat technologieën correct worden aangeduid als 'AI'. Veel technologieën en algoritmen vallen eigenlijk niet onder de noemer AI, maar kunnen daar gemakkelijk voor worden aangezien. Het is dus van cruciaal belang om hiervan op de hoogte te zijn voordat marketingmateriaal wordt gemaakt, om onbedoelde AI-washing te voorkomen.
Eis dat alle openbare verklaringen of advertenties van het bedrijf met betrekking tot AI-technologieën worden gecontroleerd door de juridische afdeling van het bedrijf om de juistheid van dergelijke verklaringen te waarborgen.
Houd toezicht op het gebruik en de ontwikkeling van AI-technologieën door het bedrijf, evenals op externe publieke verklaringen over het gebruik van AI-technologie door het bedrijf, en corrigeer eventuele onjuiste of onnauwkeurige verklaringen.
Houd aandeelhouders en andere belanghebbenden regelmatig op de hoogte van de voortgang, veranderingen en verbeteringen in AI-initiatieven.

Speciale dank aan Natalie Smith, zomermedewerkster bij het kantoor van Foley in New York, voor haar bijdrage aan dit artikel.

[1] Naast de risico's van handhaving door de SEC worden bedrijven ook geconfronteerd met de dreiging van particuliere collectieve rechtszaken op het gebied van effecten. Cornerstone Research constateerde een toename van collectieve rechtszaken op het gebied van effecten met beschuldigingen van AI-gerelateerde misleiding. Volgens Cornerstone hebben beleggers tussen januari en juni 2024 zes AI-gerelateerde collectieve rechtszaken aangespannen, tegenover zes dergelijke rechtszaken in heel 2023.

Disclaimer

Deze blog wordt ter beschikking gesteld door Foley & Lardner LLP ("Foley" of "het kantoor") voor informatieve doeleinden. Het is niet bedoeld om het juridische standpunt van het kantoor namens een cliënt over te brengen, noch is het bedoeld om specifiek juridisch advies te geven. Eventuele meningen in dit artikel weerspiegelen niet noodzakelijkerwijs de standpunten van Foley & Lardner LLP, haar partners of haar cliënten. Handel daarom niet op basis van deze informatie zonder advies te vragen aan een bevoegde advocaat. Deze blog is niet bedoeld om een advocaat-cliënt relatie te creëren en de ontvangst ervan vormt geen advocaat-cliënt relatie. Communicatie met Foley via deze website per e-mail, blogbericht of anderszins creëert geen advocaat-cliënt relatie voor welke juridische kwestie dan ook. Daarom wordt communicatie of materiaal dat u via deze blog naar Foley verzendt, hetzij via e-mail, blogpost of op een andere manier, niet behandeld als vertrouwelijk of als eigendom. De informatie op deze blog wordt gepubliceerd "AS IS" en is niet gegarandeerd volledig, nauwkeurig en/of up-to-date. Foley geeft geen verklaringen of garanties van welke aard dan ook, expliciet of impliciet, met betrekking tot de werking of inhoud van de site. Foley wijst uitdrukkelijk alle andere garanties, waarborgen, voorwaarden en verklaringen van welke aard dan ook af, hetzij uitdrukkelijk of impliciet, hetzij voortvloeiend uit een wet, wet, commercieel gebruik of anderszins, met inbegrip van impliciete garanties van verkoopbaarheid, geschiktheid voor een bepaald doel, titel en niet-inbreuk. In geen geval zal Foley of een van haar partners, functionarissen, werknemers, agenten of filialen aansprakelijk zijn, direct of indirect, onder welke rechtsleer dan ook (contract, onrechtmatige daad, nalatigheid of anderszins), jegens u of iemand anders, voor claims, verliezen of schade, direct, indirect speciaal, incidenteel, bestraffend of gevolgschade, voortvloeiend uit of veroorzaakt door de creatie, het gebruik van of het vertrouwen op deze site (inclusief informatie en andere inhoud) of websites van derden of de informatie, middelen of het materiaal waartoe toegang wordt verkregen via dergelijke websites. In sommige rechtsgebieden kan de inhoud van deze blog worden beschouwd als advocaatreclame. Houd er, indien van toepassing, rekening mee dat eerdere resultaten geen garantie bieden voor een vergelijkbaar resultaat. Foto's zijn alleen voor dramaturgische doeleinden en kunnen modellen bevatten. Afbeeldingen impliceren niet noodzakelijkerwijs een huidige status als cliënt, partner of werknemer.