Le projet de loi sur l’IA « SB-1047 » est ambigu, évolutif, contraignant et risqué, faisant planner la mort de l’innovation en dehors des géants, et donc une technologie IA restreinte à Microsoft, OpenAI et quelques rares autres grands noms…
Auteur / Autrice :
Le projet de loi SB-1047 « Safe and Secure Innovation for Frontier Artificial Intelligence Models Act. » met en émoi une grande partie de la communauté américaine qui travaille autour de l’intelligence artificielle. Vous pouvez lire la dernière version de la loi ici.
Un projet de loi qui semble une attaque contre l’open source et, plus généralement, contre l’innovation en matière d’IA.
Pour beaucoup d’acteurs et d’observateurs US, cette proposition de loi commet une erreur fondamentale en réglementant la technologie de l’IA plutôt que les applications de l’IA, et ne parviendrait donc pas à rendre l’IA significativement plus sûre – en dépit d’un texte pourtant extrêmement contraignant. Les mécanismes spécifiques de « SB 1047 » sont même très pernicieux pour l’univers open source de l’IA.
D’abord, il existe des voies et possibilités que les régulateurs devraient emprunter en premier pour améliorer la sécurité. Par exemple, rendre hors la loi la pornographie deepfake, standardiser la mise en place de filigrane (watermark) et le fingerprint pour identifier le contenu généré avec l’IA, et développer un investissement plus important dans les Red Teams et autres recherches autour de la sécurité. Mais, la proposition de loi californienne suit une voie sensiblement différente.
L’objectif prétendu du projet de loi SB 1047 est « de garantir la sécurité des modèles d’IA ». Il met en place des exigences de déclaration complexes pour les développeurs qui affinent les modèles IA ou développent des modèles IA dont la formation coûte plus de 100 millions de dollars. Il s’agit d’une loi vague et ambiguë, qui impose des sanctions importantes en cas de violation, créant ainsi une immense zone grise dans laquelle les développeurs pourraient vite ne pas savoir comment éviter d’enfreindre la loi. Cette situation paralysera de nombreuses petites équipes (et favorisera les géants du secteur, comme Microsoft, Google ou encore OpenAI).
Les développeurs qui tenteront de s’y retrouver dans les exigences complexes de la loi SB-1047 seront confrontés à (ce qui semble être) un risque personnel énorme. La loi exige que les développeurs soumettent une certification de conformité avec les exigences de la loi. Mais lorsque les exigences sont complexes, difficiles à comprendre et peuvent même changer en fonction des caprices d’un organisme non élu (voir ci-dessous), comment pourront-ils s’assurer que qu’ils sont bien (ou encore) en conformité avec la loi ?
Par exemple, la certification doit comprendre de nombreuses sections différentes. L’une d’entre elles est une analyse de « la nature et de l’ampleur des préjudices critiques […] que le modèle pourrait raisonnablement causer ou permettre ». Mais étant donné que même les principaux chercheurs en IA ne sont pas sûrs des préjudices que les modèles pourraient causer ou permettre, comment une équipe de développeurs est-elle censée s’en rendre compte et déclarer – sous peine de parjure – qu’elle satisfait à cette exigence ?
En outre, certains développeurs seront tenus de mettre en œuvre des « protections visant à empêcher […] l’utilisation abusive du modèle couvert et de tous ses dérivés […] ou des modifications dangereuses après l’entraînement, qui sont appropriées à la lumière des risques associés au modèle couvert, y compris des menaces persistantes avancées ou d’autres acteurs sophistiqués ». Même les principaux chercheurs en IA ne sont pas d’accord sur la meilleure façon de « protéger » les modèles d’IA contre ces risques supposés, ni sur ce qui serait « approprié ». Comment les développeurs sont-ils donc censés savoir comment se conformer à cette exigence ?
Cela crée une situation effrayante pour les développeurs. Commettre un parjure peut entraîner des amendes, voire des peines de prison. Certains développeurs devront engager des avocats ou des consultants (coûteux) pour les conseiller sur la manière de se conformer à ces exigences. (aux USA, l’une des façons d’éviter d’être reconnu coupable de parjure est de montrer que vous vous êtes appuyé sur l’avis d’un expert, afin de démontrer que vous n’aviez pas l’intention de mentir). On peut alors craindre que beaucoup de jeunes développeurs ambitieux et très doués s’abstiendront tout simplement de mettre sur le marché de nouveaux produits IA, faute d’être sûr de leur conformité totale à une loi vague et paradoxalement contraignante.
Si la loi SB-1047 est adoptée, la crainte pour un dév de finir en procès devant un jury – conduisant à un verdict qui peut être très imprévisible avec des sanctions importantes en cas de condamnation – sera bel et bien réelle.
Que se passerait-il si quelqu’un sortait un modèle aujourd’hui après avoir pris ce qu’il pensait être des mesures de protection raisonnables, mais que quelques années plus tard, alors que les opinions sur la technologie de l’IA pourraient avoir évolué, un procureur agressif parvenait à convaincre un jury que ce qu’il avait fait n’était pas, a posteriori, « raisonnable » ?
Le caractère raisonnable est ambigu et son interprétation juridique peut dépendre, entre autres, de la jurisprudence, des instructions données aux jurés et des faits courants. Il est donc très difficile de garantir que ce qu’un développeur fait aujourd’hui sera jugé raisonnable par un futur jury.
Pour ajouter à l’ambiguïté, le projet de loi prévoit la création d’une « Frontier Model Division » (FMD), composée d’un conseil de cinq personnes, qui aurait le pouvoir de dicter des normes aux développeurs. Ce conseil restreint serait une cible de choix pour le lobbying et la « capture réglementaire » (ouvrant la voie à une orientation nocive de la loi en faveur des groupes les plus puissants, encore). La FMD, qui n’est pas élue, peut prélever des frais sur les développeurs pour couvrir ses coûts. Il peut modifier arbitrairement le seuil de calcul à partir duquel la mise au point d’un modèle est soumise à son contrôle (et donc descendre bien en-deça du cap actuel des 100 millions, dans le cas notamment ou la technologie franchirait un cap de simplification). Cela peut conduire à ce que même de petites équipes soient obligées d’engager un auditeur tiers pour vérifier la conformité à une norme de sécurité ambiguë (et évolutive).
Dans le même temps, ces dispositions ne garantissent pas un développement et un déploiement sécurisé de l’IA. Elles créent une incertitude réglementaire et multiplient les possibilités pour les géants (comme les GAFAM, mais pas que) désireux d’étouffer les logiciels open source de faire pression pour que les exigences soient modifiées et que le coût de la mise en conformité augmente. Cela exclurait de nombreuses petites startups qui n’ont pas de sources de revenus – en particulier, de nombreux contributeurs du monde open source – qui leur permettraient de payer des lobbyistes, des auditeurs et des avocats pour les aider à se conformer à ces exigences ambiguës et déraisonnables.
L’open source est une force merveilleuse qui apporte des connaissances et des outils à de nombreuses personnes et constitue un pilier essentiel de l’innovation en matière d’intelligence artificielle.
Andrew Ng, chercheur américain et professeur de l’université Stanford, se dit « consterné par les attaques concertées dont » l’open source « fait l’objet ». Il dénonce « le SB 1047 et les autres lois qui menacent d’étouffer l’open source ».
