L’agence américaine cherche à savoir comment OpenAI s’assure que ChatGPT ne raconte pas n’importe quoi, et quelles mesures de sécurité sont mises en place.
Auteur / Autrice :
La FTC ouvre une enquête sur OpenAI
OpenAI a lancé la version publique de ChatGPT en novembre 2022, suscitant chez les consommateurs et les curieux un intérêt presque jamais vu pour un produit technologique, en tout cas parmi les plus rapides jamais observés.
Un fait qui a aussi lancé la surenchère des grandes entreprises technologiques pour développer leurs propres IA et les produits intégrant ces IA. Des nouveautés – des avancées ? – qui vont changer très fortement la façon dont ces entreprises fonctionnent, et se développent. Mais ces développements technologiques ne se font pas sans que l’oeil vigilant du régulateur veille.
D’après le Washington Post et Reuters, on apprend le 13 juillet 2023 que la Commission fédérale du commerce (FTC), aux États-Unis, a lancé une enquête sur OpenAI. Une enquête car OpenAI aurait enfreint les lois sur la protection des consommateurs.
Plus tôt dans la semaine, la FTC a envoyé une dossier d’une vingtaine de pages pour obtenir plus d’informations sur la manière dont OpenAI traite les risques liés à ses modèles d’IA, et en particulier ChatGPT. L’entreprise édite aussi all-E, un outil qui génère des images (de qualité très médiocre pour le moment).
En mars dernier, OpenAI avait reconnu qu’une faille avait entraîné la divulgation d’informations relatives à certains utilisateurs, essentiellement leur adresse électronique et une partie de leurs données bancaires. Un couac d’ampleur pour une entreprise ayant eu un taux d’adoption record, ayant vu déferlé en quelques semaines des millions de curieux sur son chatbot. La FTC cherche à savoir quelles règles de sécurité ont été mises en place par la start-up.
Un autre point majeur de cette enquête porte sur les mesures prises par OpenAI pour remédier au risque que ses produits “génèrent des déclarations fausses, trompeuses ou désobligeantes sur des personnes réelles”. Concrètement, comme ChatGPT peut inventer rapidement n’importe quoi (et le fait), l’IA peut créer des citations de toutes pièces, et les attribuer à une personne “connue”.
Imaginez que ChatGPT vous présente une citation raciste attribuée à un candidat à une élection à venir, sans que vous puissiez savoir si cette citation est vraie ou non. Plus largement, les hallucinations des IA les conduisent à raconter n’importe quoi, comme en témoigne ce que fait Bard (de Google) depuis son lancement (voir notre article dédié).
Enfin, la FTC cherche à savoir si OpenAI s’est livrée à des pratiques déloyales. Cette procédure constitue “la menace réglementaire la plus forte” pesant sur cette succursale de Microsoft (voir notre article sur leurs relations).
La réaction de Sam Altman, CEO de OpenAI
Cette procédure marque un nouvel assaut de la présidente de la FTC, Lina Khan, envers un poids lourd de la tech US, quelques jours après que l’agence ait subi une lourde défaite au tribunal dans sa lutte pour empêcher Microsoft d’acheter Activision Blizzard (la FTC a déclaré qu’elle ferait appel de la décision du tribunal).
Mais surtout, cette procédure jette l’ombre d’un début d’ennuis sur le long terme pour OpenAI. Un de plus, car les lois qui commencent à prendre forme partout dans le monde – et principalement en Europe, qui servira de modèle – vont contraindre très fortement les IA, et ChatGPT en premier lieu.
De manière surprenante, l’habituellement nébuleux et peu loquace Sam Altman (CEO de OpenAI) a pris la parole pour commenter cette décision de la FTC, sur Twitter :
“Il est très décevant de constater que la demande de la FTC commence par une fuite et ne contribue pas à instaurer la confiance.
Cela dit, il est très important pour nous que notre technologie soit sûre et favorable aux consommateurs, et nous sommes convaincus que nous respectons la loi. nous travaillerons bien sûr avec la FTC.
Nous avons construit le GPT-4 en nous appuyant sur des années de recherche en matière de sécurité et nous avons passé plus de six mois après la fin de la formation initiale à le rendre plus sûr et plus aligné avant de le mettre sur le marché.
Nous sommes transparents sur les limites de notre technologie, en particulier lorsque nous ne sommes pas à la hauteur. et notre structure de profits plafonnés signifie que nous ne sommes pas incités à réaliser des rendements illimités.”
Sam Altman prend donc très au sérieux cette procédure lancée par la FTC, rappelant le temps pris pour développer et vérifier son IA avant de la lancer, et que la structure de OpenAI n’en fait pas une entreprise avide de profits. Ce qui n’est en revanche absolument pas le cas de Microsoft, qui a investi 11 milliards dans l’affaire.
