Le recours à l’intelligence artificielle par l’administration : Vers une artificialisation du droit de la commande publique ?
Publié le :
04/03/2024
04
mars
mars
03
2024
La numérisation de la société qu’a engendré le progrès technologique a conduit à l’omniprésence de l’intelligence artificielle (ci-après dénommée « IA ») dans notre environnement. Son impact se concrétise notamment dans le cadre de l’action administrative et le secteur de la commande publique n’y fait pas exception.
Ce phénomène présente des avantages pour les acteurs publics, notamment concernant la facilitation des tâches de rédaction et de préparation des marchés publics. Néanmoins, il convient de ne pas sous-estimer les risques qui accompagnent cette avancée technologique et les enjeux qui l’entourent.
Ainsi, il convient de s’interroger sur les enjeux à venir quant à l’introduction de l’IA au sein de la commande publique.
S’agissant tout d’abord de l’IA, le Conseil d’Etat lui a consacré une étude, en 2017, dans laquelle il l’a défini comme une « science dont le but est de faire accomplir par une machine des tâches qui requièrent traditionnellement l’intelligence humaine ou animale ». [1]
De ce fait cela supposerait qu’elle accomplisse en toute autonomie un certain nombre d’actions qui pourraient aller jusqu’à réaliser des prédictions ; recommandations voire des prises de décisions sans recourir à l’intelligence humaine.
Si l’IA est déjà très présente dans le secteur privé, il en va différemment dans la sphère publique. Néanmoins, l’administration s’engage de plus en plus dans une transformation numérique en s’ouvrant à l’utilisation de technologies avancées pouvant assurer une meilleure gestion des deniers publics par exemple.
Toutefois, ce recours à l’IA pose de nombreuses questions notamment en raison des risques qui peuvent accompagner son usage.
D’une part, ce nouveau mouvement d’externalisation des missions des personnes publiques qui a vocation à faciliter la prise de décision pour l’administration ne doit pas pour autant avoir pour conséquence de priver l’administration de son pouvoir de décider ;
D’autre part, l’acquisition d’intelligence artificielle par l’Etat auprès du secteur privé risque d’engendrer une immixtion du secteur privé dans les affaires du secteur public.
Il faut ajouter à cela les risques pour certains droits fondamentaux relatifs à la protection des données personnelles (données RGPD) qu’engendrerait l’arrivée massive de l’IA dans le champ de la commande publique.
En réalité, l’enjeu ici est donc de trouver le moyen de concilier au maximum les deux savoirs : celui de l’Homme et celui de la machine, afin d’obtenir un usage optimal et efficace de l’IA sous contrôle de l’être humain.
L’IA doit donc être envisager principalement comme un outil auquel aura recours l’administration dans le cadre des procédures prévues par le code de la commande publique, afin d’optimiser, rationnaliser et de simplifier le processus en matière de passation et d’exécution de contrat.
L'IA peut par exemple assister l'administration dans la vérification des motifs d'exclusion, proposer la rédaction de clauses, la détermination de critères de sélection.
L’IA est également susceptible d’avoir un impact considérable sur la commande publique en améliorant la pratique du sourcing qui sera ainsi plus efficace pour les acheteurs. En effet parmi les différents types de logiciels proposés par les entreprises, certains d’entre eux permettent le tri dans une base de données des différents renseignements accessibles sur les fournisseurs. Un gain de temps considérable sera réalisé pour l’acheteur grâce au logiciel qui effectuera des recherches plus pertinentes et plus ciblées se rapprochant au maximum de ses besoins. Grâce à un recueil de toutes les informations disponibles sur les différents fournisseurs compilées dans une base de données constituée par l’IA, les acheteurs pourront ainsi avoir accès à des données plus spécialisées.
C’est ce qu’ont expérimenté, les communes de Meudon ou Rosny sous-Bois, où l'entreprise Silex propose aux acheteurs publics une plateforme de sourcing « cognitif » utilisant l'IA pour réaliser des analyses de marché et permettre la constitution d'importantes bases de données de fournisseurs. Une procédure accélérée permettant de digitaliser l’ensemble du processus achat sur une plateforme est ainsi rendu possible avec leur logiciel qui permet à leurs clients de réaliser des économies d’achats, une meilleure maitrise des risques fournisseurs, et une mise en place simplifiée de leur stratégie d’achat responsable
Côté entreprises, l'IA pourrait aussi venir à leur soutien en facilitant la détermination du meilleur modèle de prix à proposer, voire fournir une aide à la rédaction des candidatures. C'est ce que propose la start-up eXplain, qui, forte d'une base de données de plus de cinquante millions de documents administratifs locaux, s'affiche comme permettant aux entreprises « d’anticiper les besoins des acteurs publics » et de « gagner des marchés ».[2]
Comme le précise Jeremy Bakkalian[3], directeur délégué adjoint aux achats et à l’innovation au CNRS, l’IA peut jouer un rôle à toutes les étapes du processus notamment la phase de l’analyse des offres et le traitement des pièces justificatives, où certains logiciels réalisent des comparatifs entres les différentes offres proposées. Cela n’est pas exclusif à la commande publique, en effet certaines directions juridiques d’entreprises ont recours à ces logiciels que l’on nomme « contract management » afin de paramétrer les clauses des différents contrats qui leur sont soumis.
S’agissant de l’exécution du contrat, l’IA a comme principal objectif de diminuer au maximum les risques pouvant affecter la performance du contrat. Elle pourra ainsi jouer un rôle d’aide-mémoire en étant interrogée par l’acheteur par exemple plusieurs années après le début d’exécution du contrat pour mobiliser des clauses présentes des les pièces contractuelles du marché (par exemple : clause de réexamen), afin d’en faire un usage pertinent au regard de la situation qui se présente à l’acheteur public.
Le recours à l’IA semble donc tout tracé que ce soit côté acheteur public ou côté entreprise.
Néanmoins, l’usage de l’IA en droit de la commande publique ne pourrait-t-elle pas également entrainer l’avènement d’un contrat dit « désincarné » n’étant plus que le fruit d’une procédure de formation standardisée et robotique et dont l’exécution serait automatisée.
En effet, comme il l’a été dit, l'IA joue aujourd'hui un rôle d'automatisation du processus et cela pourrait contribuer à poser davantage de difficultés du point de vue des principes fondamentaux de la matière prévus notamment à l’article L. 3 du code de la commande publique.
Le principe d'égalité de traitement pourrait par exemple être méconnu à divers égards, qu'il s'agisse notamment de l'agent conversationnel apportant à un candidat un renseignement l'avantageant sans le diffuser aux autres candidat ou encore de l'algorithme réalisant son apprentissage à partir de données biaisées ou discriminatoires et proposant à l'acheteur des clauses ou critères de sélection eux-mêmes discriminatoires, ou encore de l'appel d'offres auquel seules les entreprises à même de recourir à l'IA pourraient répondre.
Par ailleurs, l'IA pourrait également engendrer des risques du point de vue de l'exigence de transparence des procédures, en raison de l'opacité des algorithmes apprenants souvent assimilés à des « boîtes noires » dont le fonctionnement interne est inaccessible.
L’usage de l’IA nécessite de faire preuve de vigilance, l’utilisateur doit veiller à être capable de faire le tri dans les données transmises par l’IA. Ces logiciels ne sont là que pour accompagner l’acheteur dans la prise de décision. Le rôle des praticiens (juristes et techniciens spécialisés) reste donc toujours essentiel pour avoir un certain recul et un regard critique sur les réponses qui sont apportées par l’IA.
Par conséquent, afin d’éviter une artificialisation totale du droit de la commande publique, au détriment des grands principes qui la régissent, l’Administration devra surement mettre en place des garde-fous afin que l’IA reste seulement un outil en soutien de l’Homme et non une alternative à ce dernier.
L’intégration de l’IA au sein de la commande publique fait donc partie de ces nouveaux défis auxquels sera confrontée l’Administration dans les années à venir.
[1] Conseil d’Etat, étude adoptée en assemblée générale plénière du 31/03/2022 : Intelligence artificielle et action publique : construire la confiance, servir la performance
[2] IA et commande publique, Isabelle Hasquenoph, Maître de conférences en droit public à l'université Paris-I-Panthéon-Sorbonne
[3] Vidéo Youtube L’intelligence artificielle (IA) et la commande publique, cabinet Landot & associés
Historique
-
Le recours à l’intelligence artificielle par l’administration : Vers une artificialisation du droit de la commande publique ?
Publié le : 04/03/2024 04 mars mars 03 2024Actualités du cabinet
La numérisation de la société qu’a engendré le progrès technologique a condui...
-
La rente majorée versée à la suite d’un accident du travail répare-t-elle la perte de gains professionnels ?
Publié le : 13/02/2024 13 février févr. 02 2024Droit du travail - Employeurs / Responsabilité accident du travail
Dans une affaire portée devant la Cour de cassation, un salarié victime d’un...Source : www.lemag-juridique.com -
Servitudes et droits de propriété
Publié le : 07/02/2024 07 février févr. 02 2024Actualités du cabinet
Pour notre second article, nous voulons partager avec vous, cette semaine, un... -
Règles de construction : les nouvelles attestations à fournir depuis le 1er janvier 2024
Publié le : 07/02/2024 07 février févr. 02 2024Droit immobilier / Droit de la construction
Ces textes réglementaires modifient le régime des attestations du respect des...Source : www.architectes.org -
Licenciement pour inaptitude : l’indemnité compensatrice égale à l’indemnité compensatrice de préavis n’ouvre pas droit à congés payés
Publié le : 01/02/2024 01 février févr. 02 2024Droit du travail - Employeurs / Relation individuelles au travail
L’article L. 1226-14 du Code du travail prévoit, dans le cadre du licenciemen...Source : www.lemag-juridique.com -
Conséquences de l’offre de renouvellement du bail à des clauses et conditions différentes du bail expiré
Publié le : 25/01/2024 25 janvier janv. 01 2024Droit commercial / Baux commerciaux
La Cour de cassation a jugé le 11 janvier dernier que le congé avec une offre...Source : www.lemag-juridique.com