L’Union européenne aura mis environ vingt ans avant de s’emparer de la nécessité de réguler l’Internet en matière fiscale, de protection des données personnelles et de lutte contre le terrorisme. Il reste à espérer qu’elle saura réagir plus promptement pour réguler les satellites en orbite basse.
Archives par mot-clé : Régulation
Au-delà de l’affaire « Altice-Free », le poids des box
En fait. Le 28 août, Alain Weill, le PDG d’Altice France, a considéré comme « une forme de provocation » le fait que Free puisse proposer ses chaînes gratuites – dont BFMTV – en option payante sur la Freebox après les avoir interrompues faute d’accord. Cette affaire souligne le pouvoir des « box » en France.
Roch-Olivier Maistre est favorable à une fusion CSA-Hadopi, mais pas Arcep-CSA-Hadopi
Depuis qu’Emmanuel Macron l’a appelé au téléphone pour le convaincre de prendre
la présidence du CSA qu’il occupe depuis janvier 2019, Roch-Olivier Maistre est aux avant-postes dans la préparation du projet de loi de réforme audiovisuelle. Son avis sur le futur de la régulation pourrait être décisif.
« C’est au gouvernement et au législateur qu’il appartiendra de décider comment ils souhaitent organiser la régulation. Je me conformerai, en bon serviteur de l’Etat, aux choix qui seront faits en définitif par le Parlement. Ce n’est pas Roch-Olivier Maistre qui fait la loi jusqu’à nouvel ordre ! C’est le Parlement qui décidera. Je dessine seulement ce que cela pourrait être », a dit par précaution Roch-Olivier Maistre (photo) devant l’Association des journalistes médias (AJM), le 10 juillet.
L’Hadopi serait absorbée par le CSA
Celui qui a l’oreille du président – tous deux sortis de l’ENA à 24 ans d’intervalle – n’en a pas moins une idée très précise de ce que pourrait être l’avenir du CSA, de l’Arcep et de l’Hadopi, alors que le projet de loi sur l’audiovisuel sera présenté d’ici fin octobre pour être voté en 2020. « Ma conviction est simple : face à ces acteurs très puissants [les GAFAN, ndlr], la collaboration entre les régulateurs est indispensable. Il faut la renforcer. Le Premier ministre a déjà dévoilé, lorsqu’il a clôturé le colloque du 30e anniversaire du CSA le 19 juin, le projet du rapprochement entre le CSA et l’Hadopi. Je considère, et le président de l’Hadopi Denis Rapone partage cette analyse, que cette convergence a du sens », a indiqué Roch- Olivier Maistre (ROM). Le Conseil supérieur de l’audiovisuel (CSA) et la Haute autorité pour la diffusion des œuvres et la protection des droits sur Internet (Hadopi), qui viennent de fêter respectivement leurs 30 et 10 ans, sont à ses yeux dans une logique de régulation de contenus qui les rapproche. « Mettre dans un même ensemble la promotion de l’offre légale, la lutte contre le piratage, et le contrôle que nous faisons depuis toujours du respect des obligations du financement de la création par les acteurs (de l’audiovisuel), je pense que cela a du sens ».
Mais le président du CSA émet tout de même un bémol aux allures de sine qua non :
« Cette fusion fera d’autant plus sens qu’elle s’accompagnera – à l’occasion du projet de loi de réforme de l’audiovisuel – de nouvelles dispositions en matière de lutte contre le piratage. Car c’est une législation [les deux lois Hadopi (1), ndlr] qui a été conçue au départ pour lutter contre le peer-to-peer, alors qu’aujourd’hui tout le monde sait que le débat se déplace sur le terrain des plateformes de streaming. Cette fusion prendra d’autant plus de sens que l’arsenal législatif qui nous serait donné s’en trouvera enrichi ». Roch-Olivier Maistre a expliqué qu’« en étant un régulateur unifié, où les missions de l’Hadopi (2) seraient fondues dans celles du CSA, l’idée serait d’avoir les outils d’intervention et de sanction, avec un collège unique dont un membre chargé plus particulièrement de suivre les problématiques du piratage ». Pour l’heure, ROM a précisé que le directeur général du CSA, Guillaume Blanchot, et la secrétaire générale de l’Hadopi, Pauline Blassel, se parlent déjà. Il en va de même pour les deux présidents.
Concernant l’Arcep, cette fois, il y a deux scénarios sur la table : le scénario sans fusion de collaboration renforcée entre l’Arcep et le CSA, et celui plus lourd d’une fusion pour créer un grand ensemble CSA-Arcep-Hadopi. Roch-Olivier Maistre privilégie le premier scénario :
« Dans la collaboration renforcée, l’on pourrait concevoir qu’un membre du collège du CSA siège au collège de l’Arcep, et qu’un membre du collège de l’Arcep siège au collège du CSA. Cela permettrait d’avoir le réflexe de l’autre institution lorsqu’il y a des sujets d’intérêt communs qui viennent en délibéré. Il pourrait aussi y avoir la création d’un service commun entre les deux institutions, avec un directeur désigné par les deux institutions. Ce dispositif de ce type est concevable pour l’Arcep et le CSA ». C’est un schéma qui existe déjà entre deux autres autorités importantes que sont l’Autorité des marché financiers (AMF) et l’Autorité de contrôle prudentiel et de résolution (ACPR), lesquelles ont créé un service commun (d’accueil et de traitement des demandes du public). « Il pourrait y avoir aussi un dispositif commun de règlement de différends, procédure plus “usitée” par l’Arcep que par le CSA. Il pourrait y avoir un instrument de règlement de différends commun ».
Pas d’« Ofcom » ni de « Big Brother »
« Sur l’autre option, la fusion, j’y suis réservé, a insisté le président du CSA. Lorsque l’Ofcom [le régulateur des télécoms et de l’audiovisuel en Grande-Bretagne, ndlr] a été créée en 2003 avec la fusion de cinq régulateurs, cela a pris plus de quatre ans. Est-ce que le jeu en vaut la chandelle de s’engager dans un chantier administratif ? (…) J’ai peur que le coût soit très lourd, à un moment où les deux régulateurs ont des choses autrement plus importantes à faire » (3). Il entend aussi collaborer étroitement avec la Cnil et le CNC. @
Charles de Laubier
Les réformes de France Télévisions et Radio France passent par la diffusion numérique moins coûteuse
L’audiovisuel public – France Télévisions et Radio France en tête – n’a plus vocation à être diffusé uniquement sur respectivement la TNT et la FM. L’Etat actionnaire pousse les deux groupes à aller plus sur Internet et les mobiles, pour faire des économies et en même temps conquérir la nouvelle génération.
C’est une priorité fixée par le gouvernement à Delphine Ernotte (photo) et à Sibyle Veil, présidentes respectivement de France Télévisions et de Radio France : que les deux groupes emblématiques de l’audiovisuel public, situés de part et d’autre
de la Seine à Paris, aillent trouver sur Internet les indispensables économies budgétaires, tout en allant à la conquête des jeunes téléspectateurs et auditeurs issus de la génération « Digital Native » ou « Millennials ».
« Ambition numérique de l’audiovisuel public »
Chez France Télévisions, les chaînes France 4 et France Ô doivent quitter à terme la diffusion hertzienne de la TNT pour se retrouver en ligne sur Internet. France 4, la chaîne dédiée aux jeunes publics, rejoindra les marques Ludo et les Zouzous au sein d’une plateforme numérique baptisée Okoo et destinée à la jeunesse. « Plateforme de référence gratuite pour les 3-12 ans », elle sera lancée en décembre prochain avec un catalogue riche de 5.000 titres. Okoo s’inspirera de la plateforme numérique éducative Bitesize de la BBC. De son côté, France Ô intègrera début 2020 – avec le réseau Premières d’Outre-Mer – une autre plateforme en ligne dédiée à l’outremer (2). Cette délinéarisation des programmes « ultramarins » s’accompagne d’un « pacte de visibilité » sur les antennes hertziennes de France Télévisions. Par ailleurs, France Télévisions renforcera Slash, son site web pour les 18-30 ans, et, en prévision des JO de 2024, lancera dès 2020 une chaîne olympique numérique dédiée à la préparation de l’événement. Concernant la production de « contenus exclusifs » pour le site web France.tv, elle se concrétisera par exemple à la rentrée dans le cadre de la nouvelle émission « France TV Nature » (défis pour la planète). Delphine Ernotte s’est en outre engagée à mettre en oeuvre un « pacte citoyen (engagement, innovation et plaisir) pour rendre le service public meilleur qu’il ne l’est aujourd’hui » d’ici trois ans. Par ailleurs, le groupe France Télévisions s’est engagé avec les deux poids lourds du privé TF1 et M6 dans Salto, le projet commun de plateforme TV et de SVOD, actuellement étudié par l’Autorité de la concurrence.
• Chez Radio France, s’il n’est plus question pour le moment de basculement de radios sur le numérique (en webradios) comme le préconisait en 2015 un rapport de la Cour des comptes pour Mouv et même Fip, la stratégie digitale n’en est pas moins réaffirmée pour rattraper un certain retard numérique (3). En montrant le 7 juin à ses 4 millions de followers qu’il avait fait tatouer sur son poignet le logo en couleur de sa radio préférée – la française Fip –, le fondateur de Twitter, Jack Dorsey, a rappelé implicitement que la radio n’a plus de frontières à l’ère du podcast et de l’écoute en streaming – l’ère du seul hertzien est révolu. Depuis le 1er juillet dernier, Dana Hastier (ex-directrice de France 3) a remplacé Guy Lagache à la direction des antennes et de la stratégie éditoriale de Radio France. A ce titre, elle a la responsabilité de Franceinfo, France Inter, France Culture, France Bleu, Fip et Mouv, à la fois de leur stratégie éditoriale et de leur développement numérique, ainsi que de la plateforme Radiofrance.fr. L’ambition de la Maison-Ronde est de devenir la plateforme de référence de l’audio en France dans les trois ans, en misant notamment sur les podcasts, et de proposer à partir de 2020 une offre de « radio personnalisée » – projet qu’avait initié Mathieu Gallet (4). Le Premier ministre Edouard Philippe, lui, a précisé le 19 juin que le projet de loi sur la réforme de l’audiovisuel public sera présenté en conseil des ministres « d’ici la fin du mois d’octobre » par le ministre de la Culture Franck Riester. Le texte devrait être débattu « au plus tard au mois de janvier 2020 à l’Assemblée nationale », avec pour objectif une entrée en vigueur du texte législatif « durant l’année 2020 ». C’est en clôture du colloque « Médias, liberté et création », organisé pour les 30 ans du Conseil supérieur de l’audiovisuel (CSA), qu’Edouard Philippe a fixé ce nouveau calendrier de la réforme qui a été à maintes reprises repoussée.
La grande réforme audiovisuelle tarde
« La loi de 1986 est une grande loi ; elle a façonné l’audiovisuel pendant 30 ans. La nouvelle loi audiovisuelle doit l’être tout autant, pour répondre aux défis des transformations profondes que nous connaissons aujourd’hui. Les travaux sont en cours », a assuré le Premier ministre. Il s’agit de « repenser la réglementation de l’audiovisuel français » face aux entreprises du numérique que sont les GAFAN, tout en « réaffirm[ant] le rôle de l’audiovisuel public ». France Télévisions et Radio France sont en première ligne de cette réforme majeure voulue par le président de la République, Emmanuel Macron, qui en avait fait une promesse de campagne. « Je sais que les groupes audiovisuels publics ont engagé de profondes transformations, a déclaré Edouard Philippe. Des transformations qui bousculent des habitudes et qui se font dans un cadre financier contraint. (…) Nous avons réaffirmé les priorités de l’audiovisuel public, l’information, la culture, la proximité et la jeunesse. Nous avons affirmé l’ambition numérique de l’audiovisuel public ».
Audiovisuel public : « ambition numérique »
L’Etat, dont les participations dans les six sociétés de l’audiovisuel public (France Télévisions, Radio France, France Médias Monde, INA, Arte et TV5 Monde) pourraient être regroupées dans une holding de tête par le projet de loi audiovisuelle (5), compte sur le digital pour atteindre au total quelque 500 millions d’euros d’économies à faire d’ici à 2022. « A l’heure des bouleversements numériques, il faut privilégier l’investissement dans les contenus plutôt que dans un mode de diffusion », avait prévenu Françoise Nyssen, alors encore au ministère de la Culture le 4 juin 2018, tout en ajoutant que « [son] ambition [était] de créer un média global à vocation universelle ». En creux : la TNT hertzienne coûte chère, Internet beaucoup moins (6). La réforme de l’audiovisuel public prévoit aussi un rapprochement de France 3 et de France Bleu, avec une hausse des investissements dans le numérique pour lancer des offres communes entre la troisième chaîne à vocation régionale et le réseau des radios locales publiques (trois fois plus de programmes régionaux). Mais la numérisation à marche forcée de l’audiovisuel public, en prévision de la réforme législative, ne se fait pas sans tensions au sein des deux groupes. « Que ce soit à Radio France ou à France Télévisions, les raisons de la colère sont partagées face à une tutelle (et des directions aux ordres) obnubilées par les économies tous azimuts et leurs conséquences mortifères sur nos entreprises », avait fustigé le syndicat CGT dans son appel à la grève du 20 juin dernier avec FO et la CFDT. L’intersyndicale dénonce « la paupérisation » de l’audiovisuel public, qui passe notamment par la suppression du journal télévisé « Soir 3 » et l’arrêt des matinales filmées avec la radio France Bleu, sur fonds de plan d’économies.
• A Radio France, un nouveau plan d’économies de 60 millions d’euros d’ici 2022 est assorti d’environ 300 suppressions de postes (sur un total d’environ 4.590 salariés à fin 2018). Le plan « Radio France 2022 », que Sibyle Veil a présenté début juin, prévoit d’accroître les investissements dans le numérique, dont la radio numérique terrestre (RNT) en DAB+ pour Fip et Mouv (7), alors que la contribution de l’Etat va baisser de 20 millions d’euros quatre ans. « Si on ne change rien, a prévenu la présidente de Radio France, on sera en déficit de 40 millions d’euros en 2022 ». Cela a déclenché mi-juin une première grève, très suivie par les salariés de la Maison-Ronde. « Radio France a déjà fait les frais de plans d’économies successifs, qui ont conduit à des salaires bloqués depuis sept ans, de nombreux départs non remplacés et la politique de redéploiements au profit d’activités nouvelles, qui ont désorganisé bon nombre de secteurs », ont dénoncé les syndicats. Le prédécesseur de Sibyle Veil, Mathieu Gallet, avait été confronté à une grève historique en 2015, après qu’il ait annoncé restrictions budgétaires et réductions d’effectifs. Le plan « Radio France 2022 » de sa successeure prévoit la suppression de 270 postes dans tous les métiers si les salariés acceptent de faire une croix sur des semaines de congés (réorganisation des rythmes de travail), ou 390 postes s’il n’y a pas d’accord avec les syndicats. Radio France espère aboutir à un « nouveau pacte social » en septembre et à cette réforme d’ici à l’automne, afin de pouvoir négocier avec l’Etat son Contrat d’objectifs et de moyens (COM) pour la période 2019-2023. Mais le comité social et économique du groupe radiophonique, réuni le 18 juin, a opposé à la direction un rapport d’un cabinet indépendant (Tandem) qui considère les économies « surdimensionnées » et les charges de personnel prévues au cours des prochaines années « surévaluées » de 8,7 millions d’euros. Quelque 118 postes seraient ainsi supprimés par erreur ! Mais Marie Message, qui a remplacé Sibyle Veil comme directrice des opérations et des finances de Radio France, conteste la méthode de cette étude et a proposé de faire une contre-étude.
• A France Télévisions, le climat social n’en est pas moins tendu. Le groupe de télévisions public veut supprimer jusqu’à 900 postes d’ici à 2022 (sur environ 9.600 salariés à fin 2018), et va devoir supprimer deux de ses chaînes sur décision du gouvernement (France Ô et France 4). Les 6 et 13 juin ont été marqués par des grèves à l’appel de plusieurs syndicats, pour défendre l’emploi et le journal télévisé « Soir 3 », lequel sera supprimé au profit d’« une tranche d’information renforcée » en fin de soirée sur la chaîne hertzienne et numérique Franceinfo. Le 20 juin, plusieurs chaînes de France Télévisions ont été perturbées par une grève lancée à l’appel de l’intersyndicale pour dénoncer la « paupérisation » du service public télévisuel. De leur côté, le 11 juin et à l’occasion du Festival du film d’animation à Annecy, la SACD (8) et le SPFA (9) ont appelé le président Emmanuel Macron à reporter à 2022 la fermeture de la chaîne publique France 4, actuellement prévue pour 2020. Et ce, le temps de préparer une plateforme jeunesse capable de rivaliser avec Gulli (M6) et Disney.
Franceinfo « à la vitesse supérieure » ?
Quant à Franceinfo, plateforme multidiffusée (TNT, Internet, radio, câble, satellite, …) lancée il y a près de trois ans par France Télévisions, Radio France, France Médias Monde et l’INA, elle ne dépasse pas encore les 0,5 % de parts d’audience (à juin 2019 selon Médiamétrie) et reste distancée par BFM TV (2,1 %), LCI (0,8 %) et CNews (0,7 %). Le basculement de « Soir 3 » sur Franceinfo pourrait être l’ultime tentative pour « passer à la vitesse supérieure » la dernière-née des chaînes d’information en continu. @
Charles de Laubier
Explicabilité des algorithmes : à quel niveau faut-il mettre le curseur de la régulation ?
Le néologisme « explicabilité » prend de l’ampleur à l’heure des algorithmes
et de l’intelligence artificielle. En Europe, France comprise, la loi exige déjà qu’ils doivent être explicables dans un souci de transparence et de responsabilisation. La question est de savoir s’il faut encore plus réguler.
Par Winston Maxwell* et David Bounie**, Telecom Paris, Institut polytechnique de Paris
l
L’« explicabilité » est devenue un principe incontournable de la future bonne régulation des algorithmes. L’explicabilité figure dans les recommandations que l’OCDE (1) a adoptées le 22 mai (2)
sur l’intelligence artificielle (IA), dans
la communication de la Commission européenne du 8 avril (3), dans le rapport du groupe d’experts correspondant (4),
et dans le rapport Villani (5). Garante de plus de transparence, l’explicabilité des algorithmes n’est pas un concept nouveau.
Explicabilité : déjà présente dans la loi
Dans les années 1980 et 1990, de nombreux travaux scientifiques en France et aux Etats-Unis ont étudié l’explicabilité de l’intelligence artificielle, explicabilité jugée nécessaire pour promouvoir l’acceptabilité des systèmes « experts » (6). L’année
2018 marque le renouveau du concept. Le rapport Villani évoque la nécessité d’« ouvrir les boîtes noires » (7) ; le groupe d’experts européens souligne l’importance de l’explicabilité pour la confiance dans les systèmes IA (8). Que recouvre ce terme qui ne figure nulle part dans les dictionnaires (9) ? Les nouvelles recommandations de l’OCDE font la meilleure synthèse, se focalisant sur les finalités des explications (10). Les législateurs français et européen n’ont pas attendu les conclusions de l’OCDE pour imposer des obligations de transparence.
Le règlement général sur la protection des données (RGPD) impose l’obligation de fournir « des informations utiles concernant la logique sous-jacente » de toute décision automatique entraînant un effet important sur la personne (11). La récente révision de
la Convention 108 du Conseil de l’Europe (12) confère aux personnes le droit d’obtenir connaissance « du raisonnement qui sous-tend le traitement ». La loi « Lemaire » et ses décrets d’application imposent à l’administration l’obligation de communiquer à l’individu les « règles définissant tout traitement » algorithmique et les « principales caractéristiques de sa mise en oeuvre » (14). Ces mêmes textes imposent aux plateformes l’obligation de communiquer les « critères de classement », ainsi que leur
« principaux paramètres » (15). Au niveau européen, le futur règlement « Plateformes » – surnommé aussi P2B (16) – imposera aux places de marché et aux moteurs de recherche l’obligation d’indiquer les « principaux paramètres » qu’ils utilisent pour classer les biens et les services sur leurs sites. Ce règlement, qui devait être adopté
le 20 juin 2019 par le Conseil de l’Union européenne, n’imposera pas en revanche la communication de l’algorithme lui-même, protégé par la directive sur le secret des affaires (17). Avec autant de dispositions déjà en place, faut-il encore plus réguler ? L’explicabilité est un problème qui dépasse le débat sur la transparence des plateformes. Elle touche à des secteurs clés de l’industrie, et risque de freiner le déploiement des algorithmes si les contours de l’explicabilité ne sont pas bien définis par le régulateur. La difficulté est à la fois économique et juridique. Sur le plan économique, l’utilisation des algorithmes les plus performants sera freinée si leur fonctionnement n’est pas suffisamment compris par les utilisateurs et les régulateurs. Par exemple, dans la lutte contre le blanchiment d’argent, les algorithmes les plus performants sont également les plus opaques. Or, les banques et leurs régulateurs n’adopteront ces algorithmes que si leur fonctionnement est compris et auditable.
Faire parler ces boîtes noires est donc une condition nécessaire à leur adoption par l’industrie et par l’administration. L’explicabilité est également déterminante pour des questions de responsabilité. En cas d’accident, de discrimination ou toute autre
« mauvaise » décision algorithmique, il sera essentiel d’auditer le système afin d’identifier la source de la mauvaise décision, corriger l’erreur pour l’avenir, et déterminer les éventuelles responsabilités. De plus, l’exploitant du système doit être
en mesure de démontrer sa conformité avec le RGPD et d’autres textes applicables. Comment démontrer une conformité si le fonctionnement interne de l’algorithme reste énigmatique pour son exploitant ? Une documentation expliquant le fonctionnement de l’algorithme sera nécessaire.
Apprentissage machine et interprétation
Un algorithme d’apprentissage machine (machine learning) est l’aboutissement de différentes phases de développement et de tests : on commence par la définition du problème à résoudre, le choix du modèle, le choix des données d’apprentissage, le choix des données de test et de validation, les ajustements des paramètres (tuning),
et le choix des données d’exploitation. Le modèle qui émerge après son apprentissage sera très performant mais presqu’aussi inscrutable que le cerveau humain. Si les théories mathématiques sous-jacentes aux modèles utilisés sont bien comprises, il
est délicat – pour ne pas dire souvent impossible – de comprendre le fonctionnement interne de certains modèles. C’est le cas bien souvent de certains modèles tels que les machines à vecteurs de support, les forêts aléatoires, les arbres améliorés par gradient, et les algorithmes d’apprentissage profonds tels que les réseaux de neurones artificiels, les réseaux de neurones convolutifs et les réseaux de neurones récurrents difficiles à interpréter.
Transparence, auditabilité et explicabilité
Le concept d’explicabilité – ou « explainable AI » (XAI) en anglais) –, parfois désigné par intelligibilité, est un thème de recherche en informatique en plein essor. Il est en particulier soutenu par un programme ambitieux de l’agence du département de la Défense des Etats-Unis, Darpa (18). Les recherches s’orientent sur le développement de méthodes qui aident à mieux comprendre ce que le modèle a appris, ainsi que des techniques pour expliquer les prédictions individuelles. Les solutions techniques se regroupent autour de deux familles : l’identification des facteurs les plus importants utilisés par le modèle (« saliency approach »), et la perturbation des données d’entrée afin de comprendre l’impact sur les décisions de sortie (« perturbation approach »).
Ces approches permettront la visualisation des facteurs déterminants dans la prise
de décision algorithmique.
Aux concepts d’interprétabilité et d’explicabilité sont associés ceux de transparence et d’« auditabilité » des algorithmes. L’idée est de rendre publics, ou bien de mettre sous séquestre, des algorithmes en vue les auditer pour étudier des difficultés potentielles. Comme illustré dans le débat sur le règlement « Plateformes » (P2B), imposer la communication des algorithmes se heurterait à la protection des secrets d’affaires, protégée par la directive européenne du 8 juin 2016 (19). Cependant, il existe des solutions intermédiaires, qui permettraient à la fois un audit approfondi du système
tout en protégeant le secret des affaires. La Cnil recommande de mettre en place
une plateforme nationale d’audit des algorithmes (20). L’une des difficultés pour le régulateur est l’impossibilité de répliquer le fonctionnement d’un algorithme à un moment T. Un algorithme d’apprentissage machine peut se mettre à jour régulièrement, apprenant à améliorer sa performance au fur et à mesure, en fonction des nouvelles données analysées. Ainsi, l’algorithme pourra donner un score de 93,87 % le lundi, et un score de 94,28 % le jeudi, s’appuyant sur exactement les mêmes données d’entrée. Cette absence de reproductibilité peut poser problème pour un régulateur en charge de valider un système avant sa mise en service, car le modèle changera lors de chaque nouvelle phase d’apprentissage. Pour un algorithme de moteur de recherche, ce n’est pas grave. Mais pour un algorithme pouvant provoquer des dommages corporels en cas d’erreur, cette évolutivité posera problème.
Exiger une transparence totale sur le fonctionnement de l’algorithme ne servirait à rien. Une telle exigence se heurterait à la protection du secret des affaires et, dans la plupart des cas, ne rendrait pas l’algorithme plus intelligible, même pour les initiés. La réglementation doit plutôt se concentrer sur les différentes finalités de l’explicabilité et les différents publics visés – grand public, régulateur, expert judiciaire.
Une explication envers un demandeur de crédit pourrait privilégier une approche dite
« contrefactuelle », par laquelle l’individu pourrait tester d’autres hypothèses d’entrée pour voir l’effet sur son score algorithmique.
Les outils d’explicabilité envers un régulateur seraient plus élaborés, permettant une explication du fonctionnement global de l’algorithme (dit « global explainability »), ainsi qu’une explication concernant chaque décision particulière (« local explainability »).
Les outils mis à la disposition du régulateur pourraient inclure des cartographies de pertinence (saliency maps), et autres outils de visualisation statistique. Enfin, en cas d’audit, l’exploitant de l’outil devra être en mesure de donner accès à l’ensemble de
la documentation concernant l’algorithme et les données d’apprentissage, et permettre au régulateur de conduire des tests, notamment des tests de perturbation de données d’entrée.
L’explicabilité, comme la régulation, est source de coûts. Un fort niveau d’explicabilité peut limiter le type de modèle utilisé, conduisant à des pertes de performance. Cependant, certains estiment que le compromis entre performance et explicabilité n’est que temporaire, et disparaîtra avec le progrès technique. La régulation est également source de coûts, surtout lorsque la régulation ne suit pas l’évolution technologique.
Privilégier une régulation « bacs à sable »
Ainsi, la Commission européenne et le Conseil d’Etat recommandent la régulation expérimentale – des « bacs à sable » de régulation – permettant de tester différentes approches de régulation pour déterminer celle qui sera la plus efficace. Le principe européen de la proportionnalité guidera le niveau de régulation. Le niveau d’exigences en matière d’explicabilité augmentera avec le niveau de risques. Pour certains usages, aucune explicabilité ne sera nécessaire. Pour un algorithme qui apprend à jouer aux échecs, le fonctionnement interne ne soulève pas d’enjeu réglementaire. Par conséquent, la boîte noire pourra rester fermée. @
* Winston Maxwell, ancien avocat associé du cabinet
Hogan Lovells, est depuis juin 2019 directeur d’étude, droit et
numérique à Telecom Paris, Institut polytechnique de Paris.
** David Bounie est professeur d’économie
à Telecom Paris, Institut polytechnique de Paris.