Les deepfakes audio inquiètent l’industrie musicale

En fait. Le 10 septembre, la Fédération internationale de l’industrie phonographique (IFPI) a publié son premier rapport sur « la musique dans l’UE ». Au-delà des inquiétudes sur la croissance musicale dans les Vingt-sept, une nouvelle pratique préoccupe : les deepfakes audio. Les détecteurs s’organisent.

En clair. « L’industrie musicale est préoccupée par la capacité des systèmes d’IA de générer du contenu “deepfake” qui s’approprie sans autorisation la voix, l’image et la ressemblance distinctives des artistes », alerte la Fédération internationale de l’industrie phonographique (IFPI), dans son rapport sur la musique dans l’Union européenne (UE) publié le 10 septembre. « Cela peut induire les fans en erreur, porter gravement atteinte à la réputation d’un artiste et fausser la concurrence en permettant aux clones générés de concurrencer de manière déloyale les artistes dont la musique et l’image ont été utilisées pour former le modèle d’IA » redoute-t-elle.
Six jours avant, de l’autre côté de l’Atlantique, un dénommé Michael Smith a été arrêté par le FBI et présenté devant juge de Caroline du Nord pour avoir créé des centaines de milliers de chansons avec une intelligence artificielle et utilisé des programmes automatisés (bots) pour diffuser des milliards de fois ces chansons générées par l’IA sur les plateformes de streaming (Amazon Music, Apple Music, Spotify et YouTube Music). Ce stratagème de fake streams (1) a permis à l’accusé de générer frauduleusement plus de 10 millions de dollars de royalties (2). De l’IA générative musicale au deepfake audio, il n’y a qu’un pas : les deux pratiques utilisent des masses de données audio pour générer du contenu fictif mais audible et vraisemblable.

Telegram est coincé entre la France et la Belgique

En fait. Le 28 août, Pavel Dourov, le patron fondateur de la messagerie-réseau social Telegram a été mis en examen et placé sous contrôle judiciaire avec interdiction de quitter le territoire français. Il est accusé au pénal de « complicité » pour les contenus criminels véhiculés sur sa plateforme mondiale.

En clair. « L’arrestation du président de Telegram sur le territoire français a eu lieu dans le cadre d’une enquête judiciaire en cours. Ce n’est en rien une décision politique. Il revient aux juges de statuer », a tenu à justifier Emmanuel Macron, président de la République, sur X le 26 août (1). Le Franco-Russe Pavel Durov, président fondateur de la messagerie cryptée Telegram – également réseau social aux près de 1 milliard d’utilisateurs dans le monde – a d’ailleurs été naturalisé français par décret du 23 août 2021 (2) – avec l’aval de l’Elysée.
Pourtant, le jeune milliardaire (39 ans), né à Léningrad, vit à Dubaï (Emirats arabes unis) où il dispose du passeport de « riche investisseur étranger », et y a installé le siège de Telegram (3). Paul du Rove – après francisation en 2022 – n’aurait jamais imaginé être, trois ans plus tard, cueilli au Bourget par la police française aux frontières et déféré devant un juge d’instruction du crime organisé pour être mis en examen le 28 août. Son arrestation a pu se faire en raison d’un « mandat de recherche » qui avait déjà été émis contre lui par un service d’enquête de la police nationale chargé de lutter contre les infractions criminelles. La justice française l’accuse de ne pas supprimer sur Telegram des contenus pédocriminels et d’autres illicites (trafic de stupéfiants, blanchiment d’argent, pratique de la violence, apologie du terrorisme, …), ni de suspendre des comptes. C’est donc une procédure au pénal en France, ce qui n’est pas du ressort du Digital Services Act (DSA). Pavel Durov (4) est réputé libertarien, défendeur à tout prix de la liberté individuelle contre toute censure ou restriction. Pénalement, il est considéré comme « complice » des contenus criminels circulant sur sa messagerie cryptée.

Pourquoi le Conseil constitutionnel a censuré le délit d’« outrage en ligne » dans la loi SREN

La loi du 21 mai 2024 visant à sécuriser et à réguler l’espace numérique (SREN) a été publiée le lendemain au Journal Officiel, après avoir été expurgé des articles censurés par le Conseil constitutionnel. Les sages de la République ont jugé le délit d’outrage en ligne d’inconstitutionnel.

Par Antoine Gravereaux, avocat associé*, FTPA Avocats

En invalidant cinq articles de la loi, dont le délit d’« outrage en ligne » (1), le Conseil constitutionnel – par décision du 17 mai 2024 (2) – a contraint le législateur à revoir son approche de la régulation de l’espace numérique. La loi visant à sécuriser et à réguler l’espace numérique (SREN) introduisait le délit d’outrage en ligne, qui aurait été puni d’un an d’emprisonnement et de 3.750 euros d’amende forfaitaire en cas de diffusion en ligne de tout contenu portant atteinte à la dignité d’une personne ou présentant un caractère injurieux, dégradant, humiliant, ou créant une situation intimidante, hostile ou offensante.

Un délit qui manquait d’objectivité
Le Conseil constitutionnel, qui avait été saisi par deux groupes de députés différents (respectivement les 17 et 19 avril 2024), a jugé que les faits réprimés par cette nouvelle infraction étaient déjà couverts par des qualifications pénales existantes, y compris lorsque ces abus sont commis en ligne. Ainsi par exemple, les sages de la République ont relevé que la diffamation et l’injure sont réprimées par les articles 32 et 33 de la loi du 29 juillet 1881 sur la liberté de la presse (3), les violences psychologiques par le code pénal (4), et le harcèlement par le code pénal également (5).
Rappelons que la diffamation se définit comme toute allégation ou imputation d’un fait portant atteinte à l’honneur ou à la considération de la personne auquel le fait est imputé, lorsqu’elle est commise publiquement. Tandis que l’injure se définit comme toute expression outrageante, termes de mépris ou invective qui ne renferme l’imputation d’aucun fait, lorsqu’elle est proférée publiquement. En outre, le Conseil constitutionnel a relevé que cette nouvelle infraction de délit d’« outrage en ligne » manquait d’objectivité et créait un climat d’incertitude attentatoire à la liberté, en nécessitant une appréciation subjective du ressenti de la personne visée (« incertitude sur la licéité des comportements incriminés »). « Les dispositions contestées font dépendre la caractérisation de l’infraction de l’appréciation d’éléments subjectifs tenant à la perception de la victime. Elles font ainsi peser une incertitude sur la licéité des comportements réprimés », estime notamment le Conseil Constitutionnel. Il a donc jugé que cette disposition portait atteinte à la liberté d’expression et de communication de manière non nécessaire, non adaptée et disproportionnée.

Le règlement européen « Internet ouvert » a presque dix ans : la neutralité du Net est en danger

Entre les IA génératives qui rêvent de remplacer les moteurs de recherche et les opérateurs télécoms qui militent pour une taxe sur les Gafam utilisant leurs réseaux, la neutralité d’Internet est plus que jamais menacée. Les régulateurs résisteront-ils à la pression des « telcos » et des « big tech » ?

La neutralité d’Internet est prise en étaux entre l’intelligence artificielle et les opérateurs télécoms. Il y a dix ans, la notion de « neutralité de l’Internet » était adoptée pour la première fois en séance plénière, lors d’un vote en première lecture de la proposition de règlement établissant des mesures sur le marché unique européen des communications électroniques. Deux amendements retenus introduisaient la définition de « neutralité de l’Internet [comme étant] le principe selon lequel l’ensemble du trafic Internet est traité de façon égale, sans discrimination, limitation ni interférence, indépendamment de l’expéditeur, du destinataire, du type, du contenu, de l’appareil, du service ou de l’application » (1).

A l’Internet ouvert, un « Internet fermé »
Après des années de tabou puis de débats voire de polémiques sur le sujet (2), le principe de la neutralité d’Internet était enfin sur le point d’être gravée dans le marbre de la législation européenne. Mais finalement, alors même que le lobby des opérateurs télécoms était vent debout contre cette obligation de « neutralité du Net » et défendant becs et ongles leur droit à pratiquer la « gestion de trafic » et à proposer des « services gérés » (3), cette proposition de règlement n’avait pu être votée avant les élections européennes de mai 2014. C’était il y a dix ans. Là où la Commission européenne de Jean-Claude Juncker s’apprêtait à consacrer la neutralité de l’Internet, ce fut celle de Ursula von der Leyen (photo) – chrétienne-démocrate conservatrice, plutôt hostile à Internet (4) – qui proposera un règlement. Mais celui-ci ne parlera pas explicitement de « neutralité » d’Internet mais d’un Internet « ouvert ».

La concurrence mondiale des constellations de satellites pour l’accès à Internet s’intensifie

Les opérateurs télécoms traditionnels font comme si les opérateurs de satellites pour l’accès à Internet n’étaient pas une menace à terme pour leurs offres fixes et mobiles. Or les constellations Starlink (SpaceX), Kuiper (Amazon) et OneWeb (Eutelsat) pourraient un jour les court-circuiter.

Les constellations de satellites pour des accès haut débit à Internet montent en puissance dans l’Hexagone. Starlink, créée et exploitée par la société SpaceX, est opérationnelle en France depuis mai 2021 et a fait l’objet jusqu’à ce jour de dixhuit décisions de l’Arcep (1). OneWeb, du groupe indobritannique intégré au français Eutelsat, a été officiellement lancée en France en février 2023 et compte cinq décisions de l’Arcep (2). Quant à Kuiper du groupe Amazon, elle a obtenu le 20 juin de la part de l’Arcep six décisions autorisant Amazon Kuiper France à opérer sur l’Hexagone (3).

Orbite basse et haut débit
Ce dernier nouvel entrant satellitaire en date en France, Kuiper, fourbit ses armes avant de tester à grande échelle son service au quatrième trimestre 2024, puis de commercialiser les accès à Internet par satellites en 2025. « Nous prévoyons d’expédier cet été nos premiers satellites de production terminés, et nous visons notre première mission Kuiper à grande échelle pour le “Q4” à bord d’une fusée Atlas V de l’ULA [United Launch Alliance, ndlr]. Nous continuerons d’augmenter nos taux de production et de déploiement de satellites d’ici 2025, et nous demeurons sur la bonne voie pour commencer à offrir des services aux clients l’année prochaine », a indiqué le 27 juin sa maison mère Amazon. L’objectif de la firme de Jeff Bezos : « Connecter des dizaines de millions de clients à travers le monde » (4).