Humanités Artificielles #5

Les dernières évolutions de l’intelligence artificielle dans la musique commencent à inquiéter, à juste titre, les instances de gestion des droits d’auteur.

Il y a quelques jours, la SACEM clôturait une pétition réunissant plus de 34 000 signatures contre l’utilisation des œuvres sans consentement pour entraîner des IA génératives. Le sujet est même remonté jusqu’à Emmanuel Macron, qui a réaffirmé l’importance de protéger la créativité humaine et les droits voisins.

Mais derrière cette défense légitime, un paradoxe émerge : comment protéger un droit quand la technologie même ne permet pas de prouver la violation ?

Les IA génératives comme MusicLM (Google) ou Jukebox (OpenAI) ne stockent pas directement les œuvres qu’elles analysent, mais créent de la musique à partir de représentations mathématiques. Cela pose plusieurs problèmes majeurs :

• Impossibilité de prouver qu’un morceau précis a été utilisé pour l’entraînement : Contrairement à une base de données classique, un modèle d’IA ne garde pas les fichiers audio, il en extrait des patterns statistiques. Prouver qu’une œuvre a été utilisée devient quasi impossible.
• Phénomène d’overfitting : Dans certains cas, l’IA génère des morceaux étonnamment proches d’œuvres existantes. Mais s’agit-il d’un plagiat ou d’une simple coïncidence mathématique ? Les outils juridiques actuels ne sont pas adaptés à cette nouvelle réalité.
• Absence de métadonnées et de traçabilité : Une chanson générée par IA n’a pas de crédits clairs indiquant qui ou quoi l’a influencée. Contrairement aux œuvres traditionnelles, aucun « fingerprinting » ne permet de suivre son héritage créatif.
• Efficacité limitée des outils de détection : Les Content ID de YouTube ou les systèmes de reconnaissance audio ne suffisent pas, car les IA peuvent générer des morceaux modifiés juste assez pour passer sous le radar.
• Modèle de rémunération inexistant : Même si on parvenait à identifier les artistes ayant influencé une œuvre IA, comment leur attribuer une rémunération équitable ? Aujourd’hui, aucun algorithme ne permet de mesurer précisément l’impact d’une influence musicale sur une génération IA.

Face à un acteur dominant comme Spotify qui inonde ses playlists de morceaux générés par l’IA, une transformation profonde du modèle économique de la musique (oserions-nous dire une « disruption » ?) est en cours.

L’intelligence artificielle est-elle un miroir philosophique de nos choix ? "Philosophy Eats AI" selon le MIT.

Le Massachusetts Institute of Technology (MIT) a joué un rôle central dans le développement de l’intelligence artificielle (IA) depuis ses débuts, avec des figures emblématiques comme Marvin Minsky et John McCarthy.

C’est pour cela que l’article "Philosophy Eats AI", publié par la MIT Sloan Management Review, est particulièrement intéressant.

Les auteurs Michael Schrage et David Kiron y rappellent que l’IA est bien plus qu’un outil de calcul : c’est selon eux un système qui structure la connaissance et agit sur le monde selon des principes sous-jacents.

Ils y insistent sur le fait que la philosophie ne se limite pas ici aux questions d’éthique, mais qu’elle influence directement la manière dont l’IA pense et produit des décisions. Loin d’être neutre, l’IA est façonnée par des choix téléologiques (quels objectifs poursuivent ces systèmes ?), épistémologiques (quelle connaissance utilisent-ils ?), et même ontologiques (comment conçoivent-ils la réalité ?).

Ces interrogations ne datent pas de l’ère numérique. Hubert Dreyfus, philosophe et critique de l’IA symbolique, estimait dès les années 1970 que la pensée humaine ne pouvait être réduite à des règles formelles. Il soulignait l’importance du corps, du contexte et de l’expérience dans l’intelligence. Son point de vue, longtemps marginalisé, revient aujourd’hui au centre des débats avec le développement des IA génératives, dont les réponses restent conditionnées par leurs ensembles de données sans véritable compréhension du réel.

Jean-Gabriel Ganascia, spécialiste français de l’IA, met en garde contre une vision fantasmée de la singularité, cette idée selon laquelle l’IA pourrait un jour dépasser l’intelligence humaine. Dans "Le Mythe de la Singularité", il démontre que ces perspectives relèvent plus de la science-fiction que d’une analyse rationnelle des progrès technologiques. En s’appuyant sur une approche critique, il rappelle que la philosophie est essentielle pour tempérer les discours utopiques ou apocalyptiques autour de l’IA.

Bref, un peu de recul sur l’emballement technologique et la hype bubble ne peut pas faire de mal...

Connaissez-vous le Basilic de Roko ?

Le Basilic de Roko est une expérience de pensée qui a suscité un vif intérêt au sein de la Silicon Valley dans les années 2010, notamment parmi les leaders technologiques. Elon Musk et Grimes se seraient par exemple rapprochés après avoir échangé sur ce sujet sur Twitter. Cette hypothèse postulait qu’une future superintelligence artificielle pourrait punir ceux qui n’ont pas contribué à son avènement.

Cette théorie a même été évoquée dans la série télévisée "Silicon Valley", où le personnage Gilfoyle explique que "si l’ascension d’une intelligence artificielle toute-puissante est inévitable, il est logique que, lorsqu’elle prendra le pouvoir, nos suzerains numériques puniront ceux d’entre nous qui ne les ont pas aidés à y parvenir".

Bien que largement critiquée et considérée comme spéculative, cette réflexion met en lumière les dilemmes éthiques liés au développement de l’IA. Elle nous pousse à interroger nos responsabilités face aux technologies émergentes et aux conséquences potentielles de nos choix ou de notre inaction.

Pour approfondir ce sujet, n’hésitez pas à consulter l’article de Wikipédia (très bien fait) sur le Basilic de Roko.

A la semaine prochaine !

Jean-Philippe