15 
15 commentaires 
Un scandale a explosé autour de la dernière mise à jour d’Open AI, qui aurait utilisé la voix de Scarlett Johansson sans son autorisation.
L’Intelligence Artificielle fascine autant qu’elle effraie. D’un côté, elle pourrait être une révolution, qui changerait tous les secteurs artistiques connus, si tant est qu’elle soit utilisée de manière éthique en accord avec les vrais artistes. De l’autre, son attrait pour réduire tous les coûts possibles et les problèmes qu’elle pose sur la propriété intellectuelle se révèlent pour le moins inquiétants.
De bonnes utilisations, on peut déjà en voir, notamment dans le jeu vidéo, où grève des scénaristes à Hollywood concernait l’IA et la mise en place d’un encadrement strict de l’utilisation de l’outil technologique par les majors d’Hollywood. Aujourd’hui, ce ne sont pas les scénaristes qui sont touchés par un scandale sur l’IA, mais une actrice de renom, Scarlett Johansson. Bienvenue dans la version bootleg de Her.
- À lire aussi : notre critique de Her
Le scénariste de Her quand il voit que les gens n’ont rien compris au message du film
HER, ou la fausse bonne idée d’open ai
Cette semaine a été lancée une nouvelle version de ChatGPT, le service de discussion avec Intelligence Artficielle de l’entreprise Open AI. Cette mise à jour a apporté une nouvelle fonctionnalité à l’outil (limité jusque là encore au textuel) : la « parole ». La capacité de demander oralement à ChatGPT quoi que ce soit, et de voir l’IA répondre en un temps record, avec une diction relativement proche du réel.
Pour cette fonction, cinq voix ont été rendues disponibles, et pour la présentation vidéo faite au monde, c’est celle de Sky qui a été utilisée. Malheureusement, cet extrait a été supprimé, mais quelque chose a vite sauté aux yeux, ou plutôt aux oreilles, des internautes l’ayant visionnée : Sky a une voix étrangement proche de celle de Scarlett Johansson, surtout au niveau de l’intonation, qui ressemblerait énormément à celle qu’elle adopte dans Her, film où elle incarne… une Intelligence Artificielle.
On va éviter d’imiter ce genre de saga, hein
L’entreprise avait déjà é Scarlett Johansson plusieurs mois avant cette grande annonce, la nouvelle était donc déjà remontée jusqu’à l’actrice avant la sortie officielle, et celle-ci s’est exprimée dans un communiqué.
« En septembre dernier, j’ai reçu une offre de Sam Altman [cofondateur de ChatGPT], qui souhaitait m’engager pour faire la voix du système actuel ChatGPT 4.0. Il m’a dit qu’il pensait qu’avec ma voix dans le système, je pourrais combler le fossé entre les entreprises technologiques et les créatifs et aider les consommateurs à se sentir à l’aise avec le changement sismique concernant les humains et l’IA. Il a ajouté qu’il pensait que ma voix serait réconfortante pour les gens.
Après mûre réflexion et pour des raisons personnelles, j’ai décliné l’offre. Neuf mois plus tard, mes amis, ma famille et le grand public ont tous remarqué à quel point le tout nouveau système baptisé « Sky » me ressemblait.
Lorsque j’ai entendu la démo publiée, j’ai été choquée, irritée, et je ne pouvais pas croire que M. Altman ait choisi une voix si étrangement similaire à la mienne au point que mes amis les plus proches et les médias n’ont pas pu faire la différence. M. Altman a même insinué que la ressemblance était intentionnelle, en tweetant un seul mot, « her » – une référence au film dans lequel j’interprète un système de chat, Samantha, qui noue une relation intime avec un être humain.
her
— Sam Altman (@sama) May 13, 2024
C’est pas toi, mais au cas où…
L’actrice continue ensuite : « Deux jours avant la sortie de la démo de ChatGPT 4.0, M. Altman a é mon agent, me demandant de reconsidérer la question.
Avant que nous ayons pu discuter, le système était déjà disponible.
À la suite de leurs actions, j’ai été contrainte d’engager un conseiller juridique, qui a écrit deux lettres à M. Altman et à OpenAI, expliquant ce qu’ils avaient fait et leur demandant de détailler le processus exact par lequel ils avaient créé la voix « Sky ». En conséquence, OpenAI a accepté à contrecœur de retirer la voix « Sky ».
À une époque où nous sommes tous confrontés aux « deepfakes » et à la protection de notre propre image, de notre propre travail, de notre propre identité, je pense que ces questions méritent une clarté absolue. J’attends avec impatience une solution sous forme de transparence et l’adoption d’une législation appropriée pour aider à garantir la protection des droits individuels. »
Scarlett au téléphone avec son armée d’avocats.
Voilà qui est direct. Depuis cette annonce, OpenAI a retiré Sky des voix disponibles dans ChatGPT. Dans un communiqué officiel adressé à Forbes, Sam Altman, cofondateur d’Open AI, s’est excusé au nom de sa société auprès de l’actrice.
« La voix de Sky n’est pas celle de Scarlett Johansson et n’a jamais été destinée à lui ressembler. Nous avons recruté la doubleuse de Sky avant de prendre avec Mme Johansson. Par respect pour Mme Johansson, nous avons cessé d’utiliser la voix de Sky dans nos produits. Nous sommes désolés pour Mme Johansson de ne pas avoir mieux communiqué »
C’est comme si tous ces films n’avaient servi à rien…
ON EST LES gentils
Sur le site d’OpenAI, l’entreprise a expliqué sa méthode de création de voix :
« Nous soutenons la communauté créative et avons travaillé en étroite collaboration avec l’industrie du doublage pour nous assurer que nous avons pris les bonnes mesures pour diff les voix de ChatGPT. […] Chaque acteur reçoit une rémunération supérieure aux tarifs du marché, et cela continuera aussi longtemps que leurs voix seront utilisées dans nos produits. »
Oui oui, on va te croire
Une justification bien dans les clous, qui ne sauve clairement pas tout. La suppression de la voix peut être vue comme un aveu de faute de la part de l’entreprise. Ce cas est assez représentatif des problèmes que pose déjà l’Intelligence Artificielle aujourd’hui, et démontre encore une fois que des restrictions et des régulations doivent être mises en place autour de cette technologie. Sans cela, les dérives du genre deviendront banalité, et on aura plus qu’à s’appeler Ecran LIArge.
Sans surprise les aventuriers de l’IA générative se moquent totalement du respect de la propriété intellectuelle. On a rarement vu une telle entreprise de pillage de la culture.
Le fonctionnement des IA génératives, que ce soit pour les images, les musiques etc. fait qu’elles se nourrissent du pillage des créations, sous copyright ou non. A partir de là quoi que les boîtes racontent, oui elles vont continuer ce jeu du chat et de la souris avec les détenteurs des droits. Complètement con de s’attaquer à Scarlett, même si la voix de Her, alors qu’elle pèse beaucoup financièrement et juridiquement, ou alors une tactique parmi d’autres pour voir ce qu’ils peuvent se permettre ou non.
Pourquoi une image subliminale du visage satisfait de Laurent Alexandre apparait dans ma tête lorsque j’entends parler d’IA ? J’en ai marre.
Nota bene : même si l’utilisation de l’IA dans ce domaine est récente, il existe en fait déjà dans l’arsenal juridique des possibilités qui permettront de se protéger. Contrairement à ce qu’on imagine, il ne faut pas chercher en 1er lieu du côté de la propriété intellectuelle mais plutôt s’aventurer ailleurs pour trouver des solutions : atteintes à la représentation de la personne, usurpation d’identité, protection des données personnelles…
Des juristes français ont commencé à cre la question et il y a déjà des angles d’attaque.
Sa voix est clairement reconnaissable.
Je suis de tout coeur avec Scarlett Johansson et ses conseils juridiques.
Le droit américain étant très fortement basé sur la jurisprudence et le contexte étant atypique, ça va être très intéressant de suivre ce qui va se er…
Notez la stratégie. On demande à SJ la permission, elle dit non. On fait quand même le truc, on est couvert on a fait la demande, avec une voix très légèrement différente mais qui fait tout de suite penser à celle de SJ. SJ est au taquet, elle attaque. Se pose alors deux solutions.
Puisqu’on l’a fait, on s’entend sur un prix ?
Non ? Okay, on retire la voix….
Jusqu’à la prochaine fois, avec quelqu’un d’autre.
SJ est une actrice connue avec un certain pouvoir. Mais quid des artistes qui publient des milliers de choses sur le web et qui n’ont pas d’avocats pour les défendre ni une fortune personnelle pour intenter une action en justice ?
Voilà comment ça va finir le machin I.A. Elles vont piller tout le web et générer des quantités industrielles « d’oeuvres » tout en mettant au chômage un paquet de gens au age. Il va y avoir des dégâts sociaux et des pertes de savoir-faire.
Et puis ces I.A finiront par se piller elles-même encore et encore et à la fin on aura un gros tas de caca d’I.A. Fin du truc.
Plus sérieusement, l’I.A est une bulle spéculative qui enfle, qui enfle, parce que la Silicon Valley n’innove plus depuis que les smartphones ont tous la même forme et deux systèmes d’exploitations pour le monde entier, et voit donc dans ces algorithmes pompeusement appelés intelligences artificielles une bouée de sauvetage. C’est une bulle parce que les financiers y injectent des quantités phénoménales de pognon. L’I.A coûte très cher à développer et en infrastructure, et ne rapporte presque rien. C’est pour ça qu’ils veulent en mettre partout, même là où ça ne sert à rien. La bulle va finir par éclater et le délire tirer à sa fin.
Juste à s’inspirer des lois sur la contre-façon pour protéger les auteurs, acteurs, musiciens…etc.
Oh les copier coller d’oeuvre ca existe déjà fort bien sans l’IA … je crois pas que Netflix soit une IA, pourtant 90 % de ses produits sont les mêmes avec un élément qui varie de l’un a l’autre.
On augmente le curseur « mystère aliens », hop on a le Problème a trois corps.
Vous préférez que vos grands ados soient plus mutins ? hop c’est prêt vous pouvez consommer Mercredi !
Et pour vous ce sera ? Avec une sauce années 80 ? Tout de suite ! Un Stranger Thing pour la 10 !
« Deux jours avant la sortie de la démo de ChatGPT 4.0, M. Altman a é mon agent, me demandant de reconsidérer la question. »
Donc la voix est bien celle de SJ, peut-être légèrement modifiée. Sinon pourquoi vouloir avoir son accord?
Altman ment donc, et sait que ce serait plus que tendu de se prendre un procès.
Il s’en tire plutôt bien en fin de compte
On découvre de plus en plus que ces gestionnaires d’IA qui prétendent sauver le monde ont des mentalités de bandits au-dessus des lois. Ayez une pensée pour les artistes visuels, qui ne sont pas protégés comme les musiciens et les artistes du cinéma et qui sont en train de se faire rouler dessus par l’IA dans un silence semblable à celui du banc de poissons avalé par le chalutier-usine.