Panique chez OpenAI
Présenté en février 2024, Sora est une intelligence artificielle capable de générer des vidéos ultra-réalistes à partir d’un prompt. Un groupe d’artistes, qui aurait eu accès au modèle en avance, serait à l’origine d’une fuite inédite pour OpenAI. Une version pirate du modèle circule en ligne.
Mauvaise nouvelle pour OpenAI : Sora, l’ambitieux générateur de vidéos réalistes annoncé en février 2024, pourrait bien avoir été piraté.
Sur HuggingFace, le site communautaire sur lequel tous les grands groupes publient leurs modèles, un collectif nommé PR-Puppet-Sora a publié un outil qui permet de générer des vidéos avec l’API Sora, qui n’est pour l’instant pas accessible du grand public. Il accuse OpenAI de vouloir prendre les artistes pour des marionnettes, d’où sa volonté de saboter ses plans en publiant un accès au modèle. Sur les réseaux sociaux, plusieurs vidéos inédites générées par Sora sont apparues le 26 novembre, avec un style très proche de la démo de février.
L’interface du générateur sur HuggingFace. La fuite semble authentique. // Source : Capture Numerama OpenAI victime d’une histoire de vengeance ? Sora public pour la première fois
La fuite est-elle authentique ? À en croire le code du site, la réponse est oui. Les prompts sont bel et bien envoyés aux serveurs d’OpenAI, qui étaient jusque-là inaccessibles du grand public. L’entreprise a désactivé son API autour de 18 heures le 26 novembre, soit trois heures après la première apparition de l’outil (et à la suite des premiers articles dans les médias). Il est désormais impossible de générer des vidéos, même si de nombreux exemples ont déjà été publiés.
Le générateur sur HuggingFace redirige vers le site d’OpenAI, avec une API inaccessible du grand public. // Source : X Techniquement parlant, ce n’est pas le code de Sora qui a fuité, mais juste son accès.
OpenAI a probablement offert un aperçu en avant-première à son outil à quelques partenaires, dont des artistes, afin d’améliorer la fiabilité de son produit. Ces artistes ont détourné leur accès privé pour rendre Sora accessible de tous, mais n’ont pas d’accès direct aux serveurs d’OpenAI. Il s’agit juste d’une API et d’une clé d’accès privée.
Dans une lettre ouverte publiée sur HuggingFace, le collectif explique « avoir reçu un accès à Sora avec la promesse d’être des early-testeurs, des auditeurs critiques (« red teamers ») et des partenaires créatifs. En réalité, nous pensons qu’il s’agit d’un processus de “blanchiment artistique” pour faire croire au monde que Sora est un outil utile pour les artistes ».
La lettre publiée par le collectif anti-Sora. // Source : Capture Numerama « LES ARTISTES NE SONT PAS VOTRE R&D NON RÉMUNÉRÉE » expliquent les artistes. « Nous ne sommes pas vos testeurs de bugs ». Le collectif appelle à utiliser des solutions open source et à refuser qu’un grand groupe comme OpenAI pilote le futur de la vidéo.
Plusieurs vidéos générées par Sora disponibles en ligne
L’accès privé à l’API Sora du fameux collectif a rapidement été débranchée, mais plusieurs internautes ont réussi à générer des vidéos à temps. Le modèle en fuite s’appelle « Turbo », ce qui laisse entendre qu’il s’agit d’une version avec moins de paramètres, pour des résultats conçus rapidement.
Depuis l’annonce de Sora, OpenAI n’a plus communiqué sur l’outil. L’élection américaine l’aurait notamment appelé à la prudence, pour éviter que son service ne serve à faire le mal. Le créateur de ChatGPT sait qu’il ne doit pas aller trop vite, aussi bien pour éviter le bad buzz que pour ne pas vexer les artistes. Après cette fuite, OpenAI sera probablement obligé de réagir. L’entreprise de Sam Altman en dira peut-être plus sur l’avenir de Sora, même si son lien avec les artistes commence mal.
merci à Numerama
