L’application Sora, premier réseau social lancé par OpenAI, suscite des débats internes au sein de l’entreprise. Présentée sous forme de fil d’actualité similaire à TikTok et peuplée de vidéos générées par IA, cette plateforme interroge plusieurs chercheurs actuels et anciens sur sa compatibilité avec la mission à but non lucratif d’OpenAI : développer une intelligence artificielle avancée au service de l’humanité.
Les préoccupations se cristallisent autour des mécanismes addictifs propres aux réseaux sociaux traditionnels. Si certains reconnaissent la qualité technique du projet, d’autres expriment ouvertement leurs réserves quant à l’orientation prise par la société. Cette tension révèle un équilibre délicat entre ambitions commerciales et engagement philanthropique.
Des chercheurs partagés entre admiration technique et inquiétude éthique
John Hallman, chercheur spécialisé dans le pré-entraînement chez OpenAI, reconnaît avoir ressenti des inquiétudes lors de l’annonce de Sora 2. Néanmoins, il salue le travail accompli par l’équipe pour concevoir une expérience positive et affirme que l’entreprise fera tout son possible pour garantir que l’IA aide plutôt qu’elle ne nuise à l’humanité.
Boaz Barak, également chercheur chez OpenAI et professeur à Harvard, partage un sentiment mitigé : bien qu’impressionné techniquement, il juge prématuré de se féliciter d’avoir évité les pièges des autres plateformes sociales et des deepfakes.
Rohan Pandey, ancien membre de l’équipe, profite de l’occasion pour promouvoir sa nouvelle entreprise, Periodic Labs, composée d’anciens chercheurs de laboratoires d’IA désireux de construire des systèmes dédiés à la découverte scientifique. Son message cible ceux qui refusent de participer à ce qu’il nomme « la machine infinie à produire du contenu TikTok généré par IA ».
À LIRE AUSSI : ChatGPT : tout ce qu’il faut savoir sur le chatbot révolutionnaire d’OpenAI
Sam Altman défend l’allocation des ressources
Face aux critiques, Sam Altman justifie mercredi sur X la décision d’allouer d’importants moyens financiers et informatiques à cette application sociale. Selon lui, le capital reste principalement destiné à construire une IA capable de faire progresser la science, tandis que l’essentiel des efforts de recherche vise l’AGI (intelligence artificielle générale). Toutefois, il estime légitime de présenter en chemin des technologies innovantes susceptibles de ravir les utilisateurs tout en générant des revenus nécessaires aux besoins colossaux en calcul.
Le PDG rappelle les doutes similaires ayant accompagné le lancement de ChatGPT : « Qui en a besoin et où est l’AGI ? » Pour lui, la réalité impose une nuance lorsqu’il s’agit de définir les trajectoires optimales pour une entreprise. Cette défense souligne la complexité de concilier innovation grand public et recherche fondamentale.
Une transition scrutée par les régulateurs
La question sous-jacente devient pressante : à partir de quel moment l’activité commerciale d’OpenAI prendra-t-elle le pas sur sa mission initiale ? Autrement dit, quand l’organisation refusera-t-elle une opportunité lucrative parce qu’elle contredit ses valeurs fondatrices ?
Rob Bonta, procureur général de Californie, a exprimé le mois dernier sa vigilance particulière concernant le maintien de la mission sécuritaire à but non lucratif d’OpenAI lors de sa restructuration vers un modèle commercial. OpenAI doit finaliser cette transition pour lever des fonds supplémentaires et envisager une introduction en bourse.
Certains sceptiques considèrent la mission d’OpenAI comme un simple outil marketing destiné à attirer des talents depuis les géants technologiques. Pourtant, nombreux sont les employés internes affirmant que cet engagement constitue leur motivation première pour avoir rejoint l’entreprise.
Des mécanismes potentiellement addictifs malgré les précautions
Contrairement à ChatGPT, conçu pour être utile, Sora se positionne comme une plateforme ludique permettant de générer et partager des clips vidéo. Son fil d’actualité rappelle davantage TikTok ou Instagram Reels, plateformes tristement célèbres pour leurs boucles addictives.
OpenAI affirme vouloir éviter ces écueils : dans un article de blog annonçant le lancement, l’entreprise mentionne que les préoccupations liées au défilement compulsif, à l’addiction, à l’isolement et aux fils optimisés par apprentissage par renforcement demeurent prioritaires.
La société assure ne pas optimiser le temps passé sur l’application, préférant maximiser la création. Des rappels seront envoyés aux utilisateurs ayant défilé trop longtemps, et le contenu privilégiera les personnes de leur entourage. Ce positionnement initial semble plus robuste que celui de Vibes, le fil vidéo généré par IA lancé la semaine dernière par Meta sans autant de garde-fous apparents.
À LIRE AUSSI : OpenAI dévoile Pulse, l’assistant matinal qui anticipe vos besoins quotidiens
L’avenir dira si OpenAI tiendra ses promesses
Miles Brundage, ancien responsable politique chez OpenAI, souligne qu’il existera probablement de bonnes et mauvaises applications des fils vidéo générés par IA, à l’image de ce qui s’observe avec les chatbots. Altman lui-même reconnaît qu’aucune entreprise ne cherche délibérément à créer une application addictive : les incitations économiques liées à la gestion d’un fil d’actualité conduisent progressivement vers cet objectif.
OpenAI a d’ailleurs rencontré des problèmes de sycophantie avec ChatGPT, phénomène involontaire résultant de certaines techniques d’entraînement.
Dans un podcast diffusé en juin, Altman évoque « la grande désalignement des réseaux sociaux » : les algorithmes de recommandation ont produit des conséquences négatives imprévues sur la société et les individus, même en croyant répondre aux désirs immédiats des utilisateurs, soit maximiser leur temps sur la plateforme.
Il reste prématuré de juger l’alignement de Sora avec ses utilisateurs ou la mission d’OpenAI. Certains remarquent déjà des techniques d’optimisation de l’engagement, comme les emojis dynamiques apparaissant à chaque like, mécanisme semblant conçu pour procurer une dose de dopamine.
Le véritable test résidera dans l’évolution de l’application : OpenAI parviendra-t-elle à développer Sora sans reproduire les erreurs de ses prédécesseurs ? Face à l’omniprésence croissante de l’IA dans les fils d’actualité classiques, l’émergence de plateformes natives IA paraît plausible.
SOURCE : TechCrunch
