Les « quêtes secondaires », comme les appelle OpenAI, ne sont plus en odeur de sainteté. Après avoir annoncé la fermeture de Sora, sa plateforme de génération de vidéos IA, l’entreprise met en pause pour une période indéterminée le développement du mode adulte de ChatGPT. Ce mode avait déjà été reporté à des jours meilleurs début mars, alors qu’il devait être lancé en début d’année comme promis par Sam Altman.
ChatGPT ne parlera pas de sexe (pas tout de suite)
En interne, ce chatbot à caractère sexuel faisait l’objet d’une contestation grandissante — que ce soit chez les employés ou des investisseurs. Le risque étant qu’il encourage les comportements malsains auprès des utilisateurs les plus fragiles, sans oublier l’exposition potentielle des mineurs à des contenus pour le moins problématiques. OpenAI veut désormais mener des recherches de long terme sur les effets de ces conversations sexuellement explicites avant de prendre une décision éclairée, selon le Financial Times.
Par ailleurs, l’entreprise aurait rencontré des difficultés pour entraîner un modèle IA érotique, alors que les précédents modèles évitaient précisément ce genre de conversations pour des raisons de sécurité. L’utilisation de jeux de données incluant des contenus sexuels pose problème, car ils peuvent déboucher sur des comportements illégaux.
Enfin, il se pose aussi la question de l’âge des utilisateurs. OpenAI a développé un système de prédiction de l’âge mais selon une source interne, le taux d’erreur est supérieur à 10 %… La start-up assure que son système est conforme aux standards de l’industrie, mais mieux vaut éviter les balles.
OpenAI a donc décidé de noyer le poisson. L’entreprise s’est engagée sur un recentrage vers les développeurs et les fonctions de productivité à destination des entreprises. Deux domaines bien plus rémunérateurs, mais qui favorisent les produits du rival Anthropic.
Sur le terrain des compagnons érotiques, xAI s’est (évidemment) positionné très tôt, non sans provoquer des polémiques. Le bot Grok est aussi au cœur du cyclone, après avoir permis la génération d’images dénudées sans le consentement des victimes. Autant dire que c’est un panier de crabes qu’OpenAI fait probablement bien de ne pas ouvrir.
👉🏻 Suivez l’actualité tech en temps réel : ajoutez 01net à vos sources sur Google, et abonnez-vous à notre canal WhatsApp.
Source : FT
