Midjourney V6 NSFW: plus de modération contre plus de vice 🔞

La version 6 sortie depuis maintenant un mois est arrivée avec son lot de surprises. Beaucoup d’utilisateurs me font remarquer qu’ils ont régulièrement des photos NSFW de nues sans avoir rien suggéré ou demandé de tel. Chose que j’ai aussi moi même constaté dans mon utilisation au quotidien.

Pourtant lors de la note de version il était question d’un système de modération plus stricte avec une rigueur accrue. Je vous montre dans la deuxième partie de l’article une multitude de prompts qui permettent de contourner ces règles.

Nous avons mis en place des systèmes de modération et nous appliquerons nos normes communautaires plus strictes avec une rigueur accrues. Ne soyez pas un imbécile ou créer des images pour provoquer des drames

Comme expliquer dans l’office hours du 10 janvier, la mise à jour du 6 janvier a permis de « réduire les contenus explicites involontaires ».

Alors pourquoi nous retrouvons nous avec plus de contenu dit NSFW qu’avant. NSFW signifie que c’est du contenu Not Safe For Work, c’est à dire des images qu’il ne convient pas d’ouvrir lorsque nous sommes sur notre lieu de travail. En d’autres termes du contenu indécent, vulgaire, à caractère sexuel, haineux, raciste ou violent.

La raison semble relativement simple, le modèle v6 de Midjourney est entrainé sur un panel plus large d’images et donc une modération plus difficile à appliquer, ce qui expliquerait qu’ils l’aient aussi voulue plus stricte.

Voici le genre de modérations auxquelles on est confronté lorsque l’on utilise midjourney:

• d’abord textuelle, il s’agit d’interdire certains mots ou certaines associations de mots, effectivement cette modération est parfois un peu stricte, mais elle évite que le bot ne s’emballe et aille trop loin.
• il y a ensuite une certaine forme légère de censure au niveau de la génération d’image elle même, vous remarquez que les parties génitales ou les tétons sont souvent mal formés, flous, ou inexistants.
• enfin le dernier type de modération vient lui de discord en premier lieu, lorsque vous voulez faire de l’image prompting, il est parfois impossible d’uploader une image, ceci n’est pas du ressort de midjourney mais de discord directement. Cependant ce filtre peut être désactiver pour peu que vous soyez dans un salon soumis à une limite d’âge. Attention cela ne veut pas dire que le bot va accepter n’importe quelle image tout de même.

Pour information David Holz a évoqué à plusieurs reprises la possibilité à terme de générer des images aujourd’hui non autorisées (avec par exemple un contrôle d’identité préalable).

Et comme vous êtes de coquins petits curieux (ou que vous avez un ami qui l’est et qui voulait voir ce qu’était le contenu NSFW sur Midjourney…), je vous présente un échantillon de tout ce que l’on peut trouver sur la galerie publique de Midjourney.

Alors rassurez vous on est loin du genre de contenu que l’on peut voir sur stable diffusion, tout cela reste relativement soft, mais il vous faut quand même éloigner les enfants de l’écran avant de défiler plus bas dans l’article.