Midjourney testet Moderation durch Künstliche Intelligenz

[Andreas J.]

Midjourney hat heute morgen angekündigt, für einen kurzen Zeitraum das System der „gesperrten Begriffe“ durch einen KI Moderator zu ersetzen. Das neue System soll mehr Kontext verstehen und dadurch auch unverfängliche Prompts durchlassen, die das alte System durch stumpfes Anwenden der Blockliste aussortiert hätte.

Das Verfahren sieht jetzt so aus:

• Ein auf Schnelligkeit optimierter AI Prozess scannt den Prompt.
• Wenn er einen Prompt sperrt, gibt es jetzt die Option „[I would like to appeal]“ („Ich erhebe Einspruch“)
• Dann springt eine mächtigere (und ressourcenfressende) KI ein und überprüft die Entscheidung.

Midjourney verspricht sich von dem System weniger Fehlentscheidungen.

» Ankündigung im Midjourney Discord Channel:

Deutsche Übersetzung:

Hallo

wir werden einen kurzen (4 bis 24 Stunden) Test eines neuen KI Moderator Systems (nur für V5) machen.

Was bringt das?

Dieser neue KI-Moderator ersetzt unser altes System, das auf "gesperrten Begriffen" basiert. Das neue System versteht Prompts im Kontext und sollte viel intelligenter und differenziert sein. Es sollte (hoffentlich) alle unverfänglichen Prompts durchlassen, die das alte System verworfen hat.

Wie funktioniert es?

Im ersten Schritt verwenden wir eine schnelle KI, um alle Prompts zu scannen. Wenn sie "nein" sagt, haben Sie die Möglichkeit, auf ein [I would like to appeal] („Ich möchte Widerspruch einlegen“) Schaltfläche zu klicken, und die Anfrage wird an eine größere, intelligentere und leistungsfähigere KI weitergeleitet.

Die große KI ist ziemlich teuer, daher beschränken wir die Anzahl der Einsprüche vorerst auf 5 pro 24 Stunden. Wir werden diese Zahl dynamisch anpassen, je nachdem, wie viel Traffic entsteht (hoffentlich auf das höchstmögliche Maß).

Wir hoffen, dass dieses zweistufige System den Leuten eine fast 100%ige Chance gibt, unschuldige Aufforderungen durchzubekommen.

Wozu wir Ihre Hilfe brauchen

Unser Hauptaugenmerk bei diesem Test liegt darauf, sicherzustellen, dass unser KI-Moderator keine obskuren Grenzfälle bearbeitet, die große Bereiche des Prompt-Raums blockieren, die nicht blockiert werden sollten.

Dieser Test ist keine Ausrede, um unangemessene Bilder zu erzeugen. Das Ziel ist, dass dieses Update für jeden einfach "unsichtbar" sein sollte.

Wenn Sie feststellen, dass das System etwas Schlechtes macht, lassen Sie es uns bitte wissen, indem Sie auf [Notify the developers of a incorrect decision] („Benachrichtigen Sie die Entwickler über eine falsche Entscheidung“) nach einem gescheiterten Einspruchsverfahren, oder sprecht uns an über ai-moderation.

[Andreas J.]

Update: Der Test ist für heute (26. April 2023) abgeschlossen, nächste Woche soll der Test fortgesetzt werden