Sicherheitslücke bei Dall-E 3
Sicherheitskonzept von KI-Bildgenerator in ChatGPT geleakt.

Der KI-Bildgenerator Dall-E 3 von OpenAI verfügt über ein eingebautes Sicherheitskonzept, das sich auf einige detailliert formulierte ChatGPT-Eingabeaufforderungen beschränkt.

Am 26. Oktober 2023 zeigten KI-Forscher in einem Blogbeitrag, dass diese Grenzen des Systems umgangen werden können, was potenziell zu mehr Fähigkeiten führen könnte.

Gelingt es also etwa durch eine gezielte Prompt Injection oder Ähnliches, die vom Entwickler definierten Grenzen zu umgehen, könnte Dall-E zu viel mehr fähig sein, als dies Nutzern bisher erlaubt ist.