Für die Verhandlung des Metaverse ist bedeutsam, dass generative KI einen immer stärkeren Einfluss auf immersive virtuelle Räume haben wird. Adaptiver und reaktiver Content in solchen Umgebungen wird verstärkt von KIs produziert werden. In diesem Zuge ist ein Szenario denkbar, in welchem KI-Sprachmodelle personalisierte Welten bauen, die Einstellungen der Nutzer*innen im Wesentlichen affirmieren, sie in problematischen Haltungen bestärken und ideologische Cocooning-Effekte forcieren. Die ohnehin niedrige Hemmschwelle im Metaverse tut da ein Übriges. Strukturellen Aspekte von KI-Rassismus werden in immersiven Umgebungen einen exponentiellen Effekt haben: Rassistische Echokammern in virtuellen Welten werden zwangsläufig nach außen leaken, die Gesellschaft prägen – und diese wiederum als Quelle von KI-Content-Generatoren dienen. 

Wie sind die Möglichkeitsbedingungen einer Verwendung von KI in immersiven Umgebungen, die rassismus- und antisemitismussensibel ist? Welche ethischen, gesellschaftlichen, politischen, juristischen Benchmarks müssen für diese Form des automatisierten worldbuilding gesetzt werden? Wie können Rahmenbedingungen in Compliance und Corporate Policy aussehen? Welche Einspruchsmöglichkeiten muss die Gesetzgeber*in haben? Und welche Bedeutung hat dabei das zivilgesellschaftliche Engagement?