KI‑Influencer sind vom Kuriosum zur Alltagsware geworden – mit wachsenden Risiken für Desinformation, Betrug und Repräsentation.
In Kürze
- Massenproduktion erzeugt viel minderwertigen „AI slop“ und Missbrauch
- Tools von Google bis ElevenLabs machen Avatare schnell und günstig
- Plattformen fördern Engagement, regulieren Account‑Identität aber kaum
Virtuelle Influencer sind längst kein Nischenphänomen mehr. Was als auffällige Einzelprojekte begann — auffällige Avatare wie Lil Miquela, Imma oder Shudu Gram, die klar digital wirkten — hat sich in eine Flut nahezu beliebiger KI‑Generierungen verwandelt. Aus kuratierten Kunstprojekten wurden Massenproduktionen, mit allen Nebenwirkungen, die man sich vorstellen kann.
Wie alles anfing
Die ersten digitalen Stars waren bewusst als künstlich erkennbar und aufwendig produziert. Später folgten Figuren wie Emily Pellegrini oder Aitana Lopez, deren Macher:innen deutlich professioneller arbeiteten und die realistischer wirkten. Manche Avatare stammen aus Agenturen wie The Clueless, andere kommen von Einzelpersonen, die inzwischen sogar Kurse verkaufen — Stichwort „Professor EP“.
Aus Kuriosum wurde Alltagscontent
Der Überraschungseffekt ist weg: „AI slop“ — die Flut an generischem, oft minderwertigem KI‑Content — ist Teil des Feeds. KI‑Influencer tauchen inzwischen in allen möglichen Rollen auf:
- als Verkäufer minderwertiger Produkte,
- als Verbreiter von Desinformation oder extremistischen Inhalten,
- als Instrumente für Betrug,
- in sexualisierten Nischen,
- als Nachahmer klassischer Influencer‑Formate.
Viele Accounts bleiben unscheinbar und entziehen sich offiziellen Statistiken; die Plattformen legen kaum Zahlen zu gefälschten oder synthetischen Konten vor.
Warum das so schnell ging
Die technische Hürde ist gefallen. Bilder, Stimmen und Bewegungen lassen sich heute deutlich glaubwürdiger und günstiger erzeugen als noch vor wenigen Jahren. Große KI‑Anbieter wie Google oder OpenAI existieren neben spezialisierten Firmen wie Higgsfield, HeyGen oder ElevenLabs — zusammen ermöglichen sie es fast jedem, binnen kurzer Zeit überzeugende Avatare zu bauen.
Wie Plattformen reagieren — und was sie übersehen
Soziale Netzwerke haben zwar Regeln für synthetische Medien und verlangen teilweise Kennzeichnungen. In der Praxis adressieren diese Regeln aber meist einzelne Beiträge (etwa bei Spam, Betrug oder problematischen Inhalten) statt die Grundfrage, ob hinter einem Account überhaupt eine echte Person steht. Parallel fördern viele Plattformen KI‑Tools, weil sie Engagement bringen — und oft reicht das Engagement, damit Eingreifen ausbleibt.
Wirtschaftliche Dimensionen
Marktprognosen sprechen von einem Wachstum des KI‑Influencer‑Marktes von rund 12 Milliarden Dollar heute auf über 60 Milliarden Dollar bis 2030. Es gibt Agenturen, Preise, Kurse — ein wirtschaftlicher Auftrieb, der an einen Goldrausch erinnert. Gleichzeitig ist offen, wie nachhaltig das Modell ist: Plattformen brauchen echte Menschen, damit „social“ Sinn ergibt. Wenden sich Nutzer:innen ab, könnte das Ökosystem an Attraktivität verlieren. Regulatorisch ist Bewegung in Sicht: Das EU‑KI‑Gesetz (AI Act) soll künftig Kennzeichnungspflichten für KI‑generierte Inhalte bringen — aber auch dieses Gesetz richtet sich stärker an Inhalte als an die Frage der Identität von Accounts.
Konkrete Risiken und Fallbeispiele
- Die Problemlage ist real: Es gibt nicht einvernehmliche Deepfakes — etwa im sexualisierten Bereich, genannt werden Werkzeuge wie Grok —
- politisch aufgeladene Fake‑Figuren wie den erfundenen rechtsextremen Rapper „Danny Bones“,
- ein weiterer Missbrauchsfall ist das sogenannte „AI Pimping“, bei dem Inhalte realer Creator:innen von KI‑Avataren monetarisiert werden,
- auch repräsentative Fragen treten auf: Avatare wie Shudu Gram wurden von einem weißen Mann erschaffen, repräsentieren aber eine schwarze Identität — solche Fälle werfen ethische Fragen auf.
Wer trägt die Verantwortung?
Die Debatte bleibt offen. Autor:innen und Expert:innen sehen eine mögliche „Abrechnung“ vor sich: Nutzerunmut, regulatorischer Druck und das Risiko, dass soziale Netzwerke unter der Masse künstlicher Accounts leiden. Bis dahin liegt viel Verantwortung bei den Plattformen — und kurzfristig auch bei dir und anderen Nutzer:innen:
- Profile melden,
- kritisch bleiben,
- oder Plattformen meiden sind derzeit die Mittel, mit denen Nutzer:innen reagieren können.
Quellen
- Quelle: Social media platforms
- Der ursprüngliche Artikel wurde hier veröffentlicht
- Dieser Artikel wurde im Podcast KI-Briefing-Daily behandelt. Die Folge kannst du hier anhören.
