Die britische Advertising Standards Authority hat am 12. August 2026 eine Facebook-Werbung für Candy AI beanstandet. Der Dienst warb mit einer individualisierbaren „AI girlfriend“. Nutzer sollten Aussehen, Persönlichkeit und Beziehungsart bestimmen können. Besonders problematisch waren für die Behörde Aussagen über Kontrolle, permanente Aufmerksamkeit und uneingeschränkte Verfügbarkeit der virtuellen Partnerin. Die ASA wertete die Darstellung als Objektifizierung von Frauen und als schädliches Geschlechterstereotyp.
Hinter Candy AI steht EverAI Ltd unter der Bezeichnung AI Realities. Der Fall betrifft damit nicht nur klassische Werbung, sondern auch einen wachsenden Markt für KI-Begleiter und generative KI-Dienste. Solche Angebote verbinden Chatbots mit personalisierten Figuren, Sprachfunktionen und teils sehr realistisch wirkenden Bildern. Die ASA setzt mit ihrer Entscheidung eine Grenze bei der Vermarktung solcher Systeme. Eine künstliche Figur schützt Werbung nach Einschätzung der Behörde nicht vor Regeln gegen diskriminierende oder objektifizierende Darstellungen.
ASA sieht in Candy-AI-Werbung ein schädliches Frauenbild
Die beanstandete Anzeige erschien als bezahlte Werbung auf Facebook. Sie zeigte zunächst eine KI-generierte Frau und betonte den hohen Realismus der Darstellung. Danach stellte der Spot die Erstellung einer individuellen KI-Freundin vor. Nutzer konnten unter anderem zwischen realistischer und Anime-Darstellung wählen. Weitere Optionen betrafen Alter, ethnische Merkmale, Augenfarbe, Frisur, Persönlichkeit und die gewünschte Art der Beziehung.
Problematisch wurde aus Sicht der ASA vor allem die sprachliche Inszenierung. Die Werbung versprach eine „perfekte“ KI-Freundin und stellte die Möglichkeit heraus, sie zu kontrollieren. Weitere Aussagen vermittelten permanente Verfügbarkeit, volle Aufmerksamkeit und die Bereitschaft, den Wünschen des Nutzers zu folgen. Die ASA betrachtete diese Aussagen nicht isoliert. Entscheidend war die Kombination aus frei wählbarem Aussehen, steuerbarem Verhalten und ständiger Verfügbarkeit.
| Punkt | ASA-Bewertung |
|---|---|
| Produkt | Candy AI, individualisierbarer KI-Begleiter |
| Werbeplattform | Bezahlte Facebook-Werbung |
| Kernaussage | Kontrollierbare und jederzeit verfügbare KI-Freundin |
| Beschwerde | Objektifizierung und schädliches Geschlechterstereotyp |
| Ergebnis | Beschwerde bestätigt, Anzeige darf so nicht wieder erscheinen |
| Betroffene CAP-Regeln | 1.3, 4.1 und 4.9 |
EverAI widersprach dieser Auslegung. Das Unternehmen erklärte gegenüber der ASA, der Begriff zur Kontrolle habe sich auf die technische Anpassung der KI-Figur bezogen. Nutzer könnten Attribute und Charaktereigenschaften auswählen. Eine Aussage über die Kontrolle realer Frauen sei nicht beabsichtigt gewesen. Auch die gezeigte Figur sollte nach Angaben des Unternehmens keine Unterwürfigkeit propagieren.
Die ASA überzeugte diese Argumentation nicht. Die Formulierung zur Kontrolle stand unmittelbar neben Aussagen über bedingungslose Aufmerksamkeit und ständige Verfügbarkeit. Nach Ansicht der Behörde entstand dadurch ein anderes Gesamtbild. Die virtuelle Partnerin erschien als besonders attraktiv, weil Nutzer ihr Aussehen bestimmen, ihr Verhalten kontrollieren und jederzeit über sie verfügen konnten.
Die Behörde sah darin eine problematische Übertragung auf reale Geschlechterbilder. Die Darstellung präsentiere eine weibliche romantische Partnerin als formbares Produkt für die Wünsche des Nutzers. Ihr Wert werde über Aussehen, Gehorsam, Verfügbarkeit und Befriedigung der Nutzerwünsche definiert. Für die ASA verstärkte die Werbung damit das schädliche Stereotyp einer unterwürfigen Frau ohne eigene Bedürfnisse.
Werbung für KI-Begleiter fällt unter normale Regeln gegen Objektifizierung
Die Entscheidung ist vor allem deshalb relevant, weil die ASA keinen grundsätzlichen Unterschied zwischen einer realen Darstellerin und einer künstlich erzeugten Partnerfigur akzeptiert. Das beworbene Produkt war ein KI-System. Die Werbebotschaft griff aus Sicht der Behörde trotzdem auf gesellschaftliche Vorstellungen über Frauen und Partnerschaften zurück. Deshalb gelten die normalen Regeln zu sozialer Verantwortung, Beleidigung und schädlichen Geschlechterstereotypen.
Die ASA stellte Verstöße gegen drei Bestimmungen des britischen CAP Code fest. Regel 1.3 verlangt gesellschaftlich verantwortliche Werbung. Regel 4.1 untersagt Inhalte mit ernsthaftem oder weit verbreitetem Anstoß. Regel 4.9 verbietet Geschlechterstereotype mit wahrscheinlichem Schadenspotenzial. Die Behörde bewertete die Candy-AI-Anzeige als schädlich, unverantwortlich und geeignet, ernsthaften oder weit verbreiteten Anstoß zu verursachen.
EverAI hat die Werbung nach eigenen Angaben bereits entfernt. Das Unternehmen teilte der Behörde außerdem mit, die beanstandete Aussage zur Kontrolle künftig durch eine Formulierung zur Kontrolle des eigenen Nutzungserlebnisses ersetzen zu wollen. Die ASA verlangt darüber hinaus eine grundsätzlich sozial verantwortliche Gestaltung künftiger Anzeigen. Frauen dürfen nicht durch ein schädliches Geschlechterstereotyp objektifiziert werden.
Der Fall ergänzt eine zunehmende Reihe regulatorischer Grenzen für kommerzielle KI-Produkte. Dabei geht es längst nicht nur um technische Transparenz oder Trainingsdaten. Auch klassische Rechtsbereiche greifen bei KI-Inhalten. Ende Juli untersagte ein Gericht beispielsweise bestimmte Nutzungen geschützter Musik beim KI-Training von Suno. Bei Candy AI steht dagegen die konkrete Werbebotschaft im Zentrum.
Die ASA hat Candy AI selbst nicht verboten. Auch KI-Begleiter oder virtuelle Partnerinnen bleiben durch die Entscheidung nicht grundsätzlich untersagt. Das Verbot betrifft die konkrete Facebook-Werbung in der beanstandeten Form. Für Anbieter solcher Dienste entsteht trotzdem eine klare Vorgabe: Die künstliche Natur einer Figur erlaubt keine Werbung mit problematischen Vorstellungen über Kontrolle, Unterwürfigkeit oder den Wert weiblicher Partnerinnen.