Indien: Kinderschutzbehörde zitiert Google wegen KI-Kuss-Apps

Die indische Kinderrechtsbehörde NCPCR hat Google bis Ende Oktober zu einem Gespräch einbestellt. Im Mittelpunkt stehen KI-Apps aus dem Play Store, die „Kiss and Hug“-Videos erzeugen. Sie machen aus Fotos realer Personen intime Videos, ohne die Einwilligung der Abgebildeten zu prüfen, wie MediaNama berichtet^[1].

Am 14. Oktober meldete ThePrint^[2], dass einige dieser Apps im Play Store für Kinder ab drei Jahren freigegeben waren.

NCPCR-Sekretär Sanjeev Sharma kündigte bis Dezember Leitlinien zum Kinder- und Jugendschutz für soziale Medien, Games und KI-Plattformen an. Das sagte er beim Trust and Safety India Festival 2026 in Neu-Delhi.

Die Konsultation mit den Unternehmen habe bereits stattgefunden, so Sharma. Der Text werde „sehr bald“ kommen.

Indiens Regeln setzen beim Hoster an

Die IT (Amendment) Rules, 2026 wurden in Indien am 10. Februar 2026 bekannt gemacht. Sie verpflichten Plattformen, synthetisch erzeugte Inhalte zu kennzeichnen.

Apps, die die Videos nur generieren, bewegen sich nach Lesart von MediaNama weiterhin in einer Grauzone.

Was in dieser Grauzone kursiert, zeigt die Recherche von ThePrint vom 25. August.

• Anzahl: Dutzende solcher Apps bei Google Play in Indien, viele davon in Indien entwickelt.
• Verbreitung: Mehrere Apps kamen auf über eine Million Downloads.
• Kennzeichnung: Die Videos trugen keinen Hinweis darauf, dass sie mit KI erzeugt wurden.
• Daten: Mindestens eine App behielt sich vor, Fotos, Videos und Gerätekennungen an Dritte weiterzugeben.

Die NCPCR-Leitlinien sind vorerst eine Ankündigung. Laut dem Sekretär gibt es einen ungefähren Termin und eine bereits abgeschlossene Konsultation. Text, Geltungsbereich und Folgen bei Verstößen sind nicht bekannt.

Die Behörde nimmt den Store-Betreiber in die Pflicht

Die NCPCR hat Google an den Tisch geholt. Denn die Altersfreigabe, die Eltern neben der App sehen, ist die von Google Play.

Am 15. Oktober war „AI Kiss & Hug Video Maker“ laut MediaNama^[1] mit Altersfreigabe 3+ und mehr als 5.000 Downloads bei Google Play gelistet. Entwickler ist Unikwork Systems, ein Unternehmen aus Surat. Die Store-Beschreibung verspricht, jedes beliebige Foto in ein KI-Video zu verwandeln.

Google hat laut ThePrint einige Apps dieser Kategorie entfernt. Mehrere Apps, die Anfang August noch verfügbar waren, sind aus dem Store verschwunden.

Im Dezember 2025 hatte MediaNama weitere Apps gefunden, die wegen „Sex“ und „sexueller Anspielungen“ mit 13+ und 16+ eingestuft waren.

Googles Richtlinien verbieten bereits Apps, die ohne Einwilligung sexuelle Deepfakes erzeugen. Ebenso untersagt sind Inhalte generativer KI, die auf sexuelle Befriedigung abzielen.

Die NCPCR misst den Store also an seinen eigenen Regeln. Zur Governance wird eine Richtlinie erst, wenn eine namentlich benannte Rolle für ihre Durchsetzung geradesteht. Genau darum geht es beim Governance-Signal aus Indien.

Was Anbieter von KI-Apps in Indien jetzt klären sollten

Unternehmen, die generative KI-Apps in Indien vertreiben, senken ihr Risiko, wenn sie bis Dezember drei Fragen beantworten.

1. Altersfreigabe: Welche Person, mit Namen und Rolle schriftlich festgehalten, zeichnet die Altersfreigabe jeder App ab, die Bilder oder Videos realer Personen erzeugt?
2. Einwilligung: Welchen Nachweis der Einwilligung der abgebildeten Person holt die App ein, bevor sie das Video erstellt?
3. Kennzeichnung: Trägt jedes erzeugte Video den Hinweis auf synthetische Inhalte, den die IT Rules von 2026 von Plattformen verlangen?

Das Risikoregister des Chief Risk Officer braucht einen neuen Eintrag. Intime Inhalte, die aus fremden Fotos erzeugt werden, gehören neben Datenschutz und IT-Sicherheit in die Risikolandkarte.

Die Termine bis Dezember

• 10. Februar 2026: Bekanntmachung der IT (Amendment) Rules, 2026 mit Kennzeichnungspflicht für Plattformen. Rechtsraum: Indien.
• Ende Oktober 2026: Gespräch zwischen NCPCR und Google über die „Kiss and Hug“-Apps. Status: einberufen.
• Bis Dezember 2026: NCPCR-Leitlinien zum Kinder- und Jugendschutz für soziale Medien, Games und KI. Status: angekündigt, Konsultation laut Kommission bereits abgeschlossen.

Als Erstes gilt es, das Ergebnis des Gesprächs Ende Oktober abzuwarten.