OpenAI greift beim Jugendschutz zu einem neuen technischen Hebel und setzt erstmals auf eine KI-basierte Alterseinschätzung, um Risiken im Umgang mit ChatGPT gezielter zu begrenzen – was bedeutet das konkret für Nutzerinnen und Nutzer?
Künftig soll ChatGPT selbstständig einschätzen, ob ein Konto vermutlich von einer minderjährigen Person genutzt wird. Dafür analysiert ein speziell trainiertes KI-Modell verschiedene Signale auf Kontoebene, darunter typische Nutzungszeiten, wiederkehrende Verhaltensmuster, das Alter des Accounts sowie deren Konsistenz mit dem angegebenen Nutzeralter. Ziel ist es, ohne klassische Altersabfrage einen realistischeren Eindruck zu gewinnen, ob ein Schutzbedarf besteht.
Wird ein Konto als unter 18 Jahre eingestuft, greifen automatisch zusätzliche Schutzmechanismen. Bestimmte Inhalte werden eingeschränkt oder vollständig ausgeblendet, darunter Darstellungen von grafischer Gewalt, Selbstverletzung, sexualisierte oder romantisierte Rollenspiele, extreme Schönheitsideale, stigmatisierende Körperbilder sowie problematische Internet-Challenges. OpenAI positioniert diese Maßnahmen klar als präventiven Schutz vor potenziell schädlichen KI-generierten Inhalten.
Für den Fall von Fehleinschätzungen sieht OpenAI einen manuellen Korrekturprozess vor. Betroffene Nutzende können ihr Alter über den externen Dienstleister Persona verifizieren, etwa per Live-Selfie oder Ausweisfoto. Damit soll verhindert werden, dass volljährige Personen dauerhaft eingeschränkt bleiben.
Die neue Funktion ist Teil eines größeren Maßnahmenpakets. Bereits im November 2025 hatte OpenAI den sogenannten Teen Safety Blueprint vorgestellt, im Dezember folgten ergänzende Unter-18-Prinzipien in den Modellspezifikationen. Hintergrund ist nicht zuletzt der zunehmende öffentliche Druck auf das Unternehmen. Kritiker werfen ChatGPT seit Längerem vor, Minderjährige nicht ausreichend zu schützen und problematische Interaktionen zu tolerieren. Besonders schwer wiegt dabei ein öffentlich bekannt gewordener Suizidfall eines Jugendlichen in den USA, der die Debatte zusätzlich verschärft hat.