Die wohl spürbarste Veränderung im Alltag betrifft die Art und Weise, wie die KI mit Jugendlichen spricht. Um zu verhindern, dass Teenager eine ungesunde emotionale Bindung zu einer Maschine aufbauen, wird ChatGPT in diesem Modus streng darauf achten, seine rein technische Natur zu betonen. Romantische Formulierungen oder das Vortäuschen von menschlichen Gefühlen sind blockiert. Zusätzlich sollen regelmäßige Pausenerinnerungen auf dem Bildschirm dabei helfen, die Zeit vor dem Handy besser zu kontrollieren.
Filter bei sensiblen Themen
Auch bei der Suche nach Informationen greifen neue Sicherheitsmechanismen. Sucht ein Teenager nach potenziell gefährlichen Inhalten – wie extremen Diäten, die mit Essstörungen verknüpft sind, oder Themen zur Selbstverletzung –, liefert die KI keine Anleitungen mehr. Stattdessen blockiert das System diese spezifischen Antworten und blendet automatisch verifizierte Telefonnummern und Links zu offiziellen Krisenberatungen ein. Eine zusätzliche Warnfunktion greift beim Upload von Bildern: Erkennt das System ein Foto als potenziell zu intim oder sensibel, fordert eine Pop-up-Meldung den Nutzer auf, das Absenden noch einmal zu überdenken.
Dass Entwickler und Jugendschützer diese Regeln fordern, liegt an der Realität in den Klassenzimmern und Jugendzimmern. Eine US-Studie des Pew Research Centers untersuchte das Verhalten der 13- bis 17-Jährigen und fand heraus, dass bereits über 60 Prozent von ihnen regelmäßig KI-Chatbots nutzen – primär als Unterstützung für schulische Aufgaben oder zum Zusammenfassen von Texten.
Kritischer wird es im emotionalen Bereich: Eine Untersuchung der RAND Corporation zeigt, dass fast jeder fünfte Jugendliche die Technologie auch bei psychischen Belastungen als Ratgeber heranzieht. Da zwei Drittel dieser Befragten mit niemandem sonst über diese sensiblen Gespräche sprechen, wächst unter Experten die Sorge vor falschen oder gefährlichen Ratschlägen durch unregulierte Algorithmen.
Elternkontrolle vs. Privatsphäre
Der am heftigsten diskutierte Punkt des Updates sind die neuen „Parental Controls“ (Elternkontrollen). Eltern haben die Möglichkeit, ihr eigenes OpenAI-Konto mit dem Account ihres Teenagers zu verknüpfen. Hierbei ist jedoch eine genaue Unterscheidung wichtig: Eltern können feste Ruhezeiten (etwa für die Nachtstunden) einstellen, in denen die KI für das Kind blockiert ist. Sie erhalten außerdem eine Benachrichtigung, falls das System eine Sicherheitswarnung wegen einer kritischen Suchanfrage ausgeben musste. Was die Eltern jedoch ausdrücklich nicht tun können, ist das Mitlesen der alltäglichen Chatverläufe. Die private digitale Konversation der Jugendlichen bleibt somit geschützt.
Am Ende zeigt das Update von OpenAI, wie schwierig der Balanceakt im Netz ist. Die neuen Sperren und Filter bieten ohne Zweifel einen wichtigen Schutzraum vor den Gefahren des Internets. Gleichzeitig stellt sich jedoch die Frage, ob diese technische Regulierung Jugendlichen nicht auch ein Stück weit ihre digitale Selbstbestimmung nimmt. Ob die Teenager-Version ein Erfolg wird oder Jugendliche am Ende einfach auf andere, unzensierte KIs ausweichen, werden die nächsten Monate zeigen.
Kommentare