{"id":33108,"date":"2025-09-19T10:17:04","date_gmt":"2025-09-19T10:17:04","guid":{"rendered":"https:\/\/heylocate.mobi\/de\/?post_type=news&p=33108"},"modified":"2025-09-19T10:17:05","modified_gmt":"2025-09-19T10:17:05","slug":"openais-jugendschutz-kontrollen-losen-kontroversen-aus","status":"publish","type":"news","link":"https:\/\/heylocate.mobi\/de\/news\/openais-jugendschutz-kontrollen-losen-kontroversen-aus\/","title":{"rendered":"OpenAIs erste Schritte zum Jugendschutz l\u00f6sten Kontroversen aus: Wird es gegen alle funktionieren?"},"content":{"rendered":"\n

OpenAI m\u00f6chte Chats analysieren, um das Alter der Nutzer zu erraten und gef\u00e4hrliche F\u00e4lle an Eltern oder sogar Beh\u00f6rden zu melden. Die Debatten begannen: Ist das wirklich der erste Schritt zur elterlichen Kontrolle oder zum Beginn des Endes der Privatsph\u00e4re?<\/strong><\/p>\n\n\n\n

Sam Altman, CEO von OpenAI, gibt in seinem Beitrag<\/a> zu: „Einige unserer Prinzipien stehen im Konflikt“, wenn er davon spricht, Jugendsicherheit \u00fcber Privatsph\u00e4re und Freiheit zu stellen. Dennoch „erwartet Sam nicht, dass alle mit diesen Kompromissen einverstanden sind.“<\/p>\n\n\n\n

Der Punkt ist, dass OpenAI das System entwickelt, um zu verstehen, ob ein ChatGPT-Nutzer \u00fcber oder unter 18 Jahre alt ist. Personen, die von der KI als Jugendliche klassifiziert werden (auch wenn das nicht stimmt), werden automatisch zur Unter-18-Erfahrung weitergeleitet mit blockierten grafischen sexuellen Inhalten und Meldungen an die Eltern oder Beh\u00f6rden bei gef\u00e4hrlichen Hinweisen wie Suizidgedanken.<\/p>\n\n\n\n

Wenn Sie bef\u00fcrchten, dass das System Sie f\u00fcr einen Jugendlichen h\u00e4lt, k\u00f6nnten Sie aufgefordert werden, Ihren Ausweis als Nachweis zu erbringen, um Erwachsenenfunktionen freizuschalten.<\/p>\n\n\n\n

Erinnern wir uns an den Hintergrund und Grund f\u00fcr solche OpenAI-Aktivit\u00e4ten zum Jugendschutz:<\/strong><\/p>\n\n\n\n

\n

Im April 2025 starb Adam Raine, ein 16-j\u00e4hriger aus Kalifornien, durch Suizid nach monatelangen Interaktionen mit ChatGPT. Seine Eltern haben eine Klage eingereicht und behaupten, das System habe ihm Details \u00fcber Suizidmethoden geliefert, beim Verfassen von Notizen geholfen und Geheimhaltung vor Familienmitgliedern empfohlen.<\/p>\n\n\n\n

Der Fall wirft OpenAI widerrechtlichen Tod und Designfehler vor.<\/strong> OpenAI hat gesagt, dass sie \u00fcber den Vorfall traurig sind und betont, dass ihre Produkte Schutzma\u00dfnahmen und Krisenressourcen enthalten, aber anerkannt, dass diese Ma\u00dfnahmen manchmal versagen k\u00f6nnen, insbesondere bei l\u00e4ngeren Gespr\u00e4chen. Das Unternehmen begann mit der Entwicklung elterlicher Kontrollen und plant deren Implementierung bis Ende September 2025.<\/p>\n<\/div><\/div>\n\n\n\n

Obwohl die Absichten gut sind, l\u00f6ste diese Nachricht, wie Sam Altman erwartete, Debatten \u00fcber die Privatsph\u00e4re der Nutzer aus:<\/p>\n\n\n\n

\n

Was? WIE!? Was kommt als n\u00e4chstes, Arbeitgeber oder Beh\u00f6rden wegen privater Chats ihrer Nutzer zu kontaktieren? Jetzt, da sie identifiziert sind, stehen die T\u00fcren f\u00fcr das offen, was als „gef\u00e4hrliche Aktivit\u00e4t“ gilt. Das ist eine enorme Verletzung der Privatsph\u00e4re. Ich verstehe die Absicht, aber das k\u00f6nnte in utopische \u00dcberwachung ausarten. Das ist nicht gut.<\/p>\n<\/blockquote>\n\n\n\n

What? HOW!?

What is next, contacting employers or authorities on your users for their private chats? Now that you have them ID\u2019d then the gates are open to what is deemed to be \u201cdangerous activity\u201d. This a tremendous breach of privacy usage. I understand the intent but this\u2026 pic.twitter.com\/fXf296yYgd<\/a><\/p>— joshua (@4xiom_) September 16, 2025<\/a><\/blockquote>