ChatGPT führt „Trusted Contact“ ein: Neue Sicherheitsfunktion bei Suizid-Risiken
- ChatGPT Trusted Contact: Mit «Trusted Contact» wird eine neue optionale Sicherheitsfunktion in ChatGPT eingeführt, die Personen ab 18 Jahren mit einer Vertrauensperson verbinden soll, wenn Gespräche auf eine ernste Selbstgefährdung hindeuten.
- Foto: dpa
- hochgeladen von Cornelia Bauer
ChatGPT Trusted Contact. ChatGPT führt „Trusted Contact“ ein: Die KI kann bei möglichen Suizid-Hinweisen eine Vertrauensperson informieren. Die Funktion wird schrittweise ausgerollt.
ChatGPT kann künftig eine hinterlegte Vertrauensperson informieren, wenn Gespräche mit der KI deutliche Hinweise auf eine mögliche Suizidgefahr enthalten.
Erwachsene Nutzerinnen und Nutzer ab 18 Jahren können in den Einstellungen eine Person festlegen, der sie vertrauen. Dabei kann es sich etwa um Freunde, Familienmitglieder oder andere Bezugspersonen handeln. Die Funktion wird erst aktiv, wenn diese Person die Einladung ausdrücklich bestätigt hat.
Mehrstufiges Warnsystem bei auffälligen Gesprächen
Erkennt das automatische System in einem Chat mögliche Gefährdungssignale, informiert ChatGPT zunächst die chattende Person darüber, dass eine Benachrichtigung der Vertrauensperson möglich ist. Gleichzeitig wird dazu ermutigt, selbst Kontakt zu dieser Person aufzunehmen.
Wenn weiterhin ernsthafte Sicherheitsbedenken bestehen, übernehmen laut OpenAI speziell geschulte Mitarbeiter. Sie können die hinterlegte Vertrauensperson anschließend per E‑Mail, SMS oder In‑App‑Benachrichtigung informieren. Die Mitteilung enthält jedoch keine Details aus dem Gespräch. Sie weist lediglich darauf hin, dass Unterstützung sinnvoll sein könnte.
Funktion lässt sich jederzeit ändern oder entfernen
Die hinterlegte Vertrauensperson kann jederzeit wieder entfernt oder geändert werden. Auch die eingeladene Person selbst kann die Verbindung beenden.
OpenAI betont zugleich, dass «Trusted Contact» keinen professionellen Notdienst ersetzt. Die Funktion soll lediglich eine zusätzliche Unterstützung sein.
Nach Angaben des Unternehmens enthielten im vergangenen Herbst innerhalb einer Woche rund 0,15 Prozent der ChatGPT‑Gespräche eindeutige Hinweise auf mögliche Suizidabsichten oder entsprechende Planungen. Die neue Funktion soll helfen, in solchen Situationen schneller Unterstützung aus dem persönlichen Umfeld einzubeziehen. dpa/red
Autor:Cornelia Bauer aus Speyer |
|
| Cornelia Bauer auf Facebook | |