Was sollte ich niemals in einen Prompt schreiben?

Warum Zugangsdaten auch dann nicht hineingehören, wenn nicht trainiert wird

Selbst wenn ein Anbieter deine Eingaben nicht zum Training verwendet, verschwinden sie nicht. Sie werden an einen externen Dienst übertragen, dort verarbeitet und je nach Produkt eine Zeit lang gespeichert oder protokolliert. Ein Passwort, das einmal in einem Chatverlauf steht, liegt damit an einer Stelle mehr als vorher. Für API-Schlüssel und Zugangstoken gilt dasselbe.

Das ist der einzige Fall ohne Abwägung. Bei allem anderen lohnt der genauere Blick.

Bei allem anderen entscheidet dein Konto, nicht das Werkzeug

Das wird am häufigsten übersehen. ChatGPT ist keine einheitliche Sache, Copilot auch nicht. Dasselbe Werkzeug verhält sich je nach Kontotyp unterschiedlich, und zwar genau bei der Frage, ob deine Eingaben zum Training der Modelle verwendet werden.

Bei ChatGPT können Eingaben in den Verbraucherplänen Free, Plus, Go und Pro zum Training genutzt werden, abhängig davon ob du widersprochen hast. Für ChatGPT Business, Enterprise, Edu und die Programmierschnittstelle gibt OpenAI an, Eingaben und Ausgaben standardmäßig nicht für das Training zu verwenden.

Bei Microsoft verläuft die Grenze ähnlich. Für Microsoft 365 Copilot und Copilot Chat gibt Microsoft an, dass Eingaben, Antworten und Daten aus Microsoft Graph nicht zum Training der zugrunde liegenden Basismodelle verwendet und nicht an OpenAI weitergegeben werden.

Beim kostenlosen Copilot mit privatem Microsoft-Konto können Gespräche dagegen zum Training genutzt werden. Ausgenommen sind laut Microsoft unter anderem Anmeldungen mit einem Firmenkonto über Entra ID, Copilot in Microsoft-365-Apps mit Personal- oder Family-Abo, nicht angemeldete Nutzung und Personen unter 18 Jahren.

Bei Claude trainiert Anthropic mit Daten aus den Konten Free, Pro und Max, sofern die entsprechende Einstellung aktiviert ist. Für Team, Enterprise und die Programmierschnittstelle ist das standardmäßig nicht der Fall.

Nachsehen kannst du das selbst. In ChatGPT steht die Einstellung unter Profil, dann Einstellungen, dann Datenkontrollen und dort “Das Modell für alle verbessern”. Bei Claude triffst du die Wahl ebenfalls in den Einstellungen, sie wirkt auf neue und fortgesetzte Unterhaltungen. Bei Microsoft hängt es vor allem davon ab, mit welchem Konto du angemeldet bist.

Kein Training bedeutet dabei nicht keine Speicherung. Wie lange ein Anbieter Daten aus Sicherheits- oder Rechtsgründen vorhält, ist eine eigene Frage und unterscheidet sich je nach Produkt. Dass du einen Chat löschst, heißt deshalb nicht automatisch, dass sofort alle serverseitigen Kopien verschwinden.

Warum fremde Texte ein eigenes Risiko sind

Wenn du einen Text aus einer E-Mail, einer Webseite oder einem unbekannten Dokument in einen Prompt kopierst, gibst du nicht nur Inhalt weiter, sondern möglicherweise auch Anweisungen. Die OWASP-Sicherheitsinitiative führt indirekte Prompt Injection als eines der zentralen Risiken für Sprachmodelle. Dabei stecken in externem Material Anweisungen, die das Modell mit ausführt, ohne dass ein Mensch sie überhaupt zu sehen bekommt.

Wichtig wird das vor allem, wenn ein Assistent selbstständig Mails liest, Webseiten aufruft oder Dateien verarbeitet. Prüf in solchen Fällen, was das Werkzeug am Ende tatsächlich getan hat, statt nur das Ergebnis zu lesen.

Drei Fragen vor dem Absenden

Stehen Zugangsdaten im Text? Stehen personenbezogene Daten Dritter darin, etwa Kundendaten, Gesundheits- oder Finanzangaben? Stehen interne Unterlagen darin, die nicht nach außen sollen?

Ist eine davon mit Ja zu beantworten, gehört der Text nur in ein Konto, das dein Arbeitgeber dafür freigegeben hat, und im Zweifel vorher zur IT oder zum Datenschutzbeauftragten. Die Angaben der Anbieter ändern sich erfahrungsgemäß mehrmals im Jahr, gerade an der Grenze zwischen privaten und geschäftlichen Zugängen. Vor einer verbindlichen Entscheidung lohnt der Blick in die aktuellen Datenschutzhinweise.