doktorandenforum.de

Hallo,

ich promoviere an einer deutschen Uni in den Gesellschaftswissenschaften. Ich befinde mich aktuell in den letzten Überarbeitungsschritten vor der Abgabe.

Ich habe in den letzten 2 Monaten sehr viel sprachliche Überarbeitungen an meinen Kapiteln mit ChatGPT vorgenommen. Dabei habe ich übersehen, die Einstellung zu deaktivieren, dass meine Daten nicht als Traningsdaten verwendet werden.

Ja, das war schlicht gesagt "dumm". Ich habe dadurch meine jahrelange Forschung und meine wissenschaftliche Integrität gefährdet. Ich war in einer Art "Arbeitsgedankentunnel" und habe meine Hilfsmittel nicht reflektiert. Das soll mein Handeln nicht entschuldigen, nur erklären, warum ich jetzt erst auf die kritischen Gedanken gekommen bin.

Meine Uni ist noch dabei, klare Vorgaben zum Thema KI-Nutzung zu erarbeiten. Aktuell gibt es nur Verweise auf die Richtlinien der DFG, die sprachliche Überarbeitungen durch KI nicht Kennzeichnungspflichtig machen, solange der wissenschaftliche Inhalt nicht gefährdet ist (https://wissenschaftliche-integritaet.d ... r-modelle/) Der Zusammenhang zwischen sprachlicher Gestalt und wissenschaftlichem Inhalt ist in den Gesellschaftswissenschaften natürlich enger, als in den Naturwissenschaften.

Gerne darf ich für mein unreflektiertes und "dummes" Verhalten entsprechende Kommentare bekommen. Ich würde mich aber auch freuen, wenn ich Input zu den folgenden drei Fragefeldern erhalte:

1. Ich habe meinen ChatGPT Account sowie alle Daten heute zur Löschung beantragt. Ich hoffe, dass so zumindest ein Teil der Daten aus den letzten vier Wochen, in denen ich intensiv überarbeitet habe, nicht in die Trainingsmodelle kommt. Ich habe vor allem Überarbeitungen an zwei Kapiteln vorgenommen, ein zwei weiteren nur in ganz wenigen Passagen und an einem nicht. Ich habe nur Fließtext zur Überarbeitung eingegeben, alle Fußnoten und Datenmaterialien habe ich extern gehalten und natürlich vorrätig.
Ich schriebe zu einem Expertenthema, zu dem nur ein kleiner Kreis forscht.
In etwa 2 Monaten möchte ich abgeben, danach kommt die Disputation und die anschließende Veröffentlichung kann maximal zwei Jahre später sein. Wie hoch ist die Wahrscheinlichkeit, dass bis dahin eine Veröffentlichung kommt, die meine Gedanken/Argumente aus dem KI-Traningsmodell nutzt? Vielleicht ist das eine etwas technische Frage, aber es beschäftigt mehr sehr.

2. Meine Kollegin riet mir, dass ich meine sprachlichen Überarbeitungen mit KI nicht kennzeichnen soll. Da es aktuell keine klaren Vorgaben, sondern nur in die Zukunft gerichtete Leitideen gibt, ist KI-Nutzung nicht per se Tabu aber es gibt auch keine Vorgaben, wie Kennzeichnung und Dokumentation auszusehen hat. Wenn ich meine Nutzung angebe, ist es sehr gut möglich, dass unsere (sehr genaue) Promotionsgeschäftsstelle eine längere Prüfung ansetzt und alles um Monate verzögert (ich bin bald auf einer neuen Stelle) oder eine Dokumentationsform verlangt, die ich nicht vorrätig habe und im Nachhinhein auch nicht mehr erstellen kann. Ich habe eine Tabelle nach diesen Empfehlungen: https://www.ulb.tu-darmstadt.de/forsche ... dex.de.jsp (ohne Seitenangaben aber mit Kapitelauflistung).
Selbstverständlich werde ich mein genaues Vorgehen mit meinem Betreuenden abstimmen.

3. Gibt es weitere relevante Punkte, die aus meinem falschen Umgang mit KI resultieren? Irgendetwas, das ich noch nicht auf dem Schirm habe? Ich danke sehr für alle Punkte, die ich übersehen habe könnte.

Hallo,
das ist ja ein ärgerliches und natürlich auch topaktuelles Thema.
Zu dem KI-Thema kann ich momentan leider nicht wirklich viel beitragen, nur den Hinweis zu Deinem Löschungsantrag:

IchHabeFehlerGemacht hat geschrieben: 23.02.2026, 23:20 1. Ich habe meinen ChatGPT Account sowie alle Daten heute zur Löschung beantragt. Ich hoffe, dass so zumindest ein Teil der Daten aus den letzten vier Wochen, in denen ich intensiv überarbeitet habe, nicht in die Trainingsmodelle kommt.

Das würd ich mir noch einmal sehr genau anschauen, weil ich das Problem aus diesem Forum kenne: Nach einer Löschung hast Du selbst überhaupt keinen Zugang mehr zu Deinen Daten und Eingaben, und wenn der Antrag korrekt umgesetzt wird, hat sie möglicherweise auch der Anbieter dann nicht mehr, weil sie nach der Löschung wirklich weg sind.
Das würde ich daher nur machen, wenn Du ganz sicher bist, damit Dein Ziel - Ausschluß einer unerwünschten Verwendung - erreichen zu können und nicht nur auf Verdacht. Kam hier im Forum auch schon öfter vor und ist dann auch für den Betreiber blöd.
Hast Du mal versucht, bei ChatGPT die über Dich gespeicherten Benutzerdaten nach DSGVO nachzufragen? Evtl. sind darin ja auch die Überarbeitungen enthalten, die Du ohne weiteres nicht mehr selbst "zusammenbekommst".
Ich drücke die Daumen!

Sebastian

Hallo,

ich danke für die verständnisvolle Rückmeldung.

Dazu zwei Punkte:

- Ich habe alle Chats vor der Löschung lokal auf meinem PC gespeichert und kann deswegen die Daten auch jetzt, nach vollzogener Löschung, noch darauf zugreifen. Zielte die Frage darauf ab oder habe ich etwas übersehen?

- Ich habe tatsächlich eine Anfrage nach DSGVO gestartet, um zumindest den Zeitpunkt zu ermitteln, bis zu dem meine Daten in ihre Trainigsmodelle eingeflossen sind. Für meine naives Vorgehen in der Sache habe ich auch bereits entsprechende Kritik in Fachforen eingesteckt. Von Open AI kamen bislang nur nichtssagende Bausteinantworten.

Guten Morgen,

zuerst einmal: Wer noch nie einen unbedachten Fehler gemacht hat, werfe den ersten Stein! JEDER von uns hat schon mal einen "dummen" Fehler gemacht, deshalb sehe ich hier keinen Anlass zu Häme und Spott.

Grundsätzlich sehe ich das Problem darin, dass die Anbieter der LLM, so auch OpenAI gar nicht konkret offenlegen, welche Daten als Trainingsdaten verwendet werden. Es gibt ja auch diverse Beweise dafür (Liedtexte, illegal hochgeladene Bücher usw.), dass ChatGPT sich auch aus Quellen bedient, die explizit illegal sind und eigentlich nicht angezapft werden dürften. Und dann ist es wie mit dem Internet grundsätzlich: Was einmal drin ist, ist drin. Es ist aus meiner Sicht eigentlich technisch nicht möglich, zu garantieren, dass Inhalte, die mal eingeflossen sind, wieder rausgelöscht werden. Das ist dann auch gar kein böser Wille vom Anbieter, aber es ist schlicht technisch nicht möglich, weil die Systeme so komplex sind. Als Einzelperson hast du auch schlichtweg gar keine Lobby, sowas durch zu drücken (da sind schon größere Interessenverbände gescheitert).

M.E. ergeben sich hier ohnehin zwei verschiedene Themen:

1) Deine Daten in den Trainingsdaten von ChatGPT und deren Verwendung durch Dritte
S.o. Ich glaube leider, dass der Zug abgefahren ist. Wie umfangreich waren denn die Passagen/Textteile, die du eingespielt hast (ganze Kapitel oder nur Teile)? Darauf basierend würde ich das Risiko bewerten. Hast du ein gutes Verhältnis zu deinem Doktorvater und hat er einen Blick für sowas? Dann würde ich das mit ihm besprechen.
2) Umgang mit ChatGPT zur sprachlichen Überarbeitung und Akzeptanz deiner Uni für dieses Vorgehen
Hier sehe ich nach deinen Schilderungen ein kleineres Risiko. Wenn es ohnehin noch keine Vorgaben gibt, dann hast du auch gegen keine verstoßen. Und der Empfehlung der DFG folgst du ja auch.

Erneut danke ich für die verständnisvolle Rückmeldung.

Das Risiko gestaltet sich wie folgt: Ich habe nie ganze Kapitel eingegeben, in den letzten Monaten aber sehr viele Auszüge (Sätze, Absätze, mehrere Absätze). Ich habe fünf Kapitel, von denen ich so eines fast in Gänze, bei einem weniger als 50% und bei zwei weiteren Auszüge in geringerem Umfang eingestellt habe. Das ist natürlich viel, aber eben immer zerstückelt und zum Teil in Fassungen, die ich bereits lange überholt habe.

Mein Betreuer rät mir, keine Kennzeichnung vorzunehmen, sondern einzureichen und danach so schnell wie möglich zu publizieren. Ich bin mir nicht sicher, wie ich das einordnen soll, vertraue da aber sehr auf sein Urteil.