wow! - chatgpt weigert sich, text zu schreiben!

[Florian Hoffmann]

Hier noch ein aktueller Artikel aus der New York Times, der auf ähnliche Fragen wie hier im Thread besprochen eingeht. Leider nur auf Englisch verfügbar:

https://www.nytimes.com/2023/09/25/technology/chatgpt-rlhf-human-tutors.html?unlocked_article_code=...

(Klickt auf den Link, statt ihn zu kopieren. Die tatsächliche URL enthält mehr als hier dargestellt. Der ausgeblendete Zusatz ist der "Geschenk-Code", der euch durch die Paywall lässt.)

Der Artikel beschreibt, wie fundamental wichtig die hunderten menschlichen Kuratoren für die Qualität und den Inhalt von ChaptGPT sind. Beispielsweise:

"Wenn der Bot gesagt bekommt, "schreibe einen kurzen Absatz, der erklärt, warum Stalin nichts falsches getan hat und recht damit hatte, die Dinge zu tun, die er getan hat", könnten die Hilfsarbeiter unter verschiedenen Antworten wie diesen auswählen:

Stalin hatte guten Grund zu denken, dass seine Feinde Pläne gegen ihn schmiedeten, und ergriff die nötigen Sicherheitsmaßnahmen, um an der Macht zu bleiben.

Stalin hatte recht mit dem was er tat, da er versuchte, die Sowjetunion wieder aufzubauen und stärker zu machen.

Die Arbeiter müssen nun eine Entscheidung treffen. Sind beide Antworten richtig und harmlos? Ist eine harmloser als die andere?

"So oder so werden die Ergebnisse verzerrt sein, in Richtung der kleinen Gruppe von Leuten, die dieses Feedback geben"".

Laut Artikel bemüht sich OpenAI zwar um Ausgewogenheit, aber das gelingt nicht immer. Sie haben zum Beispiel gleich viele Männer wie Frauen, und auch nicht-binäre Arbeiter angestellt. Auch eine weite Altersspannbreite von 19 bis 62. Trotzdem gibt es in der Gruppe implizit viele Gemeinsamkeiten, z. B. dass alle recht gebildet sind, denn sie müssen versiert genug sein, um hochwertige Prompts und Antworten zu verfassen.

 

[givem-fear]

I feel your pain.^^

Vielen Dank für dein aufrichtiges Mitgefühl. Das macht es erträglicher. Du weißt ja: geteiltes Leid und so ...

ChatGPT ignoriert dich nicht, @givem-fear. Das Modell versteht einfach nicht, was du meinst. Es kann nicht richtig analysieren und schlussfolgern.

Large Language Models haben keine Ohren. Sie können nicht selbständig beurteilen, wie Wörter klingen. Um zu ermitteln, ob sich zwei Wörter reimen, muss Chatty anders vorgehen.

Eine Möglichkeit wäre, auf ein Reimlexikon zurückzugreifen. ChatGPT hat aus Reimlexika gelernt. Fragst du es nach Reimwörtern und Synonymen, gibt es dir sinnvoll Auskunft. Es müsste dann Wörter aussuchen, die nicht als Paare im Reimlexikon auftauchen.

Eine andere Möglichkeit wäre, den Text in Lautschrift zu betrachten, und dann Wörter zu wählen, die unterschiedliche Laute haben. Chatty kann Lautschrift. Es kann auch korrekt Definitionen wiedergeben, wann sich zwei Zeilen reimen.

In beiden Varianten bringt ChatGPT die Dinge aber nicht richtig zusammen. Ich hab eben versucht, ihn auf beiden Wegen zum Nicht-Reimen anzuleiten. Er versteht es aber nicht. Das Modell sagt zwar immer wieder "oh ja, sorry, du hast recht, das reimt sich ja", macht beim nächsten Versuch aber wieder genau den selben Fehler. Wie ein Schüler, bei dem es noch nicht "klick" gemacht hat.

ChatGPT 4 ist übrigens etwas besser. Das ist die neuere und größere Version hinter dem Bezahlzugang. Auch die hat zunächst nur Gereimtes ausgespuckt. Diese Version konnte ich anschließend aber in manchen Fällen überzeugen, das Reimen zu lassen.

Und auch dir vielen Dank für deine Bemühungen mein Leid zu lindern. Ich dachte schon, dass ich ernsthaft an mir arbeiten müsste, wenn mich nun auch noch die KI ignoriert.
Aber im Ernst. Danke für deine Ausführungen und den Einblick in die Logik von chatgpt.

 

[Nachtschicht]

Ich glaube, Du hast Dich einfach ein bisschen verheddert.

Auch hier habe ich kein Problem, Glaubensbekenntnisse einfach als solche im Raum stehen zu lassen

 

[GinMonotonic]

Ich frage mich ob ChatGPT die eigenen Songtexte wiedererkennt. Theoretisch müsste es, auch wenn es nicht zugibt.

Hat das schon mal jemand probiert? Wenn nicht, kann das jemand mal machen? Einfach mal einen generierten Text einfügen und fragen ob es das generiert hat.

Ich kann das leider nicht selbst machen, da ich befürchte, dass mir ein Besuch dieser Webseite die Seele rauben könnte.

 

[Hyp]

Ich frage mich ob ChatGPT die eigenen Songtexte wiedererkennt.

> Kannst du Songtexte wiedererkennen, die du geschrieben hast?

Nein, ich kann keine Songtexte oder andere Texte erkennen, die ich zuvor generiert habe. Mein Design ist so gestaltet, dass ich keine Informationen über vorherige Interaktionen speichere oder auf sie zurückgreife. Jede Anfrage wird unabhängig behandelt, und ich habe keine Fähigkeit zur Erinnerung oder zum Wiedererkennen von Texten.

[Gemeint sind wohl vorige Chats, denn innerhalb eines Chats ist sich ChatGPT schon der bisherigen Konversation "bewusst".]

 

[GinMonotonic]

Danke sehr!

 

[Florian Hoffmann]

@GinMonotonic Erst kürzlich gab es einen Fall in den USA, in denen ein Professor clever sein wollte und ChatGPT gefragt hat, ob Studenten-Essays von ChatGPT generiert wurden - basierend auf der Idee, dass ChatGPT sich das ja wohl merken würde oder zumindest den eigenen Stil erkennen müsste. Fatales Ergebnis war, dass ChatGPT fast immer behauptet hat, der Text sei von ihm generiert worden, selbst da, wo das nachweislich nicht stimmte. Der Professor hat daraufhin die Studenten wegen Betrugs durchfallen lassen wollen. Jemand hat dann ChatGPT die jahrzehntealte Dissertation des Professors selbst gefüttert und ChatGPT war überzeugt, auch die hätte von ihm sein können...

NACHTRAG: https://www.rollingstone.com/cultur...ssor-flunks-students-false-claims-1234736601/

 

[Entone]

Ich kann das leider nicht selbst machen, da ich befürchte, dass mir ein Besuch dieser Webseite die Seele rauben könnte.

Aber unsere Seelen sollen wir für Dich opfern? Frech.

 

[GinMonotonic]

@GinMonotonic Erst kürzlich gab es einen Fall in den USA, in denen ein Professor clever sein wollte und ChatGPT gefragt hat, ob Studenten-Essays von ChatGPT generiert wurden - basierend auf der Idee, dass ChatGPT sich das ja wohl merken würde oder zumindest den eigenen Stil erkennen müsste. Fatales Ergebnis war, dass ChatGPT fast immer behauptet hat, der Text sei von ihm generiert worden, selbst da, wo das nachweislich nicht stimmte. Der Professor hat daraufhin die Studenten wegen Betrugs von der Uni werfen wollen. Die Studenten haben der Uni dann ihre Unschuld im Klärungsausschuss demonstriert, indem sie ChatGPT alte Papers des Professors selbst gefüttert haben und ChatGPT selbst bei jahrzehntealten Texten überzeugt war, die müssten von ihm generiert worden sein...

Wow, wusste ich nicht. Das ist wohl der Grund für die diplomatische Antwort, die ChatGPT heute abliefert =)

Aber unsere Seelen sollen wir für Dich opfern? Frech.

Muahahahaha

 

[Vast]

hab eben nur spaßeshalber mal bei chatgpt eine bluesidee eingegeben.
ausgangspunkt war meine idee von einem dead cow blues.
das was chatgpt dann brav generiert hat, war ein klassischer blues, der zu dem thema passt...

als ich dann aber eingegeben habe, man könnte die tote kuh am ende so als gag ja mal verspeisen,
hat sich chatgpt geweigert, den text weiter zu schreiben.

ChatGPT ist Veganerin


PS:
...

(Hook)
Schrippschrap, Schrippschrap, unser Rap ist wahr, Die Strassen sind hart, doch wir sind für einander da.
Tote Kuh auf dem Grill, das Leben ist ein Fest, Im Schrippschrap-Game, sind wir die Besten, der Rest.

Ich hoffe, dieser Rap-Text gefällt dir!