wow! - chatgpt weigert sich, text zu schreiben!

[Entone]

das gehörnte nilpferd im april - tolles bild!

Anhang anzeigen 130337

Ja, die Zwerge am Strand fand ich auch lustig.

 

[Nachtschicht]

interessant, dass in dieser diskussion niemand auf die idee kommt, die frage nach der henne und dem ei zu stellen. wird chatGPT bestimmte wert- und moralvorstellungen in die menschheit drücken? oder ist, andersrum, chatGPT ein produkt bestehender wert- und moralvorstellungen?

die antwort ist vorerst vollkommen eindeutig natürlich letzteres. zu nennenswerter beeinflussung gängiger wert- und moralvorstellungen gabs ja noch gar keine zeit.

damit ist chatGPT erstmal nichts weiteres als eine grobe reproduktion vorhandener durchschnitts-vorstellungen (gesellschaftlich, und in chatGPTs fall lustigerweise auch nachweislich technisch). es unterscheidet sich insofern in dieser hinsicht in keinster weise von einer zeitung, einem radiosender oder der tagesschau.

und um diese medien gibt es wie immer das gezerre, bei denen von politisch links und von politisch rechts versucht wird, das overton fenster in die eigene richtung zu ziehen. in der regel durch das lustvolle werfen von märtyrerkärtchen, auf denen steht, dass die persönliche position ja nicht hinreichend innerhalb des overton-fensters repräsentiert wäre (noch so ne henne-und-ei-frage). befragen sie hierzu gerne der reihe nach wokeness-fans und -gegner, da kriegt man verblüffend ähnliche antworten.

dieses gezerre um das overton-fenster ist so alt wie die medien selbst, es wird uns wahrscheinlich auch weiterhin in unveränderter form begleiten, ironischerweise wird diese diskussion wie immer in, huch, den medien stattfinden... und gesellschaftlich wirklich relevant wird wie bisher nur sein, was denn die legalen grenzen von freier meinungsäusserung sind. im gegensatz zum juristisch Zugelassenen wird der gesellschaftliche durchschnitts-konsens, wohin sich das fenster des moralisch zulässigen auf dauer verschiebt, wie schon die letzten tausend jahre gnadenlos und blind einfach den aktuellen mehrheiten hinterherdackeln.

so gesehen ist chatGPT in diesem fall also ein wahrscheinlich besseres abbild des status quo, als es eigentlich verdient hätte

 

[givem-fear]

Hm. Jetzt hab ich mich tatsächlich auch mal mit chatgpt zusammen gesetzt und wollte von ihm einen 8-Zeiler, der sich nicht reimen soll.
Erster Versuch: alles gereimt.
Ich: Super. Aber ich wollte es ohne Reime
chatgpt: Oh, tut mir leid. Neuer Text. Alles gereimt
Ich: Ich will keine Reime!!!1!
chatgpt: Sorry. Neuer Text. 2 Zeilen ohne Reim. 6 Zeilen gereimt.

Ich hasse es, wenn mich meine Frau und meine Tochter ignorieren. Aber jetzt auch noch ne bekackte Maschine.

 

[muffy]

Ich hasse es, wenn mich meine Frau und meine Tochter ignorieren.

I feel your pain.^^

 

[Turquoise]

interessant, dass in dieser diskussion niemand auf die idee kommt, die frage nach der henne und dem ei zu stellen. wird chatGPT bestimmte wert- und moralvorstellungen in die menschheit drücken? oder ist, andersrum, chatGPT ein produkt bestehender wert- und moralvorstellungen? die antwort ist vorerst vollkommen eindeutig natürlich letzteres. zu nennenswerter beeinflussung gängiger wert- und moralvorstellungen gabs ja noch gar keine zeit.

Das impliziert / suggeriert, die "bestehenden Moralvorstellungen" wären die von "die Menschheit" . . . bzw. irgendwie der Durchschnittswert davon.

 

[jet2]

Das impliziert / suggeriert, die "bestehenden Moralvorstellungen" wären die von "die Menschheit" . . . bzw. irgendwie der Durchschnittswert davon.

und es wird nicht so sein...
wenn von den entwicklern oder sponsoren filter definiert werden, die eine moral vorgeben,, oder bewußt die allgemeine sicht einschränken, haben wir den salat...
deswegen müssen mindestens die regeln und am besten auch der code transparent, für alle zugänglich und grundsätzlich kurzfristig änderbar bleiben, sonst wird es gefährlich.
ein tool, das auf allgemeines wissen zugreift, darf nicht irgendwelchen eliten überlassen werden...

 

[Nachtschicht]

und es wird nicht so sein...
wenn von den entwicklern oder sponsoren filter definiert werden, die eine moral vorgeben,, oder bewußt die allgemeine sicht einschränken, haben wir den salat...
deswegen müssen mindestens die regeln und am besten auch der code transparent, für alle zugänglich und grundsätzlich kurzfristig änderbar bleiben, sonst wird es gefährlich.
ein tool, das auf allgemeines wissen zugreift, darf nicht irgendwelchen eliten überlassen werden...

ändert doch aber nicht die frage nach der henne und dem ei.

nehmen wir mal der diskussion zuliebe, ohne jegliche einschränkung oder nuancierung, die schlimmstmögliche formulierung hier im thread: die filter geben eine moral vor, die von den entwicklern definiert wird. so.

bleibt doch trotzdem die frage: woher kommen diese moralvorstellungen? nach welchen kriterien wurden sie gewählt? da kann man ohne lange nachzudenken eine ordentliche liste aufstellen:

- oberstes gebot für die entwickler ist sicherlich der profit. und daraus folgen ein paar geradezu zwingende punkte
- das tool darf keinen ärger mit der justiz bekommen. ergo: keine anleitungen zu waffenbau, keine aufrufe zur gewalt etc pp
- das tool darf keinen ärger mit der presse bekommen. ergo: politisch wird das ding auf "decidedly milktoast" getrimmt. möglichst wenige streitbare aussagen, möglichst nahe am mainstream surfen
- das tool soll möglichst breiten bevölkerungsschichten gefallen. ergo: noch mehr mainstream motivation
- und da kommen wir zum overton-fenster, welches linksaussen und rechtsaussen stört, denn diese lager stören sich nunmal definitionsgemäss an mainstream-positionen. vom klimawandel bis zum gendering, LGBTQ und sonstigen kulturkampf-themen gibt es natürlich jede menge mainstream-positionen, die die eine oder andere seite auf die palme bringt.

da gibt es aber keinen allgemeingültigen ausweg. man kann sich ja auch nicht ununterbrochen in unverbindliches false equivalency gedöns marke "die einen sagen so, die anderen sagen so" flüchten. das tut das tool sowieso schon geradezu lächerlich häufig, aber bei themen, wo z.b. eine mehrheit von 90% eine sache so sieht, und nur 10% anders (klimawandel, mondlandung, pick your poison), wird das tool sich an die mehrheit hängen. dazu braucht es nichtmal gross filternde eingriffe, denn das tool plappert ja sowieso prinzipiell nach, was es mehrheitlich aus dem internet in seine datenbank gekippt hat. das ist ja das ganze funktionsprinzip von "KI" in dieser form.

eine statistisch aufgebaute datenbank-"KI" ist dementsprechend beinahe schon automatisch ein abbild von aktuellen mehrheitsverhältnissen, nur noch bisschen zusätzlich von den urhebern gezähmt, damit es keinen juristischen und medialen ärger bekommt und so gut es nur kann die finger von zu heissen kartoffeln lässt.

das bringt dann natürlich leute auf die palme, die den klimawandel für eine verschwörung halten, nicht von der mondlandung überzeugt sind oder whatever - aber das hat dann weniger mit chatGPT zu tun als mit gegenwärtigen mehrheitsverhältnissen oder medial akzeptierten vs nicht akzeptierten meinungen, die von chatGPT einfach nur so windelweich wie möglich abgebildet werden.

soweit ist das aus meiner sicht alles herzlich wenig überraschend, bzw ungefähr so überraschend wie eine sendung der tagesschau. interessant ist es höchstens an der sollbruchstelle zwischen "mehrheitsverhältnisse" und "medial akzeptiert", denn das ist zwar häufig dasselbe, aber halt doch nicht immer. beispielsweise beim gender-thema kann man sich gut vorstellen, dass die medien und die tatsächlichen bevölkerungsmehrheiten auseinanderliegen (etwa: die medien verschreiben sich eine sprachregelung, während statistisch nachweislich signifikante anteile der bevölkerung bei dem thema eher genervt mit den augen rollen).

das ist ein knackpunkt wo es interessant zu beobachten sein wird, wie die gewichtung ausfällt. an dem grundsätzlichen motiv der macher, das ding auf so konsensfähig wie möglich zu trimmen, wird das aber nichts ändern. wer da glaubt, es würden irgendwelche ideologien verfolgt, die über den kommerziellen erwägungen stehen, ist aus meiner sicht naiv. das silicon valley hat nun wahrlich oft genug demonstriert, dass die einzige ideologie, an der wirklich interesse besteht, die der maximalen gewinnoptimierung ist.

und deswegen ist chatGPT eben as much milktoast as possible, und die einzig spannenden themenbereiche werden die sein, wo es auf den ersten blick nicht ganz klar ist, was denn jetzt der milktoast-igste weg sein wird

 

[Turquoise]

nehmen wir mal der diskussion zuliebe, ohne jegliche einschränkung oder nuancierung, die schlimmstmögliche formulierung hier im thread: die filter geben eine moral vor, die von den entwicklern definiert wird. so.

Das ist nicht die schlimmstmögliche Formulierung, sondern common sense.

 

[Nachhall]

From my cold, dead cow!

 

[Nachtschicht]

Das ist nicht die schlimmstmögliche Formulierung, sondern common sense.

common sense ist für jeden, der auch nur minimal was von der technischen funktionsweise versteht, dass der löwenanteil der "haltung" von chatGPT ein rein statistischer automatismus ist, der sich aus der datenbank ergibt - aber wie das so ist mit common sense, darf natürlich jeder gerne was anderes als common sense empfinden.

aber wie gesagt, ich hab ja der diskussion zuliebe einfach mal 100% menschliches autorentum in dieser sache angenommen, quasi wie ein stockfish, dessen schachstrategie zu 100% auf menschgemachten buchregeln basiert. diese zeiten sind natürlich eigentlich seit über 20 jahren vorbei (und bei einer KI wie chatGPT schon quantitativ vollkommen ausgeschlossen), aber für manche mags common sense sein, whatever.

das argument war ja gerade, dass selbst diese common sense- oder übertriebene annahme nichts an der gestellten frage ändert, auf basis welcher motivationen diese menschgemachten buchregeln dann bestehen würden. die geheime woke-agenda von bill gates, oder doch nur schnöde gewinnmaximierung? kann gerne jeder für sich selber spekulieren, ich weiss auf jeden fall in welche richtung meine spekulation da geht

 

[Turquoise]

nichts an der gestellten frage ändert, auf basis welcher motivationen diese menschgemachten buchregeln dann bestehen würden. die geheime woke-agenda von bill gates, oder doch nur schnöde gewinnmaximierung?

Der Punkt ist, dass die von Dir aufgemachte Trennung so nicht existiert. Ein Streben nach "schnöder Gewinnmaximierung" um der schnöden Gewinnmaximierung willen gibt es nicht. Denn auch das wäre des berühmte Leben auf dem Ponyhof, weil das hieße, Gewinnmaximierer gäben sich mit Gewinnmaximierung zufrieden.

Die Wahrheit ist aber:

erst Gewinnmaximierung hat sie auf den Geschmack gebracht, was damit alles jenseits von Gewinnmaximierung überhaupt möglich wird. Erst diese Perspektive macht Gewinnmaximierung für sie spannend und interessant.

 

[Turquoise]

damit ist chatGPT erstmal nichts weiteres als eine grobe reproduktion vorhandener durchschnitts-vorstellungen (gesellschaftlich, und in chatGPTs fall lustigerweise auch nachweislich technisch). es unterscheidet sich insofern in dieser hinsicht in keinster weise von einer zeitung, einem radiosender oder der tagesschau.

Das ist nicht richtig, weil Zeitungen und Radiosender nicht etwa "vorhandene durchschnitts-vorstellungen" reproduzieren, sondern die Vorstellungen, die ihre Eigentümer reproduziert haben wollen.

 

[Nachtschicht]

Ein Streben nach "schnöder Gewinnmaximierung" um der schnöden Gewinnmaximierung willen gibt es nicht.

das können wir ja mal einfach so als überzeugung von dir im raum stehen lassen.

Das ist nicht richtig, weil Zeitungen und Radiosender nicht etwa "vorhandene durchschnitts-vorstellungen" reproduzieren, sondern die Vorstellungen, die ihre Eigentümer reproduziert haben wollen.

jetzt bist du tatsächlich ziemlich nahe dran, zu verstehen, was ich mit diesem zitat gemeint habe:

interessant ist es höchstens an der sollbruchstelle zwischen "mehrheitsverhältnisse" und "medial akzeptiert", denn das ist zwar häufig dasselbe, aber halt doch nicht immer.

aber wiederholung schadet ja nicht

nun wird chatGPT ja bei weitem nicht nur aus "zeitungen und radiosendern" gespeist, da ist noch viel mehr drin (u.a. mit grosser sicherheit die gesamtheit von wikipedia, literatur, social media portale etc pp). wenn du das jetzt alles mal mit einberechnest, und dir ausrechnest worauf das im statistischen mittel hinausläuft, dann landest du lustigerweise genau bei dem, was ich versucht habe zu beschreiben.

 

[Nachtschicht]

desweiteren sei noch folgendes erwähnt: wenn wir schon dabei sind, den jeweiligen gegenüber mit vokabeln wie "ponyhof" zu bewerfen, dann gehören natürlich auch einseitige sichtweisen wie "die medien beeinflussen die bevölkerungsmeinung" mit auf die goldwaage.

denn natürlich ist das längst nicht so einfach, sondern eine komplexe interaktion. heute buhlt das medium opportunistisch um die gunst in der bevölkerung, morgen prägt es aktiv die meinung, das ist ein ewiges wechselspiel und selbstverständlich ein nicht annähernd so simpler und einseitiger prozess, wie er häufig beschrieben wird.

nicht dass das statistisch in einer gigantischen, multinationalen datenbank wie bei chatGPT in der einen oder anderen weise ins gewicht fallen würde. dazu müsste ja überhaupt erst in jedem erhobenen land medial und demografisch ungefähr am gleichen politischen strang gezogen werden, und das war letztes mal als ich nachgesehen habe nicht so ganz wirklich der fall, ums mal vorsichtig zu formulieren

 

[Turquoise]

das können wir ja mal einfach so als überzeugung von dir im raum stehen lassen.

Soziologisch ist nachgewiesen (ich weiß nur nicht mehr durch wen - ob es Georg Simmel war oder jemand anders), dass der Lustgewinn durch reine Geldanhäufung nur bis zu einem bestimmten Punkt bzw. Vermögen funktioniert. Danach müssen andere Parameter her, um den Lustgewinn zu steigern.

Es handelt sich also nur z.T. um meine "Überzeugung".

 

[Nachtschicht]

Soziologisch ist nachgewiesen (ich weiß nur nicht mehr durch wen - ob es Georg Simmel war oder jemand anders), dass der Lustgewinn durch reine Geldanhäufung nur bis zu einem bestimmten Punkt bzw. Vermögen funktioniert. Danach müssen andere Parameter her, um den Lustgewinn zu steigern.

Es handelt sich also nur z.T. um meine "Überzeugung".

nun sind unternehmen halt leider keine personen, sondern schon etwas komplexere strukturen als das. das würde dir wahrscheinlich auf nachfrage auch georg simmel bestätigen, wenn er noch könnte.

desweiteren, wenn wir schon soziologisch werden:

erst Gewinnmaximierung hat sie auf den Geschmack gebracht

schauen wir uns mal dieses "sie" an, und was es über die sichtweise des autors aussagt, dieses "sie" ist nämlich die lehrbuch definition von "mindestens mit dem grossen zeh in einem hauch von verschwörungsdenken".

also: wer ist denn dieses "sie"? wenn wir jetzt mal von den medien sprechen.
rupert murdoch? michael bloomberg? charles koch? jeff bezos? mark zuckerberg? elon musk? (du merkst sicher, dass ich immer schön abwechselnd "die seiten wechsle")

das ist nämlich, wenn wir (wie immer der diskussion zuliebe) von einer die gesamtmeinung beeinflussenden, vollkommen über der gewinnmaximierung von unternehmen stehenden agenda ausgehen, schon nicht ganz unwichtig, denn selbst wenn wir einfach mal von dem milchmädchen-bild ausgehen, dass oben genannte player keinerlei aktionärs-interessen, aufsichtsrats-einflüssen oder sonstigem unterliegen und selber aus ausschliesslich ideologischen gründen operieren, dann kommen wir ob der nahezu hundertprozentig gegenteiligen politischen ansichten der oben genannten premium-kandidaten für "sie" halt doch wieder in der mitte der ganzen baggage raus.

ausserdem hast du jetzt höflich unter den tisch fallen lassen, dass der einfluss zwischen medien und bevölkerungsdurchschnitt keine einbahnstrasse ist. nehmen wir dazu doch einfach mal das plakativste beispiel von allen: rupert murdoch und fox news.

wie sehr es da eine mitnichten einseitige wechselwirkung gibt, dazu muss man sich nur mal die themenfelder trump / 6. januar / dominion & co anschauen.
da gab es also eine beeinflussung der bevölkerung durch fox news. nennen wir sie der einfachheit halber mal: "trump"

nun verliert trump eine wahl (trotz beeinflussung der bevölkerung durch rupert murdoch, muss wohl an michael bloomberg gelegen haben) und sieht das nicht ein. jetzt beeinflusst trump fox news - die die zahlen eigentlich kennen - und bringt sie auf linie. aber ach, murdoch hält trump für einen spinner und greift korrigierend ein. eine ziemlich schwankende linie ist das schon, auf einmal. nun hat sich allerdings die zielgruppe soweit radikalisiert, dass sie fox ob dieser schwankenden linie beleidigt abschaltet und zu OAN und newsmax abwandert, die brav das sagen, was diese zielgruppe hören will, und zack, juckt es murdoch eben doch am kapitalistischen muskel. und fox schwenkt wieder teilweise ein um seine quoten zu retten, denn lustgewinn hin oder her, am ende des tages kann auch ein ruport murdoch nicht tatenlos zusehen, wenn ihm die quoten seines lieblingskindes wegbrechen. aber immerhin: murdoch versucht danach noch, ron de santis zu pushen, hups, auf einmal soviel ron de santis auf fox und so wenig trump? spielt die basis aber nicht mit, also geht fox wieder vor der durchschnittsmeinung seiner zielgruppe in die knie und es gibt wieder mehr trump.

und jetzt wenden wir mal auf dieses hempels-unterm-sofa chaos diese sichtweise von "sie" als antropromorpher einzelcharakter mit agenda plus angeblich einseitiger einflussnahme (immer medien auf bevölkerungsmeinung, niemals andersrum) an.

das passt halt leider hinten und vorne nicht, und das war jetzt das bild wo ich NUR rupert murdoch und fox news einbezogen habe, da war das grösste problem mit diesem "sie", nämlich der mediale gegenwind der anderen seite in die entgegengesetzte richtung, noch mit keinem wort erwähnt.

soviel also zu "sie" als klar benenennbarem, gemäss simmels soziologischen betrachtungen funktionierendem einzelcharakter in diesem plot.

wenns jetzt immer noch nicht verständlich ist - ich habs zumindest versucht.

 

[Turquoise]

nun sind unternehmen halt leider keine personen, sondern schon etwas komplexere strukturen

Sie sind aber auch keine abstrakten, ominösen Wesen mit eigenem Willen ("der Markt" übrigens auch nicht).

soviel also zu "sie" als klar benenennbarem, gemäss simmels soziologischen betrachtungen funktionierendem einzelcharakter in diesem plot.

Und was erklärt jetzt Deine lange Ausführung zu "sie"?

a) das, was ich damit gemeint habe
b) das, von dem Du denkst, dass ich (oder irgendjemand) es meinen würde
c) das, was Du selbst unter "sie" verstehst

?

 

[Nachtschicht]

Sie sind aber auch keine abstrakten, ominösen Wesen mit eigenem Willen ("der Markt" übrigens auch nicht).

That's the whole point. Dann sind wir uns ja einig.

Und was erklärt jetzt Deine lange Ausführung zu "sie"?

a) das, was ich damit gemeint habe
b) das, von dem Du denkst, dass ich (oder irgendjemand) es meinen würde
c) das, was Du selbst unter "sie" verstehst

?

Für Taubenschach fehlt mir momentan die Zeit.

Schönen Abend noch.

 

[Turquoise]

Für Taubenschach fehlt mir momentan die Zeit.

Ich glaube, Du hast Dich einfach ein bisschen verheddert.

 

[Florian Hoffmann]

ChatGPT ignoriert dich nicht, @givem-fear. Das Modell versteht einfach nicht, was du meinst. Es kann nicht richtig analysieren und schlussfolgern.

Large Language Models haben keine Ohren. Sie können nicht selbständig beurteilen, wie Wörter klingen. Um zu ermitteln, ob sich zwei Wörter reimen, muss Chatty anders vorgehen.

Eine Möglichkeit wäre, auf ein Reimlexikon zurückzugreifen. ChatGPT hat aus Reimlexika gelernt. Fragst du es nach Reimwörtern und Synonymen, gibt es dir sinnvoll Auskunft. Es müsste dann Wörter aussuchen, die nicht als Paare im Reimlexikon auftauchen.

Eine andere Möglichkeit wäre, den Text in Lautschrift zu betrachten, und dann Wörter zu wählen, die unterschiedliche Laute haben. Chatty kann Lautschrift. Es kann auch korrekt Definitionen wiedergeben, wann sich zwei Zeilen reimen.

In beiden Varianten bringt ChatGPT die Dinge aber nicht richtig zusammen. Ich hab eben versucht, ihn auf beiden Wegen zum Nicht-Reimen anzuleiten. Er versteht es aber nicht. Das Modell sagt zwar immer wieder "oh ja, sorry, du hast recht, das reimt sich ja", macht beim nächsten Versuch aber wieder genau den selben Fehler. Wie ein Schüler, bei dem es noch nicht "klick" gemacht hat.

ChatGPT 4 ist übrigens etwas besser. Das ist die neuere und größere Version hinter dem Bezahlzugang. Auch die hat zunächst nur Gereimtes ausgespuckt. Diese Version konnte ich anschließend aber in manchen Fällen überzeugen, das Reimen zu lassen.