wow! - chatgpt weigert sich, text zu schreiben!

[Soundloch]

Das ist im Vergleich zu dem, was im Hirn eines Menschen abgeht, immer noch so unendlich vereinfacht bzw. einfach nur ein Fake. Ungefähr auf dem Niveau einer Sex-Puppe, die bei jedem Stoß "Oh ja" von sich gibt.

 

[speedtom]

Es ist doch ganz einfach: Mit zunehmender Verbreitung von ChatGPT verbreiten sich auch dessen Regeln des Sagbaren.
Leute werden anfangen, sich auch in eigenen Äußerungen daran zu orientieren, weil sie sonst Sorge hätten, aufzufallen.

Dieses Argument beziehungsweise diese Schlussfolgerung finde ich wenig überzeugend. ChatGPT ist nichts weiter als ein tool. Wieso - allein schon rechtlich - nicht gnadenlos alles möglich sein sollte (und schon gar nicht kriminelles) wurde ja schon in diesem Thread mMn recht gut dargelegt.

 

[speedtom]

Es ist doch ganz einfach: Mit zunehmender Verbreitung von ChatGPT verbreiten sich auch dessen Regeln des Sagbaren.
Leute werden anfangen, sich auch in eigenen Äußerungen daran zu orientieren, weil sie sonst Sorge hätten, aufzufallen.

Dieses Argument beziehungsweise diese Schlussfolgerung finde ich wenig überzeugend. ChatGPT ist nichts weiter als ein tool. Wieso - allein schon rechtlich - nicht gnadenlos alles möglich sein sollte (und schon gar nicht kriminelles) wurde ja schon in diesem Thread mMn recht gut dargelegt.

Edit:
Hier etwa:

Modelle wie ChatGPT sind prinzipiell in der Lage, alles erlernte (Halb)Wissen weiterzugeben. ChatGPT's Kern würde dir bereitwillig erklären, wie du den Crypto Account deines Nachbarn leer räumst, in der Küche Giftgas herstellst um in der U-Bahn einen Terroranschlag zu begehen, oder wie du ein Kind entführst und Lösegeld erpresst - oder Schlimmeres.

Die Betreiber - OpenAI, Microsoft usw. - sind darüber nicht happy. Solche Auskünfte können leicht als Beihilfe zu Verbrechen ausgelegt werden. Zu recht, würde ich sagen. Würdet ihr solche Fragen im Netz beantworten? Vermutlich eher nicht. Zumal der Zugang zu den Modellen unreguliert ist und es z. B. keine Altersüberprüfung gibt.

 

[Hyp]

Wieso - allein schon rechtlich - nicht gnadenlos alles möglich sein sollte (und schon gar nicht kriminelles) wurde ja schon in diesem Thread mMn recht gut dargelegt.

Die Lenkung des Sagbaren durch ChatGPT geht weit darüber hinaus, nur die Extreme abzufangen, wie in den Beispielen im Video gezeigt.

 

[speedtom]

Die Lenkung des Sagbaren durch ChatGPT geht weit darüber hinaus, nur die Extreme abzufangen, wie in den Beispielen im Video gezeigt.

Die Lenkung des Sagbaren durch ein Sprachmodell ist mMn nichts als eine Theorie, mMn eine sehr wackelige, in jedem Falle eine unbelegte Theorie.

 

[Hyp]

Die Lenkung des Sagbaren durch ein Sprachmodell ist mMn nichts als eine Theorie, mMn eine sehr wackelige, in jedem Falle eine unbelegte Theorie.

Wenn ein Textgenerator immer weitere Verbreitung findet, ist also erst mal nicht davon auszugehen, dass die eingebauten Grenzen sich mit verbreiten? Ich staune über das Ausmaß an Naivität.

Wie müsste denn eine Studie modelliert sein, die den Einfluss von ChatGPT nachweist?

 

[speedtom]

Wenn ein Textgenerator immer weitere Verbreitung findet, ist also erst mal nicht davon auszugehen, dass die eingebauten Grenzen sich mit verbreiten? Ich staune über das Ausmaß an Naivität.

Nein, weil die eingebauten Grenzen sich prinzipiell an der allgemeinen Rechtsprechung orientieren. Es ist doch einigermassen naiv, anzunehmen, dass sich Menschen, bei dem was sie sagen werden, sich an ein Sprachmodell orientieren. Da kennst du offenbar Menschen schlecht.

Mal offen gefragt: wäre es für dich wichtiger, komplett unreguliert dieses zuzulassen:

"ChatGPT's Kern würde dir bereitwillig erklären, wie du den Crypto Account deines Nachbarn leer räumst, in der Küche Giftgas herstellst um in der U-Bahn einen Terroranschlag zu begehen, oder wie du ein Kind entführst und Lösegeld erpresst - oder Schlimmeres."

...als ein Sprachmodell zu akzeptieren, welches Regularien unterworfen ist?

Ich würde mich über eine eindeutige Antwort hierzu freuen.

 

[FredTadge]

Das Thema hier ist wahrscheinlich recht bald dicht.

Ich finde es gut, dass ChatGPT eine gewisse Moral eingebaut bekommen hat. Denn die o.g. Beispiele von Informationen über Straftaten oder potentielle Möglichkeiten, strafbares Verhalten zu unterstützen, sind ja schonmal genug Begründung dafür, dass gewisse Grenzen gesetzt werden.

Im Grunde ist dieser Ruf über Zensur eigentlich immer ein Zeichen dafür, dass das Grundgesetz nicht verstanden wurde. Art 5 GG gewährleistet jedem von uns, dass er straffrei sagen darf, was er/sie möchte, ohne dafür bestraft zu werden. Es verpflichtet niemanden dazu, alles zu sagen, was irgendwer anderes möchte. Wenn ein Fernsehmoderator entscheidet, bestimmte Dinge zu sagen und bestimmte Dinge nicht, ist das keine Zensur sondern seine freie Entscheidung. Und natürlich darf ein Unternehmen wie OpenAI auch entscheiden, was das von ihnen angebotene Tool kann und was nicht. Das hat mit Zensur rein gar nichts zu tun.

 

[muffy]

Das Thema hier ist wahrscheinlich recht bald dicht.

Die Abreisewahrscheinlichkeit beträgt 98%.^^ (Täglich grüßt das Murmeltier)

Art 5 GG gewährleistet jedem von uns, dass er straffrei sagen darf, was er/sie möchte, ohne dafür bestraft zu werden.

Ui, Vorsicht. Lies mal Absatz 2:

(2) Diese Rechte finden ihre Schranken in den Vorschriften der allgemeinen Gesetze, den gesetzlichen Bestimmungen zum Schutze der Jugend und in dem Recht der persönlichen Ehre.

Ich darf auch hinzufügen, dass die Grundrechte auch immer dort Schranken haben, soweit sie mit anderen Grundrechten kollidieren, hier u.a. noch das Allgemeine Persönlichkeitsrecht (Art. 2 GG) und die Menschenwürde gem. Artikel 1 GG.

 

[speedtom]

Und natürlich darf ein Unternehmen wie OpenAI auch entscheiden, was das von ihnen angebotene Tool kann und was nicht. Das hat mit Zensur rein gar nichts zu tun.

Richtig. Das ist einer der Gründe, wieso ich niemals reißerische Videos mit solchen Clickbait-Titeln mir anschauen, geschweige denn die Inhalte ernstnehmen könnte.

Wir haben auf der einen Seite: eine - mMn sehr wackelige Theorie, eher ein Gefühl, dass ein Sprachmodell die Grenzen des Sagbaren verschiebt.

Und auf der anderen Seite Fakten, dass solche Tools kriminell genutzt werden -ohen Regulierung dann von jedermann:

Betrug, Fake-News, krimineller Code: Europol warnt vor Missbrauch von ChatGPT

ChatGPT sei in der Lage, eine viele kriminelle Aktivitäten zu erleichtern, beispielsweise Terrorismus und sexuelle Ausbeutung von Kindern, meint Europol.

www.heise.de

 

[Hyp]

Nein, weil die eingebauten Grenzen sich prinzipiell an der allgemeinen Rechtsprechung orientieren.

Gehen weit darüber hinaus, wie gesagt.

 

[speedtom]

Gehen weit darüber hinaus, wie gesagt.

Erkläre mal mit deinen Worten, was genau du damit meinst. Das Video schauen ich mir nicht an.

 

[muffy]

ohen Regulierung dann von jedermann:

Das Problem bei Regulierung (alias Gesetze) ist ja generell - es wird immer Leute geben, die sich nicht daran halten. Die machen was sie wollen, obwohl sie es sind, die die "Kontrolle" benötigen würden.

Die "Rechtschaffenden", diejenigen, die auch ohne Regeln gedeihlich miteinander auskämen, sind die angeschmierten, weil Regeln die Dinge idR primär langweilig machen, vegleiche "das Internet" im Jahre 1992 und heute.

Damals sympathisch, leicht verlotterte Spielwiese von Nerds und Kundschaftern, heute durchdekliniert und ein immerwährender Werbespot.

 

[speedtom]

Das Problem bei Regulierung (alias) ist ja generell - es wird immer Leute geben, die sich nicht daran halten. Die machen was sie wollen, obwohl sie es sind, die die "Kontrolle" benötigen würden.

Die "Rechtschaffenden", diejenigen, die auch ohne Regeln gedeihlich miteinanderauskämen, sind die angeschmierten, weil Regeln die Dinge idR primär langweilig machen, vegleiche "das Internet" im Jahre 1992 und heute.

Damals sympathisch, leicht verlotterte Spielwiese von Nerds und Kundschaftern, heute durchdekliniert und ein immerwährender Werbespot.

Na klar, man kann Regulierungen umgehen. Es wird halt dadurch schwieriger, was ja schon einen Mehrwert darstellt, wie ich finde. Am Beispiel Waffenkauf: geht "so" halt nicht, nicht unreguliert. Im Darknet oder ähnlichen Plätzen geht es schon, ist aber mit viel mehr Aufwand verbunden und benötigt kriminelle Energie, was schon mal einiges Ungutes verhindert.

 

[Hyp]

Erkläre mal mit deinen Worten, was genau du damit meinst. Das Video schauen ich mir nicht an.

Buchstäblich, wie ich es geschrieben habe: Die von ChatGPT gesetzten Grenzen liegen weit enger als die Rechtssprechung.
Die Ansprachen von Prof. Rieck liegen durchaus deutlich über dem in diesem Thread gepflegten Niveau.

 

[speedtom]

Buchstäblich, wie ich es geschrieben habe: Die von ChatGPT gesetzten Grenzen liegen weit enger als die Rechtssprechung.
Die Ansprachen von Prof. Rieck liegen durchaus deutlich über dem in diesem Thread gepflegten Niveau.

Du weichst eher der Frage aus. Was genau wird eingeschränkt, was über die Grenzen der Rechtsprechung hinaus geht?

 

[speedtom]

Gehen weit darüber hinaus, wie gesagt.

Die von ChatGPT gesetzten Grenzen liegen weit enger

Du solltest auch deine Geschichte eindeutig erzählen, du widersprichst dir selbst.

 

[muffy]

Fragt mal lieber den Bot, wie man ne geile Blues Nummer zockt!^^

#shamelessplug

 

[speedtom]

Fragt mal lieber den Bot, wie man ne geile Blues Nummer zockt!^^

#shamelessplug

Das - oder mal diese Frage beantworten lassen, da Hyp sie ja ignoriert.

Mal offen gefragt: wäre es für dich wichtiger, komplett unreguliert dieses zuzulassen:

"ChatGPT's Kern würde dir bereitwillig erklären, wie du den Crypto Account deines Nachbarn leer räumst, in der Küche Giftgas herstellst um in der U-Bahn einen Terroranschlag zu begehen, oder wie du ein Kind entführst und Lösegeld erpresst - oder Schlimmeres."

...als ein Sprachmodell zu akzeptieren, welches Regularien unterworfen ist?

Ich würde mich über eine eindeutige Antwort hierzu freuen.

 

[Ennui]

Ungefähr auf dem Niveau einer Sex-Puppe, die bei jedem Stoß "Oh ja" von sich gibt.

Wo gibt's die? Meine macht nur ganz lange "pfffffffffffffffffffffffffffffffffffffffffffffff", wenn sie wieder in die Schachtel geht.