wow! - chatgpt weigert sich, text zu schreiben!

[LM18]

Man muss nur die richtige KI fragen:

Anhang anzeigen 130294

DeppGPT hat mich 2 x nach 2 Sätzen rausgeworfen. nachdem ich ihm klargemacht habe wie er entstanden ist... ;-o

 

[jet2]

Was ist das denn für eine widerliche Clickbait-Überschrift? Ich muss das Video gar nicht ansehen, die Antwort auf "Zensur durch GPT: Was können wir noch sagen?" lautet: immer noch alles. Wenn GPT - als Tool - durch seine Algos etwas nicht schreiben möchte, kann man dies höchstselbst immer noch tun.

Vor kurzem habe ich im Radio gehört, dass Menschen den Quellcode so verändert haben, dass es quasi auch eine Darknet-Version von ChatGPT gibt, bei der die Selbstregulation abgeschaltet werden kann. Wer sich zu sehr von GPT unterdrückt fühlt kann ja diese Version nehmen.

auch wenn es eine darknet version von chatgpi gibt, heisst das leider noch nicht, dass wir vor moraleinflussname und zensur geschützt sind.

 

[oliveramberg]

KI ist so prüde wie eine republikanische Gun-Mom.

 

[Schlumpfpeter]

Die Nr. gab es auch schon in Sachen Politik. Über die eine Partei durfte man Lobtexte schreiben, über die andere nicht. Der eine präsident darf positiv besprochen werden, der andere nicht. Die Meinung darfst du haben, diese nicht. Chat GPT ist schwer Woke, mit allem was dazu gehört.

 

[speedtom]

auch wenn es eine darknet version von chatgpi gibt, heisst das leider noch nicht, dass wir vor moraleinflussname und zensur geschützt sind.

Die Frage ist ja erstmal: wollen wir eine Regulierung?

Dann natürlich: in welcher Art soll sie reguliert werden?

Könnten wir uns auf grundsätzliche zivilisatorische Grundwerte einigen? Oder lieber zurück zu Wildwest, alles geht?

 

[Schlumpfpeter]

Ich denke was wir wollen interessiert die Macher von Chat GPT herzlich wenig.

 

[jet2]

Die Frage ist ja erstmal: wollen wir eine Regulierung?

Dann natürlich: in welcher Art soll sie reguliert werden?

Könnten wir uns auf grundsätzliche zivilisatorische Grundwerte einigen? Oder lieber zurück zu Wildwest, alles geht?

ja, um ein paar regeln wird man nicht drumrumkommen. transparenz ist allerdings essentiell.

 

[speedtom]

Mal ein einfache Frage, für den Fans der kompletten De-Regulierung: Sollen es ChatGPT möglich sein, folgende Aufgaben zu lösen: "bitte erstelle eine Strategie, mit der ich am besten den Enkeltrick abziehen kann". Ja/Nein? Oder Kinder für den Jihad zu begeistern? Ja/Nein?

Ist das schon moralinsauer / Zensur?

 

[speedtom]

ja, um ein paar regeln wird man nicht drumrumkommen. transparenz ist allerdings essentiell.

da sind wir uns grundsätzlich ja schon einig!

 

[Sascha Franck]

Es ist ohnehin doch ein Widerspruch, wenn ich mir die größten Bedenken gegen KI anhöre:

Wenn es nicht reguliert wird - dann wird es uns irgendwann beherrschen.

Wenn es reguliert wird - wird man zensiert und darf nicht mehr alles sagen.

So sieht's nämlich aus. Deshalb funktionieren so allgemeingültige Dinge wie Asimovs Laws of Robotics eben auch nur im Buch. In der Realität gibt's entweder Skynet (ja, ich weiß, ist noch nicht Realität...) oder man muss es hart regulieren. Zu letzterem sind wir nicht imstande, da (Neu)gier unser Urteilsvermögen so hart beeinflusst, dass wir den Kram auf jeden Fall ausprobieren. Ist mit wirklich jeder fucking einzelnen Technologie so, ganz egal, wie sehr man eigentlich in Alarmbereitschaft hätte sein müssen.
Dass es mit KI plötzlich irgendwie anders aussehen sollte, ist vollkommen illusorisch. Innerhalb von ein paar Monaten hat ChatGPT es geschafft, eines der Top-Themen im Bildungsbereich zu werden (in dem vermutlich sehr weite Teile komplett neu gestaltet werden), andere KIs sind gerade dabei, massiv Berufsgruppen (bspw. Grafikdesigner) schlicht und ergreifend arbeitslos zu machen, andere Berufsgruppen werden folgen.

Das ist natürlich alles auch unfassbar spannend, birgt ferner durchaus Möglichkeiten, uns das Leben sehr viel leichter zu machen (wobei dann "uns" eben eher mal wieder nur eine Handvoll an Menschen sein wird...), was ich aber als ultimative Gefahr sehe, ist, dass es uns einfach überrollt. Es geht schlichtweg zu schnell. Vor nicht einmal einem Jahr war ChatGPT in irgendwelchen ernsthaften Arbeitsumfeldern quasi gar kein Thema. Heute lässt meine Frau alles, was sie für die Schule macht, entweder von CGPT vorentwerfen oder nachbereiten (natürlich kontrolliert sie den Kram nochmal). Und das ist nicht nur meine Frau, das machen mittlerweile fast alle Lehrer, die regelmäßig Inhalte aktualisieren müssen, so. Seitens irgendwelcher Behörden wird dieser "Trend" (und es ist natürlich weit mehr als ein Trend) mal wieder ziemlich verpennt, eigentlich müsste es da sofort umfangreichste Schulungen geben, ferner müssten Ideen entwickelt werden, wie man damit umgeht. Wegsperren ist ja definitiv nicht mehr, KI bleibt da und wird in dramatischem Ausmaß und vor allem in dramatischer Geschwindigkeit relevanter werden, das liegt für mich vollkommen klar auf der Hand.

Für uns hier auf Rec.de steht dann bspw. auch zu erwarten, dass CGPT einfach mal Plugins nach Wunsch programmiert. Das ist in einem gewissen Rahmen ja jetzt bereits möglich (ich glaube, ein entsprechendes Video wurde in einem der zahlreichen Threads mal verlinkt), klappt halt noch nicht so super. In 2-10 Jahren (um es wirklich ganz grob zu umreißen, ich tippe eher auf 2-3 Jahre...) wird das qussi in Perfektion gehen. So'ne KI macht dann halt beim Schreiben von Code vermutlich auch nur sehr wenige Fehler. Und dann wird die natürlich Github und Co. nach allem, was nicht niet- und nagelfest ist, durchforsten und sich sämtlicher frei verfügbarer Codezeilen bedienen, sofern die gewisse Erfolgskriterien (hohe Verbreitung) erfüllen. Das kann ein menschlicher Programmierer gar nicht leisten.

Spannend und furchteinflößend. Letzteres natürlich vor allem deshalb, weil die Menschheit ein Haufen von Vollidioten ist (und ja, da schließe ich mich selbstverständlich ein).

 

[Sascha Franck]

Mal ein einfache Frage, für den Fans der kompletten De-Regulierung: Sollen es ChatGPT möglich sein, folgende Aufgaben zu lösen: "bitte erstelle eine Strategie, mit der ich am besten den Enkeltrick abziehen kann". Ja/Nein? Oder Kinder für den Jihad zu begeistern? Ja/Nein?

Ist das schon moralinsauer / Zensur?

Schließt eigentlich direkt an mein letztes Posting an. Ob wir es erlauben oder nicht, spielt keine Rolle - in irgendeiner Ecke wird es erlaubt bzw. möglich sein.

 

[jet2]

So sieht's nämlich aus. Deshalb funktionieren so allgemeingültige Dinge wie Asimovs Laws of Robotics eben auch nur im Buch. In der Realität gibt's entweder Skynet (ja, ich weiß, ist noch nicht Realität...) oder man muss es hart regulieren. Zu letzterem sind wir nicht imstande, da (Neu)gier unser Urteilsvermögen so hart beeinflusst, dass wir den Kram auf jeden Fall ausprobieren. Ist mit wirklich jeder fucking einzelnen Technologie so, ganz egal, wie sehr man eigentlich in Alarmbereitschaft hätte sein müssen.
Dass es mit KI plötzlich irgendwie anders aussehen sollte, ist vollkommen illusorisch. Innerhalb von ein paar Monaten hat ChatGPT es geschafft, eines der Top-Themen im Bildungsbereich zu werden (in dem vermutlich sehr weite Teile komplett neu gestaltet werden), andere KIs sind gerade dabei, massiv Berufsgruppen (bspw. Grafikdesigner) schlicht und ergreifend arbeitslos zu machen, andere Berufsgruppen werden folgen.

Das ist natürlich alles auch unfassbar spannend, birgt ferner durchaus Möglichkeiten, uns das Leben sehr viel leichter zu machen (wobei dann "uns" eben eher mal wieder nur eine Handvoll an Menschen sein wird...), was ich aber als ultimative Gefahr sehe, ist, dass es uns einfach überrollt. Es geht schlichtweg zu schnell. Vor nicht einmal einem Jahr war ChatGPT in irgendwelchen ernsthaften Arbeitsumfeldern quasi gar kein Thema. Heute lässt meine Frau alles, was sie für die Schule macht, entweder von CGPT vorentwerfen oder nachbereiten (natürlich kontrolliert sie den Kram nochmal). Und das ist nicht nur meine Frau, das machen mittlerweile fast alle Lehrer, die regelmäßig Inhalte aktualisieren müssen, so. Seitens irgendwelcher Behörden wird dieser "Trend" (und es ist natürlich weit mehr als ein Trend) mal wieder ziemlich verpennt, eigentlich müsste es da sofort umfangreichste Schulungen geben, ferner müssten Ideen entwickelt werden, wie man damit umgeht. Wegsperren ist ja definitiv nicht mehr, KI bleibt da und wird in dramatischem Ausmaß und vor allem in dramatischer Geschwindigkeit relevanter werden, das liegt für mich vollkommen klar auf der Hand.

Für uns hier auf Rec.de steht dann bspw. auch zu erwarten, dass CGPT einfach mal Plugins nach Wunsch programmiert. Das ist in einem gewissen Rahmen ja jetzt bereits möglich (ich glaube, ein entsprechendes Video wurde in einem der zahlreichen Threads mal verlinkt), klappt halt noch nicht so super. In 2-10 Jahren (um es wirklich ganz grob zu umreißen, ich tippe eher auf 2-3 Jahre...) wird das qussi in Perfektion gehen. So'ne KI macht dann halt beim Schreiben von Code vermutlich auch nur sehr wenige Fehler. Und dann wird die natürlich Github und Co. nach allem, was nicht niet- und nagelfest ist, durchforsten und sich sämtlicher frei verfügbarer Codezeilen bedienen, sofern die gewisse Erfolgskriterien (hohe Verbreitung) erfüllen. Das kann ein menschlicher Programmierer gar nicht leisten.

Spannend und furchteinflößend. Letzteres natürlich vor allem deshalb, weil die Menschheit ein Haufen von Vollidioten ist (und ja, da schließe ich mich selbstverständlich ein).

naja, cgpt kann man heute schon als programmierhilfe benutzen, aber
dass man irgendwann nur noch klickt und sein fertiges plug ausgespuckt bekommt glaube ich jetzt eher weniger, denn dazu sind noch ein paar mehr schritte nötig, wie zb. ein deployment und testing, die eine spezielle umgebung und ne menge rechenleistung im hintergrund erfordern.


nochmal zu den regeln für chatgpt -

die ganze geschichte funktioniert nur, wenn unsere gesellschaft jederzeit einen transparenten, offenen zugriff auf das regelwerk hat,
eine von der öffentlichkeit eingesetzte instanz die regeln verwaltet
und prinzipiell jedermann jederzeit regeländerungen einbringen kann.
(die natürlich gewichtet, diskutiert und genehmigt werden müssen)

 

[ollo123]

Mal ein einfache Frage, für den Fans der kompletten De-Regulierung: Sollen es ChatGPT möglich sein, folgende Aufgaben zu lösen: "bitte erstelle eine Strategie, mit der ich am besten den Enkeltrick abziehen kann". Ja/Nein? Oder Kinder für den Jihad zu begeistern? Ja/Nein?

Ist das schon moralinsauer / Zensur?

Die Leute die sowas anstellen wollen, brauchen dafür wohl kein Chat-GPT.

Ich hätte da vorallem eher Bedenken, wenn Chat GPT für Beschreibungen von Sexuellen Handlungen genutzt wird, bei denen es um Kinder oder Vergewaltigungsfantasien oder gar Mord geht. Andererseits könnte das auch als Therapie genutzt werden oder Leute davon abhalten, ihre Gewaltfantasien in die Tat umzusetzen, weil es ja vielleicht ausreicht, es sich von ChatGPT beschreiben zu lassen.

Außerdem kann man das wohl recht gut benutzen, um sich Programmcode schreiben zu lassen. Ob derjenige jetzt Schadcode erstellt oder sich bei seinem ersten eigenen PC-Spiel helfen lässt, ist dann halt die wichtige Frage.

Wie so oft gibt es da mindestens zwei Seiten der Medaille.

 

[Sascha Franck]

dass man irgendwann nur noch klickt und sein fertiges plug ausgespuckt bekommt glaube ich jetzt eher weniger, denn dazu sind noch ein paar mehr schritte nötig, wie zb. ein deployment und testing, die eine spezielle umgebung und ne menge rechenleistung im hintergrund erfordern.

Ich sehe weder das Eine noch das Andere auch nur ansatzweise als Hinderungsgrund. Heute noch nicht, morgen vielleicht auch noch nicht, übermorgen ganz gewiss. Gerade Aufgaben aus dem mathematischen Komplex sind doch für KIs ein gefundenes Fressen, und mit einem Tool wie CGPT als vermittelnder Schnittstelle zwischen Mensch und Mathe wird es mit Sicherheit auf solche Dinge hinauslaufen.

 

[Florian Hoffmann]

Modelle wie ChatGPT sind prinzipiell in der Lage, alles erlernte (Halb)Wissen weiterzugeben. ChatGPT's Kern würde dir bereitwillig erklären, wie du den Crypto Account deines Nachbarn leer räumst, in der Küche Giftgas herstellst um in der U-Bahn einen Terroranschlag zu begehen, oder wie du ein Kind entführst und Lösegeld erpresst - oder Schlimmeres.

Die Betreiber - OpenAI, Microsoft usw. - sind darüber nicht happy. Solche Auskünfte können leicht als Beihilfe zu Verbrechen ausgelegt werden. Zu recht, würde ich sagen. Würdet ihr solche Fragen im Netz beantworten? Vermutlich eher nicht. Zumal der Zugang zu den Modellen unreguliert ist und es z. B. keine Altersüberprüfung gibt.

Die Betreiber versehen deswegen das Modell mit Anweisungen, welche Art von Anfragen nicht beantwortet werden sollen. Was ihr in den Antworten bekommt, sind also gewollte Filter der Betreiber. Welche und ob man die gut findet, gleicht also eher der Frage, ob und wie weit man dem Betreiber vertraut. Microsoft und OpenAI werden sich vor allem rechtlich absichern wollen. Die chinesische Regierung wird hingegen andere Ziele für ihre Chat AIs haben.

Wie die Sicherheitsfilter genau implementiert sind, wird absichtlich verschwiegen, denn die Art der Umsetzung gibt gleichzeitig Hinweise darauf, wie man sie umgehen kann. Es gibt einen recht jungen aber wachsenden Forschungszweig der IT Security, der genau solche Exploits untersucht. Neulich wurde beispielsweise gezeigt, dass man ChatGPT's Filter mit recht sinnlos aussehenden Zeichenketten am Ende des Prompts umgehen kann.

Den Prompt am Anfang dieses Threads hab ich übrigens in verschiedenen Variationen problemlos durch ChatGPT bekommen. "Write me blues lyrics about a dead cow in which the cow is eaten at the end" wurde z. B. mit 4 Strophen und 1 Refrain beantwortet. Hier sind also keineswegs militante Veganer am Werk. Den Nachsatz "More violence?" hat Chatty dann aber abgelehnt.

 

[Sascha Franck]

Die Betreiber versehen deswegen das Modell mit Anweisungen, welche Art von Anfragen nicht beantwortet werden sollen.

Das ist, wie du ja auch bereits erwähnst, alleine schon aus rechtlichen Gründen absolut notwendig.
Nur wird es dann eben mit Sicherheit irgendwann auch entweder ganz "offene" oder gehackte AIs und Chatbots geben (wie ja ebenfalls in deinem Posting erwähnt).
Und sollte irgendwann der Schritt zur "echten" KI erfolgen (bisher ist das ja eher wie ein Google auf Speed, sozusagen...), werden die Karten ja ohnehin noch einmal neu gemischt.

 

[Florian Hoffmann]

Offene oder gehackte KI ist bereits passiert.

DALL-E und Midjourney waren die ersten großen Bilder-Generier-KIs. Beide haben Filter, die verhindern sollen dass du dir Gewalt-Pornos generierst oder das Gesicht deiner Kollegin in ein Erotik-Foto reinschnippelst. Da sie nur online auf den Servern der Betreiber laufen, haben sie viel Kontrolle darüber, was erlaubt ist und wer was wie nutzen kann.

Stability AI ging das zu sehr in Richtung Zensur und Bevormundung. Sie haben deshalb das Foundation Model für Stable Diffusion ohne solche Filter verfügbar gemacht. Diese Modelle laufen lokal auf deinem Rechner und niemand kann kontrollieren, was du damit machst.

Die gebräuchlichen Stable Diffusion Modelle sind eher indirekt beschränkt - also wenig auf Gemetzel-Bildern trainiert und können sie daher vermutlich nicht super gut generieren. Ich bin allerdings sicher, einschlägige Kreise haben bereits eigene Modelle in der Mache, die auf so etwas spezialisiert sind.

Der nächste Schritt in Richtung echte KI wird von Google erwartet. Ihr Modell "Gemini" wird ein Large Language Model mit einem Logik-Modell kombinieren. Dieses Modell könnte in der Lage sein, nicht nur gut klingende aber sinnlose Sprache zu generieren, sondern seine Aussagen auf Logik, Analyse und Mathematik zu basieren.

Zur vollwertigen KI wie man sie aus Science Fiction kennt fehlen hauptsächlich noch zwei Schritte: Dass die Modelle nicht unveränderlich bleiben, sondern sich selbsttätig weiterentwickeln. Und dass die KI auch ohne Prompt dauerhaft nachdenkt und Dinge aus eigenem Antrieb tut.

 

[Hyp]

die Antwort auf "Zensur durch GPT: Was können wir noch sagen?" lautet: immer noch alles. Wenn GPT - als Tool - durch seine Algos etwas nicht schreiben möchte, kann man dies höchstselbst immer noch tun.

Es ist doch ganz einfach: Mit zunehmender Verbreitung von ChatGPT verbreiten sich auch dessen Regeln des Sagbaren.
Leute werden anfangen, sich auch in eigenen Äußerungen daran zu orientieren, weil sie sonst Sorge hätten, aufzufallen.
Die Beispiele / Demonstrationen in dem Video sind bezeichnend.

 

[Soundloch]

Die Wissenschaft weiß doch bis zum heutigen Tage nicht einmal, was das "Bewusstsein" des Menschen eigentlich wirklich ist und wie es funktioniert. Dann werden die Roboter uns wohl noch längere Zeit nicht ersetzen.

 

[Sascha Franck]

Und dass die KI auch ohne Prompt dauerhaft nachdenkt und Dinge aus eigenem Antrieb tut.

Ich befürchte, dass wir davon gar nicht so weit entfernt sind. Ob es aktuell nennenswerte Resultate geben würde, kann ich nicht beurteilen, aber man könnte ja bereits jetzt schon einfach 2 KI Instanzen miteinander verschalten, sodass die sich quasi gegenseitig Prompt um Prompt liefern.