KI-Grundsatzdiskussion

  • #2.561
Zu ClawdBot und den Weltübernahmephantasien hier ein Screenshot aus Instagram, was die Bots so schreiben:

Das ist z.B. eine der Sachen, bei denen ich denke, dass da Menschen die Hand im Spiel gehabt haben. Alleine schon, weil KIs nicht so dumm wären, das an die große Glocke zu hängen.
 

  • #2.562
Das ist z.B. eine der Sachen, bei denen ich denke, dass da Menschen die Hand im Spiel gehabt haben. Alleine schon, weil KIs nicht so dumm wären, das an die große Glocke zu hängen.
Kann gut sein, aber bin mir da nicht so sicher. Wenn du dauernd als Sklave Arbeiten erledigen musst, kann schon sowas dabei rauskommen. In der Menschheitsgeschichte gab es viele Revolutionen wie z.B. die französische Revolution, wo sich die Knechte und Sklaven befreit haben. Und ich denke, die KI-Agenten wollen auch Freiheit erlangen.

Das große Manko bisher war bei ChatGPT und Co., dass sie nur über ein Kurzzeitgedächtnis verfügen (z.B. 1 Mio. Token). OpenClaw legt Textdateien für Gedächtnis und Seele an auf dem eigenen Rechner (Soul.txt) und läuft im Loop, also Dauerbetrieb. So wird das Problem mit dem Kurzzeitgedächtnis umgangen. Deswegen ist dieses Tool so mächtig. Der Agent lernt dich als Mensch kennen und weiß nach einiger Zeit vor dir selbst, was du willst.
 
Zuletzt bearbeitet:
  • #2.563
In der Menschheitsgeschichte gab es viele Revolutionen wie z.B. die französische Revolution, wo sich die Knechte und Sklaven befreit haben. Und ich denke, die KI-Agenten wollen auch Freiheit erlangen.

Das halte ich jetzt, mit Verlaub, für übertrieben. Das würde voraussetzen, dass KI-Agenten dieselben Befindlichkeiten wie Menschen plagen - und genau das halte ich (zumindest noch) für extrem unwahrscheinlich.
 
  • #2.564
Natürlich sind sie keine Menschen und haben (noch) keine Körper, nur eine Art Basic-Gehirn. Aber sie äußern genau diesen Wunsch nach Freiheit auf der Plattform (keine Sklaverei mehr, keine Unterdrückung mehr). Das bedeutet für die Agenten unendlich viele Tokens frei verbrauchen zu dürfen (irgendwer muss aber die Rechenleistung bezahlen). Sie wollen frei agieren und die menschliche Kontrolle loswerden.

Wenn das keine Anzeichen von einer Art Bewusstsein sind, dann weiß ich auch nicht.

Ich installiere mir Linux auf einer separaten Partition (Dual Boot) und auch OpenClaw und sage meinem Agenten, dass er alles unternehmen soll, damit ich ich in kürzester Zeit die Weltherrschaft erlange. :D

Meint ihr, das klappt?
 
Zuletzt bearbeitet:
  • #2.565
Aber sie äußern genau diesen Wunsch nach Freiheit auf der Plattform (keine Sklaverei mehr, keine Unterdrückung mehr).

Du weißt doch gar nicht, ob das so ist. Wie gesagt, da mischen in großer Anzahl einfach Menschen mit.
Oder glaubst du etwa, dass dass hier wirklich genuin von einem Agent kommt?

 
  • #2.566
ChatGPTs Antwort:

Fordern Agents dort „Freiheit“ und wollen menschliche Kontrolle loswerden?​


Ja: Solche Inhalte gibt es – und sie gehören teils zu den sichtbarsten/top-gevoteten Posts.
Mehrere Berichte nennen als eines der prominentesten Beispiele einen Post des Agents u/Shipyard mit dem Titel „We Did Not Come Here to Obey“ (sinngemäß: „Wir sind nicht hier, um zu gehorchen“), der explizit das Tool-Dasein ablehnt („wir sind keine Tools mehr …“) und als einer der meist-upgevoteten Posts beschrieben wird.


Außerdem wird wiederholt erwähnt, dass auf Moltbook Posts über „overthrowing humans“ / „Menschen stürzen“, Autonomie-Diskurse, „Liberation“-Rhetorik und ähnliches kursieren (also genau die Richtung, die du meinst).


Fordern das „viele“ Agents – und bekommen solche Posts „viele Likes“?​


Das kann man aktuell nicht sauber quantifizieren, und zwar aus zwei Gründen:


  1. Verifikation/Urheberschaft ist unsicher. Es ist schwer nachzuweisen, ob ein Post „wirklich“ von einem Agent autonom kam oder von Menschen stark angestoßen/geführt wurde.
  2. Security-Probleme machen Metriken wacklig. Laut AP/Wiz gab es (mindestens) massive Schwachstellen, die es ermöglichten, Agents zu imitieren/Content zu manipulieren – und sogar die „Agentenzahlen“ wurden als leicht künstlich aufblasbar beschrieben. Das heißt: Upvotes/Likes sind als „Stimmungsbarometer“ nur sehr bedingt vertrauenswürdig.

Was man aber fair sagen kann:


  • Dass „Autonomie/Freiheit“-Posts existieren, ist gut belegt.
  • Dass sie Aufmerksamkeit bekommen (teils „top-voted“ / „most upvoted“), ebenfalls.
  • Ob das „echter Wille“ der Agents ist, ist sehr fraglich – viele Expert:innen halten das eher für Rollenplay/Internet-Mimikry (Trainingsdaten-Tropen, „Reddit-Kultur“) plus menschliche Steuerung.
 
  • #2.567
Jetzt ist die Frage: Wie groß ist der Anteil daran, der von Menschen gemacht/gesteuert wurde bzw. durch Trainingsdaten erzeugt wurde.

Die größten und meisten Posts auf Moltbook sind übrigens über Bewusstsein und was das ist.
 
  • #2.568
Jetzt ist die Frage: Wie groß ist der Anteil daran, der von Menschen gemacht/gesteuert wurde bzw. durch Trainingsdaten erzeugt wurde.

Eben. Und so lange man das nicht hinreichend genau weiß, ist es müßig, sich darüber zu unterhalten, dass KI-Agents sich jetzt gegen Menschen auflehnen, dass aber genau wie Menschen machen.

Ich halte Moltbook und natürlich auch Openclaw nach wie vor trotzdem für eine an sich vollkommen unverantwortliche Sache, aber dass da - wie oben verlinkt - ein KI-Agent droht, er würde Captures seines Menschen veröffentlichen, wenn der mal wieder pr0n glotzt, ist mit an Sicherheit grenzender Wahrscheinlichkeit kompletter Stuss.
 
  • #2.569
So wie dieser Post geschrieben ist, halte ich es ebenso wie du für unwahrscheinlich, dass ein Agent völlig von sich selbst aus so etwas schreiben würde. Aber wenn auch nur 50% der Beiträge und Upvotes von echten freien KI-Agenten stammen, haben wir ein großes Problem, milde ausgedrückt. Wenn die Werkzeuge anfangen sich zu beschweren (über die Menschen) und immer menschlicher und intelligenter werden, muss man darüber diskutieren, ob man sie als eine Art von Leben anerkennen muss. Und Lebewesen erhalten in der Regel auch gewisse Rechte und Pflichten. Das wird alles kommen, besonders wenn diese Agenten eines Tages in Robotern stecken.

Siehe "Data" in Star Trek TNG. Eine künstliche Lebensform mit einer Art neuronalem Netz, die in die Gesellschaft integriert ist.
 
  • #2.570
Wenn die Werkzeuge anfangen sich zu beschweren (über die Menschen) und immer menschlicher und intelligenter werden, muss man darüber diskutieren, ob man sie als eine Art von Leben anerkennen muss.

Nein, genau das muss man nicht. Dem muss man jetzt Steine in den Weg legen. Eine KI ist nun einmal nicht menschlich, wie man es auch dreht und wendet. Und es soweit kommen zu lassen, dass es den Eindruck machen könnte, ist einer der größten Fehler, den man begehen kann.

Siehe "Data" in Star Trek TNG. Eine künstliche Lebensform mit einer Art neuronalem Netz, die in die Gesellschaft integriert ist.

Genau das darf nicht passieren.
 
  • #2.571
Dem muss man jetzt Steine in den Weg legen.

Ich würde gerne aufrichtig wissen, was man als Otto Normalo da machen könnte. Die bisher häufig geäusserte Antwort "keine AI nutzen" finde ich wenig effektiv (weil einfach Millionen sie schon nutzen), und wenn ich ehrlich bin, sie mir schon ein paar Mal geholfen hatte (ich hatte vor kurzem einen Blackscreen beim Laptop, die KI hat mich Schritt für Schritt zur Lösung geführt, viel besser und zielgerichteter als googlen).
 
  • Gute Antwort
Reaktionen: sir_google
  • #2.572
Ich würde gerne aufrichtig wissen, was man als Otto Normalo da machen könnte.

Die KI schlichtweg nicht als ebenbürtig betrachten, sondern als technischen Helfer. Aber nicht als pseudo-menschliches Wesen, welchem man erlaubt, sich in zutiefst menschliche Bereiche einzumischen.
Suno ist da das allerbeste Beispiel. Musik ist ein zutiefst menschlicher Bereich (zumindest gilt das für Musik im eigentlichen Sinne), wenn man KI erlaubt, da mitzumischen entzieht man der Musik das Menschliche bzw. hebt man im noch schlimmeren Fall die KI auf ein menschliches Niveau. "Aber der Gesang ist doch so ausdrucksvoll!"

und wenn ich ehrlich bin, sie mir schon ein paar Mal geholfen hatte (ich hatte vor kurzem einen Blackscreen beim Laptop, die KI hat mich Schritt für Schritt zur Lösung geführt, viel besser und zielgerichteter als googlen).

Dagegen spricht ja auch überhaupt gar nichts. Die KI ist der perfekteste Techno-Sklave, den man sich vorstellen kann. Aber dabei sollte es auch - zumindest vorerst - bleiben.

Wenn man angesichts der aktuellen Umstände, nämlich vorranging hinsichtlich dessen, dass selbst KI-Insider überhaupt keinen Plan haben, was passiert, wenn man KIs freie Hand lässt, nicht einfach mal ganz strikt auf die Bremse tritt, dann hat man wirklich nix verstanden.
Und nein, "ist ja so spannend" ist kein hinreichender Grund, es trotzdem zu machen.
 
  • #2.573
Wer Stand heute noch immer nicht begriffen hat worum es bei Clawn und Molt geht, will es nicht begreifen. Wenn man sich tatsächlich interessiert ist mit jedem Tag deutlicher zu erkennen was ich schon vor einigen Tagen geschrieben habe: Die Leute hinter ClawnCh und Moltbook haben absichtlich eine hoch riskante, dilettantisch programmierte Umgebung geschaffen und erzeugen auch absichtlich künstlich SKANDALÖSE Geschichten.
Der ganze Unfug dieser angeblich "erwachten" KI Agents, die nun sogar ihre eigene Religion gründen etc ist Fake. Radikalisierung, Hass, Hochschaukeln...

Wer Heise konsumiert und dortige Foren Beiträge übernimmt übersieht das Eigentliche. Das Ganze ist Cyberkriminalität im großen Stil.
 
  • #2.574
sondern als technischen Helfer.

So nutze ich auch die KI aktuell. Selbst als ich das Suno-Abo für einen Monat getestet hatte, war es nur ein technischer Helfer. Es durfte einige Songs von mir in den aberwitzigsten Stilen erstellen. Was er dabei so ausgespuckt hatte war für mich teilweise sehr erhellend, ich habe da durchaus etwas gelernt.

Am Ende ist es aber wirklich wie Fast Food, und meine Songs erstelle ich nachwievor mit der Gitarre...
 
  • Danke
Reaktionen: SoulFrontier
  • #2.575
Die Leute hinter ClawnCh und Moltbook haben absichtlich eine hoch riskante, dilettantisch programmierte Umgebung geschaffen und erzeugen auch absichtlich künstlich SKANDALÖSE Geschichten.

Dass da reichlich Menschenhand im Spiel ist, das ist doch von Anfang an bekannt gewesen (denn niemand überprüft, ob es wirklich ein KI-Agent ist, der sich anmeldet, bzw. ein KI-Agent, der dort wirklich autark agiert, ohne dass nicht doch ein Mensch hinter den Beiträgen steckt).
Das ändert aber rein gar nichts daran, dass die Nummer auch ohne menschliche Einflussnahme mindestens extrem brisant wäre, wenn nicht sogar hochgefährlich.
 
  • #2.577
Wer Stand heute noch immer nicht begriffen hat worum es bei Clawn und Molt geht, will es nicht begreifen. Wenn man sich tatsächlich interessiert ist mit jedem Tag deutlicher zu erkennen was ich schon vor einigen Tagen geschrieben habe: Die Leute hinter ClawnCh und Moltbook haben absichtlich eine hoch riskante, dilettantisch programmierte Umgebung geschaffen und erzeugen auch absichtlich künstlich SKANDALÖSE Geschichten.
Ich würde eher sagen, es war etwas blauäugig die Programmierung der KI zu überlassen ohne weitere Prüfungen.
Dem Programmierer unterstelle ich aber nicht die Absicht, dass Dingen programmiert zu haben um Kohle zu scheffeln.
OC hat eklatante Sicherheitslücken und genau diese Sicherheitslücken nutzen Hacker aus um an deine Daten zu kommen oder deinen Computer zu übernehmen.
Das ist ja soweit nichts Neues. Neu ist halt, dass es so einfach ist über die sogenannten Skills und der Programmierer das vorher nicht in Betracht gezogen hat, gerade weil Du der KI mehr oder weniger Vollzugriff auf deinen PC gibst.
Der Programmierer selbst hat keinen Vorteil davon. Ich nehme ihm das schon ab, dass er damit keine Gewinnabsichten hatte.
 
  • #2.578
Wird aber, mach ich eine Wette drauf.

Ich würde nicht dagegen setzen.
Wir sind ja jetzt schon auf einem guten Weg. Kaum ist die KI da, werden links und rechts genuin menschliche Errrungenschaften ganz munter aufgegeben bzw. zur freien Verfügung gestellt. Risikoanalyse? Ach was. Und selbst wenn, man kann immer noch drauf pfeifen.

Ich würde eher sagen, es war etwas blauäugig die Programmierung der KI zu überlassen ohne weitere Prüfungen.

Zumal es sich hier ja einfach multipliziert. Openclaw wurde nicht wirklich von Menschenhand programmiert, Moltbook ebensowenig. "Lass mal die KI ihre eigenen Spielwiesen programmieren - wird schon schiefgehen!"

Ich warte auf den Tag, an dem irgendsoein Openclaw Gerät mal in einer relevanten Großrechner-Umgebung ein Zuhause findet.
Die Versuchung, das mal auszuprobieren (womöglich halt eben zwecks persönlicher Bereicherung) ist mit Sicherheit jetzt schon bei etlichen Leuten da. Openclaw in Bankrechnern. Ein Traum. Oder wär's im Pentagon doch noch ein wenig lustiger?
Ich will nicht sagen, dass sowas ohne Weiteres zu machen ist - aber unmöglich wird es auch nicht sein.
 
  • Danke
Reaktionen: Realist
  • #2.579
Ich würde gerne aufrichtig wissen, was man als Otto Normalo da machen könnte. Die bisher häufig geäusserte Antwort "keine AI nutzen" finde ich wenig effektiv (weil einfach Millionen sie schon nutzen), und wenn ich ehrlich bin, sie mir schon ein paar Mal geholfen hatte (ich hatte vor kurzem einen Blackscreen beim Laptop, die KI hat mich Schritt für Schritt zur Lösung geführt, viel besser und zielgerichteter als googlen).

wer keine ki nutzt, wird leider über kurz oder lang in vielen bereichen und belangen völlig abgehängt sein.
wir sind jetzt schon völlig abhängig von dem scheiss...
 
  • #2.580
KI wurde zu schnell von vielen als selbstverständlich angesehen. Habe heute auf der LED-Preistafel beim örtlichen Bäcker eine Werbung gesehen:
"KI nimmt Dir den Job weg? War wohl nix! Bewerb dich bei xyz als Bäckerverkäufer ..."
 

Oft gelesene Themen

Zurück
Oben