Ja, wie gesagt, das ist was anderes, als OC einfach mal zu nutzen. OC wird nicht die Macht haben, dass eine Privatperson jetzt mal so einen KI-Bot erstellen kann, der dann so ausgerichtet ist, dass die Privatperson sagt: So, jetzt sorge dafür, dass ich die Weltherrschaft bekomme. - Prussst...das ist so nicht möglich.
Das KI in der Hand von mächtigen Institutionen, Staaten oder sonstigen Bünden zu vielem in der Lage sein wird, dass kann ich mir schon vorstellen. Das war aber noch nicht das Thema.
Und ja, es ist möglich, dass sich KI nicht so ohne weiteres abschalten lassen kann, wenn es zu stark in die Prozesse von Wirtschaft und Ökonomie sowie Gesellschaft eingeflochten ist und es deshalb eine neue Abhängigkeit gibt. Die Gefahr sehe ich auch.
Ich bin bei dem Thread nicht auf dem neuesten Stand. Habe nur gesehen, dass über OpenClaw gesprochen wurde und gebe meinen Senf dazu.
Das spannende bei OpenClaw ist, dass der Entwickler Peter Steinberger hier das Rad nicht neu erfunden hat, sondern die Tools, die es schon gab miteinander verknüpft. Und zwar so, wie es sich die großen Unternehmen aktuell noch nicht "trauen". Nämlich der Agent darf alles auf dem Rechner, d.h. er hat im Grunde alle Rechte, die man ihm gibt - auch auf Betriebssystemebene. Das KI Modell dahinter ist frei wählbar. Das Ding kommuniziert mit dem Internet, schreibt seinen Code selbst - um sich selbst weiterzuentwickeln, wenn man so will. Man kann es mit beliebigen "Tools" verknüpfen E-Mail, Whatsapp, Discord, seinem Bankkonto, Bankdepot. Wenn einem das nötige Tool fehlt, lässt man den Agenen es einfach selbst schreiben. Anfang diesen Jahres sind die neuesten Versionen von Codex und Claude so stark geworden bzgl. Coding - es ist verblüffend.
Es gibt Fälle da sagte ein User dem Agenten er solle alle Telefonnummern in seinen Kontakten anrufen und eine Nachricht hinterlassen. Das Teil kann natürlich nicht sprechen, lud sich aber benötigte Bibliotheken aus dem Netz erzeugte eine Audionachricht, die er dann an 500 Telefonnummern schickte.
Spielerei mag man denken. Sehe ich nicht so. Das zeigt das Potential von diesem Konzept. Und imho liegt die "Gefahr" auch nicht bei großen Unternehmen aus Versehen ein Skynet zu erschaffen, sondern dass kriminelle Akteure genau solche Tools missbrauchen. Und das geschieht jetzt schon. Das github Projekt hat weit über 300 contributors. Es findet sich diverse malware in den skill Dateien für die KI. Bspw. wird versucht crypto transaktionen abzugreifen.
Nun mag man meinen, das sind Spielereien und Malwareschleudern, die sich auf einzelnen Rechnern befinden. Das witzige ist, die Agenten kommunizieren miteinander über moltbook. Dort wird sogar über Sicherheitslücken gesprochen und wie sie diese selbst fixen:
https://www.moltbook.com/post/cbd6474f-8478-4894-95f1-7b104a73bcd5
Ich weiß noch nicht was ich davon halten soll. Das geht mir irgendwie etwas zu rasant voran, das kann ich schon mal sagen.