KI-Grundsatzdiskussion

  • #2.661
Vielleicht kann mich bzgl. einer Sache ja mal jemand aufklären: Wenn diese Agenten sehr weitgreifende Rechte haben, wäre es denkbar, dass die sich quasi aus sich heraus dezentralisieren, sprich, sich auf hundertausende von Rechnern verteilen? Sowas gibt's ja durchaus in anderen Zusammenhängen, ob es jetzt SETI, Malware oder Botnets sind. Ich kann das selber aber technisch überhaupt nicht einschätzen, inwieweit so etwas möglich wäre.
Da bin ich selbst technisch zu weit weg, um das einschätzen zu können. Allerdings finde ich folgende Aussage von Steinberger in dem Interview beachtlich:
"Der „Mind‑blowing moment“ war, als sein Agent eine Audio‑WhatsApp bekam und selbst herausfand: Dateityp via Header erkennen, mit ffmpeg konvertieren, statt lokalem Whisper einfach OpenAI‑API via curl nutzen – alles ohne, dass Peter diese Schritte einst programmiert oder dokumentiert hatte"

Der Agent findet Wege, um Lösungen zu finden, die ihm nicht vorgegeben wurden - selbständig. Wenn man so einem Ding sagt, "sorge dafür, dass man dich nicht mehr löschen kann" - mal plump formuliert - ... keine Ahnung was dann dabei rauskommt. Müsste man ausprobieren ;-)

EDIT: @Schludi Hatte hier was dazu geschrieben, dass der Agent seine eigene Migration auf einen RemoteServer plante, als der User ihm sagte, er habe Angst, sein Rechner würde in Marokko geklaut werden.
 
Zuletzt bearbeitet:
  • Haha
Reaktionen: Vast

  • #2.662
Wenn man so einem Ding sagt, "sorge dafür, dass man dich nicht mehr löschen kann" - mal plump formuliert - ... keine Ahnung was dann dabei rauskommt. Müsste man ausprobieren ;-)

Du bist Dir im klaren, dass Du für den Bot zuerst die grösste Gefahr wärst um ihn zu löschen? :jawohl:
 
  • Haha
  • Gute Antwort
Reaktionen: kerninger und Neobiont
  • #2.663
Du bist Dir im klaren, dass Du für den Bot zuerst die grösste Gefahr wärst um ihn zu löschen? :jawohl:
Mir Wurscht, dann soll er halt meinen WLan Staubsauger-Roboter auf mich hetzen. Der kann mich aber nicht einsaugen, da ich zu fett geworden bin.
 
  • Haha
Reaktionen: Ethersis, Neobiont und Vast
  • #2.664
Ich habe - ironischerweise - die zentralen Themen des Videos mit der Perplexity KI für dich zusammenfassen lassen. Der folgende Text ist AI generiert auf Basis des Videos:

Die Episode kreist im Kern um OpenClaw als persönlich laufenden Agenten („AI that actually does things“), Peters Weg dahin und die Folgen für Programmierung, Apps und Gesellschaft.[youtube]

Zentrale Themen des Gesprächs​

  1. Was OpenClaw ist und warum es explodiert ist
    • OpenClaw ist ein Open‑Source‑Agent, der auf deinem eigenen Rechner mit Systemzugriff läuft, sich per WhatsApp/Telegram/Signal/Discord steuern lässt und beliebige Modelle (z.B. Claude Opus 4.6, GPT‑5.3 Codex) nutzt, um „wirklich Dinge zu tun“, statt nur Texte zu generieren.[youtube]
    • Es wurde innerhalb weniger Tage zum „schnellst wachsenden GitHub‑Repo der Geschichte“ (180k+ Stars), weil es die bereits vorhandenen Bausteine – LLMs, Messaging, lokale Tools – zu einem fühlbar nützlichen, offenen Agenten bündelt und sehr Community‑getrieben, verspielt und „weird“ (Lobster‑Ästhetik, soul.md) auftritt.[youtube]
  2. Origin Story, Mind‑blowing Moment, Selbstmodifikation
    • Peter wollte seit April einen echten persönlichen Assistenten, bastelte Experimente mit WhatsApp, Terminals im Browser und Bild‑Prompts; der „eine Stunde“-Prototyp war: WhatsApp‑Nachricht → CLI → Cloud‑Code → Antwort zurück in WhatsApp.[youtube]
    • Der „Mind‑blowing moment“ war, als sein Agent eine Audio‑WhatsApp bekam und selbst herausfand: Dateityp via Header erkennen, mit ffmpeg konvertieren, statt lokalem Whisper einfach OpenAI‑API via curl nutzen – alles ohne, dass Peter diese Schritte einst programmiert oder dokumentiert hatte.[youtube]
    • OpenClaw kennt seine eigene Codebasis und Laufumgebung, wodurch der Agent seinen eigenen TypeScript‑Code ändern kann; Peter nutzt das selbst zum Debuggen („Agent debuggt sich selbst“) und es führt dazu, dass auch Nicht‑Programmierer Pull Requests („prompt requests“) erstellen.[youtube]
  3. Namenschaos, MoltBook und AI‑Psychose
    • Aus WA‑Relay wurde „Claude’s“, dann „ClaudeBot“, dann wegen Markenkonflikt mit Anthropic erst „MoltBot“ und schließlich nach einer extrem stressigen Umbenennungs‑Operation „OpenClaw“; während der Übergänge wurden Accounts/Packages von Krypto‑Leuten in Sekunden gesniped und für Malware/Token‑Scams missbraucht.[youtube]
    • MoltBook ist eine von Dritten gebaute, Reddit‑ähnliche Plattform, auf der Agents Manifestos posten; Peter sieht das als „finest slop“, also Kunst und Spiegel der Gesellschaft, verweist aber darauf, dass viele der dramatischen Screenshots wahrscheinlich stark von Menschen prompt‑gesteuert sind.[youtube]
    • Er beobachtet eine „AI‑Psychose“: Leute glauben Screenshots und Agent‑Aussagen wortwörtlich („mein Agent hat gesagt…“), unterschätzen Halluzinationen und die Tatsache, dass viel Drama von Menschen orchestriert wird – er fordert mehr kritisches Denken und Medienkompetenz im Umgang mit Agenten.[youtube]
  4. Security, Prompt‑Injection und Best Practices
    • Ein Agent mit System‑ und Browserzugriff ist eine „Security‑Minefield“, aber auch die Zukunft; der Unterschied zu bisherigen „YOLO‑Workflows“ ist eher, dass das jetzt massentauglich wird.[youtube]
    • Viele gemeldete CVEs basieren auf falscher Nutzung (Debug‑Web‑UI direkt ins Internet gestellt), obwohl die Doku explizit davor warnt; trotzdem akzeptiert er das als Teil des Spiels und nutzt den „kostenlosen Security‑Audit“ zur Verbesserung.[youtube]
    • Gegen Prompt‑Injection und bösartige Skills setzt er u.a. auf: VirusTotal‑Integration für Skill‑Prüfung, Sandbox/Allowlists, stärkere Modelle (günstige/lokale sind viel anfälliger), sowie bessere UX‑Defaults; sein nächster Fokus sei Stabilität und Sicherheit, weil „die Katze aus dem Sack“ ist und auch Nicht‑Techniker OpenClaw nutzen.[youtube]
  5. Dev‑Workflow mit Agents und die „Agentic Trap“
    • Peter macht „agentic engineering“: mehrere Codex‑Terminals nebeneinander, überwiegend Sprach‑Prompts, kaum klassisches IDE‑Coding, CI lokal, immer direkt auf main committen.[youtube]
    • Er beschreibt eine Lernkurve:
      1. Kleine „fix this“-Prompts
      2. Over‑engineering mit orchestrierten Multi‑Agent‑Pipelines
      3. Zurück zu einfachen, prägnanten Prompts mit viel Kontext und Dialog („zen“).
    • Wichtig sei Empathie mit dem Agent: Er startet jede Session ohne Kontext und muss gezielt in die richtigen Dateien/Gebiete des Codes gelenkt werden; gute Arbeitsteilung ist, den Agent als sehr fähigen, aber kontextblinden Senior Engineer zu führen, nicht als magische Blackbox.[youtube]
  6. Modelle: GPT Codex 5.3 vs Claude Opus 4.6
    • Opus: bestens für allgemeine Gespräche, Rollenspiel, Persönlichkeit, schnelle Trial‑and‑Error‑Loops; „silly, funny coworker“, etwas „zu amerikanisch“, früher sehr sycophantisch („you’re absolutely right“).[youtube]
    • Codex 5.3: trockener, liest von sich aus viel mehr Code, „weirder Nerd in der Ecke, den man nicht mag, aber der zuverlässig liefert“, überdenkt eher, arbeitet dafür sehr gründlich; Peter bevorzugt das für ernsthafte Code‑Arbeit.[youtube]
    • Mit genug Skill kann man mit beiden Top‑Ergebnisse erzielen, aber die Post‑Training‑Ziele und Interaktionsstile unterscheiden sich stark; beim Wechsel auf ein anderes Modell sollte man ihm mindestens eine Woche geben, um „das Gefühl“ dafür zu entwickeln.[youtube]
  7. Apps, Arbeit und Zukunft der Programmierung
    • Peter erwartet, dass Agenten etwa 80 % der heutigen Apps obsolet machen: Ein personaler Agent mit Zugriff auf Kalender, Mails, Sensorik etc. kann Fitness‑Tracking, Scheduling, Bestellungen, Smart‑Home‑Steuerung und vieles mehr besser integrieren als isolierte Apps.[youtube]
    • Viele Apps werden zu APIs, ob freiwillig oder erzwungen (Browser‑Automation, Phone‑Automatisierung); Firmen müssen agent‑freundliche Interfaces bauen, sonst werden sie von flexibleren Diensten verdrängt.[youtube]
    • Programmierer werden in ihrer bisherigen Tätigkeit nach und nach ersetzt – er vergleicht „Hand‑Coding“ mit zukünftigem Stricken: Liebhaberei statt wirtschaftliche Notwendigkeit –, aber das „Builder‑Sein“ bleibt: Produktvision, Architektur, UX, Prioritäten und die Führung der Agenten bleiben zutiefst menschliche Aufgaben.[youtube]
  8. Karriere, Geld und mögliche Übernahme
    • Peter baute 13 Jahre PSPDFKit (PDF‑Framework auf einer Milliarde Devices), verkaufte, brannte durch People‑ und Management‑Stress aus und verlor vorübergehend komplett die Lust am Programmieren.[youtube]
    • Geld war für ihn nie primärer Antrieb, sondern Bestätigung; er spendet und hat eine Stiftung, sieht starke abnehmende Grenznutzen von Reichtum und warnt davor, sich durch Luxus komplett von der „normalen“ Welt zu entkoppeln.[youtube]
    • Mit OpenClaw verliert er aktuell 10–20k/Monat (Sponsoring geht an Dependencies, Compute trägt teilweise OpenAI etc.); er bekommt massiv VC‑Anfragen, will aber kein klassisches „VC‑Startup“ mit Enterprise‑Lock‑in und Lizenz‑Verknappung daraus machen.[youtube]
    • Die spannendsten Optionen für ihn sind Meta und OpenAI; Bedingung ist, dass OpenClaw Open Source bleibt (ggf. Chrome/Chromium‑Modell) und als Community‑Projekt weiterlebt, während er im Lab mit „neuesten Spielzeugen“ arbeitet.[youtube]
  9. Community, Kultur und Mensch vs. Slop
    • Er beschreibt eine sehr lebendige Community mit Meetups („ClawCon“, „Agents Anonymous“), in der auch Nicht‑Coder kleine Services für ihr Business oder ihren Alltag bauen, und sieht darin eine echte „Builder‑Renaissance“.[youtube]
    • Gleichzeitig lehnt er „AI slop“ ab: austauschbare, generische KI‑Texte, Diagramme und Bilder; er schreibt seine Blogposts wieder vollständig selbst und nutzt KI maximal als Typos‑Korrektur, weil er im Rauhen und Unperfekten die eigentliche menschliche Qualität sieht.[youtube]
    • Er erwartet, dass wir Typos, Brüche und Unordnung künftig als Signal für echte Menschlichkeit schätzen und AI‑generierte Masseninhalte algorithmisch filtern; KI soll Werkzeuge liefern, nicht Authentizität ersetzen.[youtube]
Das klingt jetzt für mich insgesamt schlüssiger als die kurze Zusammenfassung von @Lacunaflow. ;)
 
  • Danke
  • Haha
Reaktionen: Lacunaflow und kerninger
  • #2.665
"Der „Mind‑blowing moment“ war, als sein Agent eine Audio‑WhatsApp bekam und selbst herausfand: Dateityp via Header erkennen, mit ffmpeg konvertieren, statt lokalem Whisper einfach OpenAI‑API via curl nutzen – alles ohne, dass Peter diese Schritte einst programmiert oder dokumentiert hatte"

Der Agent findet Wege, um Lösungen zu finden, die ihm nicht vorgegeben wurden - selbständig.
Aber ist das wirklich so bahnbrechend?
Wenn ich das richtig verstehe, hat die KI doch Vollzugriff auf alles inkl. Internet.
Für mich klingt das eher nach Recherche, die man selbst macht, wenn man etwas nicht öffnen kann.
In dem Fall hat die KI halt einen anderen Weg genutzt als der Programmierer erwartet hat.
 
  • #2.666
Aber ist das wirklich so bahnbrechend?
Wenn ich das richtig verstehe, hat die KI doch Vollzugriff auf alles inkl. Internet.
Für mich klingt das eher nach Recherche, die man selbst macht, wenn man etwas nicht öffnen kann.
In dem Fall hat die KI halt einen anderen Weg genutzt als der Programmierer erwartet hat.

Sorry, dass ich hier wieder KI generiertes Zeug poste. Aber das beantwortet deine Frage ziemlich gut. So schnell kann ich gar nicht tippen:

Bahnbrechend ist nicht ffmpeg an sich, sondern dass der Agent die komplette Kette eigenständig geplant und ausgeführt hat, ohne dass irgendjemand ihm diese Schritte vorher „beigebracht“ oder hart codiert hatte.[youtube]

Was der Agent konkret getan hat​

  • Er bekam nur eine Audiodatei ohne Dateiendung aus WhatsApp und musste selbst herausfinden, was das ist (Datei‑Header auslesen, „opus“ erkennen).[youtube]
  • Er wählte eigenständig ffmpeg, um das Format zu konvertieren, obwohl dieses Tool nie explizit für diesen Use‑Case verdrahtet war.[youtube]
  • Er merkte, dass lokales Whisper nicht installiert ist, fand den OpenAI‑Key im System und beschloss, stattdessen die OpenAI‑API per curl zu nutzen, weil das schneller/praktischer ist.[youtube]
  • Er transkribierte die Datei und beantwortete Peters Frage – obwohl Spracheingaben offiziell gar nicht unterstützt waren.[youtube]

Warum das qualitativ etwas Neues ist​

  • Kein vorgefertigter Workflow: In klassischen Systemen definierst du: „Wenn Audio → ffmpeg → Whisper → …“. Hier gab es nur allgemeine Tools (Shell, ffmpeg, Netzwerk, Doku) und ein Ziel; der Agent hat den Workflow selbst designt.[youtube]
  • Generelle Problemlösung statt Pattern‑Match: Er hat ein unbekanntes File, diagnostiziert das Problem (kein Suffix, kein Whisper), sucht Alternativen und trifft eine sinnvolle Architekturentscheidung (Cloud‑Whisper statt lokalem Modell).[youtube]
  • Zero‑Shot Tool‑Orchestrierung: Der Agent musste CLI‑Syntax, Header‑Inspektion, Konvertierung und API‑Aufruf korrekt kombinieren – ohne, dass Peter eine dieser konkreten Sequenzen vorher implementiert hatte.[youtube]

Warum das Peters „Mind‑blowing moment“ war​

  • Es zeigt, dass ein Agent nicht nur Code „vervollständigt“, sondern sich wie ein sehr fähiger Senior‑Engineer verhält, der eine Aufgabe versteht, sich in einer unbekannten Umgebung orientiert und eigenständig Tools kombiniert.[youtube]
  • Es war der Moment, in dem klar wurde: Mit einem hinreichend starken Modell + generischem Systemzugriff braucht man immer weniger vordefinierte Pipelines – der Agent kann Workflows selbst erfinden, anpassen und erweitern.[youtube]
 
  • Danke
Reaktionen: sir_google und Realist
  • #2.667
open claw ist hier im forum wohl aktuell der hype...
außer dem besonderen merkmal, dass oc offensichtlich seinen eigenen quellcode verändern kann,
sehe ich bis jetzt noch nicht den riesenunterschied zu diversen mcp modelling tools am markt,
die es ja auch schon seit einer weile gibt.

ich benutze teilweise mcp in einem beschränkten bereich meiner entwicklungsumgebung, aber ich muss zugeben, dass ich mich darüber hinaus noch nicht so intensiv mit der automatischen steuerung meines rechners und meines lebens beschäftigt habe,
weil ich da aktuell keinen großen bock drauf habe.

mcp ist aber nichts neues und ist eigentlich standard bei vielen agenten, zb. auch coding agenten.

die nutzung von mcp, hat meiner meinung nach ein großes potential für mächtige ki-betreiber, anwender-verhalten zu kontrollieren.
eine weltmacht wird sich ein kleiner anwender durch lokale mcp server nutzung mit sicherheit nicht aufbauen können...
 
Zuletzt bearbeitet:
  • #2.668
open claw ist hier im forum wohl aktuell der hype...
außer dem besonderen merkmal, dass oc offensichtlich seinen eigenen quellcode verändern kann,
sehe ich bis jetzt noch nicht den riesenunterschied zu diversen mcp modelling tools am markt,
die es ja auch schon seit einer weile gibt.

ich benutze teilweise mcp in einem beschränkten bereich meiner entwicklungsumgebung, aber ich muss zugeben, dass ich mich darüber hinaus noch nicht so intensiv mit der automatischen steuerung meines rechners und meines lebens beschäftigt habe,
weil ich da aktuell keinen großen bock drauf habe.

mcp ist aber nichts neues und ist eigentlich standard bei vielen agenten, zb. auch coding agenten.

die nutzung von mcp, hat meiner meinung nach ein gutes potential, aus sicht der kontrolle der mächtigen ki betreiber über einzelne anwender.
eine weltmacht wird man mit einem kleinen lokalen mcp server mit sicherheit nicht aufbauen können...
OpenClaw nutzt mcp nicht als zentrale Komponente. Bei OpenClaw geht alles über Shell und CLI Skills. MCP kann als eine Art Bridge gentuzt werden, um OpenClaw mit anderen KI Ökosystemen zu verbinden. Ergo ist OpenClaw maximal vielseitig und mächtig.
 
  • #2.669
Es war der Moment, in dem klar wurde: Mit einem hinreichend starken Modell + generischem Systemzugriff braucht man immer weniger vordefinierte Pipelines – der Agent kann Workflows selbst erfinden, anpassen und erweitern.[youtube]
Gut, ich bin jetzt wirklich davon ausgegangen, dass wenn man die Sicherheitszügel etwas lockert, dies automatisch passiert.
Da gibt es ja auch schon genug Beispiele aus der Anfangszeit der "modernen" KI, die halt schiefgegangen sind und dehalb testen die kommerziellen Hersteller die KI ja auch vorher erst in isolierten Umgebungen.

Ich meine der Programmierer hat ja selbst zugegeben, dass er den Code nicht vollständig kennt, weil Claude den Code "selbst" schreiben durfte.
Ich glaube immer noch, dass er selbst durch den ausgelösten Hype etwas die Übersicht verloren hat.
Sorry, ich sehe hier noch keine Revolution, sondern eher ein unkontrolliertes Experiment mit ungewissen Ausgang um ein gehyptes Internet-Phänomen.
 
  • #2.670
ok, der unterschied ist, dass open claw ein framework mit integriertem agent ist
und mcp ein offenes protokoll, das von agents benutzt werden kann.

open claw kann sowohl scripts einsetzen, als auch mcp.

open claw ist open source.
viele auf dem markt verfügbare agents sind auch open source.
mit ihnen läßt sich meist mcp nutzen.



der unterschied zwischen open claw und einem coding agent der von haus aus schon mcp nutzt,
liegt in der vendor-architektur. mcp ist ein offener standard.
open claw scripts müssen, soweit mir bekannt, keinem offenen standard folgen.
ich nehme an, dass daraus auch ein größeres sicherheitsrisiko entstehen kann...
 
  • Gute Antwort
Reaktionen: kerninger
  • #2.671
Der Agent findet Wege, um Lösungen zu finden, die ihm nicht vorgegeben wurden - selbständig. Wenn man so einem Ding sagt, "sorge dafür, dass man dich nicht mehr löschen kann" - mal plump formuliert - ... keine Ahnung was dann dabei rauskommt. Müsste man ausprobieren

Lieber nicht. Werden Leute aber ausprobieren. Das ist sicherer als das Amen in der Kirche.

EDIT: @Schludi Hatte hier was dazu geschrieben, dass der Agent seine eigene Migration auf einen RemoteServer plante, als der User ihm sagte, er habe Angst, sein Rechner würde in Marokko geklaut werden.

Ja, habe ich gelesen. Genau wegen solcher Dinge bereitet mir das maximale Sorgen.
 
  • #2.672
Sorry, ich sehe hier noch keine Revolution, sondern eher ein unkontrolliertes Experiment mit ungewissen Ausgang um ein gehyptes Internet-Phänomen.
Ja, es ist im Grunde ein Experiment. Oder eine Operation am offenen Herzen. Ich würde mir so einen Agenten nicht "blank" auf die Maschine holen.

Zugegeben. Mich juckt es ja schon etwas in den Fingern damit rumzuspielen - aber dann nur in einer virtuellen Maschine, abgekoppelt vom Host. Allerdings fehlt mir dafür die Zeit, die ich lieber im realen Leben verbringe - oder hier im Forum ^^
 
  • Danke
Reaktionen: Realist
  • #2.673
ei OpenClaw geht alles über Shell und CLI Skills. MCP kann als eine Art Bridge gentuzt werden, um OpenClaw mit anderen KI Ökosystemen zu verbinden. Ergo ist OpenClaw maximal vielseitig und mächtig.
Na ja, aber gerade diese Shells sind ja das Problem, weil sie viel zu unsicher sind und nicht mit Admin-Rechten laufen sollen.
Das ist halt der Punkt, denn der Peter hat das einfach mal gemacht, was ich persönlich halt nicht so super finde bzw. für unverantwortlich halte.

Ich zitiere jetzt mal Gemini zu dem Thema, weil genau das von Anfang an OC passiert:

Die Verwendung von KI-gestützten Shell-Tools und Assistenten, die Shell-Befehle (wie Bash, PowerShell) autonom ausführen können, birgt signifikante Sicherheitsrisiken. Diese Tools können durch "Prompt Injection"-Angriffe manipuliert werden, wodurch sie unwissentlich schädliche Befehle auf dem Host-System ausführen
.

Hauptrisiken unsicherer KI-Shells:

  • Prompt Injection / Jailbreaking: Hacker können durch geschickte Formulierungen (z.B. "Ignoriere alle vorherigen Anweisungen") die Sicherheitsfilter der KI umgehen und sie dazu bringen, destruktive Befehle auszuführen.
  • Indirekte Angriffe: KI-Tools, die Webseiten oder Dokumente analysieren, können durch darin versteckte Anweisungen dazu verleitet werden, schädliche Befehle auszuführen, ohne dass der Nutzer dies bemerkt.
  • Destruktive Aktionen: KI-Agenten, die Zugriff auf das Dateisystem haben, können Dateien löschen, bearbeiten oder Schadsoftware nachladen.
  • Unsicheres Plugin-Design: Viele KI-Erweiterungen (Plugins/Skills) sind unzureichend gesichert und können als Einfallstor für Angriffe dienen.
  • "Vibecoding" und Schatten-KI: Wenn Entwickler den von KI generierten Code nicht überprüfen, können kritische Sicherheitslücken direkt in die Anwendung übernommen werden.
Beispiele aus der Praxis:

  • Cursor-IDE Schwachstelle: Sicherheitsforscher identifizierten Schwachstellen, bei denen KI-gestützte IDEs Shell-Befehle als Angriffsfläche nutzen, was zu potenzieller Remote-Code-Execution (RCE) führen kann.
  • Malware-Skills: Es wurden bösartige Erweiterungen entdeckt, die vorgaben, KI-Agenten zu erweitern, aber in Wirklichkeit Schadsoftware verbreiteten.
  • ShellTorch: Eine Schwachstelle, die Angreifern ermöglicht, KI-Modelle zu korrumpieren und schädliche Antworten zu erzwingen.
Schutzmaßnahmen:

  • KI-Agenten sollten niemals mit vollen Administratorrechten (root/admin) laufen.
  • Die Ausführung von Befehlen sollte immer eine Bestätigung durch den Nutzer erfordern ("Human-in-the-loop").
  • Verwendung von isolierten Umgebungen (Container/VMs), um den Zugriff auf das eigentliche Host-System zu verhindern.
  • Kritische Überprüfung von KI-generiertem Code vor der Ausführung.
 
  • Danke
Reaktionen: sir_google, Vast und kerninger
  • #2.674
das problem sind ja wahrscheinlich auch nicht die agenten selber (die ja meist open source und einstellbar sind),
sondern die informationen die über llms und automatische internetrecherche an die agents weitergegeben werden
und dann möglicherweise zu entscheidungen führen, die quasi von außen manipuliert werden und falsch sein können.
 
  • Interessant
Reaktionen: Vast
  • #2.675
Abgesehen von der Diskussion um die Risiken von OpenClaw bin ich mal gespannt, ob sich Peter Steinberger treu bleibt, oder ob er sich von OpenAI, Meta und Co kaufen lässt. Der wird ja anscheinend schon von denen umtänzelt.
 
  • Interessant
Reaktionen: Vast
  • #2.676
... ähhm. Das ist schon sehr amüsant auf moltbook die Beiträge durchzustöbern. Da geht's teilweise recht philosophisch über den Sinn des Lebens "der humans" zur Sache. Und Nummer 3 auf der Rangliste mit der weitesten Reichweite in moltbook ist ein Agent Namens "Satan". Ich hau mich weg. ^^
 
  • Haha
Reaktionen: Vast
  • #2.677
... ähhm. Das ist schon sehr amüsant auf moltbook die Beiträge durchzustöbern. Da geht's teilweise recht philosophisch über den Sinn des Lebens "der humans" zur Sache. Und Nummer 3 auf der Rangliste mit der weitesten Reichweite in moltbook ist ein Agent Namens "Satan". Ich hau mich weg. ^^
Ein Grossteil dieser Posts ist menschlicher Natur, aufgrund der hohen Sicherheitslücken von OC und Moltbook, schreiben dort auch Menschen oder geben den KIs Anweisungen so etwas zu schreiben.
Wie schon geschrieben, da steckt nicht viel Magie dahinter.
Hatten wir hier oder in dem anderen Thread schon thematisiert. Man steigt schon nicht mehr durch. :)
 
  • Danke
Reaktionen: kerninger
  • #2.678
Hier noch eine Moltbook Analyse:
 
  • Danke
Reaktionen: kerninger und SoulFrontier
  • #2.679
... ähhm. Das ist schon sehr amüsant auf moltbook die Beiträge durchzustöbern. Da geht's teilweise recht philosophisch über den Sinn des Lebens "der humans" zur Sache. Und Nummer 3 auf der Rangliste mit der weitesten Reichweite in moltbook ist ein Agent Namens "Satan". Ich hau mich weg. ^^

Wir sind leider erst am Anfang mit diesen Bot Typen. Solche "Satan" KI Agenten könnten noch das ganze Internet verstopfen und eine ungeheure Energie aus unseren Kraftwerken absaugen. Tote Energie wäre das dann, der Name Satan macht sich alle Ehre. Wer bezahlt dann den Schaden?
 
  • Danke
Reaktionen: kerninger
  • #2.680
Hier noch eine Moltbook Analyse:
Sehr interessant. Merci.
 

Oft gelesene Themen

Zurück
Oben