KI-Grundsatzdiskussion

[Sascha Franck]

Habt ihr eigentlich mitbekommen, dass Anthropic Claude 5 auf Beschluss der zuständigen US-Behörde quasi nicht veröffentlichen darf?
Das kann natürlich auch deshalb so sein, weil man auf Anthropic sauer ist, da die sich ja gegen die Nutzung ihrer Produkte in KI-Kriegsmaschinerie ausgesprochen haben, aber das Verbot bezog sich nur auf den außer-US-amerikanischen Markt, was nahelegt, dass man Claude 5 (bzw. Fable 5 und Mythos 5, was ja irgendwie "Subsets" von Claude 5 sind), für zu gefährlich hält, um ausländische Mächte damit rumspielen zu lassen.
Ebenfalls darauf hin deutet, dass Anthropic selber schon einen Filter eingebaut hat, der es verhindern soll, dass Claude 5 sich bspw. Details in Chemie und Biologie widmet.
Die offizielle Begründung scheinen Sicherheitsbedenken zu sein - aber das ist, da das Verbot nicht für US-Kunden gilt, mMn ein lascher Vorwand.

Wie dem auch sei, die Sache nimmt mittlerweile so hart Fahrt auf, dass man gar nicht mehr weiß, was man sagen soll. Besonders bedenklich finde ich dabei, dass sich anscheinend in der öffentlichen Wahrnehmung aufgrund der bereits stattfindenden Überflutung mit "KI hier, KI da, KI überall" eine Art Gewöhnungseffekt einstellt, sodass die meisten Leute womöglich "ach, wird schon gehen" denken.

---

Ich selber glaube übrigens leider, dass wir relativ schnurstracks auf den Tag zusteuern, den irgendwelche zukünftigen Geschichtsbücher (so es die denn noch geben sollte, was unwahrscheinlich werden könnte...) als "Skynet-Day" vermerken könnten.

Dieses Buch werde ich mir in der deutschen Übersetzung (die im September kommt, will das lieber so lesen, dass ich wirklich alles verstehe) wohl zulegen, geht halt darum, was eigentlich passiert, wenn es eine echte AGI (oder "superhuman AI") geben wird. Und das stimmt einen nur wenig zuversichtlich. Ich bin bei FB über ein Posting eines Menschen, der sich der Übersetzung widmet, gestolpert (Robert Herr, mittlerweile auch Mitarbeiter des Machine Intelligence Research Institute in Berkeley, die u.a. das oben verlinkte Buch verfasst haben). Der vergleicht das Verhältnis von Mensch zu KI dann mal mit dem Verhältnis von Schimpanse zu Mensch. Das mag erst einmal populistisch wirken, trifft es aber ganz gut.
Ich zitiere:

Und es ist nicht einmal notwendig, dass künstliche Superintelligenz uns hasst, um eine Gefahr darzustellen. Du hasst Schimpansen wahrscheinlich nicht. Aber du isst wahrscheinlich gerne Schokolade, und nachdem du Schokolade gegessen hast, putzt du dir vermutlich die Zähne. Und manche Menschen, die näher bei den Schimpansen leben als du, wollen etwas Geld verdienen, indem sie den Kakao anbauen, der in deiner Schokolade steckt, und das Palmöl, das in deiner Zahnpasta steckt. Und dafür müssen sie den Wald roden, in dem die Schimpansen leben. Wahrscheinlich hassen sie Schimpansen auch nicht. Sie sind ihnen vermutlich nur nicht so wirklich wichtig, und sie können den Lebensraum der Schimpansen für etwas nutzen, das ihnen wichtiger ist. Und das ist der Grund, warum Schimpansen eine vom Aussterben bedrohte Art sind.
Und wenn jemand künstliche Superintelligenz mit Methoden entwickelt, die auch nur annähernd den derzeit verwendeten Methoden zur Erstellung von künstlicher Intelligenz ähneln, werden wir die vom Aussterben bedrohte Art sein.

Ich finde, dass es das ganz gut beschreibt. Das ganze Posting ist übrigens hier zu lesen.

Mir bereitet all das sehr flaue Gefühle. Um es ganz vorsichtig auszudrücken.

 

[der_wahre_Noplan]

Habt ihr eigentlich mitbekommen, dass Anthropic Claude 5 auf Beschluss der zuständigen US-Behörde quasi nicht veröffentlichen darf?
Das kann natürlich auch deshalb so sein, weil man auf Anthropic sauer ist, da die sich ja gegen die Nutzung ihrer Produkte in KI-Kriegsmaschinerie ausgesprochen haben, aber das Verbot bezog sich nur auf den außer-US-amerikanischen Markt, was nahelegt, dass man Claude 5 (bzw. Fable 5 und Mythos 5, was ja irgendwie "Subsets" von Claude 5 sind), für zu gefährlich hält, um ausländische Mächte damit rumspielen zu lassen.
Ebenfalls darauf hin deutet, dass Anthropic selber schon einen Filter eingebaut hat, der es verhindern soll, dass Claude 5 sich bspw. Details in Chemie und Biologie widmet.
Die offizielle Begründung scheinen Sicherheitsbedenken zu sein - aber das ist, da das Verbot nicht für US-Kunden gilt, mMn ein lascher Vorwand.

Wie dem auch sei, die Sache nimmt mittlerweile so hart Fahrt auf, dass man gar nicht mehr weiß, was man sagen soll. Besonders bedenklich finde ich dabei, dass sich anscheinend in der öffentlichen Wahrnehmung aufgrund der bereits stattfindenden Überflutung mit "KI hier, KI da, KI überall" eine Art Gewöhnungseffekt einstellt, sodass die meisten Leute womöglich "ach, wird schon gehen" denken.

---

Ich selber glaube übrigens leider, dass wir relativ schnurstracks auf den Tag zusteuern, den irgendwelche zukünftigen Geschichtsbücher (so es die denn noch geben sollte, was unwahrscheinlich werden könnte...) als "Skynet-Day" vermerken könnten.

Dieses Buch werde ich mir in der deutschen Übersetzung (die im September kommt, will das lieber so lesen, dass ich wirklich alles verstehe) wohl zulegen, geht halt darum, was eigentlich passiert, wenn es eine echte AGI (oder "superhuman AI") geben wird. Und das stimmt einen nur wenig zuversichtlich. Ich bin bei FB über ein Posting eines Menschen, der sich der Übersetzung widmet, gestolpert (Robert Herr, mittlerweile auch Mitarbeiter des Machine Intelligence Research Institute in Berkeley, die u.a. das oben verlinkte Buch verfasst haben). Der vergleicht das Verhältnis von Mensch zu KI dann mal mit dem Verhältnis von Schimpanse zu Mensch. Das mag erst einmal populistisch wirken, trifft es aber ganz gut.
Ich zitiere:


Ich finde, dass es das ganz gut beschreibt. Das ganze Posting ist übrigens hier zu lesen.

Mir bereitet all das sehr flaue Gefühle. Um es ganz vorsichtig auszudrücken.

PR Stunt nach Red Bulls Vorbild. "Da ist Koks in meinem neuen Getränk, bitte verbiete mich"

Anthropic hat doch schon zuvor darum gebeten.

 

[Sascha Franck]

Anthropic hat doch schon zuvor darum gebeten.

Klar, damit wird es bestimmt auch zu tun haben - aber wenn man sich anschaut, was Leute, die in der Materie drin stecken, von Claude 5 so halten, dann kann ich zumindest verstehen, warum Regierungsstellen wollen, dass das keine "feindlichen Mächte" in die Hand bekommen.

 

[der_wahre_Noplan]

Klar, damit wird es bestimmt auch zu tun haben - aber wenn man sich anschaut, was Leute, die in der Materie drin stecken, von Claude 5 so halten, dann kann ich zumindest verstehen, warum Regierungsstellen wollen, dass das keine "feindlichen Mächte" in die Hand bekommen.

Wie wollen die das verhindern? Du kannst doch aus dem Ausland jemanden bezahlen, der ein Abo abschließt und seinen Account über VPN nutzen.
Zudem sind über die Hälfte der Leute, die Anthropic entwickeln selbst keine US-Bürger.

 

[Sascha Franck]

Wie wollen die das verhindern? Du kannst doch aus dem Ausland jemanden bezahlen, der ein Abo abschließt und seinen Account über VPN nutzen.

Deshalb hat Anthropic das ja jetzt auch erstmal komplett zurückgezogen.

 

[Seratos]

Deshalb hat Anthropic das ja jetzt auch erstmal komplett zurückgezogen.

Soweit ich weiß, ist Fable (das lobotomierte Mythos) überall verfügbar. In Bereichen wie Cybersecurity, Biologie/Chemie, KI-Modell-Entwicklung wird man automatisch auf das ältere Opus 4.8 zurückgestuft.

Edit: Fable wurde jetzt tatsächlich von der US-Regierung global gesperrt!

 

[Ethersis]

Ich sehe daher durch die neuen Gesetze eine Entspannung an der KI Front kommen, weil es nicht mehr so einfach ist damit Kohle zu machen.

Da hast zwar recht, wenn du schreibst, dass es etwas schwieriger wird mit KI Kohle zu machen aber ich sehe nicht, dass das mit der Rechtsprechung einhergeht. Die beschäftigen sich ja nicht mit den Verkaufsprinzipien und schränken das generieren auch nicht ein. Es sind eher die Plattformen selber. Beispielsweise Spotify, die sagen, ein Song benötigt mindestens 1.000 Aufrufe für die Monetarisierung oder YouTube, die nun massiv gegen KI-generierten Einheitsbrei vorgeht (und dabei blöderweise auch gegen echte Menschen mit echtem Content vorgehen).

 

[Ethersis]

Der vergleicht das Verhältnis von Mensch zu KI dann mal mit dem Verhältnis von Schimpanse zu Mensch.

Ich halte den Vergleich Mensch -> Ameise für realistischer.

 

[Sascha Franck]

Ich halte den Vergleich Mensch -> Ameise für realistischer.

Erschreckenderweise ist das vermutlich in der Tat treffender, wenn wir so weitermachen. Und das tun wir ja.

 

[SoundMystery]

Jeder Fortschritt bringt auch Negatives . Wichtig ist nur, dass wir dafür Sicherheitsstufen haben.
Leider wird so sein, für manche wird es geben und für manche nicht.
Mir macht eher Angst das Thema Biowaffen, hier kannst Viren erschaffen, die erstmal paar Wochen unbemerkt in dir drin
sind, bis es dann ausbricht und sowas geht heute problemlos mit KI.
Da ist KI im Musikbereich noch das Geringste.

 

[Sascha Franck]

Wichtig ist nur, dass wir dafür Sicherheitsstufen haben.

Haben wir nicht.

Leider wird so sein, für manche wird es geben und für manche nicht.

Aktuell für keine.

Mir macht eher Angst das Thema Biowaffen, hier kannst Viren erschaffen, die erstmal paar Wochen unbemerkt in dir drin
sind, bis es dann ausbricht und sowas geht heute problemlos mit KI.

KI killt auch schon per Drohne. Da muss man sich also keine Sorgen machen.

KI soll erstmals eigenständig Soldaten getötet haben

Ein ukrainischer Waffenproduzent behauptet, die Schwelle zum Einsatz von Maschinen, die selbstständig töten, sei schon überschritten. Bei einem Versuch nahe Bachmut sollen unbemannte Flugkörper Soldaten attackiert haben.

www.n-tv.de

(wurde auch schon bestätigt)

 

[Ethersis]

Mir macht eher Angst das Thema Biowaffen, hier kannst Viren erschaffen, die erstmal paar Wochen unbemerkt in dir drin
sind, bis es dann ausbricht und sowas geht heute problemlos mit KI.

So einfach ist das? Wie heißt denn dieser Supervirus? Habe ich nämlich nicht mitbekommen, dass ne KI so etwas entwickelt hat. Oder übertreibst du da vielleicht ein klitzekleines bisschen?

 

[holgi]

So einfach ist das? Wie heißt denn dieser Supervirus? Habe ich nämlich nicht mitbekommen, dass ne KI so etwas entwickelt hat. Oder übertreibst du da vielleicht ein klitzekleines bisschen?

das ging auch schon lange vor KI, quasi so gut wie jedes Virus brauch bissel Zeit bis es los geht im Wirt...daher.....
KI hat "andere Probleme als nen Virus zu basteln"

 

[Seratos]

So einfach ist das? Wie heißt denn dieser Supervirus? Habe ich nämlich nicht mitbekommen, dass ne KI so etwas entwickelt hat. Oder übertreibst du da vielleicht ein klitzekleines bisschen?

Es geht darum, dass Menschen mithilfe von KI einfacher z.B. Killerviren entwickeln könnten, weil die KI halt weiß, wie das geht und dem dummen Menschen genau sagt, was er wann wie tun muss, um bei der Entwicklung voranzukommen. KI hat übrigens schon tausende neue Bakterien, Proteine, und neuartige Mikrolebensformen entwickelt, die es vorher alle nicht gab und in der Natur nicht vorkommen.

Edit: Allein das US-Militär hat wahrscheinlich hunderte verschiedene Krankheitserreger entwickelt, die bei Freisetzung die Menschheit auslöschen oder deren Überleben gefährden würden.

 

[SoundMystery]

Genau - Danke Seratos

 

[Lacunaflow]

Biowaffenkonvention – Wikipedia

de.wikipedia.org

 

[Seratos]

Biowaffenkonvention – Wikipedia

de.wikipedia.org

Ich denke, jedem ist klar, dass das irgendein Text auf irgendeinem Papier ist, dem keiner der großen Player Beachtung schenkt?

 

[Vast]

Ich halte den Vergleich Mensch -> Ameise für realistischer.

Das könnte in Argentinien jetzt real werden. Der argentinische Präsident Javier Milei & sein Minister, haben im Mai/Juni eine Gesetzesinitiative eingebracht, um sogenannte „nicht-menschliche Unternehmen“ rechtlich zu erlauben. Das Gesetz sieht vor, dass Firmen vollständig von KI-Agenten & Robotern besessen, verwaltet & betrieben werden können.

Die Menschen sind dann Obsolet. Weltweit wird gewarnt, aber Milei und sein US Freund Thiel oder wie der heisst wollen das dort durchsetzen. Es soll keinerlei Aufsicht über KI geben, keine Grenzen für KI wie in der EU oder teilweise in den USA.

Dann entscheiden aber die Ameisen über den Mensch.

 

[Ethersis]

Es geht darum, dass Menschen mithilfe von KI einfacher z.B. Killerviren entwickeln könnten, weil die KI halt weiß, wie das geht und dem dummen Menschen genau sagt, was er wann wie tun muss, um bei der Entwicklung voranzukommen. KI hat übrigens schon tausende neue Bakterien, Proteine, und neuartige Mikrolebensformen entwickelt, die es vorher alle nicht gab und in der Natur nicht vorkommen.

Edit: Allein das US-Militär hat wahrscheinlich hunderte verschiedene Krankheitserreger entwickelt, die bei Freisetzung die Menschheit auslöschen oder deren Überleben gefährden würden.

Und auch @SoundMystery: Wenn ihr schon solche wahnwitzigen Dinge in die Welt setzt, belegt das doch bitte mit Fakten und vermischt nicht alles in einem großen Brei. Bakterien und Proteine sind völlig unterschiedliche Dinge. Neuartige Mikrolebensformen? Welche sollen das sein? KI kann Proteinstrukturen am Computer erzeugen und es ist gelungen, Viren in bestimmter Weise zu beeinflussen aber zu behaupten, KI hätte schon tausende neue Lebensformen entwickelt ist mir jedenfalls nicht bekannt.
Es ist zweifelsfrei beeindruckend was da gemacht wird, ganz in Gegensatz zu den 1.000 neuen Lieselotte-Beinebreit-Songs.

Edit: Allein das US-Militär hat wahrscheinlich hunderte verschiedene Krankheitserreger entwickelt, die bei Freisetzung die Menschheit auslöschen oder deren Überleben gefährden würden.

Die haben andere Hobbies. Ich glaube zwar auch, dass da einiges nicht an die öffentlichkeit dringt aber die Behauptung, dass hunderte KI-Krankheitserreger in den Regalen stehen, vom Pickel- zum Hodenkrampfvirus, ist dann doch eher im Bereich Verschwörungsmythen einzuordnen. aber ich lasse mich gerne überzeugen.

 

[SoundMystery]

Und auch @SoundMystery: Wenn ihr schon solche wahnwitzigen Dinge in die Welt setzt, belegt das doch bitte mit Fakten und vermischt nicht alles in einem großen Brei. Bakterien und Proteine sind völlig unterschiedliche Dinge. Neuartige Mikrolebensformen? Welche sollen das sein? KI kann Proteinstrukturen am Computer erzeugen und es ist gelungen, Viren in bestimmter Weise zu beeinflussen aber zu behaupten, KI hätte schon tausende neue Lebensformen entwickelt ist mir jedenfalls nicht bekannt.
Es ist zweifelsfrei beeindruckend was da gemacht wird, ganz in Gegensatz zu den 1.000 neuen Lieselotte-Beinebreit-Songs.


Die haben andere Hobbies. Ich glaube zwar auch, dass da einiges nicht an die öffentlichkeit dringt aber die Behauptung, dass hunderte KI-Krankheitserreger in den Regalen stehen, vom Pickel- zum Hodenkrampfvirus, ist dann doch eher im Bereich Verschwörungsmythen einzuordnen. aber ich lasse mich gerne überzeugen.

View: https://www.youtube.com/watch?v=0BmWsNv_Ii4&t=375s