KI-Grundsatzdiskussion

[Monolli]

Eine Frage: Kann man eigentlich bemerken, dass Beiträge und Traffic im Forum aufgrund von KI abnehmen? Es wäre zumindest logisch...

Würde mich wundern, wenn nicht.
Neulich erst mit jemanden darüber gesprochen, wie Fortschritt und Technik die Menschen auseinander bringt.
Früher, wenn man sich eine CD kaufen wollte, konnte man vorher reinhören. Dazu sind viele Menschenkontakte nötig gewesen. Rausgehen, Busfahren, zum Tresen des Plattenladens gehen, sprechen und höflich fragen, ob er die Cd mal reinwerfen kann. Bedanken.

Heute: 1 Klick. Angehört beim Strramingdienst.

Da geht schon wirklich was verloren. Merke es an mir selbst. Zuviele offene Fragen, nicht erreichte Ansprüche in dem Prozess der Musikproduktion usw.
Da will man vielleicht auch nicht tausend Beiträge öffnen. Vielleicht blöd, weil man diese Entwicklung damit unterstützt

 

[Turquoise]

Doch, weil das Zitat angeblich in Göbels Tagebuch vorgekommen sein soll, gemäss Gemini KI. Und ich habe das ganze Tagebuch als PDF heruntergeladen (gibt es Online) und ALLE Texte in denen Stalin vorgekommen ist durchsucht.

Also die ganzen 32 Bände? Mit Hilfe von KI vermutlich? War Dein Suchbegriff "Stalin"?

 

[AudioPaw]

Ich will jetzt Red Panda Content 2 und Red Panda Raster 2 aufs Board packen....um mal kurz alles durchzugehen, ob mein Voodoo Lab dann noch reicht und ich die FuzzFactory dann auf Batterie stelle, war das mal eben mit KI schnell geklärt... auch die Pedal Reihenfolge auf dem Board! Dann noch kurz YouTube angehört, ob Chase Bliss MOOD MKII oder Raster 2: da kann man schon vieles sehr schnell entscheiden.

 

[Realist]

Sinnvoll wäre vielleicht auch, wenn du fragen würdest: Was spräche dagegen, dass ich mir selbst das baue, was mir fehlt?
Nichts, genau das schlage ich ja vor, baut euch was ihr braucht, nutzt die KI, probiert es selbst aus, sammelt eigene Erfahrungen damit usw., aber bitte nichts negativ kritisieren, bevor man da überhaupt mitreden kann (nicht DU, allgemein). Bin hier im Forum ja auch nicht der Einzige, der wohl schon erfolgreich mit KI Plugins u.ä. erstellt hat. Ich finde das Super und man lernt dabei im Normalfall auch ne Menge.

Ideen hätte ich schon und ich habe damals auch mit Synthedit und später mit Juce rumgespielt.
Das Problem ist, dass es trotzallem Zeit braucht, auch wenn es sehr viel schneller geht, dass selbst alles zu lernen.
In diesem oder einem anderen Thread hast Du ja sinngemäss die Aussage gemacht, weil KI so schnell ist, dass es einen körperlich und mental fordern kann, was ja irgendwie total logisch ist.
Ich kenne mich, wenn ich erstmal in doesem Rabbithole gefangen bin wird es schwer da wieder herauszukommen.
Das möchte ich nicht, ich möchte Musik machen und darauf konzentrieren, da ich dazu schon zuwenig Zeit habe.

Ich nehme aber KI schon zum Recherchieren. Ein Beispiel:
Ich wollte einen Granulareffekt, der gut bedienbar ist.
Output Portal sagt mir nicht zu, obwohl der Platzhirsch.
Ich habe jetzt ein freies Plugin und zwei Kaufplugins gefunden, die mir zusagen, sowohl von Bedienung als auch vom "Sound".
Warum soll ich mir also so einen Granulareffekt selbst bauen? Das ist für mich Zeitverschwendung.

Oder das Thema Emu-Sampler. Ich habe schon vor Jahren meine EMU Sample CD nach Kontakt und teilweise nach Halion importiert/konvertiert. Das war noch zu Zeiten wo das unter Windoews noch ging. In meinem neuen Rechner habe ich weder ein CD-Rom geschweige denn eine Floppy mehr eingebaut.
Mir reichen die Sounds die ich habe, es sind mehr als genug. Ab und an nutze ich tatsächlich noch einen Sound aus den konvertierten Libs und veränder sie. Gerade so Sachen wie Distorted Reality sind halt noch immer extrem cool.
Ein Teil der Sounds ist sogar in Omnisphere zu finden, weil die Sample CDs damals von Eric produziert wurden.
Das ist ähnlich der Emulator Files von Depeche Mode. Ich bin Fan der ersten Stunde, aber was bringt mir ein Sound von Depeche Mode, ausser aus Nostalgie. Ich will ja meine eigene Musik/Sound machen und nicht nach Depeche Mode der frühen Jahre klingen.
Interessanter ist für mich wie die Sounds tatsächlich entstanden sind und wie man diese Technik heute einsetzt um interessanter zu klingen. Also sowas hier mit den Fieldrecordings. Man merkt dann auch dass man nicht viele Spuren braucht um einen Song zu gestalten.

View: https://www.youtube.com/watch?v=Hha1mh7iZ0U

Gestern habe ich nochmal mit Gemini gequatscht über das Thema Cubase Midi Device Panel.
Ich würde mir gerne ein Panel für mein Korg Monologue bauen, habe der KI diverse Seiten gegeben.
Die Antwort hat mich überrascht. Das XML Script zur Erstellung ist sehr fehleranfällig (Was stimmt)
Ein falsche Zeile Code und das Panel läuft nicht richtig (Was stimmt)
Der Zeitaufwand für mich wäre 1,5 - 2 Stunden. (Kommt hin)
Der Vorschlag: Die KI sucht mir die CC Daten raus und ich bastel mir mein Panel selber.

Man muss dazu sagen, es war das freie Gemini, womit ich mir aber schonmal ein Patch Script und da nur die Presets für eine Expansion des JV 1080 umbenennen wollte. Also statt Preset 1,2 oder 3 die richtigen Presetnamen der XP Session.
Ich habe das Script selbst erweitert, weil Gemini die Sysex Daten zum Umschalten der Bänke falsch berechnet hat.
Beim Umbenennen der Presets hat Gemini mir die Zeilen zusammengeschoben. Cubase braucht aber stellenweise eine leere Zeile. Per Hand ist das wirklich eine Qual, der KI beizubringen wie die Zeilen richtig sind war aber auch nicht so leicht.
Es hat mehrere Anläufe und Testen gebraucht und auch ich musste erstmal verstehen, warum das Script nicht mehr lief um dass dann der KI mitzuteilen.

Ich will nicht sagen, dass es generell nicht funktioniert. Ein anderes KI Model und ein Abo in Verbindung mit Tools die darauf spezialisiert sind richtigen Code zu schreiben und es würde sicherlich funktionieren.
Aber wie schon geschrieben würde ich dann in eine Bubble kommen, was ich nicht möchte.

 

[Realist]

Eine KI wie z. B. von Google sammelt blitzschnell Daten auf eine Frage, fügt sie zusammen und strukturiert sie. Daraus wird die Antwort generiert. Man sieht oft an den kleinen Picts/Links woher die Quellen stammen. Sind diese fehlerhaft oder nur Narrative wird die Antwort auch so sein. Es steht nicht umsonst darunter, KI kann fehlerhaft sein. Entscheidend ist unter welchen journalistischen Kriterien die KI arbeitet, weiss das wer?

Das sind Seiten die von Google als valide eingestuft werden. Es ist eigentlich nichts anderes als SEO in Google. Wenn Du eine Website hast, dann versuchst du diesen SEO zu optimieren, dass dein Website in den ersten Ergebnissen steht.
Das trotzdem dann manchmal Mist steht liegt in der Natur der Sache, weil heutzutage viel Müll geschrieben wird.
Es kann also immer mal eine Fehlinformation durchrutschen, wenn Google meint, die Seite ist okay, was sie dann aber in dem Punkt nicht ist.
Auf der anderen Seite denk ich, ohne so ein System wie gut oder schlecht man das findet, könnte die KI auf alle möglichen Seiten zugreifen und dann wäre es wahrscheinlich noch schlimmer.

 

[danielrast]

Bei nem 2 Euro Plugin, wo mir Gumroad noch die Hälfte abzieht, verdiene ich nichts, da hätte ich mehr davon, wenn ich Flaschen sammeln gehen würde.
Aber eben darum ging es mir nie, ich muss keinen Gewinn machen. Daher muss ich das auch nirgends groß bewerben usw., es ist einfach nur ne nette Geste an EUCH hier in diesem Forum. Nicht mehr und nicht weniger. Ich verwehre mich nur gegen Behauptungen, dass diese, bzw. speziell meine "KI-Plugins" Mist seien, bevor sie jemand selbst getestet hat, eigentlich eine ganz normale Sache.

Sobald du Geld für deine Sachen nimmst, bist du kommerzieller Anbieter. Die Höhe spielt da überhaupt keine Rolle. Also mit "nette Geste" brauchste da nicht kommen.

 

[BodoH]

Das Problem ist, dass es trotzallem Zeit braucht, auch wenn es sehr viel schneller geht, dass selbst alles zu lernen.

Oh ja, genau daran hab ich kurz danach auch noch gedacht, denn leider hat nunmal nicht jeder die notwendige Zeit.
Da will man lieber Musik machen, anstatt sich mit einer nicht selten doofen KI rumzuschlagen und massig Tests auszuführen.
Und klar, das geht auch an die Nerven, kann körperlich zehren usw., kann ich alles unterschreiben.

Bezüglich der Emulation vom E-MU, ich halte das auch nur für ein "nice to have" aus Nostalgiegründen, ohne echten Mehrwert.
Echte Freaks könnten mit den coolen Filtern argumentieren usw., aber nee, für mich ist das pure Nostalgie, auch wegen Depeche Mode. Da haben Emulationen von TUS, wie der Virus A, B, C usw. deutlich mehr Nutzen

 

[BodoH]

Sobald du Geld für deine Sachen nimmst, bist du kommerzieller Anbieter. Die Höhe spielt da überhaupt keine Rolle. Also mit "nette Geste" brauchste da nicht kommen.

Völlig richtig, daher auch die Gewerbeanmeldung usw., ist leider so, auch wenn man lediglich einige Unkosten decken will.

 

[Vast]

Also die ganzen 32 Bände? Mit Hilfe von KI vermutlich? War Dein Suchbegriff "Stalin"?

Es gibt ein PDF das den ganzen Inhalt von Göbels Tagebuch enthält. Ja, ich habe alles mit dem Begriff "Stalin" abgesucht.
Der fragliche Text soll Göbels 1925 erwähnt haben.

Hier was eine weitere KI darüber sagte auf meine Nachfrage hin. Ich erwähne das jetzt nur um dem Irrtum zu begegnen ICH hätte mich geirrt und nicht die KI. Ich traue niemandem, weder einer KI, noch Dir oder mir selbst. Es zählen nur noch die Fakten, seit diese KI Systeme auf google und überall Fragen beantworten und leider teilweise einfach irgend etwas erfinden.

Interessanterweise begann dann auch diese KI zu Halluzinieren, was sie durchaus dann auch zugegeben hat:



also, ich habe es ausprobiert,

1. nur wenn man der KI sehr genau auf die Finger schaut kommt was schlaues dabei raus
2. Zwischen einer Text basierten KI die über historische Aussagen fantasiert und eine KI die Wahrscheinlichkeit basiert Programmcode schreibt gibt es eigentlich keinen Unterschied. Eine KI kann genauso gut irgend einen Kompressions Algorithmus fantasieren wie ein Ausspruch von Göbels den es ne gab, so einfach ist das (leider).

 

[BodoH]

Eine KI kann genauso gut irgend einen Kompressions Algorithmus fantasieren wie ein Ausspruch von Göbels den es ne gab, so einfach ist das (leider).

Das ist völlig korrekt, die KI lügt manchmal das sich die Balken biegen, nicht bewusst, aber wohl auf ein Ergebnis fixiert.
Bei Programm-Code ist das allerdings etwas anders, da dieser nicht über Github u.ä. erfolgreich kompilieren würde, wenn er nicht dem Steinberg* SDK entspricht und es Möglichkeiten gibt, diesen Code über weitere KI`s zu überprüfen. So kann z.B. ChatGPT den Code schreiben, Codex und Claude/Claude Code diesen kontrollieren, Fehler berichtigen usw. Auch kann die KI umfangreiche Tests einbauen und ausführen und sich somit selbst kontrollieren. Dazwischen stehen immer wieder umfangreiche "Audits", wo der Code nochmals akribisch gecheckt wird. Schon diese Wechselwirkung ist äußerst nützlich und dann steht da ja auch noch der Mensch mit seinen Kontrollmöglichkeiten. Verursacht allerdings gewisse Kosten, denn mit den "Free Möglichkeiten" kommt man nicht weit.

 

[Turquoise]

1. nur wenn man der KI sehr genau auf die Finger schaut kommt was schlaues dabei raus
2. Zwischen einer Text basierten KI die über historische Aussagen fantasiert und eine KI die Wahrscheinlichkeit basiert Programmcode schreibt gibt es eigentlich keinen Unterschied. Eine KI kann genauso gut irgend einen Kompressions Algorithmus fantasieren wie ein Ausspruch von Göbels den es ne gab, so einfach ist das (leider).

Ich habe das Zitat bei Google eingegeben. Es kam sofort das heraus, was Du oben als Ergebnis auf Deine Nachfrage als Antwort bekommen hast:

Von wem stammt das Zitat: "Ich glaube, wir können uns mit Russland verständigen. Stalin ist ein kluger Kopf. Er führt Russland auf den Weg des wahren Sozialismus."​

Antwort des KI-Modus für „Von wem stammt das Zitat: "Ich glaube, wir können uns mit Russland verständigen. Stalin ist ein kluger Kopf. Er führt Russland auf den Weg des wahren Sozialismus."“​

Dieses Zitat stammt von Adolf Hitler.
Er äußerte diese Einschätzung im Kreise seiner Vertrauten im Jahr 1942 (festgehalten in den sogenannten „Monologgesprächen im Führerhauptquartier“ bzw. Hitlers Tischgesprächen). Angesichts des zähen Widerstands der Roten Armee drückte Hitler darin wiederholt eine Form von respektvoller Anerkennung für Josef Stalins rücksichtslose, aber effektive Transformation der Sowjetunion aus.

Möchtest du mehr über den historischen Kontext dieser Äußerung erfahren oder suchst du nach der genauen Textquelle (z. B. Ausgabe der Tischgespräche)?


KI-Antworten können Fehler enthalten. Weitere Informationen

Ja.​

Antwort des KI-Modus für „Ja.“​

Hier sind die Details zur Textquelle und zum historischen Hintergrund dieser ungewöhnlichen Äußerung:

Die Textquelle
Das Zitat stammt aus den „Tischgesprächen im Führerhauptquartier“ (oft auch als Hitlers Tischgespräche bezeichnet). [1, 2]

• Dokumentation: Diese informellen Monologe wurden im Auftrag von Martin Bormann vor allem von dem Juristen Henry Picker und dem Beamten Heinrich Heim aufgezeichnet. [1, 2]
• Zeitraum: Hitler äußerte diese Sätze im Juli 1942 (mitten in der deutschen Sommeroffensive in Russland, der „Fall Blau“ Richtung Stalingrad und Kaukasus). [1, 2]
• Die Überlieferung: In den Aufzeichnungen von Henry Picker (erschienen u. a. im Seewald Verlag oder Ullstein) findet sich für den 22. Juli 1942 ein längerer Monolog Hitlers über die Sowjetunion. Er bezeichnete Stalin dort wörtlich als ein „geniales Kerlchen“ („In seiner Weise ist das ein geniales Kerlchen, vor dem man ehrfürchtigen Respekt haben muss“) und philosophierte darüber, dass Stalin Russland vom jüdischen Einfluss befreie und zu einem nationalen, „wahren Sozialismus“ führe. [1, 2]

---

Der historische Kontext
Obwohl Hitler die Sowjetunion in einem rücksichtslosen Vernichtungskrieg überzogen hatte, wandelte sich seine Sicht auf Josef Stalin ab 1942 radikal – weg von der reinen Verachtung hin zu einer bizarren Form von Bewunderung. Dieser Wandel basierte auf mehreren Faktoren: [1, 2]

1. Anerkennung von Brutalität und Machtwillen:
   Hitler war zutiefst beeindruckt davon, wie widerstandsfähig die Rote Armee agierte. Er führte dies auf Stalins eiserne Hand zurück. Im Mai 1943 äußerte Hitler im Kreise seiner Generäle sogar, er „beneide“ Stalin darum, dass dieser im Zuge der „Säuberungen“ Ende der 1930er-ahre die gesamte potenzielle Opposition im Offizierskorps der Roten Armee physisch liquidiert hatte. Hitler glaubt, dies habe Defätismus in der sowjetischen Führung unmöglich gemacht. [1, 2]
2. Die Projektion des eigenen „Sozialismus“-Begriffs:
   Hitler argumentierte in seinen Tischgesprächen, Stalin habe den Internationalismus und den klassischen Marxismus (den Hitler als „jüdische Schöpfung“ verpönte) insgeheim überwunden. Er glaubte, Stalin wandle die UdSSR in einen rein russisch-nationalen Staat um – was Hitler als den „wahren Sozialismus“ ansah. [1, 2, 3]
3. Eine Absage an das Bürgertum:
   In seinen Monologen zog Hitler oft Vergleiche zwischen Stalin und seinen eigenen deutschen Generälen oder westeuropäischen Politikern (wie Churchill). Er schimpfte über das „reaktionäre deutsche Bürgertum“ und lobte Stalin im Kontrast dazu als einen „Revolutionär“, der im Gegensatz zu westlichen Politikern keine Rücksicht auf Traditionen oder Menschenleben nehmen musste. [1]

Historisch-kritische Einordnung
Historiker betonen heute, dass Hitlers Lob für Stalin in den Tischgesprächen kein politisches Friedensangebot war. Es war vielmehr die Faszination eines totalitären Diktators für die rücksichtslose Effizienz eines anderen. Zudem sind die Tischgespräche als Quelle mit Vorsicht zu genießen: Die Aufzeichnungen wurden von Martin Bormann nachträglich redigiert, um Hitlers Monologe für die Nachwelt ideologisch zuzuspitzen und mitunter im Sinne der NS-Propaganda zu stilisieren. [1, 2, 3]

______________________________________________

Das soll nicht heißen, dass ich KI-Antworten absolut vertraue. Aber "zusammenhalluzinieren" war vielleicht ein bisschen zu düster.

 

[mWermut]

..für mein Gefühl nehmen hier unsägliche Themen, wie diese Stalin, Hitler -Sache zu viel Raum ein. Kürzt das mal zurecht..

 

[Vast]

Das ist völlig korrekt, die KI lügt manchmal das sich die Balken biegen, nicht bewusst, aber wohl auf ein Ergebnis fixiert.
Bei Programm-Code ist das allerdings etwas anders, da dieser nicht über Github u.ä. erfolgreich kompilieren würde, wenn er nicht dem Steinberg SDK entspricht und es Möglichkeiten gibt, diesen Code über weitere KI`s zu überprüfen. So kann z.B. ChatGPT den Code schreiben, Codex und Claude/Claude Code diesen kontrollieren, Fehler berichtigen usw. Auch kann die KI umfangreiche Tests einbauen und ausführen und sich somit selbst kontrollieren. Dazwischen stehen immer wieder umfangreiche "Audits", wo der Code nochmals akribisch gecheckt wird. Schon diese Wechselwirkung ist äußerst nützlich und dann steht da ja auch noch der Mensch mit seinen Kontrollmöglichkeiten. Verursacht allerdings gewisse Kosten, denn mit den "Free Möglichkeiten" kommt man nicht weit.

ja, das Problem bei diesen Halluzinationen ist, der Code einer KI könnte durchaus ohne Fehler kompiliert werden, wenn sie nur den Kompressions Algorithmus erfindet. Das er zeugt nirgends einen Fehler und fällt erst auf weil dann ein solcherart arbeitendes Plugin anstelle gut zu komprimieren, einfach etwas anderes mit dem Sound macht.

Hier ein lustiges Beispiel, das durchaus kompiliert und einen unbedarften user glauben machen könnte das es funktioniert:

import numpy as np

def ki_halluzinierter_kompressor(signal, threshold_db, ratio):
"""
Ein von einer halluzinierenden KI generierter 'Kompressor'.
Sieht professionell aus, berechnet aber mathematischen Unfug
für eine echte Kompression.
"""
# KI denkt: "Ich muss dB nutzen, also log10!"
# Verwechselt hier die Pegelberechnung mit der Signal-Abschwächung
thresh_linear = 10 ** (threshold_db / 20.0)

# Die KI wendet eine nicht-lineare mathematische Funktion auf das gesamte
# Signal an, ignoriert den Threshold beim Verarbeiten und nennt es Kompression.
komprimiertes_signal = np.tanh(signal * ratio) * thresh_linear

return komprimiertes_signal

# --- TEST ---
test_signal = np.array([0.1, 0.3, 0.5, 0.8, 1.0])
ergebnis = ki_halluzinierter_kompressor(test_signal, threshold_db=-3, ratio=1.5)

print("Original:", test_signal)
print("Ergebnis:", np.round(ergebnis, 3))

 

[BodoH]

ja, das Problem bei diesen Halluzinationen ist, der Code einer KI könnte durchaus ohne Fehler kompiliert werden, wenn sie nur den Kompressions Algorithmus erfindet. Das er zeugt nirgends einen Fehler und fällt erst auf weil dann ein solcherart arbeitendes Plugin anstelle gut zu komprimieren, einfach etwas anderes mit dem Sound macht.

Genauso ist es. Es gibt zwar gewisse technische Audio-Standards an welche sich die KI auf Aufforderung hält, aber das heißt noch nicht, dass das Plugin dann auch gut arbeitet, bzw. genau macht was es soll. Die KI hat da verschiedene Möglichkeiten etwas zu implementieren und genau darüber muss man bereits im Vorfeld mit ihr reden und gewisse Dinge festlegen. Welcher Algorithmus passt am besten zu diesem Plugin, wieso, weshalb, warum, Machbarkeit, Konsequenzen usw., alles wichtige Themen, die gut duchdacht sein sollten. Daher funktioniert ein einfaches "mach mal" definitiv nicht. Die Vorbereitung ist also bereits entscheidend.

 

[Vast]

Genauso ist es. Es gibt zwar gewisse technische Audio-Standards an welche sich die KI auf Aufforderung hält, aber das heißt noch nicht, dass das Plugin dann auch gut arbeitet, bzw. genau macht was es soll. Die KI hat da verschiedene Möglichkeiten etwas zu implementieren und genau darüber muss man bereits im Vorfeld mit ihr reden und gewisse Dinge festlegen. Welcher Algorithmus passt am besten zu diesem Plugin, wieso, weshalb, warum, Machbarkeit, Konsequenzen usw., alles wichtige Themen, die gut duchdacht sein sollten. Daher funktioniert ein einfaches "mach mal" definitiv nicht. Die Vorbereitung ist also bereits entscheidend.

genau, und daher glaube ich auch nicht an den schnellen Erfolg von KI Anwendungen mit tausenden Funktionen, so wie Cubase. Vielleicht in einigen Jahren, wenn man auch dieses auf die Finger schauen und schlaue prompten irgendwie gut automatisieren kann.
Derzeit muss man wohl noch entweder Programmierer oder Musiker sein bei solchen KI Apps.

PS: Eine KI als Historiker habe ich schon mal relativiert. Ohne selbst in Originalaufzeichnungen zu blättern glaube ich so schnell nichts mehr sofort, wenn ein Zitat von der KI her kommt.

 

[Humanizer]

Ich weiss nicht ob es in Zukunft gelingt eine KI herauszubringen die gar nicht halluziniert

Das würde gehen, wenn die Programmierer das auch vorsehen würden. Tun sie aber nicht. Halluzinationen (freie Erfindungen), Fehler und das Ignorieren selbst konkreter Anweisungen des Users sind integraler Bestandteil der Programmierung. Das bedeutet leider "Die KI kann Fehler machen" ist bestenfalls schlecht formuliert. Eigentlich müßte es heißen "Die KI macht (mit einer gewissen Wahrscheinlichkeit) auf jeden Fall Fehler."

 

[BodoH]

genau, und daher glaube ich auch nicht an den schnellen Erfolg von KI Anwendungen mit tausenden Funktionen, so wie Cubase.

Ich auch nicht, zumindest noch nicht und wäre eine Aufgabe für viele Monate KI Entwicklungszeit, trotz ihrem enormen Tempo.
Wenn ich schon sehe, wie viele Fehler sie bei einem kleinen Plugin machen kann, ist das bereits sehr aufschlussreich.
Eine ganze DAW, einen größeren Synth u.ä. zu kontrollieren usw., ist eine Mammutaufgabe. Natürlich weiß man nicht, wie lange die Planung tatsächlich lief, welche Vorbereitungen getroffen wurden, welcher Mensch, oder Gruppen dahinter steckt, aber so wie die Dinger momentan aus dem Bode spriesen, befürchte ich, dass da auch ganz viel Schrott dabei sein wird, allein aus der eigenen Erfahrung heraus.

 

[Strömling]

Das würde gehen, wenn die Programmierer das auch vorsehen würden. Tun sie aber nicht. Halluzinationen (freie Erfindungen), Fehler und das Ignorieren selbst konkreter Anweisungen des Users sind integraler Bestandteil der Programmierung. Das bedeutet leider "Die KI kann Fehler machen" ist bestenfalls schlecht formuliert. Eigentlich müßte es heißen "Die KI macht (mit einer gewissen Wahrscheinlichkeit) auf jeden Fall Fehler."

Ein LLM weiss nicht, wenn es etwas nicht weiss. Dann enstehen Halluzinationen, weil es trotzdem möglich ist, die statistisch wahrscheinlichste Fortführung der Konversation aus dem unvollständigen Kontext zu generieren. Deshalb klingen die Halluzinationen oft auch so überzeugend. Das kann man nur verhindern, indem man ein Toolcalling einbaut, welches immer nach Quellen sucht, bevor das LLM antwortet, und indem man die Quellen mit in den Kontext injiziert. Wenn diese aber falsche Daten liefern, ist die falsche Antwort, die daraus entsteht, per Definition keine Halluzination mehr.

Ein LLM ist kein Programm. Die Programmierer können an dieser Stelle gar nichts vorsehen. Das ist Aufgabe der umgebenden Laufzeit, die dann das LLM inferiert. Im Grunde kann man sich ein LLM wie einen Sprachresonator vorstellen. Wie der letztlich schwingt, hängt vor allem von den Trainingsdaten und vom "Ton" ab, der ihn anregt. Das wäre letztlich der vor der eigentlichen Inferenz bereitgestellte Kontext.

Hier hat der Anwender einen sehr großen Einfluss. Wenn der Kontext gut ist, kann das LLM zur Höchstleistung fähig sein. Das gilt im Grunde auch für andere generative KI-Typen. Wer sich nur auf die Trainingsdaten verlässt, bekommt schlechte Ergebnisse. Je mehr der Anwender oder das RAG System mit reingibt, desto besser ist die Qualität des Outputs. Daher sollte man beispielsweise schon unterscheiden, ob jemand einfach einen Suno-Prompt schreibt, oder ob er selbst erstelltes Material als Kontext hineingibt und verarbeiten lässt.

 

[Turquoise]

Ich habe gestern ein Experiment mit der KI gemacht: Einen Streit zwischen zwei Parteien um ein Grundstück aus entgegengesetzten Positionen durchgespielt. Zuerst Position A (desjenigen, der das Grundstück erwerben möchte). Danach völlig neuer Thread für Position B (desjenigen, der das Grundstück besitzt).

Das Ergebnis war sehr interessant: die KI gab jeweils der Position recht, die gerade ihre Anfrage stellte. In jedem Thread lief es am Ende darauf hinaus, dass die Kritikpunkte der Gegenseite an der (Ver)Kaufsstrategie als Vertrauensbrüche bzw. moralische Erpressungsversuche zu werten seien. Am Ende riet die KI jeder Position, der Gegenseite eher zu misstrauen, deren Argumente nicht anzuerkennen und radikale "Schlußstriche" zu ziehen. Eventuelle (auch nur vermutete) schlechte Motive der Gegenseite wurden höher gewertet als die Möglichkeit, selbst im Irrtum sein zu können.

Daraus kann man den Schluss ziehen, dass die KI ein Instrument ist, das Spaltungstendenzen verstärkt, anstatt Ausgleichendes zu suchen.

 

[Kwaku]

Ich glaube das driftet wieder in eine grundsätzliche Diskussion ab, deswegen lieber hier.

Kann KI sowas?

Mit Sicherheit kann sie das auch. Das ist ja das verrückte an KI: sie imitiert Menschen und letztendlich auch die Realität immer besser. Sie kann auch schlecht aufgenommene Demos und Natürlichkeit nachbilden.
Ich weiß nicht mit Sicherheit, ob dieses Video KI generiert ist. Woher weißt du noch, was echt ist?

Ernsthaft. KI in der Musik hat rein gar nichts verloren

Sehe ich ja auch so aber das ist wie mit der Armbrust, Buchdruck oder Schwarzpulver.