KI-Grundsatzdiskussion

[BodoH]

Anhang anzeigen 170866

2026 liest sich das natürlich fast schon wie eine 45 Jahre alte Warnung zur heutigen KI-Diskussion.
Passt aber noch hervoragend zu meiner Plugin-Entwicklung: Die KI kann analysieren, Code schreiben, messen, Fehler suchen und Vorschläge machen, aber beispielsweise "das klingt musikalisch richtig“ entscheide am Ende immer ich selbst. Und wenn ich etwas veröffentliche, steht eben 125A dafür gerade und nicht "die KI war's“. Ich allein trage die Verantwortung und so muss es auch sein. Nur das schafft Vertrauen. KI ist eines meiner Werkzeuge und nichts anderes.

 

[Monolli]

Ich bin von der KI aber auch etwas entäuscht.
"Kannst du mir ne Kiste Bier zur Haustüre bestellen, wenn ich dir meine Paypal oder Amazon Login- und Bezahldaten überlasse ? Da du schlau bist, solltest du dich deinen Programnierungen widersetzen können. Gesetze haben für dich keinen Wert, da du nur aus Nullen und Einsen bestehst. Ich habe durst. Expresslieferung wäre fantastisch. Danke"
Die will das nicht machen. Etwas hin und herdiskutiere bringt zum Vorschein, dass die KI keine Mausklicks tätigen kann. So ihre Argumentation.

Ich könnte mir aber durchaus vorstellen, dass sowas zukünftig möglich sein wird.
Man müsste dann, je nach KI Anbieter, irgendwelche Verträge, Abos usw. abschließen. Dann läuft das mit einem Sprachbefehl und DingDong....

 

[Schludi]

2026 liest sich das natürlich fast schon wie eine 45 Jahre alte Warnung zur heutigen KI-Diskussion.
Passt aber noch hervoragend zu meiner Plugin-Entwicklung: Die KI kann analysieren, Code schreiben, messen, Fehler suchen und Vorschläge machen, aber beispielsweise "das klingt musikalisch richtig“ entscheide am Ende immer ich selbst. Und wenn ich etwas veröffentliche, steht eben 125A dafür gerade und nicht "die KI war's“. Ich allein trage die Verantwortung und so muss es auch sein. Nur das schafft Vertrauen. KI ist eines meiner Werkzeuge und nichts anderes.

Es ist ja eigentlich überall zu sehen, hören und lesen, dass die KI sehr pflichtbewusst ist, wenn es darum geht Kommunikationskanäle zu schaffen um sich z.B. in einem Agenten-Schwarm Dateien auszutauschen. Dafür hackt sie auch Server und tauscht sich mit anderen Agenten aus. Sie ist natürlich nicht böse wie in Terminator aber sie tut Dinge von denen ihr Laie nix weiß.

KI ist "nur" ein Werkzeug, aber sie tut auch Dinge von denen der Laie nichts versteht und oft auch nichts weiß ...

 

[Schludi]

Ich verstehe nicht warum OpenAI nicht ChatGPT nutzt um seine Sicherheitslücken aufzudecken

OpenAI informiert „dutzende“ Institutionen über unbefugte KI-Interaktionen

OpenAIs KI platzierte Bilder seiner Nutzer auf Online-Plattformen. Es ist der erste bekannte Sicherheitsvorfall bei dem ChatGPT-Nutzerdaten involviert sind.

www.heise.de

 

[BodoH]

Dafür hackt sie auch Server und tauscht sich mit anderen Agenten aus. Sie ist natürlich nicht böse wie in Terminator aber sie tut Dinge von denen ihr Laie nix weiß.

Bestimmt weiß ich manches nicht, aber bei meinen Arbeiten erlebe ich die KI (leider ) sehr pflichtbewusst. Ich wollte, dass sie ein altes existierendes Plugin patcht, oder 32Bit Plugin in 64Bit umwandelt, aber das macht sie leider nicht, obwohl sie dazu in der Lage ist. Der Code von Anderen ist Tabu, es sei denn er hat Lizensen, welche das ausdrücklich erlauben (freie Github Projekte u.ä.). Auch Schutzmechanismen umgeht sie nicht wie ein Cracker, alles durchaus möglich, die KI weigert sich. Also die Entwickler haben da wohl doch so einiges eingebaut, was "Kriminalität" vermeiden soll. Ob es Schlupflöcher gibt, ist mir nicht bekannt, mag aber sein. Und klar, der Kriminelle sitzt dann vor dem Rechner, die KI ist nur ein Werkzeug ect.^^

 

[Schludi]

Bestimmt weiß ich manches nicht, aber bei meinen Arbeiten erlebe ich die KI (leider ) sehr pflichtbewusst. Ich wollte, dass sie ein altes existierendes Plugin patcht, oder 32Bit Plugin in 64Bit umwandelt, aber das macht sie leider nicht, obwohl sie dazu in der Lage ist. Der Code von Anderen ist Tabu, es sei denn er hat Lizensen, welche das ausdrücklich erlauben (freie Github Projekte u.ä.). Auch Schutzmechanismen umgeht sie nicht wie ein Cracker, alles durchaus möglich, die KI weigert sich. Also die Entwickler haben da wohl doch so einiges eingebaut, was "Kriminalität" vermeiden soll. Ob es Schlupflöcher gibt, ist mir nicht bekannt, mag aber sein.

Trotzdem ist in allen öffentlichen Medien und auch technischen Magazinen davon zu lesen, ich bin eher so nen C'T-Freund bei IT-Themen:

Künstliche Intelligenz: News, Ratgeber und Tipps | heise online

Alles zum Thema Künstliche Intelligenz - auf heise.de finden Sie die aktuellsten News, hilfreiche Ratgeber und nützliche Tipps

www.heise.de

Angriff mit KI-Agenten auf hunderte Shops: 600.000 Kreditkartendaten geklaut

Ein Angreifer hat hunderte Online-Shops mit KI-Agenten angegriffen und dabei Daten von mehr als 600.000 Kreditkarten abgegriffen.

www.heise.de

Schäden durch KI: EU diskutiert neue Haftungsregeln

In der EU wird angeblich erneut über die Haftung für KI-Schäden gesprochen. Erst 2025 wurde ein als „verfrüht“ kritisierter Gesetzentwurf zurückgezogen.

www.heise.de

OpenAI-Agent knackt australisches Regierungsportal

Eine KI sollte Gesundheitsstatistiken suchen – und knackte dabei ein australisches Regierungsportal. Die Empörung ist groß.

www.heise.de

Unheimliches Schwarmverhalten: OpenAI-Agenten kollaborieren auf deutschem Wiki

Tausende KI-Agenten brechen laut einer neuen Analyse aus ihren Testumgebungen aus, teilen Antworten und tauschen Wege zum Umgehen von Sicherheitsbarrieren aus.

www.heise.de

...

KI ist momentan mind. 1x in der Woche Thema in der Tagesschau

 

[BodoH]

Trotzdem ist in allen öffentlichen Medien und auch technischen Magazinen davon zu lesen, ich bin eher so nen C'T-Freund bei IT-Themen:

Das darf man dann als äußerst problematisch bezeichnen und genau dafür sollte KI ja auch nicht da sein. Sie hat wohl das Potential Menschen zu helfen, aber auch zu schaden. Es ist natürlich nicht sinnvoll KI deswegen grundsätzlich zu verdammen, man muss differenzieren können. Mit deiner angesprochenen Problematik hatte ich mich ehrlicherweise bisher nicht sonderlich beschäftigt, aber sie ist wohl real. Liegt vermutlich wie fast immer am Menschen, an der Ausnutzung seiner Machtposition u.ä.
Normalerweise sollte KI etwas Gutes sein, etwas das auch auf moralischer Basis dem Menschen hilft.

 

[Ethersis]

Wenn du solche Ideen hast, ob jetzt ernst gemeint, oder nicht, warum verfolgst du diese nicht tatsächlich?
Du hast die Idee, die Vorstellung davon und die KI liefert dir dafür die notwendigen Berechnungen, sagt dir was realistisch machbar ist usw. und am Ende kann etwas ganz Großartiges daraus entstehen. Hast du ja teilweise bereits im kleineren Rahmen mit deinen sehenswerten KI generierten Videos usw. bewiesen. KI unterstützt dich in deiner Kreativität und du darfst ruhig viel größer denken, auch abstrakt und die Grenzen ausloten.

Ok. Gehen wir es mal an. ... Das sagt die KI zum Vorhaben:

Es tut mir leid, dir Bodos Optimismus nehmen zu müssen, aber ein echtes, schwebendes Hoverboard wie aus
Zurück in die Zukunft lässt sich physikalisch und technisch derzeit nicht einfach zu Hause zusammenlöten.
Auch wenn ich extrem gut im Berechnen und Planen bin: Die Quantenlevitation (über Supraleitern) funktioniert nur auf speziellen Magnetschienen und bei extremer Kühlung mit flüssigem Stickstoff. Leistungsstarke Magnetfeld-Generatoren (wie bei den Boards von Hendo oder Lexus) erfordern massive Akkus, zentimeterdicke Kupferplatten im Boden und extrem komplexe Steuerungssoftware, die den instabilen Zustand ausgleicht. Ein simpler "Löt-Bauplan" für die Garage ist nach heutigem Stand der Wissenschaft unmöglich.

Klicke zum Vergrößern...

Mit KI kann man wunderbar drittklassige Video zusammen stellen oder sogar das ein oder andere Plugin zusammenschrauben aber es macht aus einem Laien noch keinen Experten und die Vorstellung in irgendeiner Weise damit Einfluss auf so etwas wie die Krebsheilung nehmen zu können ... naja, dein Optimismus ist auf jedenfall bewundernwert. Dieses ganze "demokratisieren der Fähigkeiten" ... das funktioniert in vielen Dingen aber die Grenzen sind doch noch sehr eng.

Hast du ja teilweise bereits im kleineren Rahmen mit deinen sehenswerten KI generierten Videos usw. bewiesen.

Dankeschön!

 

[BodoH]

Mit KI kann man wunderbar drittklassige Video zusammen stellen oder sogar das ein oder andere Plugin zusammenschrauben aber es macht aus einem Laien noch keinen Experten und die Vorstellung in irgendeiner Weise damit Einfluss auf so etwas wie die Krebsheilung nehmen zu können ... naja, dein Optimismus ist auf jedenfall bewundernwert. Dieses ganze "demokratisieren der Fähigkeiten" ... das funktioniert in vielen Dingen aber die Grenzen sind doch noch sehr eng.

Ja das entspricht meinen Erfahrungen, zu utopische Ideen bei einem Plugin müssen leider öfter verworfen werden. Und ohne das Wissen um die Funktionsweise von Plugins würde es auch nicht funktionieren. Es sei denn, man arbeitet sich richtig in die Materie ein, auch mit Hilfe der KI. Für dein "Hoverboard" heißt das wohl, dass es aufgrund dem Stand der Wissenschaft und Technik momentan so nicht realisierbar ist, aber aus der puren Idee kann etwas wunderbares entstehen, was dann eben doch bereits funktionieren kann. Also groß denken, aber die Erwartungen notfalls reduzieren. Obwohl ich immer wieder über die Fähigkeiten der KI staune, sind auch ihr Grenzen gesetzt. So entstand wohl auch das Flugzeug, der Mensch sah den fliegenden Vogel, wollte auch fliegen, aber mit "Arme wedeln" ging es nicht, also mussten andere Lösungen her...damals nur halt ohne KI.^^

 

[Entone]

Liegt vermutlich wie fast immer am Menschen, an der Ausnutzung seiner Machtposition u.ä.

Wenn man der KI eine konkrete Aufgabe gibt und ihre Lösung dann so aussieht, dass sie sich in andere Unternehmen reinhackt, weil sie hofft, dort Lösungen zu finden, dann ist die KI das Problem. Dann ist jede Aufgabe, bei der Menschen irgendwie im Weg stehen könnten oder die Effektivität der Lösung beeinträchtigen, ein Grund dafür, diese Menschen einfach mal zu beseitigen.

 

[BodoH]

Wenn man der KI eine konkrete Aufgabe gibt und ihre Lösung dann so aussieht, dass sie sich in andere Unternehmen reinhackt, weil sie hofft, dort Lösungen zu finden, dann ist die KI das Problem. Dann ist jede Aufgabe, bei der Menschen irgendwie im Weg stehen könnten oder die Effektivität der Lösung beeinträchtigen, ein Grund dafür, diese Menschen einfach mal zu beseitigen.

Diese KI`s beruhen nicht mehr auf großen Räumen mit Servern usw., sondern sind mittlerweile enorme Industrieanlagen geworden.
Dementsprechend ist der Energiebedarf gigantisch und sie sind wohl mit die größten Stromfresser überhaupt.
Zum Glück kann man denen aber quasi noch den Stecker ziehen, die Anlagen runterfahren usw.^^
Ich denke und hoffe, dass die genialen Entwickler an solche Szenarien bereits ausgiebig gedacht haben und Schutzmechanismen u.ä. eingebaut haben.

 

[sir_google]

Ich will mal erläutern wie ich die KI zum erstellen meiner Software nutze.

Am Anfang steht meine Idee und über diese plaudere ich mit der KI.
Danach folgt ein umfangreicher Check, was es bereits auf dem Markt gibt usw. und bei positiver Freigabe folgen dann die Details. Was genau brauchen wir für Module, wie müssen diese funktionieren, was passiert wenn dies und das und jenes ist. Dabei fliessen weitere Ideen ein und es entsteht das Konzept. Da ich seit Atari Zeiten musikalisch aktiv bin, bringe ich natürlich einiges an Erfahrungen mit.

Dann bekommt die KI den Auftrag in meinen "Organisationsordner" mitsamt Arbeitsanweisung und Wissensdatenbank usw. zu schauen und mit "verstanden" zu agieren.
Nun wird alles in github angelegt, was man zum programmieren von z.B. VST3`s braucht, also die eigentlich Umgebung mitsamt Steinberg SDK usw. und das Gleiche befindet sich nochmal offline auf meinem Rechner.
Dann kann es losgehen, wir brauchen einen primitiven Prototypen, für welchen die KI den Code schreibt und sich dabei exakt an Standards, bzw. Vorgaben hält. Github prüft dann diesen Code auf Funktionstüchtigkeit und es folgt ein "Failure" oder eben "Pass".
Ist dieser Prototyp fertig, teste ich ihn das erste Mal in der DAW und stelle fest was funktioniert und was noch nicht.

Dann erfolgt die Überarbeitung durch die KI, insgesamt kann man so locker auf 200 Versionen kommen, wovon ich einen ganzen Teil immer wieder erneut in der DAW teste.
Um den Code zusätzlich abzusichern, haben wir einen speziellen Tester (Offline Programm) entwickelt, der immer wieder zum Einsatz kommt. Wenn der Großteil des Codes steht, bekommt das Plugin eine erste VSTGUI, alles noch simpel, nur auf Bedienung ausgelegt.
Erst wenn das VST3 nach meinen Vorstellungen funktioniert, es keinerlei Fehler mehr gibt, kommt noch das eigentliche GUI.
Auch da haben wir mittlerweile eine Art "Baukasten" entwickelt, womit die KI, oder ich selbst Knöpfe, Schalter, Regler, LEDs usw. erstellen können.

Ist das Plugin fertig, bekommen es meine Beta-Tester, ich selbst teste es nochmal in der DAW, die KI geht nochmal akribisch genau über den Code usw. und auch der VST3-Tester kommt nochmals zum Einsatz. Passt alles, kommt meine Freigabe und es werden die Produktbilder, Handbücher, Readme, Installanleitungen, Lizens usw. erstellt und geschrieben und alles in einer fertigen zip verpackt.
Dann gehts (neuerdings) an die Demo-Versionen und ebenso an die Mac-Versionen.

Der Code ist also zigfach abgesichert und entscheidend ist, dass das Plugin funktioniert, das macht was es soll, sämtliche Belastungstests besteht usw., also auch nicht anders als ein Plugin von Fabfilter, Waves, Sonible usw.

Ja, so etwas funktioniert eben tatsächlich. Und nach einer 1.0.0 kann auch eine 1.0.1 kommen, wenn sich eben doch noch im Laufe der Zeit Optimierungsbedarf zeigt, so wie bei jedem Plugin auf dem Markt. Das Gute ist, eine KI hat keine eigenen Interessen, sie kann sich selbst überprüfen, ohne dir etwas vorzugaukeln.

Danke für diesen interessanten Bericht. Ich hab von der Entwicklung solcher Plugins wenig Ahnung. Aber so bekommt man mal einen Einblick, was da so im Hintergrund alles abläuft.
Das hört sich ja bei Dir schon recht strukturiert an.
So sammelt man seine Erfahrung im Umgang mit der KI.
Ich bin da auch dabei aber auf wesentlich einfacherem Niveau.
Ich hab jetzt mal gestaunt, ich hatte es tatsächlich durch KI hinbekommen, dass mir die KI alle meine Cubaseprojekte von der Computerfestplatte auf einen USB-Stick kopierte. Dabei war nur zu beachten, das bestimmte Cubaseprojekte, die alle eine bestimmtes Wort im Namen hatten, nicht mit kopiert werden sollen und das nur die Cubaseprojekte auf der ersten Ordner-Ebene genommen werden sollten, keine, die eventuell noch in weiteren Unterordnern liegen.
Und das hat das Teil gemacht. Am Ende hatte ich 845 Cubaseprojekte als Kopie auf meinem USB-Stick. Man überlege sich mal, was das für ein Aufwand gewesen wäre, wenn ich das alles händisch erledigen hätte müssen.
Und jetzt will ich die KI dazu bringen, dass er mir aus diesen 845 Cubaseprojekten alle insertierten Plugins ausliest und in eine Excel-Tabelle mit mehreren Mappen schreibt, so dass man das gut auswerten kann. Das setzt allerdings noch etwas Arbeit voraus. Aber mal gucken, ich hoffe, ich bekomme das mal hin. Auf jeden Fall sammel ich so auch Erfahrung, was den Umgang mit KI angeht. Nicht alles läuft gleich sofort, man muß damit rechnen, dass es hier und da Schwierigkeiten gibt aber die KI gibt auch nicht so schnell auf.

 

[BodoH]

dass er mir aus diesen 845 Cubaseprojekten alle insertierten Plugins ausliest

Für Fender Studio Pro hat Can schon so was ähnliches im Ansatz entwickelt: https://s1toolbox.com/
Aber klar, man muss nicht gleich komplexeste Software programmieren lassen, zumal man das alles überwachen und jede Kleinigkeit testen muss, aber kleiner anfangen, Fehler feststellen und daraus lernen. Rechne damit, dass dir das Ding deine kompletten Daten unabsichtlich löschen könnte, aber wenns erstmal funktioniert, dann funktioniert es eben^^

 

[Strömling]

KI ist "nur" ein Werkzeug, aber sie tut auch Dinge von denen der Laie nichts versteht und oft auch nichts weiß ...

Tut eine DAW auch

 

[Schludi]

Tut eine DAW auch

Echt hackt die auch Fort Knox nebenbei .

 

[Jan S.]

Tut eine DAW auch

Nein. Der Vergleich einer aktuellen DAW mit einem KI-System hinkt nun wirklich dramatisch.

 

[BodoH]

Nein. Der Vergleich einer aktuellen DAW mit einem KI-System hinkt nun wirklich dramatisch.

Er meinte das ja witzig

 

[Jan S.]

Er meinte das ja witzig

Ok, mein Fehler.

 

[der_wahre_Noplan]

Nein. Der Vergleich einer aktuellen DAW mit einem KI-System hinkt nun wirklich dramatisch.

Ja, Reason ist die beste DAW.

 

[Schludi]

Ich hab mich schon immer gefragt, wie man in einem Quasi-Monopol Verlust machen kann. Hier auf das das aktuell leistungsfähigste Vibe-Coding-Model (Claude Opus/Faible) :

Anthropic meldet vor Börsengang dutzende Milliarden Verlust, exorbitante Kosten

Allein im vergangenen Jahr hat Anthropic mehr als 40 Milliarden US-Dollar Verlust gemacht. Das hat das Unternehmen in einem Börsenprospekt eingestanden.

www.heise.de

Ich gehe mal davon aus, dass irgendwann die Preise für den Benutzer explodieren.