Ich weiß nicht, aber ich glaube ihr überschätzt vielleicht ein wenig die Fähigkeiten von KI Systemen.
Ich glaube leider, dass der Großteil der Menschen die Fähigkeiten ganz brutal unterschätzt.
Das, was der KI jetzt noch an Fehlern unterläuft, wird sehr bald Schnee von gestern sein.
Und wenn nicht, ist es umso schlimmer, s. dein Pinkelbeispiel, denn dein Kumpel hat einfach auf KI anstelle des gesunden Menschenverstands vertraut.
Wie dem auch sei, man darf nicht vergessen, dass wir aktuell immer noch im absoluten Frühstadium sind. Und gemessen daran, was selbst in diesem frühen Stadium bereits möglich ist, muss man einfach größte Bedenken hinsichtlich der Zukunft haben.
KI ist etwa bereits jetzt schon nicht mehr aus dem Alltag sehr vieler Programmierer wegzudenken. Und da sind wir in unserer digitalen Welt bereits an einer unfassbar entscheidenden Schnittstelle angelangt. Was, wenn die KI sich selber irgendwann umprogrammieren kann? Das ist ein durchaus realitisches Szenario - und vor allem ist diese Selbstoptimierung ja quasi erwünscht, zumindest auf dem Weg zu einer AGI.
Mein allergrößtes Bedenken ist allerdings, dass das Verhältnis von persönlichem/monetärem zu allgemeinem Nutzen ein unfassbar schlechtes ist. Auch wenn es sicherlich ein paar Beispiele gibt, in der bei weitem überwiegenden Anzahl von Fällen wird KI eben nicht zum "Wohle der Menschheit" (was immer das auch sein mag) eingesetzt, sondern um den Profit einiger sehr weniger Menschen zu maximieren.
Kann man, wie ich bereits in einem anderen Thread sagte, ganz locker auf unseren Bereich runterbrechen. Wem nützt den Suno? Der Musik? Wirklich Musik Schaffenden? Eher nicht. Dafür nützt es denen, die bisher auf Musiker zurückgreifen mussten, ganz immens. Und die Musiker gucken in die Röhre.
Ich weiß, war damals mit den Hufschmieden auf den ersten Blick nicht anders. Die wurden auch marginalisiert und man musste sich nach einem anderen Broterwerb umschauen.
Aber dafür hatten die etliche Jahre, wenn nicht sogar eine Generation Zeit. Das ist dann ausreichend, um zumindest seinen Kindern beizubiegen, dass man eben lieber einen Reifenservice eröffnet.
Ein Filmmusiker hingegen, der bspw. vor 10 Jahren ins Geschäft mit Werbejingles eingestiegen ist, wird jetzt u.U. innerhalb von lumpigen 3-5 Jahren komplett überflüssig gemacht. Und in welche verwandte Branche will man dann umsteigen? Genau, in keine. Zumindest nicht in eine, in der man noch seinen Lebensunterhalt verdienen kann.
Wem nützt das? Den Suno-Machern und denen, die jetzt ihre Werbejingles bei Suno bestellen. Mithin also nur denen, die in der Nahrungskette ohnehin weiter oben angesiedelt sind. Und die Werbeagentur ist dann natürlich als nächstes dran, die Clips inkl. Jingles bestellt der Cornflakes-Produzent nämlich dann direkt bei Google VEO.
Und da reden wir ja nur von einer unfassbar kleinen, unwichtigen Branche.
Wurde ja gerade gestern in einem anderen Thread gepostet. Da rollt irgendwo in China eine Kolonne von Teerwalzen, alle automatisiert. Bisher saß auf jedem von den Dingern noch ein Mensch. Jetzt gucken die nur noch zu, dass alles gutgeht. Bald guckt aber nur noch einer zu.
Und da haben wir noch gar nicht über wirklich kritische Sachen gesprochen.
Was ist mit geopolitischen Entscheidungen? Wann lohnt es sich rein rechnerisch, doch mal einen kleinen Krieg anzufangen? Und müssen da bei den Marktführern in punkto KI überhaupt noch menschliche Verluste einkalkuliert werden (obligatorische Antwort: nein, da flattern, schwimmen und fahren nur noch Drohnen rum)?
Was ist mit Börsen? Das sind strategische Dinge, die eine KI aller Wahrscheinlichkeit nach bedeutend besser beurteilen kann.
Ja, man kann auch positive Aspekte einbringen. Arztneimittelforschung bspw. Aber in wessen Händen liegt die? Genau, in den Händen, in den sie schon immer lag. Und die sind nicht gerade dafür bekannt, Wohltäter zu sein (es gibt Millionen von Menschen, die sich Medikamente einfach nicht leisten können).
Will sagen: In allerallererster Linie werden immer erst einmal Profite maximiert, die positiven Aspekte für die Menschheit als solches sind bestenfalls ein zufälliger Nebenaspekt.
Und übrigens: Ja, auch ich frage gerne mal ChatGPT und Co. nach gewissen Dingen - und habe auch schon sehr profunde Antworten bekommen, handelsübliche Googleien und Forenfragen hätten vermutlich a) deutlich länger gedauert und b) vor allem auch Ergebnisse gebracht, die eher von anekdotischer Evidenz geprägt wären.
Und würde ich hier beim BSC 2025 mitmachen, wäre es recht wahrscheinlich, dass die Vocals von Suno kommen würden.
Die Versuchungen, der KI zu erliegen, sind also groß.
Unterm Strich erwischt uns das alles komplett auf kaltem Fuß. Weder sind wir bereit noch willens, das hinreichend zu steuern - zumindest für die Leute, die für den KI-Betrieb verantwortlich sind, gilt sogar das exakte Gegenteil, je freier man drehen kann, desto freier dreht man. Und leider wird sich genau das auch nicht ändern lassen. Denn für eine wirklich greifende Regulierung, müsste weltweiter Konsens herrschen, ansonsten wird eine Seite immer fürchten, ins technologische Hintertreffen zu geraten.
Und dass wir aktuell von weltweitem Konsens in welchen Punkten auch immer weiter entfernt sind, als es in den letzten Jahrzehnten noch halbwegs der Fall gewesen sein mag, muss man ja an sich gar nicht erwähnen.
Ich sehe es tatsächlich so, dass wir gerade dabei sind, uns als Menscheit das finale Bein zu stellen. Nein, das muss nicht zwingend das Aussterben der Menschheit bedeuten, aber auf ein "gesundes" Sozialsystem wird es mMn nicht hinauslaufen, sondern auf eine andauernde, dem kalten Krieg nicht unähnliche, aber eben viel tiefgreifendere Auseinandersetzung einiger Big Player, die definitiv zu ungunsten des Rests laufen wird. Spielt dabei dann auch kaum eine Rolle, ob es eher um geopolitische oder wirtschaftliche Blöcke geht.
Und gemessen an der historisch doch bislang extrem kurzen Lebensspanne von allem, was uns aktuell als KI über den Weg läuft, weisen die Auswirkungen bereits jetzt in erschreckendem Maß auf fundamentale Umwälzungen hin. Für mich ist das die größte Herausforderung, der sich die Menschheit mindestens seit Beginn der industriellen Revolution stellen muss. Und wir sind mMn nicht ansatzweise bereit dafür.
Alles viel zu düster? Kann sein. Und auch für mich stirbt die Hoffnung zuletzt. Aber ich sehe aktuell keinerlei nennenswerte Dinge, die diese Hoffnung noch aufrechterhalten würden, eher im Gegenteil. Wenn ich mir so etwas wie das Dinner von Trump mit den amerikanischen Tech-Oligarchen (waren ja bis auf Musk alle da) anschaue, dann wird mir regelrecht schlecht. Gar nicht so sehr wg. Trump, sondern vielmehr deshalb, weil diese Typen einfach komplett auf alles andere pfeifen und so oder so den ganz engen Schulterschluss zur Macht suchen, ganz egal, wer da jetzt gerade mächtig ist.