Ich habe mir aufgrund des Postings von
@Entone hier mal dieses PDF "Situational Awareness: The Decade Ahead" angeschaut. Kann ich nur empfehlen. Ich habe in der Mitte nur wahllos rumgescrollt, aber Einleitung, Fazit und Anhang reichen vollkommen aus, um zu wissen, dass die Dinge, über die wir hier reden, nicht einmal Kinderkram sind.
Kann man
hier lesen oder in Gänze runterladen - letzteres empfiehlt sich, weil das Appendix nur im PDF auftaucht.
Ich sehe da meine allerdunkelsten Befürchtungen bestätigt, vor allem dann, wenn er über Sicherheit redet. Da gibt's dann eben sowas zu lesen:
America must lead. The torch of liberty will not survive Xi getting AGI first. (And, realistically, American leadership is the only path to safe AGI, too.) That means we can’t simply “pause”; it means we need to rapidly scale up US power production to build the AGI clusters in the US. But it also means amateur startup security delivering the nuclear secrets to the CCP won’t cut it anymore, and it means the core AGI infrastructure must be controlled by America, not some dictator in the Middle East. American AI labs must put the national interest first.
Also ganz klar "Amerika vs. China". Und damit wird er recht haben, denn es gibt in der Größenordnung (über die man im Appendix ein paar Dinge lesen bzw. erahnen kann) schlicht und ergreifend keine anderen Mitspieler, die EU kackt als Einheit ab, alle anderen sind komplett lächerlich (Russland eingeschlossen).
Womit wir dann bei Trump vs. Xi landen (leider gibt es aktuell kaum Zweifel daran, dass Trump es erneut ins Weiße Haus schaffen wird). Und wenn ich mir überlege, dass es die beiden Typen sind, die spielentscheidend an der wichtigsten Transformation der Menschheit aller Zeiten rumdoktoren, dann wird mir ehrlich gesagt richtig schlecht.
Aber an sich geht's mir auch zumindest im Moment gar nicht um zukünftige geopolitische Belange, sondern eher eben genau darum, dass wir es hier mit der einschneidendsten Entwicklung, die es jemals gab, zu tun haben. Davon bin ich absolut fest überzeugt - und es macht mir regelrecht Angst.
Wir sehen ja, wie unfassbar schnell sich die Dinge in uns vertrautem Terrain entwickeln. Das ist schon erschreckend. Vor gerade 2 Jahren war AI Musik irgendein wirres, artefaktverseuchtes Digitalgestammel, heute haben es mitunter selbst geschulte Ohren schwer, den AI Ursprung wasserdicht auszumachen.
Und genau diese Geschwindigkeit der Entwicklung gibt es auch in allen anderen Bereichen, in denen KI eingesetzt werden kann. Natürlich auch in denen, die traditionell hinter wirklich komplett verschlossenen Türen stattfinden. Wenn überhaupt irgendwo, dann wird genau da die Speerspitze der KI Entwicklung ihr Zuhause haben. Ich überlasse es jedem selbst, sich auszudenken, welche Bereiche das dann sind.
Wie gesagt, mir wird angesichts all dessen und vor dem Hintergrund, dass die Menschheit mMn generell zu dumm bzw. zu gierig ist, einfach schlecht.
Vielleicht können wir Suno und Udio ja anweisen, ein paar apokalyptische Werke rauszuhauen.
