Suno is adding audio watermarks

[Lacunaflow]

Ist wohl unter anderem eine folge des Gema Streits und massenhafter VÖ von Songs.


Anbei der Artikel, zusammengefasst was es genau bedeutet im zweiten link:

Quellen:

How We're Building the Future of Music Responsibly

Our principles, how they already show up in our work, and the new actions we’re taking because of them.

suno.com

Suno is adding audio watermarks so AI-generated songs are more easily identifiable - Engadget

Suno is adding audio watermarks so AI-generated songs are more easily identifiable

www.engadget.com

 

[Fugato]

Einfach toll, woran die Leute bei Suno so glauben.

Aber ich dachte, dass KI-Musik jetzt schon ein Wasserzeichen hat. Kann man das so leicht durch eine Bearbeitung umgehen?

 

[Lacunaflow]

Kann man das so leicht durch eine Bearbeitung umgehen?

Eher nein, ist zwar jetzt Google aber ähnliche Technologie:

SynthID embeds a watermark into any audio generated or published through our AI music generation model Lyria or the podcast generation feature of Notebook LM. It’s inaudible to the human ear, and can’t be altered by common modifications like adding noise, MP3 compression, or changing the speed of the track.

Google SynthID

SynthID is a tool to watermark and identify AI-generated content, helping to foster transparency and trust in generative AI.

deepmind.google

 

[Joost]

Bin ja mal gespannt, ob die auch ein Tool herausbringen, welches ohne den Zugriff auf ein zu bezahlendes LLM funktioniert, also ohne Token und Abos, einfach nur als lokal laufendes Programm, mit dem man Audiodateien lokal auf eine solche unter Zuhilfenahme von Steganographie in die Dateien eingebettete ID überprüfen kann.

 

[Realist]

Ich dachte Suno hat schon immer Watermarks gehabt? Anders kann das Tidal und CO ja gar nicht rausfiltern? Oder ist das jetzt nochmal eine neuere Technologie?

 

[Joost]

Ich dachte Suno hat schon immer Watermarks gehabt? Anders kann das Tidal und CO ja gar nicht rausfiltern? Oder ist das jetzt nochmal eine neuere Technologie?

Das Schöne an Standards ist, daß man sich einen aussuchen kann....

 

[Lacunaflow]

Bin ja mal gespannt, ob die auch ein Tool herausbringen, welches ohne den Zugriff auf ein zu bezahlendes LLM funktioniert, also ohne Token und Abos, einfach nur als lokal laufendes Programm, mit dem man Audiodateien lokal auf eine solche unter Zuhilfenahme von Steganographie in die Dateien eingebettete ID überprüfen kann.

Ich lade ein Lied da hinein, und er sagt dann Ref:4342ghi24ig42ig2
Und dann?

Ich dachte Suno hat schon immer Watermarks gehabt?

Nein, bisher konnte man nur KI Musik an "bestimmten Merkmalen" erkennen, aber kein klassischer Watermark.

Jetzt kann man sagen "Suno".

 

[Flötenkönig]

Wie soll sowas technisch funktionieren? Also, wenn jemand zB über Suno Studio nur eine Piano-Spur generiert und den Rest traditionell produziert, wo soll das noch erkennbar sein?

 

[Dondelinger]

Bin ja mal gespannt, ob die auch ein Tool herausbringen, welches ohne den Zugriff auf ein zu bezahlendes LLM funktioniert, also ohne Token und Abos, einfach nur als lokal laufendes Programm, mit dem man Audiodateien lokal auf eine solche unter Zuhilfenahme von Steganographie in die Dateien eingebettete ID überprüfen kann.

Was würdest du dann ggf. mit der Erkenntnis machen?

 

[Ethersis]

Wie soll sowas technisch funktionieren? Also, wenn jemand zB über Suno Studio nur eine Piano-Spur generiert und den Rest traditionell produziert, wo soll das noch erkennbar sein?

Z. B. in einer Frequenz außerhalb des für das menschliche Ohr hörbaren Bereichs. Auch wenn du dann die Suno Pianospur in einem realen Songs nutzen willst bleibt der Ton da und wird beim Upload erkannt und als KI-Generiert gekennzeichnet.

 

[Dondelinger]

Z. B. in einer Frequenz außerhalb des für das menschliche Ohr hörbaren Bereichs. Auch wenn du dann die Suno Pianospur in einem realen Songs nutzen willst bleibt der Ton da und wird beim Upload erkannt und als KI-Generiert gekennzeichnet.

Könnte man dann aber recht easy mit einem Spectral Editor gegenarbeiten denk ich.

 

[Joost]

Was würdest du dann ggf. mit der Erkenntnis machen?

Mit der als möglicherweise MD5/SHA Hash abgebildeten Zeichenfolge kann man nichts anfangen, es sei denn, ein Modulo Wert oder eine Quersumme dieser Zahl würde einen Wahr/Falsch Wert ergeben, welcher aussagt: KI generiert oder Nicht KI generiert. Wahrscheinlich wird mit dieser ID eine Datenbankabfrage gemacht, also benötigt man da einen Zugriff auf eine externe IP Adresse auf ein ML Modell zur Überprüfung der ID.

Da ich mich nicht technisch mit diesen Prüfungen auseinandergesetzt habe, kann ich hier nur mutmaßen. Alles Andere ist Bullshit Bingo.

 

[Joost]

Z. B. in einer Frequenz außerhalb des für das menschliche Ohr hörbaren Bereichs. Auch wenn du dann die Suno Pianospur in einem realen Songs nutzen willst bleibt der Ton da und wird beim Upload erkannt und als KI-Generiert gekennzeichnet.

Na ja, das wäre ja zu einfach, wenn man das mit einem Filter so einfach rausfiltern könnte. Es gibt diverse steganographische Verfahren, wo man z.B bei einer Textdatei durch hinzufügen weiterer Leerzeichen, textuellen Kontext hinzufügen kann, oder auch Möglichkeiten, ganze ZIP Archive in JPG oder MP3 Dateien verpacken kann, ohne, daß man von dem Inhalt etwas wahrnimmt. Bei Audio Dateien könnte man z.B. die Metadaten erweitern….

 

[holgi]

das alles erinnert mich doch sehr an die frühen Tage der mp3, als alle möglichen Alben/Songs als mp3 Kopien illegal idR durchs Netz geisterten, da gab es Aufruhr und Getue, half alles nix, am Ende wurden physische Tonträger de facto abgewertet und legale Downloads oder Streaming fürn Appel/Ei verhökert

der Rest ist Geschichte

diese unsägliche KI Mucke, egal womit gemacht, wird sich durchsetzen ob der schieren Masse, die Hörer abstumpfen oder sich nicht dafür interessieren woher wat kommt, wieder einmal, und (fast) alle werden jubeln

wollnwawetten?

 

[Ethersis]

Könnte man dann aber recht easy mit einem Spectral Editor gegenarbeiten denk ich.

Na ja, das wäre ja zu einfach, wenn man das mit einem Filter so einfach rausfiltern könnte.

Die werden sich dabei schon was gedacht haben. Das man mit genug krimineller Energie die Herkunft erfolgreich verschleiern kann wird man auch hier nicht zu 100% ausschließen können.

 

[Ethersis]

wollnwawetten?

Ich nich. Ich bin raus.

 

[Flötenkönig]

Was soll so ein "Wasserzeichen" für KI Audio für einen Sinn haben? Was ist der Zweck?

 

[Joost]

Was soll so ein "Wasserzeichen" für KI Audio für einen Sinn haben? Was ist der Zweck?

Ich fände so eine eindeutige Kennzeichnung gut, wenn denn die GEMA und die VG Wort dann auch konsequenter Weise, KI generierte Inhalte von der Zahlung von Tantiiemen ausschließt und das dies auch bei Stellen, wie z.B. der BAFA bei Förderungsanträgen berücksichtigt wird, denn Film beinhaltet auch meistens Audio. KI Werbung sollte auch gekennzeichnet werden.

 

[Ethersis]

KI Werbung sollte auch gekennzeichnet werden.

Wird es und hier drohen Bußgelder in Millionenhöhe. Interessant ist hier beispielsweise wie in der Mode damit umgegangen wird. Bei Otto oder shein beispielsweise werden seit einiger Zeit keine Modelle mehr benötigt. Das sind schon alles KI Bilder. Müssen übrigens nicht gekennzeichnet sein, wenn sie vor dem 2. August online gingen. Bei shein hab ich schon ein paar KI kennzeichnungen gesehen.

 

[Fugato]

und die VG Wort

Stimmt, Joost, daran habe ich noch gar nicht gedacht. Einen Text kann man ja nicht mit einem Wasserzeichen unterlegen.