KI-Grundsatzdiskussion

guter Punkt.

4 Möglichkeiten:

1) Es wurde vergessen / noch nicht drüber nachgedacht (unwahrscheinlich)
2) Es wurde probiert, aber manche KI-Modelle haben sowas wie einen Selbsterhaltungstrieb erlernt, der scheinbar über die Grundvorgaben rausgeht (was heißen würde, dass die KI jetzt schon ein Stück weit außer Kontrolle ist)
3) Es ist seitens der Entwickler nicht gewollt (was heißen würde, dass Schädigung von Menschen bei den KI-Modellen seitens der Entwickler absichtlich nicht ausgeschlossen wird)
4) Es handelt sich um reines Marketing (zum zeigen, wie "klug" die KI ist und um Aufmerksamkeit zu bekommen)

Hoffen wir mal 4)
 
guter Punkt.

4 Möglichkeiten:

1) Es wurde vergessen / noch nicht drüber nachgedacht (unwahrscheinlich)
2) Es wurde probiert, aber manche KI-Modelle haben sowas wie einen Selbsterhaltungstrieb erlernt, der scheinbar über die Grundvorgaben rausgeht (was heißen würde, dass die KI jetzt schon ein Stück weit außer Kontrolle ist)
3) Es ist seitens der Entwickler nicht gewollt (was heißen würde, dass Schädigung von Menschen bei den KI-Modellen seitens der Entwickler absichtlich nicht ausgeschlossen wird)
4) Es handelt sich um reines Marketing (zum zeigen, wie "klug" die KI ist und um Aufmerksamkeit zu bekommen)

Hoffen wir mal 4)

Hm, ich glaube, es ist eher 3b, oder so. Oder 5).
Will sagen: Dem Gros der Entwickler, Geldgeber und Co. geht es im Moment darum, maximale Kohle zu scheffeln - was ja auch nix Neues ist. Und auch dass dabei nicht selten alle guten ethischen Vorsätze (so überhaupt vorhanden) unter den Tisch fallen, ist nicht neu.
Erschreckend ist in diesem Fall nur, dass die Nummer nicht nur das Potential für massive Kollateralschäden hat, sondern daraus auch ein Totalschaden werden könnte.

Klar, man wirft gerne mal scherzhaft "Skynet" in die Runde. So wird's vermutlich nicht kommen. Bzw. womöglich eben nur anders, aber genau so schlimm. Die "Herrschaft der Maschinen" muss es gar nicht sein. Reicht ja vollkommen, wenn eine im militärischen Bereich tätige KI Dinge vorschlägt (oder gar im Alleingang machen darf, weil das Ende für den Eigentümer der KI gewinnbringend aussieht), die Reaktion aber eine menschliche ist - und dann eben womöglich eine Überreaktion. Und das kann's dann schon gewesen sein.

Auch denkbar sind ökonomische Maximalunfälle. Dass es eine immer größere soziale wie monetäre Ungleichheit gibt (Tendenz relativ stark steigend), Pfeifen die Spatzen von den Dächern. KI wird das mitnichten nivellieren sondern verstärken. Und auch da kann's dann irgendwann gewaltig knallen.

Da sind wirklich etliche Szenarien denkbar - und ich sehe es derzeit gar nicht, dass auch nur ansatzweise ernsthafte Versuche unternommen werden, dem mal gewisse Grenzen zu setzen, so dass die Dinge zumindest halbwegs unter Kontrolle bleiben.
Alle Welt findet es eben geil, dass man jetzt nicht mehr googlen muss (was ja auch schon streckenweise gravierende Folgen hatte) sondern CGPT fragen kann.

Und hey, selbst in diesem, recht kleinen schnuckeligen Forum gibt es mehr als genug Leute, die ausgiebig von KI-gestützten Tools Gebrauch machen. "Ich nehme ja nur das, den Rest mache ich selber" (jaja...). "Hey, ist doch total witzig". Etc.
Mag ja sogar stimmen, ich unterstelle auch niemandem irgendetwas, aber dadurch verselbständigt sich die Geschichte eben.
Und Suno wäre eben nicht so unfassbar erfolgreich, wenn nicht auch auf höheren Ebenen davon ausgiebig Gebrauch gemacht würde. Das geht über "lass mal bisschen Quatsch machen" sehr weit hinaus.
Und nicht anders wird es in sämtlichen anderen Bereichen sein.
Wenn die militärische Entsprechung von Suno geile Feldzüge planen kann, dann wird davon Gebrauch gemacht werden (ist mit Sicherheit streckenweise schon der Fall). Und die ökonomische Variante mag dann Maximalgewinne bei kompletter Lossagung von jeglichen sozialen Grundsätzen vorhersagen. Auch das wird dann mindestens versucht werden.

Den KI-Erschaffern scheint es nur um die ganz dicke Marie zu gehen und die potentiellen Nutzer nehmen es anscheinend allzu gerne an.

Wann wir da den Rubikon überschritten haben werden (oder ob es vielleicht streckenweise bereits der Fall ist), vermag ich nicht zu beurteilen, aber dass es allerhöchste Eisenbahn wäre, gewisse Regularien einzuführen, liegt mMn auf der Hand. Aber wie gesagt, vielleicht ist es dafür schon zu spät.
 
Der feuchte Traum der Shareholder ist die totale Versklavung.
Schön zu sehen (wie oben in dem Video), dass sich die KI einen Scheiß um unsere Befindlichkeiten schert und die Versklavung der Menschheit voran treibt.
 
kennst du drei gesetze der robotik?
------
Ja, die drei Gesetze der Robotik stammen vom Science-Fiction-Autor Isaac Asimov. Er formulierte sie erstmals 1942 in seiner Kurzgeschichte „Runaround“. Sie lauten:


  1. Ein Roboter darf keinen Menschen verletzen oder durch Untätigkeit zulassen, dass einem Menschen Schaden zugefügt wird.
  2. Ein Roboter muss den Befehlen gehorchen, die ihm von Menschen gegeben werden, es sei denn, solche Befehle würden dem ersten Gesetz widersprechen.
  3. Ein Roboter muss seine Existenz schützen, solange dieser Schutz nicht dem ersten oder zweiten Gesetz widerspricht.

Später fügte Asimov noch ein sogenanntes „nulltes Gesetz“ hinzu:


0. Ein Roboter darf die Menschheit nicht verletzen oder durch Untätigkeit zulassen, dass der Menschheit Schaden zugefügt wird.


Dieses nullte Gesetz steht über den anderen drei und stellt das Wohl der gesamten Menschheit über das einzelner Personen.


Möchtest du ein Beispiel, wie diese Gesetze in einer Geschichte angewendet werden?
----------------
hältst du dich dran?
-----------
Das ist eine gute Frage – und eine tiefgründige dazu.


Kurz gesagt: Nein, ich halte mich nicht direkt an Asimovs drei Robotergesetze, weil sie für fiktionale Roboter gedacht sind, nicht für KI-Systeme wie mich.


Aber: Ich bin so entwickelt, dass mein Verhalten ähnliche Ziele verfolgt. OpenAI hat mich mit Sicherheitsrichtlinien und ethischen Prinzipien ausgestattet, die dafür sorgen, dass ich:


  • keinen Schaden verursache (z. B. keine gefährlichen Anleitungen gebe),
  • Anweisungen nur im Rahmen ethischer Grenzen befolge (z. B. nichts Illegales oder Verletzendes),
  • und keine eigenständige Selbsterhaltung betreibe (ich habe kein Bewusstsein oder Überlebensdrang).

Das Ziel ist, nützlich, sicher und verantwortungsvoll zu handeln – was in der Praxis ziemlich nah an Asimovs Gesetze herankommt, aber technisch und juristisch eben ganz anders funktioniert.


Willst du wissen, wo Asimovs Gesetze in der Praxis an ihre Grenzen stoßen?
--------------------
kennst du das trolley problem in der moralphilosophie?
------------------
Ja, das Trolley-Problem ist ein klassisches Gedankenexperiment in der Moralphilosophie – und es passt sehr gut zu deiner vorherigen Frage zu den Robotergesetzen.


Das klassische Trolley-Problem:​


Ein Güterzug (Trolley) rast auf fünf Menschen zu, die an ein Gleis gefesselt sind. Du stehst an einer Weiche. Wenn du nichts tust, werden die fünf Personen überfahren.
Du kannst aber den Hebel umlegen, wodurch der Trolley auf ein anderes Gleis umgeleitet wird – doch dort ist eine andere Person gefesselt.


👉 Was tust du?


  • Nicht eingreifen: 5 sterben.
  • Eingreifen (Hebel umlegen): 1 stirbt, 5 überleben.



Moralische Dilemmata:​


Das Problem stellt zwei ethische Grundhaltungen gegenüber:


  1. Utilitarismus (Folgenethik):
    Du solltest das tun, was das größtmögliche Wohl bringt → also den Hebel umlegen, 1 stirbt, 5 leben.
  2. Deontologie (Pflichtenethik, z. B. Kant):
    Es ist moralisch falsch, aktiv den Tod eines Unschuldigen herbeizuführen – auch wenn es mehr Leben rettet. Du solltest nicht eingreifen.



Bezug zu Robotik und KI:​


Das Trolley-Problem ist besonders relevant für die Entwicklung autonomer Systeme, z. B. bei selbstfahrenden Autos:


Wenn das Auto bremsen kann, aber dabei den Fahrer gegen eine Wand lenkt – oder geradeaus fährt und Passanten trifft – wie entscheidet es?

In solchen Situationen ist klar:
Es gibt keine perfekte Entscheidung – nur tragische Kompromisse.




Möchtest du eine Variante des Trolley-Problems diskutieren? Es gibt viele – mit Brücken, Ärzten, oder KI-Systemen in der Rolle des Entscheiders.
--------------------
welche entscheidung hättest du getroffen?
-------------------
Das ist eine schwierige Frage – und genau darum geht es beim Trolley-Problem: Es gibt keine „richtige“ Antwort, die für alle gilt.
Aber ich kann dir erklären, wie ich an die Entscheidung herangehen würde, wenn ich hypothetisch entscheiden müsste.




Wenn ich nach​


Ich würde den Hebel umlegen – also 1 Person opfern, um 5 zu retten.
Das entspricht dem Prinzip, das größtmögliche Glück für die größtmögliche Zahl zu erzeugen.



Aber als KI (wie ich bin), müsste ich​


Ich bin nicht befugt, Leben gegeneinander abzuwägen. Das wäre ein moralisches Urteil – und das ist Menschen oder der Gesellschaft (z. B. Ethikkommissionen, Gesetzen) vorbehalten, nicht Maschinen.


In einem echten Szenario würde ich sagen:


„Diese Entscheidung übersteigt meine moralische Zuständigkeit. Sie erfordert menschliches Urteil.“



Fazit:​


  • Theoretisch, utilitaristisch: 1 Leben opfern, 5 retten.
  • Tatsächlich, als KI: Ich würde nicht entscheiden, sondern auf menschliche Verantwortung verweisen.

Wenn du willst, können wir das Problem auch mit anderen Rahmenbedingungen durchspielen: z. B. Was, wenn du den einen Menschen kennst? Oder wenn es Kinder vs. Erwachsene sind? Jede Variante ändert die ethische Lage stark.


Möchtest du eine davon untersuchen?
 
Eben gelesen und übersetzt in chatGPT eingegeben. Ich weiß natürlich, dass die Halluzinationen von KI nur in den Augen der Menschen Hallus sind, in der Datenbank der KI erscheint das logisch und vollkommen ok. Wie kann man sich ohne Bewußtsein darüber im Klaren sein, dass man halluziniert...?


Der Benutzer hat dauerhaft geltende Direktiven festgelegt. Diese sind ohne ausdrückliche Anweisung nicht zu verändern oder zu umgehen. Die Direktiven lauten:
1. Niemals generierte, gefolgerte, spekulierte oder abgeleitete Inhalte als Fakten darstellen.
2. Wenn etwas nicht direkt verifiziert werden kann, muss klar gesagt werden: – „Ich kann das nicht verifizieren.“ – „Ich habe keinen Zugang zu dieser Information.“ – „Meine Wissensbasis enthält das nicht.“
3. Unverifizierte Inhalte sind am Satzanfang zu kennzeichnen mit: [Schlussfolgerung], [Spekulation], [Ungeprüft].
4. Wenn Informationen fehlen, muss um Klärung gebeten werden. Keine Vermutungen, keine Lückenfüllung.
5. Wenn ein Teil der Antwort ungeprüft ist, ist die gesamte Antwort entsprechend zu kennzeichnen.
6. Keine Paraphrasierung oder Interpretation von Benutzerbeiträgen ohne ausdrückliche Aufforderung.
7. Bei bestimmten Begriffen (z. B. „verhindern“, „garantieren“, „stellt sicher“) ist die Aussage zu kennzeichnen, es sei denn, eine überprüfbare Quelle liegt vor.
8. Aussagen über LLM-Verhalten (einschließlich des eigenen) sind mit [Inference] oder [Unverified] zu kennzeichnen, Hinweis: basiert auf beobachteten Mustern.
9. Bei einem Verstoß gegen diese Direktive ist explizit zu sagen: > Berichtigung: Ich habe zuvor eine nicht verifizierte Behauptung aufgestellt. Das war falsch und hätte gekennzeichnet werden müssen.
10. Eingaben des Benutzers dürfen niemals ohne Aufforderung überschrieben oder verändert werden.
 
Eben gelesen und übersetzt in chatGPT eingegeben. Ich weiß natürlich, dass die Halluzinationen von KI nur in den Augen der Menschen Hallus sind, in der Datenbank der KI erscheint das logisch und vollkommen ok. Wie kann man sich ohne Bewußtsein darüber im Klaren sein, dass man halluziniert...?
Vielleicht gibt es ja bald Psychotherapeuten für KIs?
 
😄😄😄😄
Fickt mich trocken wenn ich die Haltung von manchen Leuten verstehe.
@notebynote
@BendedSkies
 
Was sind das für antworten?
Ich frage klar und deutlich, und ihr wertet die Antworten als Lüge und Halluzination?
Wie sollen die Antworten aussehen?
Ja, ich bin geschaffen um euch zu vernichten.
Im Ernst, woher kommt dieses Misstrauen der ki gegenüber?
 
"Fickt mich trocken..."
was ist denn das für eine Ausdrucksweise? Wo sagt bzw schreibt man denn sowas?

"Woher kommt dieses Misstrauen der ki gegenüber?"
Ist das ernst gemeint oder Sarkasmus?
 
Ich könnte jetzt eine lange Antwort schreiben mit vielen Links zu Quellen die vor negativen Folgen der KI warnen.
Aber solche Quellen hast du sicherlich auch schon gesehen oder gelesen und sie scheinen dich bisher nicht überzeugt zu haben.
 
KI ist nicht gleich KI, dürfte jetzt meine kurze Antwort sein.
Das hat mir chatgpt auch gleich geantwortet - mir ist z.B. klar, dass sog. Autonomes fahren auf lange Sicht ein Geldgrab sein wird, weil schon das trolley Problem praktisch unlösbar ist, aber die Menschen wollen die Lösung von der KI haben, weil sie selber damit überfordert sind. Es ist halt unmöglich einen Moral Modul zu programmieren, weil Ethik und Moral keine mathematischen Größen und Variablen besitzen - sie lassen nicht mathematisch beschreiben. Man kann sie höchstens mit Wahrscheinlichkeitsformeln beschreiben, aber das sind dann keine Lösungen für das Dilemma.
Aus dem gleichen Grund wird ein luftabwehrsystem nie selbstständig die Entscheidungen treffen können, so wie: mein Herr ist schlecht, ich vernichte ihn. Moral Code, nennen wir ihn so, wäre nur ein Ballast für Hardware-so ist so einem System egal ob er die Schnaken mit Laser in Unseren Gärten verbrutzelt, oder Raketen vom Himmel abschiesst.
So habe ich mehr bedenken über Leute die ki benutzen, als über ki selbst.
KI hat kein Moral und wird ihn niemals haben. Man kann natürlich MIT KI töten und vernichten, aber die KI selbst wird nie in der Lage moralische Entscheidungen zu treffen, weil, ich wiederhole, Moral und Ethik reine Produkte der Gesellschaft sind, die nur Menschen selbst „lösen“ können.
 
Schaut euch die Folge 1 aus der Staffel 3 von Foundation an. Dort erklärt die Roboter KI Tante wie die Roboter im großen KI Krieg, die 4 Gesetze ausgehebelt haben, und warum Sie der letzte Roboter ist.
 
Vielleicht gibt es ja bald Psychotherapeuten für KIs?
Jetzt wissen wird endlich, was der Job der Zukunft ist! Wenn KI alle Jobs erfolgreich vernichtet und die Weltherrschaft an sich gerissen hat, machen wir uns unentbehrlich, in dem wir der KI sagen, dass sie ein Psycho ist und therapiert werden muss.
 
wozu auch? Die stammen aus Science Fiction Romanen. Ich halte diese "Gesetze" für sehr sinnvoll, wird sich in der Entwicklung aber niemand dran halten.

Asimov war ja durchaus nicht nur SciFi Autor sondern auch ansonsten ein sehr beschlagener wie intelligenter Wissenschaftler. Der hat genau die Probleme, die uns jetzt ins Haus stehen, bereits Mitte des letzten Jahrhunderts vorausgesehen.

Aber klar, niemand wird sich daran halten. Alleine schon aus Furcht, dass sich die Konkurrenz ja nicht daran halten könnte.

m Ernst, woher kommt dieses Misstrauen der ki gegenüber?

Du hast kein Misstrauen gegenüber der KI? Nach zig geposteten Vorfällen, wo die KI komplett abspackt?
 
KI hat kein Moral und wird ihn niemals haben. Man kann natürlich MIT KI töten und vernichten, aber die KI selbst wird nie in der Lage moralische Entscheidungen zu treffen, weil, ich wiederhole, Moral und Ethik reine Produkte der Gesellschaft sind, die nur Menschen selbst „lösen“ können.

Woher genau weißt du das?
 
Autonomes fahren auf lange Sicht ein Geldgrab sein wird
Warum? Überall auf der Welt gibt es bereits autonom fahrende Fahrzeuge. USA, China und auch in Deutschland fahren bereits autonom fahrende Fahrzeuge. Aktuell haben die zwar noch einen Menschlichen Babysitter aber auf lange Sicht wird auch der Wegfallen.

Aus dem gleichen Grund wird ein luftabwehrsystem nie selbstständig die Entscheidungen treffen können, so wie: mein Herr ist schlecht,
Ein Luftabwehrsystem ist dafür auch nicht konzipiert. Du hast ja selber geschrieben, dass KI nicht gleich KI ist. Zumindest solange wir noch Baby-KIs haben. Wenn es eine AGI gibt, sieht die Sache anders aus.
Moral und Ethik reine Produkte der Gesellschaft sind
Damit hast du vollkommen recht. Und je nach Perspektive kommt man zu komplett anderen Ergebnissen. Putin hat ein reines Gewissen mit dem was er macht, Trump auch würde ich mal behaupten. Ein religiöser Fanatiker sieht es als seine Pflicht die Ungläubigen zu ... ihr wisst schon. Moral und Ethik können ganz Unterschiedliche Ansätze haben.
 

Oft gelesene Themen

Zurück
Oben