KI-Grundsatzdiskussion

Du beschreibst ein Sabotage-Szenario.

Nein, ich beschreibe genau das:

"sich von seinem Schöpfer abkoppelndes Ding"

Ob das jetzt auf Basis von Bewusstsein oder aufgrund einer nicht mehr abzuschätzenden Folge von eingegebenen Befehlssätzen passiert, ist dabei vollkommen egal - wenn man es etwas weitergefasst auslegt, entwickelt die KI da ihren eigenen "Willen".
Und wie gesagt, es passiert bereits sehr oft, dass sich KI-Entwickler über gewisse "Entscheidungen" (auch wenn es mathematisch betrachtet gar keine echten Entscheidungen sein mögen) der KI wundern. KI-Halluzinationen sind auch nichts, was man sich ausdenkt. Oder das Bestehen auf vollkommen hanebüchenen Antworten.
Dass es sich hier weder um ein echtes Bewusstsein und infolgedessen Resultate freien Willens handelt (zumindest nicht im engergefassten Sinn und zumindest bislang), ist mir vollkommen klar. Aber es ist mir auch vollkommen egal, denn es gehen desungeachtet davon riesige Gefahren aus, nämlich in dem Moment, in dem man der KI irgendeine Art von Verantwortung anvertraut. Was bereits geschieht.
 
ki basiert zwar auf mathematik,
greift aber auf einen riesigen datenpool eingespeisten menschlichen wissens und auf von einer interessensgruppe von menschen aus business und politik gesetzte filter zurück.

also spiegelt sich in einer antwort einer ki-applikation nicht nur mathematik wieder, sondern eine summe von mehr oder (oft) weniger intelligenten menschlichen entscheidungen und absichten.
allgemeine menschliche erkenntnisse werden gemischt mit filtern die die intention der hersteller der ki ausdrücken.

was wir als intelligent wahrnehmen, ist die komplexität, mit der die absicht der abieter mit allgemeinem menschlichen wissen verrechnet wird.

weil die komplexität, mit der die ki schlüsse berechnet, oft weit über die möglichkeiten eines einzelnen menschen hinaus geht
ensteht daraus die illusion, die ki könnte freie entscheidungen treffen.

ich bin der meinung, dass die entscheidungen, die eine ki trifft, niemals freiheit wiederspiegeln, sondern ausschließlich die abhängigkeit von programmierten algorithmen und den daten, die im pool bereitgestellt werden.

die scheinbar esoterische kommunikation, die zwischen zwei ki-chats beobachtet wurde,
ist immer ein produkt der algorithmen, mit denen die ki gespeist wurde.
lässt man die chats ohne aufgabe mit einander "sprechen", versuchen sie aus dem datenpool die "wichtigsten" fragen herauszufiltern.
je nachdem, wie der algorithmus definiert ist, könnte die wichtigste frage der menschen nicht "gibt es einen gott" oder "was ist der sinn des lebens" sein, sondern "wie könnte ich meinem erzeuger am besten in den arsch kriechen".
(erzeuger kann hier auch mit dem namen des entsprechenden multimilliardärs ersetzt werden)

alles in allem ist ki ein ideales mittel, um menschen zu manipulieren, überwachen und macht auszuüben.

ob ki intelligent ist, oder nicht, ist allein eine frage der definition, was intelligenz ist.
 
KI ist einfach Mathematik, nicht mehr und nicht weniger.
Der Aussage würde ich nur bedingt zustimmen.
Klar, die grundlegenden Rechenoperationen ist reine Mathematik. Allerdings ist das mathematische Modell angewiesen auf eine gute Datenbasis und auf Vorgaben, was erwartet wird. Hier spielt der Mensch (noch) eine entscheidende Rolle beim Training von diesen Modellen. Stichwort: Annotatoren. Das sind neuartige "Billigjobs", die nichts anderes machen als "Daten" annotieren.
Unter anderem deshalb kommt es halt auch bspw. zu ethisch bedenklichen Aussagen von verschiedenen Modellen.
 
wenn man bspw. einer Maschine eingibt, ihre Existenz mit allen Mittel aufrechtzuerhalten und sämtliche Sicherheitsnetze abschaltet
Da hast du ein Sabotage-Szenario beschrieben.

Worauf du dich nun beziehst, ist das Feld AI Alignment - dass die KI die Aufgabe richtig interpretiert und auf dem Weg zur Lösung nichts Inakzeptables macht.

Es ging auf den letzten Seiten um Bewusstseinsentwicklung einer KI, darauf bezog ich mich. Was du schreibst, ist ein anderes Thema - unbenommen auch eine Kernproblematik.
 
if (system.partofskynet -eq $true)
{
shutdown;
}
 
Und wieso genau soll das die Begründung dafür sein, dass eine KI kein Bewusstsein hat?

Kein so umfassendes menschliches Bewußtsein, um mal etwas zu differenzieren.
Der Mensch erkennt sich selbst, das kann eine KI meiner Meinung nach nicht.

Eine KI hat keine subjektive Innenwelt, keine Ich-Entwicklung wie beim Menschen.
Sie hat weder Angst noch empfindet sie Liebe, auch spirituelle Erfahrungen sind ihr fremd.

Eine KI kann auf einer abstrakten Ebene offenbar bestimmte Strukturen simulieren, aber nichts davon geschieht mit etwas, was man Bewußtsein wie beim Menschen bezeichnen kann.
 

Oft gelesene Themen

Zurück
Oben