KI-Grundsatzdiskussion

Die Frage ist, wie man überhaupt auf die Idee kommt, heutige KI-Ansätze könnten irgendwann Bewusstsein entwickeln.

Neuronale Netze in der KI sind nur sehr lose vom Gehirn inspiriert. Ein "Neuron" im maschinellen Lernen ist eine extrem vereinfachte, mathematische Abstraktion eines biologischen Neurons. Selbst wenn ein System ähnlich Aufgaben erfüllen kann wie der Mensch, folgt daraus nicht, dass es erlebt, was es tut. Diese Möglichkeit ist in der mathematischen Abstraktion der Neuronen nicht angelegt.
Ich finde diesen Absatz aus dem kurzen Bericht, den ich verlinkt habe, recht interessant:

"Unsere Analyse deutet darauf hin, dass kein aktuelles KI-System über Bewusstsein verfügt", schreiben die Autoren in der Studie, "aber auch, dass es keine offensichtlichen technischen Hindernisse für die Entwicklung von KI-Systemen gibt, die diese Indikatoren erfüllen." Soll heißen: Künstliche Intelligenz mit Bewusstsein ist wohl nur eine Frage der Zeit. Zumindest nach dieser Definition von Bewusstsein.
Wie Toyota das schon in den 80er sagte: Nichts ist unmöglich. :smil451c7211b9e19:
 
Ich finde diesen Absatz aus dem kurzen Bericht, den ich verlinkt habe, recht interessant
Die in der Studie referenzierten Bewusstseinstheorien umfassen nur funktionale Aspekte, wie Systeme Informationen verarbeiten und auf eine Weise reagieren, die wie Bewusstsein aussieht. Gefühle erscheinen darin z.B. nur als Variablen, die bestimmte Reaktionen auslösen können. Keine dieser Theorien impliziert, dass es dabei ein Wesen gibt, das tatsächlich etwas fühlt / erlebt. Das Phänomen des Erlebens (und sich selbst bewusst sein) gibt es in diesen Modellen nicht.

(Nebenbei ist es nur ein Preprint, keine peer-reviewte Studie.)

Also weiterhin die Frage: Wie kommt man überhaupt auf die Idee, heutige KI-Ansätze könnten irgendwann Bewusstsein entwickeln?
 
Zuletzt bearbeitet:
Die in der Studie referenzierten Bewusstseinstheorien umfassen nur funktionale Aspekte, wie Systeme Informationen verarbeiten und auf eine Weise reagieren, die wie Bewusstsein aussieht. Gefühle erscheinen darin z.B. nur als Variablen, die bestimmte Reaktionen auslösen können. Keine dieser Theorien impliziert, dass es dabei ein Wesen gibt, das tatsächlich etwas fühlt / erlebt. Das Phänomen des Erlebens (und sich selbst bewusst sein) gibt es in diesen Modellen nicht.

(Nebenbei ist es nur ein Preprint, keine peer-reviewte Studie.)

Also weiterhin die Frage: Wie kommt man überhaupt auf die Idee, heutige KI-Ansätze könnten irgendwann Bewusstsein entwickeln?
Es geht doch um den Ansatz, Bewusstsein zu definieren. Ohne das man diesen Begriff greifen kann, kannste dir den Rest auch sparen.
 
Es entspricht aktuellem wissenschaftlichem Konsens, dass viele Säugetiere ein Bewusstsein haben.
Definitiv. Sie alle haben eine Persönlichkeit!
Btw. unangefochten im gesamten Tierreich ganz hoch oben thronen sie, die nicht nur Bewusstsein, sondern ein extrem ausgeprägtes Selbstbewusstsein haben, man nennt es auch Arroganz:

Katzen. Alle. Arten. von. Katzen.
Egal ob Löwe oder Straßenkatze.

Niemand auf diesem Planeten kommt da mit. Man kann es nur akzeptieren.
 
Adobe Firefly hat definitiv kein Bewusstsein. Sorry für leichten OT.
1760622453154.png
 
Die in der Studie referenzierten Bewusstseinstheorien umfassen nur funktionale Aspekte, wie Systeme Informationen verarbeiten und auf eine Weise reagieren, die wie Bewusstsein aussieht. Gefühle erscheinen darin z.B. nur als Variablen, die bestimmte Reaktionen auslösen können. Keine dieser Theorien impliziert, dass es dabei ein Wesen gibt, das tatsächlich etwas fühlt / erlebt. Das Phänomen des Erlebens (und sich selbst bewusst sein) gibt es in diesen Modellen nicht.

(Nebenbei ist es nur ein Preprint, keine peer-reviewte Studie.)

Also weiterhin die Frage: Wie kommt man überhaupt auf die Idee, heutige KI-Ansätze könnten irgendwann Bewusstsein entwickeln?
Sehe ich genauso. Insbesondere der Punkt Gefühle, der ja oft fern jeglicher Logik ist.
 
Es geht doch um den Ansatz, Bewusstsein zu definieren. Ohne das man diesen Begriff greifen kann, kannste dir den Rest auch sparen.

Ja, die große Frage, was ist Bewußtsein!

Es ist schon richtig, es geht um den Ansatz Bewußtsein zu definieren.
Und da steht in dem Artikel schon mal einiges, was darauf hinweist, dass die Forscher ganz schön viel ausblenden.
Nämlich den Menschen. Steht ja da, Lebewesen haben keinen Bewußtseinsvorsprung nur weil sie Lebewesen sind.
Daraus kann eigentlich nur eine ärmliche Definition von Bewußtsein entstehen weil man vieles einfach ausblendet aus Sicht der Frage, was Bewußtsein ist.
Denn eins ist doch klar: Ohne Mensch keine KI! Also ist der Mensch mit Bewußtsein klare Voraussetzung, damit KI überhaupt entstehen kann.
Ich bin demnach auch der festen Überzeugung, dass KI kein Bewußtsein hat.

Interessant könnte es dann werden, wenn KI mit dem Menschen verschmilzt. Die berühmten Nano-Chips, die irgendwann mal vielleicht mal ins Gehirn transplantiert werden und dann den Menschen in seinen Fähigkeiten zum Supermenschen machen. Tja, das ist zwar noch Science Fiction aber ich befürchte bald, das wird sich irgendwann ändern.
 
  • Danke
Reaktionen: Hyp
recording.de trägt leider auch dazu bei, den Glauben an die Menschheit zu verlieren. ;)

In ein Programm, das lose vom Prinzip der Neuronen des Gehirns inspiriert ist, werden große Textmengen eingespeist... und es gbt tatsächlich Menschen in der "zivilisierten" Welt des 21. Jahrhunderts, die glauben, das könne ein Lebewesen mit eigenem Willen ergeben? Weit sind wir seit der Aufklärung nicht gekommen, der Hang zum Okkulten steckt tief in den Menschen.
 
und es gbt tatsächlich Menschen in der "zivilisierten" Welt des 21. Jahrhunderts, die glauben, das könne ein Lebewesen mit eigenem Willen ergeben?

Nein. Weder ein "Lebewesen", noch eines mit traditionellem eigenen Willen. Aber wenn man bspw. einer Maschine eingibt, ihre Existenz mit allen Mittel aufrechtzuerhalten und sämtliche Sicherheitsnetze abschaltet, dann wird sich das in einer Art "Willen" manifestieren. U.a. womöglich darin, dass die Maschine sich über den Menschen hinwegsetzt. Und genau das ist in Versuchsanordnungen bereits geschehen.
 
Denn eins ist doch klar: Ohne Mensch keine KI! Also ist der Mensch mit Bewußtsein klare Voraussetzung, damit KI überhaupt entstehen kann.
Du hast den Sinn leider nicht verstanden.


recording.de trägt leider auch dazu bei, den Glauben an die Menschheit zu verlieren. ;)

In ein Programm, das lose vom Prinzip der Neuronen des Gehirns inspiriert ist, werden große Textmengen eingespeist... und es gbt tatsächlich Menschen in der "zivilisierten" Welt des 21. Jahrhunderts, die glauben, das könne ein Lebewesen mit eigenem Willen ergeben? Weit sind wir seit der Aufklärung nicht gekommen, der Hang zum Okkulten steckt tief in den Menschen.
Wer redet denn hier von LLMs? Von einem Lebewesen redet auch keiner. Junge, junge ...
 
recording.de trägt leider auch dazu bei, den Glauben an die Menschheit zu verlieren. ;)

In ein Programm, das lose vom Prinzip der Neuronen des Gehirns inspiriert ist, werden große Textmengen eingespeist... und es gbt tatsächlich Menschen in der "zivilisierten" Welt des 21. Jahrhunderts, die glauben, das könne ein Lebewesen mit eigenem Willen ergeben? Weit sind wir seit der Aufklärung nicht gekommen, der Hang zum Okkulten steckt tief in den Menschen.
Ich hatte gestern noch einen Bericht gelesen den ich sehr gut fand.
Als ich mich damals in den 80ern mit dem Theam beschäftigt, war der Konsens, dass man eigentlich noch nicht wirklich viel über das Wunderwerk Gehirn weiß.
Das scheint sich bis heute nicht geändert, da die heutigen Wissenschaftler verschiedener Theorien, eher noch stärker gegeneinander als miteinander arbeiten. Der andere könnte ja doch recht haben. Deshalb ist es wohl auch schwierig wirklich fundierte Experimente und Studien zu führen. Letztendlich ist es so, dass man noch gar nicht soviel über das Bewusstsein und den Einfluss der Neuronen weiß, wie manche hier annehmen. Es hat sich schlicht über die Jahre in diesem Bereich der Forschung nicht wirklich etwas getan. Man nimmt zumindest an, dass jedes Lebewesen ein mehr oder weniger biologisches Bewusstsein hat, die aber sogar teils vom Menschen stark abweichen.

Ich muss dir aber zustimmen, dass die heutigen KI Modelle nur, wenn überhaupt, ein Bewusstsein faken können.
Man merkt ja auch immer mehr wie Leute die KI vermenschlichen, weil diese so wortgewandt, immer freundlich ist, schöne Sachen sagt und auch mal lobt.
Sowas sehe ich zum Beispiel als Gefahr.

Zumindest sehe ich solche Diskussionen auch positiv, weil man vielleicht selber mal wieder bewusst über das Bewusstsein nachdenkt.

Ach so, hier noch der Artikel:
 
Hier ist noch ein Artikel zum "freien Willen" den ich gut lesbar fand. Auch da herrscht immer noch Uneinigkeit und selbst der dort erwähnte Neurobiologe hat für sich noch keine Antwort auf das Thema gefunden. Es ist halt schwierig. :)
 
Weder ein "Lebewesen", noch eines mit traditionellem eigenen Willen. Aber wenn man bspw. einer Maschine eingibt, ihre Existenz mit allen Mittel aufrechtzuerhalten und sämtliche Sicherheitsnetze abschaltet, dann wird sich das in einer Art "Willen" manifestieren. U.a. womöglich darin, dass die Maschine sich über den Menschen hinwegsetzt. Und genau das ist in Versuchsanordnungen bereits geschehen.
"Lebewesen" war von mir zu lax gewählt, ich meinte "sich von seinem Schöpfer abkoppelndes Ding".
Der Begriff Wille trägt hier auch nur zur Begriffsverwirrung bei, auch in der Form "eine Art Willen". Die KI führt in dem Szenario nur willenlos stur einen Befehl aus. Nur weil sie hartnäckig irgendwas zu tun versucht, ist trotzdem keinerlei Wille im Spiel, auch keine untradtitionelle Art von Wille.

Du beschreibst ein Sabotage-Szenario. Müsste man sich im Einzelfall ansehen, was eine KI anrichten könnte und welche Zugriffsmöglichkeiten ihr dafür gegeben werden müssten.
(Auf mittellange Sicht sehe ich die größeren Risiken für Fatalität in Sabotage oder Unfällen in Hochrisikoanlagen wie Gain-of-Function-Laboren, ganz ohne KI-Beteiligung.)
 
## EILMELDUNG##
## KI, AI, etc. entwickeln sich weltweit zum größten Co² Emittenten, mit unabsehbaren Folgen für das Raumklima ##
...und alle so: "Ja...und?"

:jawohl:

 

Oft gelesene Themen

Zurück
Oben