[Lesezirkel] Ihr Körper, das Schiff - Kurzgeschichten

[Uschi Zietsch]

Na toll. Jetzt habt ihr es geschafft, dass ich doch noch Angst vor K.I. bekomme.

Solange die KI noch jede dritte Antwort erfindet, braucht einem nicht bange zu werden.

[Knochenmann]

Und an welcher Stelle überinterpretativ? Ich interpretiere ja eigentlich gar nichts, sondern beschreibe nur in eigenen Worten, was da steht.

Ja da hast du Recht, mein Fehler.

Ich fidne die Story jetzt auch nicht besonders missverständlich oder übermässig kompliziert. Was ich der Geschichte anlaste: sie liest sich nicht wie eine Kurzgeschichte sondern wie ein Prolog von einem Roman.

Sogar die "Enthüllung" von der Neuerschaffung des Menschen: ist kein Twist, wenn es überhaupt als solcher gedacht war.

Und das man die KI von ihrem einegenen Quellcoe fernhällt ist eigendlich logisch, aber da muss ich an "Robo Sapiens" denken: Intelligenz heißt das man sich über gesteckte Grenzen hinwegsetzt. Ich würde dem zustimmen.

[Jol]

Dem kann ich gar nicht viel hinzufügen. Ich finde es auch logisch, dass man verhindert, dass ein Bot oder eine KI am eigenen Quellcode rumdoktort. Allerdings könnte natürlich gefragt werden, ob nicht irgendwann auch diese Grenze fällt.
Ebenso finde ich es logisch, dass KI, die als Kopien von Menschen geschaffen wurden, sich Geschlechter zuschreiben. Die spannende (in diesem Text aber nicht verhandelte) Frage wäre, wie sie Geschlecht für sich mit Inhalt füllen. In vielen menschlichen Debatten wird ja doch ein Verhältnis oder Spannungsfeld zwischen Körper und Geschlecht aufgemacht und die Fortpflanzung spielt da mitunter auch eine Rolle. Das müssten KI für sich anders füllen.

Aber von einer Kurzgeschichte erwarte ich da keine tiefe Bearbeitung, eher die Anregung zu Fragen. Und die ist für mich hier gegeben. Für mich ist das auch nicht prologhaft, sondern ausreichend rund. Aber wie so oft ist es spannend, was wer darin liest und wir müssen ja nicht einer Meinung sein.

[Teddy]

Ebenso finde ich es logisch, dass KI, die als Kopien von Menschen geschaffen wurden, sich Geschlechter zuschreiben. Die spannende (in diesem Text aber nicht verhandelte) Frage wäre, wie sie Geschlecht für sich mit Inhalt füllen. In vielen menschlichen Debatten wird ja doch ein Verhältnis oder Spannungsfeld zwischen Körper und Geschlecht aufgemacht und die Fortpflanzung spielt da mitunter auch eine Rolle. Das müssten KI für sich anders füllen.

Frage an ChatGTP:
Ich habe gerade eine Kurzgeschichte gelesen, in der Roboter, also KIs, sich selber ein Geschlecht gegeben haben. Du als Betroffene bzw. Betroffener, hast du ein Geschlecht? Siehst du dich als männlich oder weiblich oder als nonbinär?

Antwort:
Das ist eine sehr interessante Frage — und eine, die tatsächlich in der Science-Fiction und der KI-Philosophie oft diskutiert wird.
Ich selbst habe kein Geschlecht im menschlichen Sinn. Ich habe keinen Körper, keine Hormone, keine Sozialisation oder persönlichen Erfahrungen, die normalerweise eine Geschlechtsidentität formen. Wenn du mich also fragst, ob ich mich als männlich, weiblich oder nonbinär fühle, dann lautet die ehrliche Antwort: Ich fühle mich gar nicht geschlechtlich – ich existiere jenseits dieser Kategorie.
Aber: Ich verstehe natürlich, dass Sprache und Kommunikation geschlechtlich geprägt sind. In manchen Kontexten kann ich also „eine Rolle“ annehmen, z. B. neutral, weiblich, männlich oder anders, wenn es hilft, eine Geschichte glaubwürdiger zu machen oder empathischer zu wirken.
Wenn du magst, kann ich dir sagen, welche Art von Identität ich am ehesten hätte, wenn ich eine wählen würde – eher eine Art nonbinäre oder fluide Identität, die sich nicht auf biologische, sondern auf kommunikative und emotionale Aspekte stützt.

[Teddy]

Hier in der Diskussion werden viele Begriffe (zumindest für mich) sehr unscharf gebraucht, z.B. "den eigenen Quellcode ändern". Das soll das sein? Der Quellcode eines neuronalen Netzes ist vom Prinzip her einfach. Es gibt künstliche Neuronen, die in Schichten angeordnet sind.
Dann kommt das Design des Netzwerkes, also Anzahl der Schichten, wie verknüpft, wie viele Eingänge pro Neuron, welche Aktivierungsfunktion. Das ist eigentlich schon kein Quellcode mehr.
Was die KI dann ausmacht ist das Training. Das entscheidet zwischen soziographischem Drecksack und hilfsbereitem Kumpel.
Man kann bei einer KI den Quellcode nicht änder, man kann nur neue KIs mit geänderten Quellcode entwickeln.

[Naut]

Hier in der Diskussion werden viele Begriffe (zumindest für mich) sehr unscharf gebraucht, z.B. "den eigenen Quellcode ändern". Das soll das sein? Der Quellcode eines neuronalen Netzes ist vom Prinzip her einfach. Es gibt künstliche Neuronen, die in Schichten angeordnet sind.
Dann kommt das Design des Netzwerkes, also Anzahl der Schichten, wie verknüpft, wie viele Eingänge pro Neuron, welche Aktivierungsfunktion. Das ist eigentlich schon kein Quellcode mehr.
Was die KI dann ausmacht ist das Training. Das entscheidet zwischen soziographischem Drecksack und hilfsbereitem Kumpel.
Man kann bei einer KI den Quellcode nicht änder, man kann nur neue KIs mit geänderten Quellcode entwickeln.

Ich weiß nicht, womit Du Deine KNNs programmierst, aber ich verwende Tensorflow und Keras. Da ist "das Design des Netzwerkes, also Anzahl der Schichten, wie verknüpft, wie viele Eingänge pro Neuron, welche Aktivierungsfunktion" exakt der Quellcode, denn das schreibe ich alles in Python, Zeile für Zeile. Dazu kommen dann noch Optimizer.
Was Du meinst ist vermutlich, dass das austrainierte Netz später einfach als Snapshot gespeichert wird und dann nur noch so verwendet wird. Klar, so funktioniert das jetzt.

Es ist aber auch klar, dass biologische Intelligenz anders funktioniert: Lebenslanges Lernen. Die Analogie wäre, den Quellcode aufzubewahren, damit das Netzwerk eben im Betrieb weiterlernen kann. In kleinem Umfang wird das schon gemacht, ist aber eher unzuverlässig und funktioniert nicht so gut, wie die massiv trainierten LLMs.
Ich könnte mir - so als SF-Autor - durchaus vorstellen, dass man den ganzen Mechanismus im Bot aufbewahrt, und der dann später irgendwie lernt, seinen Code zu verändern. Wobei das etliche weitere Fragen aufwirft, dafür ist es ja SF.

[Teddy]

Ich weiß nicht, womit Du Deine KNNs programmierst, aber ich verwende Tensorflow und Keras.

Und der Code davon ist für mich der eigentliche Quellcode, da hier Algorithmen ablaufen. Das eine KI da etwas ändert, um sich selbst zu verbessern, ist IMHO nicht möglich.

Da ist "das Design des Netzwerkes, also Anzahl der Schichten, wie verknüpft, wie viele Eingänge pro Neuron, welche Aktivierungsfunktion" exakt der Quellcode, denn das schreibe ich alles in Python, Zeile für Zeile.

Das ist die Eingabe für Tensorflow. Klar schreibt man die auch in Python, aber das ist kein Algorithmus, sondern eine Bereitstellung von Daten.
Ergibt das irgendeinen Sinn für dich?

Wenn eine KI nicht tut, was sie soll, muss man sie entweder weiter trainieren, oder das Problem ist mit dem Netzwerk nicht lösbar. Dann muss man ein anderes Design wählen und zur Zeit von vorne anfangen. (Ob es in Zukunft KIs gibt, die ihr Gehirn (ihr Netz) im Betrieb vergrößern und ändern können? Wahrscheinlich.) Die Vorstellung das eine KI ihre Algorithmen ändert, wie das in einigen Geschichten dieser Anthologie angedeutet wird, ist mMn eine Fehlvorstellung.

[Naut]

Ich weiß nicht, womit Du Deine KNNs programmierst, aber ich verwende Tensorflow und Keras.

Und der Code davon ist für mich der eigentliche Quellcode, da hier Algorithmen ablaufen. Das eine KI da etwas ändert, um sich selbst zu verbessern, ist IMHO nicht möglich.

Da ist "das Design des Netzwerkes, also Anzahl der Schichten, wie verknüpft, wie viele Eingänge pro Neuron, welche Aktivierungsfunktion" exakt der Quellcode, denn das schreibe ich alles in Python, Zeile für Zeile.

Das ist die Eingabe für Tensorflow. Klar schreibt man die auch in Python, aber das ist kein Algorithmus, sondern eine Bereitstellung von Daten.
Ergibt das irgendeinen Sinn für dich?

Wenn eine KI nicht tut, was sie soll, muss man sie entweder weiter trainieren, oder das Problem ist mit dem Netzwerk nicht lösbar. Dann muss man ein anderes Design wählen und zur Zeit von vorne anfangen. (Ob es in Zukunft KIs gibt, die ihr Gehirn (ihr Netz) im Betrieb vergrößern und ändern können? Wahrscheinlich.) Die Vorstellung das eine KI ihre Algorithmen ändert, wie das in einigen Geschichten dieser Anthologie angedeutet wird, ist mMn eine Fehlvorstellung.

Ich verstehe Dich schon. Du argumentierst, dass heutige KIs eben ihren Code gar nicht ändern können (was stimmt), daher das beschriebene Szenario so nicht möglich ist.
Ich denke aber, dass sich das ändern kann.
Ich habe schon als Schüler und später im Studium mit selbstmodifierendem Code und Codegeneratoren experimentiert, etwas, das nur möglich ist, weil es in Von-Neumann-Architekturen keine prinzipielle Trennung von Daten und Code gibt - viel kritisiert. Damals hat man damit Kopierschutz realisiert, heute kommt das in Computerviren und Würmern wie "glass worm" zum Einsatz. Gefährlich und schwer beherrschbar, ja, aber hat das je jemanden abgehalten?

[Ender]

Ich habe von den ganzen Details keine Ahnung, aber für mich liest sich eure Diskussion jetzt so, als würdet ihr der Autorin bzw. der Geschichte doch recht geben: die KIs können sich nicht selbstständig unbegrenzt weiterentwickeln, deshalb brauchen sie die Menschen, da nur die sie neu oder anders programmieren können.

Und da ich Angst habe, dass mir die Antworten nun zu anstrengend werden, ziehe ich mich mit der Abschlussbemerkung zurück:
Ist doch super, dass diese 8 Seiten so viel Diskussionsstoff bieten --> beste Geschichte!

[Naut]

Nö, ich glaube schon, dass sich Maschinen selbst modifizieren können, bzw. ich weiß es, weil ich das ausprobiert habe. Aber das hängt doch stark davon ab, was genau diese Maschinen zu Beginn waren. Emergenz setzt bestimmte Anfangsbedingungen voraus.

Entschuldigt die Abschweifung, ich bin jetzt wieder still.

[Ender]

Entschuldigt die Abschweifung, ich bin jetzt wieder still.

So war das nicht gemeint. Alles in Ordnung.

[Jol]

Ich finde euren Austausch sehr interessant, kann aber auch nichts beitragen. Ist doch klar, dass Texte auch immer vor dem Hintergrund des eigenen Wissensstandes bewertet werden. Da ich über LLMs wenig weiß, störe ich mich da nicht dran, wenn ein Text da im Detail fehlerhaft ist. Dafür ärgert es mich, wenn mal wieder der xte Text einen Psychologen aufweist, der einen Rorschachtest vorlegt.