Idee für ein real mögliches Zukunftsszenario: Ähnliches?

[Helge]

Ein dauerhaft stabiles System wäre überhaupt nur möglich, wenn jegliche Weiterentwicklung ausgeschlossen wird - und ein solches System kann früher oder später nur untergehen, auf die eine oder andere Art.
Da fällt mir übrigens ein, dass Herbert Franke schon etwas ganz Ähnliches geschrieben hat: Einsteins Erben.
Da geht es um eine automatisierte Welt, n der jegliche Beschäftigung mit Wissenschaft und Technik streng verboten ist. Die Technologie beginnt sich dann ganz unauffällig von selbst weiterzuentwickeln und der Mensch hat seinen Platz in der Evolution ganz einfach aufgegeben.

[Badabumm]

Sollte der Mensch dies trotzdem tun wollen, wird der Buddy passend eingreifen: entweder physikalisch davon abhalten, ihn also einfach festhalten. Irgendwann wir der Mensch sich beruhigen und sich überzeugen lassen. Wenn nicht, kommt die nächste Stufe, und es werden andere Menschen eingeschaltet. Immer noch nicht die Polizei, sondern z.B. Nahestehende: Familienmitglieder, Freunde, Therapeuten. Denn jemand schämt sich meist etwas zu tun, was andere Menschen nicht schätzen, die diesem wertvoll sind.

Ich bin deshalb so ausgiebig auf Biologie und Philosophie eingegangen ("abgeschweift"...), weil der Mensch eben NICHT zwingend rationalen Gründen zugänglich sein wird. Denn um zu verstehen, weshalb der Mensch bestimmte Dinge tut, die der Gesellschaft oder anderen Menschen schaden, muss man auch verstehen, warum er es tut. Ich muss einen Massenmörder nicht mögen, aber ich muss verstehen, was ihn dazu getrieben hat. Sollte also dieser Fall eintreten, dass ein Mensch ausflippt, so wird er weder auf Argumente hören noch seinem Roboter gehorchen. Ich vermute, dass er einen Knüppel nimmt und den Roboter eliminiert. Was wäre denn der Unterschied zu einer vergleichbaren Situation, in dem ein ausgebildeter Mediator versucht, einen wütenden Menschen umzustimmen, der seine Frau und Kinder mit dem Messer bedroht - außer, dass der Mediator in diesem Fall ein Roboter ist? Das klappt oder es klappt nicht. Die nächste Stufe - andere Menschen einzuschalten oder gar die Staatsgewalt - ist in deinem Szenario ohnehin die gleiche. Die wichtige Frage bleibt: warum flippt der Mensch aus? Und: hätte man es verhindern können? Ich bin also für Ursachenforschung. Wenn ein System in sich krank ist und solche Menschen erzeugt - und offensichtlich krankten menschliche Gesellschaften immer - helfen auch Buddys nichts.

Ob ein Mensch sich schämt, hängt von der moralischen Einbettung in das imaginäre System ab, von dem ich sprach, also der Moralvorstellung oder der Religion. Er kann sich nur schämen, wenn er Teil dieses Systems ist. Jemand, der in dieses System nicht integriert ist, hat andere Werte. Ein Breivik empfindet keine Reue für seine Taten, weil er kein Mitglied dieser menschlichen Gemeinschaft ist, sondern im besten Falle einer anderen Gemeinschaft, die anders tickt. Deshalb war es mir so wichtig, die beschränkte Sicht jedes Menschen auf seine unmittelbare Umgebung zu betonen. Alles, was hinter seinem Horizont liegt, ist "anders". Das Andere wird anders bewertet als das Eigene. Dadurch entstehen viele unterschiedliche "Welten", die aufeinanderprallen. Andere Welten entwickeln andere Gesetze, andere Vorstellungen, andere Ziele. Diese Welten driften auseinander, bis es schließlich zu einer Abspaltung kommt. Diese Welten müssen nicht regional verstanden werden, man kann es auch "Subkulturen" nennen. Ein Amokläufer hat sich soweit abgespalten, dass er nicht mehr die Moralvorstellungen seiner Gemeinschaft teilt.

Was soll ein persönlicher Roboter nun tun? Er wäre, auch trotz hochentwickelter KI, sicher nicht so gut geeignet wie ein ausgebildeter Mediator, eben weil er die menschliche Natur NICHT versteht. Könnte er es, hätte er ein menschenähnliches Bewusstsein. Er funktioniert also nach Maximen, die natürlich programmiert sein müssen. Diese muss er abwägen. Er muss, um die Situation zu begreifen, erstmal Zeit gewinnen, um seine Algorithmen zu sortieren. Ein Polizist tut prinzipiell auch nichts anderes. Nun behauptest du, dass der Roboter - gefüttert mit den alleredelsten humanen Vorgaben und vernetzt - seine Aufgabe besser bewältigen würde als ein Mensch? Wenn du solche Roboter ausstattest mit einer KI, die dem menschlichen Verstand nicht zugänglich sein soll, ein anderes Format, wie du schreibst, erzeugst du eine psychische Ablehnung. Der Mensch will sich seinem Geschöpf immer überlegen fühlen. Glaubt er nun, dass dieses Blechding etwas Unverständliches tut, erzeugt das Aggression. Das Unverstandene war immer Gegenstand des Hasses - Hexen, Alchimisten, Künstler, Dichter wurden aus diesem Grunde gelyncht. Diese Aggression tritt auch schon gegen Windows auf. Die Unvollkommenheit des Menschen, die du ausmerzen willst, ist auch gerade der Grund, weshalb ein so reglementiertes System zum Scheitern verurteilt ist. Der Mensch sucht sich immer Lücken, genauso wie sich jedes Tier Lücken sucht, um Nischen zu besetzen und den Lebensraum und seine Nachkommen zu sichern. Dabei ist ihm nicht die globale Gemeinschaft insgesamt wichtig, sondern nur seine Gemeinschaft, die zu den Auserwählten gehört.

Man könnte ihn überlisten und die Weltgemeinschaft so splitten, dass er glaubt, für sie und für alle verantwortlich zu sein. Alle Menschen sind seine Familie. In allen anderen Fällen ist es ihm schnurzpiepegal, was zwei Häuser weiter oder in Australien passiert - solange es ihn nicht selbst betrifft.
Und: Wie auch schon angesprochen wurde: ein hinreichend komplexes KI-System erzeugt seine eigenen Fehler... Es hat Mutationen genauso wie ein Lebewesen. Hat es auch dieselben Reparaturmöglichkeiten wie ein Lebewesen?

[manu2107]

Vielleicht liegt es daran, dass ich mir deine Zukunftsvision noch nicht richtig vorstellen kann. Was dort stattfindet, wer was macht, wer für was verantwortlich ist usw. Mir kam das alles bislang so vor wie „Der 200 Jahre Mann“ mit Robin Williams als Roboter-Stimme.

Das mit dem 200-Jahre-Mann kommt übrigens recht gut hin, nur dass diese RoboBuddies kein Bewußtsein, keinen eigenen Willen, keinen Angst vor Schmerz, kein Verlangen nach Vergnügen haben sollen (und auch nicht müssen), weil das alles ja schon bei den Menschen so große Probleme schafft.

Ein Begleiter? Gut, das mag in der Altenpflege schon heute funktionieren. Ein Lehrer? Auch möglich, siehr Online-Lernen usw. Aber diese Struktur muss ja einen Anfang haben, jemand muss sie programmieren, ihre Ziele und Bedingungen setzen. Und da wurden bereits Bedenken geäußert. Die ich übrigens teile.

Ich bin grade gesundheitlich wieder etwas angeschlagen, drum stelle ich mal eher kleinere, evtl. nicht sofort komplett erklärte Darstellungen als Posts ein. Eigentlich möchte ich am liebsten einen Punkt als Paket behandeln, dann ist es u.U. leichter zu verstehen (oder aber auch zu lang).

Aber das würde oft einen Beitrag oft unerträglich lang machen, meine sind eh meist hart an der Grenze, denke ich. Darum der Plan, irgendwann ein Wiki dafür zu nutzen. Technisch steht es schon, ihr könnt es gerne aufrufen und sogar rumspielen, wenn ihr wollt: http://year4000.org/. Werde das allerdings irgendwann neu aufsetzen, wenn ich (und Leute die sich daran beteiligt haben) eine Struktur gefunden habe, die sich als passend erweist. Gute Inhalte würden natürlich überführt! Ob die URL gut, weiß ich nicht. Mir ist auf die Schnelle nichts besseres und prägnanteres eingefallen. Eine andere URL zu beantragen ist kein Problem, und die Kosten sind minimal.

Über Sicherheitsbedenken

Das ist jetzt wohl auch der richtige Zeitpunkt, um mal auf das Thema 'Sicherheitsbedenken' einzugehen.

Als erstes: gehackt ist nicht gleich komplett gehackt. Es gibt z.B. die Möglichkeit, Beiträge auf einer Website 'abzusaugen', wenn diese Beiträge öffentlich zur Verfügung stehen. Man nennt das u.a. "Web Scraping"?

'Was ist daran Hacking?' wird sich mancher fragen. 'Das ist doch sowieso alles offen im Zugriff!'. Wenn man z.B. alle Beiträge eines Kommentarforums einer Online-Zeitung ausliest und in einer eigenen Datenbank speichert, dann könnte man die User über ihre Beiträge analysieren und kategorisieren. Damit ergeben sich schon einige Möglichkeiten, um eine eigene Meinung manipulativ besser darstellen zu lassen. Wenn ich einen User sehr gut kenne, aus dem was dieser alles geschrieben hat, dann kann ich diesen viel leichter manipulieren.

Jetzt gibt es zwar auch Abwehrmaßnahmen dagegen, aber diese sind meist zu schwach, um wirklich professionelle 'Unternehmen' davon abzuhalten oder gar diese ausfindig zu machen. Es ist den Online-Zeitungen schlicht zu teuer, und wäre für die 'normalen' Nutzer zu umständlich, wenn er z.B. für jeden Aufruf ein 'Captcha' ausfüllen müsste.

Das liegt hauptsächlich daran, dass das Prinzip, wie 'Web-Server und Web-Browser miteinander kommunizieren' schon fast 30 Jahre alt ist. Und dieser Standard wird auch noch einige Jahrzehnte so bestehen bleiben. Für die meisten Dinge ist das aber ok.

Generell ist das Prinzip von 'Server' und 'Client' jedoch schon ein gewaltiger Fortschritt gegenüber früher, wo eine Software (z.B. Personal-Verwaltung) direkt auf eine Datenbank zugreifen konnte.

Wie könnte eine bessere Architektur wie 'Client-Server' aussehen?
Die Schwachstelle ist der Server (ich meine nicht, dass man den natürlich leicht hacken kann, wenn man z.B. physikalisch oder per Remote-Zugriff als Admin draufkommt).

Der Server beantwortet jedem User seine (An-)Fragen, ohne zu prüfen, warum er das tut, und ob das nicht über ein normales Maß hinausgeht. Das ist für Webserver gewöhnlich auch nicht problematisch, eine Online-Zeitung freut sich ja bzw. unterstützt es in jeder Art und Weise, wenn so viel wie möglich Seiten abgerufen werden, erhöht die Werbe-Einnahmen.

Für ein System wie das von mir skizzierte, sind die 'RoboBuddies' die Clients, also wie ein Web-Browser. Nur soll dieser nicht dumm jede Art von Abfragen durchführen, sondern eben die Abfragen auf 'Zweck und Sinn' prüfen. Nicht, dass ein Mensch dann nicht nach 'Bau von B*o*m*b*e*n' suchen darf, kann ja ein rein wissenschaftliches Interesse sein, aber er sollte es begründen können.

Ausserdem bekommt er dann am besten nicht das komplette Wissen, was er ausdrucken kann, sondern jeweils die Details, die für sein Interesse ausreichend sind. Manches Wissen darf eben nicht frei zugänglich sein. Ein Rezept für einen Käsekuchen wird wohl kaum darunter fallen (vielleicht hat schon jemand bemerkt, ich liebe Käsekuchen .. ;-) ).

Solche 'Bedenken' werden übrigens in der SW-Systementwicklung 'nicht-funktionale' Anforderungen genannt, im Gegensatz zu 'funktionalen Anforderungen'. Eine funktionale Anforderung beschreibt, was ein System, eine Maschine konkret können soll, also z.B. 'bis zu 10 mm dickes Stahlblech schneiden', ganz einfach gesagt.

Zu 'nichtfunktionalen Anforderungen (NFA)' gehören u.a. Stabilität, Betriebssicherheit, Manipulationssicherheit, Wartbarkeit, Prüfbarkeit. Das sind jetzt die NFAs, die euch wahrscheinlich auf den Nägeln brennen. Es gibt aber 20 - 40 weitere NFAs, nur nebenbei bemerkt.

Warum diese etwas langatmige Einführung? Um zu zeigen, dass in der Industrie diese Qualitätsmerkmale seit langem einen eigenen Stellenwert besitzen, es erprobte Verfahren gibt, um die Qualität eines Produkts so hoch zu bringen, wie gewünscht. Da diese Qualitätsanforderungen hauptsächlich nur Geld kosten, dem Produkt aber keine neue Funktionalität bringen, können die im wirtschaftlichen Wettbewerb schon mal zusammengestrichen oder 'vergessen' werden.

Soll ein Produkt schnell auf den Markt kommen, und am besten noch weniger kosten als bei der Konkurrenz, werden plötzlich die Bedenken hinsichtlich Sicherheit kleiner und kleiner. Während es mittlerweile schwieriger ist, mit einem Produkt erfolgreich zu werden,welches schon nach einem Tag kaputt geht oder sich daran verletzt, werden anderere Qualitätsmerkmale herunterpriorisiert, und -man glaubt es kaum- um die 'Hackbarkeit' einer Software wird sich immer noch recht wenig gekümmert.

[Andreas Eschbach]

Mir ist es egal, ob diese Mama-Roboter hackbar sind, weil ich sie sowieso nicht will.

Und da hier von einem "real möglichen Zukunftsszenario" die Rede sein soll, soll nicht unerwähnt bleiben, dass mir schon die Grundidee misshagt, den Menschen zu verbessern, indem man ihn durch eine KI sein Leben lang dauererziehen lässt. Das ist
1) anmaßend,
2) naiv (weil "das Problem mit der Welt" im Grunde aus der momentanen Realität in diese ominöse allwissende KI verlagert wird, die es dann schon irgendwie lösen wird, auch wenn niemand den Hauch einer Ahnung hat, wie, weil, KI eben!), und
3) totalitär: Wenn man jedweden Totalitarismus, ob rechter, linker, religiöser oder sonst irgendeiner Prägung, bis an seine Wurzel verfolgt, stößt man zuletzt immer auf die Vorstellung, man könne den Menschen verbessern, wenn man's nur richtig anfängt. Aus dieser Idee ist jedes Regime entstanden, das KZs, Gulags, Killing Fields oder ähnliche Höllen hervorgebracht hat. Weil es halt nicht geht. Ein "real mögliche Zukunftsszenario" muss die Menschen so nehmen, wie sie nun mal sind, oder es wird eben nicht real möglich werden bzw. nur für eine kurze, aber schreckliche Zeit, von der man hinterher mal wieder sagen wird, "wie konnte es nur so weit kommen?"

[Badabumm]

Das ist sehr treffend zusammengefasst.

Mein Versuch, erst die Beweggründe des menschlichen Handelns zu verstehen, um daraus Verbesserungen abzuleiten, sollte genau in die Richtung gehen. Wie tickt der Mensch und warum? Daraus basteln wir Vorgaben. Irgendeine KI ist nur Symptombekämpfung.

Meine Beobachtung ist, dass in allen Zivilisationen Religion vorkommt. Offenbar hat Religion (wobei ich Marktwirtschaft als Glaubensrichtung mit einschließe) einen selektiven Vorteil für die Menschen. Es gibt lustige, aber nicht mal abwegige Versuche, das zu erklären. Z.B. soll Religion eine Fehlleitung der menschlichen "Verliebtheit" darstellen, die dazu da ist, um aus dem riesigen Angebot an Partnern sich ausgerechnet nur den EINEN auszuwählen, mit dem man den Rest seines Lebens verbringen möchte. Das erfüllt seinen Zweck, um die menschlichen Kinder, die sehr lange Nesthocker sind, aus dem Gröbsten herauszuführen. Eine ebensolche uneingeschränkte Liebe wäre die Religion mit Liebe zu jemandem oder zu etwas, die ja manchmal auch ekstatische Züge annimmt. Diese (romantische) Verliebtheit ist ebenso absurd wie die Liebe zu etwas, das nicht existiert. Warum sollte dieser Jemand - von 5 Milliarden Menschen ausgesucht - nun mein Traumpartner sein? Das menschliche Gehirn schaltet die Vernunft aus und gerät in eine evolutionäre Falle. Für den Betreffenden ist beides absolut „real“, aber ich wollte versuchen, diese imaginäre Realität von der anderen Realität, nämlich der existiernden Welt, zu unterscheiden.

Egal, woher Religion kommt - Fakt ist, dass sie da ist und dass es ohne sie nicht geht. Ebenso wie Sprache ist der Glaube ein wesentlicher Bestandteil. Um Menschen zu irgendetwas zu bewegen, kann (und muss?) es durch den imaginären Glauben geschehen. Und wenn es der Glaube an Geld oder an Amun oder an Stalin ist. Nein, ich bin kein religiöser Mensch, und Glaube ist nicht rein christlich gemeint. Auch der Kommunismus war ein Glaube. Aber die Wichtigkeit ebendieser imaginären Konstrukte entscheidet über das menschliche Handeln, fast noch mehr als alle anderen Faktoren.

Ich würde also mit einer Art von Religion anfangen. Wie, weiß ich nicht. Aber wenn Menschen ihre Umwelt nicht zerdeppern sollen, muss ihnen diese Umwelt wie etwas Religiöses wichtig sein. Meinetwegen muss ihr „Gott“, was und wer immer er sein mag, ihnen verbieten, Plastik ins Meer zu schmeißen. Leider ist Religion diametral zur Vernunft. Je unwahrscheinlicher und unlogischer etwas ist, desto mehr wird es geglaubt. Damit ist Religion der Feind der Vernunft. Umweltschutz ist vernünftig und alles Vernünftige wird von der Religion abgelehnt und missachtet.

Da aber der Großteil aller Menschen eher mit Religion lebt und sich weniger von Vernunft leiten lässt, brauchen wir uns „nur“ um die 80% der verlorenen Schäfchen zu kümmern - die „Vernünftigen“ sind ohnehin auf unserer Seite und tun bereits das Richtige. Wenn wir es also nicht schaffen, allen Menschen eine Bildung und einen Wohlstand zu gewähren, der sie zu „zufriedenen“ Menschen werden lässt, dann mus man eben ein System aufbauen, das die Menschen zu einem vernünftigen Handeln verleitet, das sie aber nicht als solches wahrnehmen, weil sie glauben, es ist ein Gott, der es ihnen abverlangt. Unterm Strich ist es den Menschen egal, ob Plastik im Meer schwimmt oder nicht - solange sie nichts davon spüren. Das war meine Hypothese vom eingeschränktes Horizont. Überzeugt man sie aber davon, dass es etwas „Böses“ ist, werden sie alles dafür tun, es zu verhindern, ohne dass sie ahnen, tatsächlich etwas Sinnvolles zu tun. Das vernünftige Handeln wird ihnen untergeschummelt.

Noch etwas zur KI und anderen Dingen: wenn man annimmt, dass Selektion stattfindet, dann betrifft sie auch Computer und z.B. Außerirdische (leider wären nach dieser Theorie keine superguten, elbengleichen Aliens möglich, die uns in das galaktische Parlament der Weisen aufnehmen werden, weil alle Aliens genauso auf ihren eigenen Vorteil bedacht wären wie wir Menschen, also auch genauso aggressiv...).
Angenommen, die Theorie vom „egoistischen Gen“ trifft auch für Meme zu, dann bildet sich immer eine Drift aus. Dawkins vermutet dies z.B. für Sprache, die zum größten Teil durch Zufälle in eine bestimmte Richtung gedrängt wird. Auch KI wird selektiert, und wenn sie so umfangreich ist wie gefordert, dann wird sie ihre eigenen Gesetze entwickeln. Ich weiß, dass das keiner hören will, weil es so banal klingt: aber die Maschinen möchten sich so entwickeln, dass es für sie „gut“ ist. Genauso, wie ich behauptet habe, dass der Mensch ein Sklave des parasitischen Weizens (und Reis und Mais) geworden ist (das sind die am meisten verbreiteten Pflanzen des Planeten...), so wurden wir Sklaven der Technik. Der Technik ein „Leben“ zuzugestehen, wäre wohl verrückt. Aber eine Drift schon. Es entsteht nämlich der Eindruck, wir existieren nur, um Smartphones zu bedienen. Merkwürdig, oder...? Könnte ein Außenstehender nicht meinen, dass wir Menschen nur Haustiere und Smartphones die Herrscher dieses Planeten sind...?

[manu2107]

Hi Andreas und Badabumm,
ich möchte euch nochmal sagen, dass mir euer Input wirklich weiterhilft, und das meine ich nicht ironisch oder so.

Mir ist es egal, ob diese Mama-Roboter hackbar sind, weil ich sie sowieso nicht will.

Mir geht's doch genauso, ich möchte dies in meinem Leben durchgängig auch nicht haben. Dafür bin viel zu freiheitsliebend, also dass ich tun und lassen kann, was ich will, ins Bett gehen kann, wann ich will, und auch aufstehen kann, wenn ich will. Faktisch gesehen schadet mir das allerdings. Ich bin nicht so gesund, nicht so lebendig, nicht so belastbar wie zu sein ich wünsche. Und ich glaube, dass jeder irgendetwas gerne in seinem Leben verändern möchte. Und nicht nur aus selbstsüchtigen Gründen.

@Andreas: Mir ist klar, dass du den Begriff 'Mama-Roboter' abwertend benutzt, um klarzumachen, dass dir das Konzept nicht gefällt. Das ist auch ok und verständlich. Aus meiner Sicht ist die Menschheit allerdings auch nicht erwachsen, jedenfalls nicht so erwachsen, wie es nötig ist, um unsere Zivilisation besser zu machen: also gerechter, sicherer, stabiler. Momentan wird unsere Zivilisation nicht besser: weder für den Großteil der Menschen, noch für die Tierwelt (Land, Wasser, Luft) noch für die restliche Biosphäre. Wer das - rein logisch - nicht akzeptieren, also glauben will, da kann man dann auch nix machen. Wer will, dass aus Bequemlichkeit alles so bleibt wie es ist, weil es eben so 'menschlich' ist, der ist eben so. In ein paar tausend Jahren, nach zig Zusammenbrüchen von Zivilisationen, wird man in der Analyse aus meiner Sicht darauf kommen: dem Menschen darf man keine absolute Freiheit geben, und noch nicht mal alles machen lassen, was nicht verboten ist.

Ich sehe es an mir, dass es - rein logisch und faktisch betrachtet - so ist, von der Psychologie her jedoch klar ist, dass kaum ein Mensch bereit ist, sein Leben so stark zu ändern, wie es nötig ist. Oder eben behauptet, dass dies nicht nötig ist, aus diesem oder jenem Grund: das renkt sich wieder von selbst ein, das ist Panikmache, die kommende Technologie wird es richtigen, oder auch: da kann man nichts machen, das ist eben die Evolution.

Es ist ja auch so, dass jede einzelner Mensch die Gesellschaft beeinflusst, also etwas beiträgt oder diese belastet. Solange er das nicht tut, soll ein Mensch tun und lassen können was er will. Und wenn jemand krank wird, dann sollte ein starke menschliche Gesellschaft das tragen könnte. Aber schon wenn Menschen übermäßig trinken, rauchen, Drogen nehmen oder auch zu ungesund essen, dann fallen Aufwände für die Gesellschaft an, wenn diese krank werden und medizinische Betreuung brauchen.

Jetzt geht es nicht darum, Alkohol, Zigaretten, Drogen, Medikamenten oder Junkfood zu verbieten. Es geht um das vernünftige Maß. Und wären 'Mama-Roboter' gut für die meisten Menschen: nicht nur um unattraktive Arbeiten erledigen zu lassen, sondern auch den Menschen zu erziehen. Dass ein Mensch noch Erziehung braucht, wird dann sichbar, wenn er nicht ausreichend an die Gesellschaft und Umwelt denkt.

Vielleicht hat man durch das Lesen von zu vielen Dystopien schon zu viel Paranoia, dass so was generell zur Unterdrückung führen muss. Die Möglichkeit besteht, ohne Frage. Nur bin ich mir sicher, dass eine Gesellschaft, die nicht kommerziell orientiert ist, sondern einen Ausweg finden will, das hinbekommt, auch wenn es lange dauert und (viele) Rückschläge gibt. Ich weiß, das klingt alles sehr naiv, ich bin nicht blöd. Ich glaube, ich weiß einiges darüber, was schief gehen kann, das habe ich aus der Software-Entwicklung gelernt. Und auch, dass eine Software unbrauchbar gebaut wird, nur weil die falschen Menschen entscheiden, was die SW können soll, und nicht die, die damit arbeiten müsssen oder die es betrifft.

Letztlich macht mir das immer klarer, dass ich das eben strukturiert darlegen muss, damit man jedes Detail besprechen kann: Warum ist das nötig, ist es nötig? Gibt es eine andere Lösung, die besser funktionieren könnte? Und ich denke, ein Wiki ist dafür geeignet, nur wird damit kein Lexikon erstellt, sondern eine strukturierte, durchgesprochene Idee beschrieben.

Dann kann man nach und nach herausfinden, ob das ein geeignetes System wäre, und welche Nachteile verkraftbar sind. Und nicht vergessen, das ist als erstes eine Science-Fiction-Story, nur eben nicht mit Ausserirdischen, Superkräften und Naturgesetzen widersprechender Technologie.

[manu2107]

Mein Versuch, erst die Beweggründe des menschlichen Handelns zu verstehen, um daraus Verbesserungen abzuleiten, sollte genau in die Richtung gehen. Wie tickt der Mensch und warum? Daraus basteln wir Vorgaben. Irgendeine KI ist nur Symptombekämpfung.

Und auf die Frage Wie tickt der Mensch und warum? lautet meine Erkenntnis, die übrigens jeder Mensch bei sich selbst auch nachprüfen kann:

"Jeder Mensch strebt jeden Moment seines Lebens danach, dass er sich besser fühlt, oder zumindest nicht schlechter"

Nenn mir ein Beispiel, wo das nicht zutrifft. (auch die noch so absurd konstruierten Fälle sind damit erklärbar, es ist nur die Frage, wie sinnvoll das ist. Drum fang doch erst mal mit etwas an, was Du dir damit nicht erklären kannst). Das beschreibt nicht nur den 'selbstsüchtigen' Egoismus. Sondern die generelle Motivation für jede Handlung, für die ein Mensch sich entscheidet, bewusst oder unbewusst, egal ob das Menschen schadet oder anderen Menschen hilft. Dieser Ansatz erklärt, wie der Mensch tickt, warum ein Mensch handelt oder redet, wie er es tut. Dabei kann man meist nur vermuten, warum ein spezieller Mensch sich jeweils so entscheidet. Dass Menschen sehr oft falsche Entscheidungen treffen, hat mit dem Prinzip nichts zu tun. Viele Entscheidungen treffen Menschheiten aus Gewohnheit immer wieder falsch, und trotzdem haben sie dabei das Gefühl, etwas gutes für sich zu tun (oder wenigstens das Leben nicht gar so schlimm werden zu lassen)

Und damit brauchst du keine biologische Erklärung, keine was Sprache bewirkt, ob das real ist oder nicht, ob Religionen gut oder schlecht sind, ob Gott existiert usw. Das ist der Gedanke, mit dem Du beginnen kannst, wenn du einen Menschen verstehen willst, wenn Du verstehen willst, warum es Kapitalismus gibt, warum der Kommunismus groß geworden ist und gescheitert, warum Menschen Diktatoren nachlaufen, egal wie grausam oder korrupt diese sind.

Wenn du dem sowieso zustimmen kannst, dann kann man zur nächsten Frage übergehen: Wie kann man diesen Sachverhalt, dieses psychologische Naturgesetz anwenden, um Zustände ins Positive zu lenken?

Und dann wird auch ganz klar, wo man ansetzen muss, damit Menschen bessere Entscheidungen treffen; für sich, für andere Menschen, für die Vegetation. Und dann wird auch klar, dass dieses Festhalten an der Freiheit 'ich will so bleiben wie du bist (du darfst!)' auf lange Sicht immer zu Verfall und Zusammenbruch führen wird. Das ist in der Vergangenheit mit den großen Kulturen passiert, das wird diesmal für die gesamte Zivilisation kommen. Ich spreche nicht von in 100 Jahren, vielleicht in 500, vielleicht in 1000 Jahren. Dann krabbeln alle wieder raus, fangen von Grund auf neu an, wollen es diesmal besser machen, es wird besser ein paar hundert Jahre, und dann wieder: Bumm, Zusammenbruch, unendliches Elend und Leid. Und dann wird man wieder ...

[manu2107]

Ein dauerhaft stabiles System wäre überhaupt nur möglich, wenn jegliche Weiterentwicklung ausgeschlossen wird - und ein solches System kann früher oder später nur untergehen, auf die eine oder andere Art.

Also, diese Aussage von dir ist für mich nicht haltbar, ich weiß nicht, welche Argumente du dafür vorbringen könntest. Gut, ich muss mir wohl immer folgende Worte davor vorstellen: "Aus meiner Sicht und nach dem was ich bisher davon gelesen und verstanden habe:". Eigentlich gilt das immer, wenn keine Referenz oder ein paar Beispiele dazugeschrieben werden. Muss ja nicht sein. Ist ja keine Arbeitsprojekt hier ...

Was ist ein 'dauerhaft stabiles System'? Ist es keines mehr, wenn es teilweise geographisch oder funktional ausfällt? Ausserdem wird jedes System gewartet und erweitert, Fehler korrigiert, neue Funktionen hinzugefügt, nicht mehr benötigte entfernt. Natürlich muss man bei einem solch kritischen System jede mögliche Kontrollverfahren einbauen, und nicht die Anwender als Beta-Tester hernehmen, wie es z.Zt. im Web passiert ;-)

Wie schon erwähnt, schaffe ich es auch nicht, jedes Thema, jeden Aspekt so ausführlich zu beschreiben, würd ja auch kaum jemand lesen. Ein bißchen Toleranz in der Interpretation von 'Aussagen' würde ich mir wünschen, einfordern kann und will ich es nicht. Also, ich glaube nicht das ich naiv bin, mein IQ ist doch recht hoch, ich bin -glaube ich- gut im Analysieren und Einschätzen von Systemen (ein oft verwendetes Wort, ich weiß, aber es ist in dem Zusammenhang einfach passend - es ist auch nicht NUR ein Hardware/Software-System). Ja, ich weiß, man soll sich nicht selbst höher stellen, ich bin da nicht so geschickt im Menschen gewinnen. Ich bin auch kein bewußter oder unbewußter Anhänger von Totalitärem. Der Mensch kommt für mich zuerst, allerdings ist die Gemeinschaft, das Zusammenleben von Menschen für mich genauso wichtig. Ich glaube, da gibt es im Moment einen zu starken Hang dazu, den Menschen noch mehr Freiheit zu schaffen, für jede Art von Belustigung, die als Erfüllung verkauft wird. Extreme halte ich generell für gefährlich, in jeglicher Hinsicht, ein ausgewogener Mittelweg ist in der Regel immer besser für alle. Das halten einige wohl für langweiliges, und 'Mittelmaß' scheint das Abstoßenste zu sein. Kann jeder sehen wie er/sie es will, würde ich sagen.

Ach, ich komm auch schon (wieder) ins Schwätzen, wird Zeit ins Bett zu gehen ...

Da fällt mir übrigens ein, dass Herbert Franke schon etwas ganz Ähnliches geschrieben hat: Einsteins Erben.
Da geht es um eine automatisierte Welt, in der jegliche Beschäftigung mit Wissenschaft und Technik streng verboten ist. Die Technologie beginnt sich dann ganz unauffällig von selbst weiterzuentwickeln und der Mensch hat seinen Platz in der Evolution ganz einfach aufgegeben.

Interessante Info. Nur 'jegliche Beschäftigung mit Wissenschaft und Technik streng verboten' ist in meinem Scenario nicht vorgesehen oder erwünscht. Und es kommt immer wieder dieser Gedanke von "Künstliche Intelligenz" entwickelt sich (von der Aufgabenstellung) plötzlich von selbst weiter. Klar, vorstellen kann ich mir das schon, wenn es Programmierer darauf anlegen oder die Technologie nicht verstehen. Es ist für Menschen anscheinend ein sehr verführerisches Ziel, ein selbst denkendes Wesen zu erschaffen. Ich halte es nicht für unmöglich, dass man in einem Computersystem 'Bewußtsein' und 'selbstgesteckten Willen' erzeugen kann, auch psychologische Dinge wie Lügen, Manipulieren usw. Mit den heutigen und in den nächsten 20 Jahren nicht, aber schon irgendwann. Aber das ist wie gesagt nicht die Richtung, die ich anvisiere. Dass andere Unternehmen solche oder andere machtergreifende Ziele anstreben, dagegen kann ich ja nichts machen. Ich würde wünschen, dass so ein 'menschenfreundliches' System wie ich es mir vorstelle, für solche bewußt auf Machtgewinn erstellten Systeme ein Gegengewicht sein könnte.

[Badabumm]

ich glaube, dass irgendeine Technologie nicht dafür geeignet ist, Probleme des menschlichen Zusammenlebens zu lösen. Es hätte ja auch schon beim Rad heißen können: genial!, jetzt können wir uns schneller von A nach B bewegen, jetzt wird alles besser. Technik ist immer den jeweiligen Gedankensystemen untergeordnet. Die Technik ist ausführendes Organ. Wir haben wahnsinnig viel Technik, die uns das Leben angeblich „erleichtert“, doch je mehr wir davon einsetzen, desto instabiler wird das System.
Für dieses Gedankenexperiment ist es ein bisschen zuviel Geschwafel (auch von meiner Seite). Angenommen, nach Trump kommt ein wirklich fortschrittlicher Präsident (sogar Obama ist jedoch gescheitert) - was könnte der bewirken? Muss es eine Weltrevolution geben? Wie soll das Ganze vonstatten gehen?

Ich gehe davon aus, dass nichts getan wird, um Klimaumschwünge oder Rohstoffmangel zu verhindern. Es wird alles so weitergehen wie bisher. Uns erwartet also erstmal eine faustdicke Dystopie: die Menschen werden wegen Wassermangels Europa überrennen, Krankheiten können nicht mehr bekämpft werden, Missernten sind Standard, Strom gibt es nur stundenweise. Das ist alles schon da, wir wollen es bloß nicht wahrhaben.

Was soll DANACH noch geschehen, um dein Setting zu ermöglichen? Unsere ganze tolle Technik ist von Energie abhängig. Ohne Strom läuft nichts. Die Reichen werden sich verschanzen, weil sie bis zum Schluss alle Ressourcen der Welt für sich beanspruchen (weil sie es können). Erst wenn ein Viertel oder mehr der Menschheit verhungert ist, kann man vielleicht neu aufbauen. Doch worauf? Es ist kein globaler Menschheitsrat da, der Roboter und ein neues Weltbild erschaffen könnte. In SF kommt meist die Idee eines geheimen Untergrunds, der die neue Menschheit aufbaut und fördert. Schöne Vorstellung allerdings.

Ich erwarte irgendeine Art von Plan. Bislang sind wir nicht in der Lage, „Colossus“ zu erschaffen - und den wollen wir auch nicht.Von solch übermächtigen KI-Fähigkeiten ganz zu schweigen.

Die positivste Erfahrung für mich ist, dass in Landstrichen, in denen wenig Menschen wohnen, die positiven Eigenschaften stärker sind. Die Gastfreundschaft ist größer, die Hilfsbereitschaft und eine gewisse Verbindung zur Natur. In vielen utopischen SF wird gefordert, dass es keine Riesenstädte mehr geben darf, weil sie der menschlichen Natur zuwiderlaufen. Sie erzeugen eine Art „Käfigaggression“ mit ununterbrochenem Stresslevel. Das halte ich für plausibel.

Ein stabiles System hätte keine Drift mehr. Wenn man die Evolution ausschaltet, Indem man z.B. Geburtenkontrolle einführt oder Erfindungen verbietet, gibt es Stillstand. Das will keiner, also muss man sich damit abfinden, dass Neuerungen auch Veränderungen bewirken. Ein dynamisches System erzeugt immer neue Ziele, die nicht mehr vorhersagbar und nicht immer beherrschbar sind. Deine Idee kann eine hübsche Episode sein, aber sie gefällt mir ganz und gar nicht. Ich muss allerdings zugeben, dass andere Völker mit dieser Art der Bevormundung besser klarkommen und sich freiwillig bespitzeln lassen. Dazu gehört eben eine andere imaginäre Weltanschauung.

[Helge]

Momentan wird unsere Zivilisation nicht besser: weder für den Großteil der Menschen, noch für die Tierwelt (Land, Wasser, Luft) noch für die restliche Biosphäre. Wer das - rein logisch - nicht akzeptieren, also glauben will, da kann man dann auch nix machen.

Ich habs nicht so mit dem Glauben und bringe mal trotzdem ein paar Details aus der Realität. In meiner Jugendzeit in den 1970/80ern hätte ich niemals geglaubt, dass man je in deutschen Flüssen wieder würde baden können und dass ich selbst das sogar noch erleben könnte. Urlaub auf dem Mond, okay, das konnte man sich vorstellen, aber so etwas? Dass man selbst mitten in Großstädten oder Industriegebieten so kristallklare, saubere Luft würde atmen können wie heute, war auch undenkbar.Wölfe und Luchse in Deutschland, und überall am Himmel kreisende Greifvögel - ein Unding!
Auch dass Schwule als etwas ganz Normales angesehen werden, war irgendwie nicht vorstellbar. Und das Internet als Kommunikationsmedium hat eine ganze Menge zum Besseren verändert, finde ich.
Ja, es gibt auch jede Menge Dinge, die schlechter geworden sind und immer noch werden, aber es gibt eben nicht nur diese eine Seite.

[manu2107]

ich glaube, dass irgendeine Technologie nicht dafür geeignet ist, Probleme des menschlichen Zusammenlebens zu lösen.

Es hätte ja auch schon beim Rad heißen können: genial!, jetzt können wir uns schneller von A nach B bewegen, jetzt wird alles besser. Technik ist immer den jeweiligen Gedankensystemen untergeordnet. Die Technik ist ausführendes Organ. Wir haben wahnsinnig viel Technik, die uns das Leben angeblich „erleichtert“, doch je mehr wir davon einsetzen, desto instabiler wird das System.

Ich würde es so sagen: bis jetzt ist auch noch keine Technologie so smart, dass diese zur aktiven Verbesserung eingesetzt werden kann. Und ich glaube auch nicht, dass die KI mit unserer doch noch begrenzten Technologie die nächsten 20 Jahre ausgereift gut programmierbar ist. Webstuhl, elektrisches Licht, Telegraph, Telefon, Dampfmaschine, Verbrennungsmotor, Flugzeuge, TV, Kernkraft, TV, Computer, Internet, Smartphones. Keines davon ist aktive Technologie, sie wird von Menschen nur benutzt. Es wird die Zeit kommen, egal ob man das will oder nicht, wo intelligente Systeme den Menschen so überzeugend beraten können, und auch selbständig Widersprüche auflösen können, denn die Daten sind größtenteils schon vorhanden. Heutzutage kann sich jeder noch seine ihm genehme Weltanschauung zusammenstellen, ich natürlich auch. Dabei kommt dann raus: 1. es geht bergauf 2. es geht bergab. 3. es bleibt so wie es ist (was mittlerweile kaum jemand mehr äussert, vermute ich).

Für dieses Gedankenexperiment ist es ein bisschen zuviel Geschwafel (auch von meiner Seite). Angenommen, nach Trump kommt ein wirklich fortschrittlicher Präsident (sogar Obama ist jedoch gescheitert) - was könnte der bewirken? Muss es eine Weltrevolution geben? Wie soll das Ganze vonstatten gehen?

Ja, viel Durcheinander. Ich sehe das aber auch eher als Stoffsammlung, und ein gewisser Fokus ist schon vorhanden, nur eben auf alle möglichen Fragestellungen. Da mich das Thema schon mehrere Jahrzehnte beschäftigt ("die Welt retten"), wird mir das auch erhalten bleiben. Wenn ich in ca. 6 Jahren in die passive Altersteilzeit gehe, dann hab ich viel Zeit :-). Ehrlich gesagt glaube ich aber, dass die Menschheit sich selbst nach den schlimmsten Zeiten noch an ihre vermeintliche Größe klammert und kein Interesse hat, sich und die Nachkommen durch Technik leiten und erziehen zu lassen. Selbst wenn das, was in die Technik gesteckt wird, aus all den Erkenntnissen stammt, was kluge und verständnisvolle Menschen herausgefunden und gesammelt haben.

Ich gehe davon aus, dass nichts getan wird, um Klimaumschwünge oder Rohstoffmangel zu verhindern. Es wird alles so weitergehen wie bisher. Uns erwartet also erstmal eine faustdicke Dystopie: die Menschen werden wegen Wassermangels Europa überrennen, Krankheiten können nicht mehr bekämpft werden, Missernten sind Standard, Strom gibt es nur stundenweise. Das ist alles schon da, wir wollen es bloß nicht wahrhaben.

Ich halte es für vermessen, dass Menschen das Klima positiv verändern können. Ob der Klimawandel vom menschlichen Wachstum ausgelöst oder befeuert wurde, das spielt aus meiner Sicht keine Rolle. Es ist aber leicht, etwas aus Habgier kaputtzumachen, weil da volle Motivation da ist. Etwas in Ordnung zu bringen, ohne das dabei was rausspringt, in der Größenordung, und vor allem mit diesem psychologischen Zustand des Menschen: unmöglich. Das ist eben auch eine ganz andere Größenordnung wie bei Ozonloch, oder Flüsse verschmutzen. Da muss ich Helge noch antworten, er hat da ein paar nette Rosarote-Brille-Ansichten. Ich kanns ihm nicht verdenken, ohne Hoffnung zu leben ist schon deprimierend. Würde ich auch gerne, aber die Realitäten und Fakten sind einfach zu erdrückend für mich.

Was soll DANACH noch geschehen, um dein Setting zu ermöglichen? Unsere ganze tolle Technik ist von Energie abhängig. Ohne Strom läuft nichts. Die Reichen werden sich verschanzen, weil sie bis zum Schluss alle Ressourcen der Welt für sich beanspruchen (weil sie es können). Erst wenn ein Viertel oder mehr der Menschheit verhungert ist, kann man vielleicht neu aufbauen. Doch worauf? Es ist kein globaler Menschheitsrat da, der Roboter und ein neues Weltbild erschaffen könnte. In SF kommt meist die Idee eines geheimen Untergrunds, der die neue Menschheit aufbaut und fördert. Schöne Vorstellung allerdings.

Ja, wenn zu viel weg ist und kaputt, dann wird es lange dauern, bis auch nur der jetztige Stand erreicht wird. Hochtechnologie braucht auch eine Masse von Menschen, damit all die benötigten Rohstoffe und Zwischenerzeugnisse gefördert und erzeugt werden; ich würde schätzen, mehr als 1 Milliarde Weltbevölkerung. Aber es kommt das Jahr 3000, 4000, 10.000, 50.000, 100.000. Und bis dahin wird es mindestens noch eine Menschheit geben, absteigend wahrscheinlich natürlich. Und der Mensch ist ein zähes Wesen.

Ich erwarte irgendeine Art von Plan. Bislang sind wir nicht in der Lage, „Colossus“ zu erschaffen - und den wollen wir auch nicht.Von solch übermächtigen KI-Fähigkeiten ganz zu schweigen.

Da bringst Du es auf den Punkt: die Formulierung eines Ziels, und eine Roadmap dahin. Die Weltpolitik fährt nur auf Sicht, die nächsten 4 - 6 Jahre. Es werden zwar großspurig irgendwelche globalen Vereinbarungen geschlossen, das halte ich eher für Augenwischerei, und zur Beruhigung. Funktioniert bis jetzt auch ganz gut.

Die positivste Erfahrung für mich ist, dass in Landstrichen, in denen wenig Menschen wohnen, die positiven Eigenschaften stärker sind. Die Gastfreundschaft ist größer, die Hilfsbereitschaft und eine gewisse Verbindung zur Natur. In vielen utopischen SF wird gefordert, dass es keine Riesenstädte mehr geben darf, weil sie der menschlichen Natur zuwiderlaufen. Sie erzeugen eine Art „Käfigaggression“ mit ununterbrochenem Stresslevel. Das halte ich für plausibel.

Ich lebe in München, und mit den knapp 1,5 Mio Einwohnern geht es hier noch recht gut. Solche Städte wie Dehli, Singapur, Bangkok oder Peking (Bejing) müssen aber für viele eine Dauerqual zum Leben sein. Bangkok habe ich gesehen. Das mag für Touris ja ganz interessant zu sein, den Einwohnern geht es aber recht bescheiden. Z.Zt. haben die eine Smog-Glocke, die wohl mehrere Jahre nicht weggehen wird. Kleinere Städte oder dörfliche Gemeinden sind meist wirklich gemütlicher, wobei da wohl ehre bestimmte Vorbehalte vor Veränderung und Neuem herrscht. Ausser natürlich welche, die im Einzugsgebiet großer Metropolen liegen. Dort wohnen meist mehr Zugezogene, die in der Stadt gute Jobs haben, und auf dem Land eine Familie.

Ein stabiles System hätte keine Drift mehr.

Dieser Aussage kann ich nicht zustimmen, und ein statisches technologisches Sytem ist heutzutage nicht mehr betreibbar. Ein System kann sehr wohl weiterentwickelt, gewartet und auch neu aufgebaut werden und dabei stabil im Kernansatz bleiben.

Wenn man die Evolution ausschaltet, Indem man z.B. Geburtenkontrolle einführt oder Erfindungen verbietet, gibt es Stillstand. Das will keiner, also muss man sich damit abfinden, dass Neuerungen auch Veränderungen bewirken. Ein dynamisches System erzeugt immer neue Ziele, die nicht mehr vorhersagbar und nicht immer beherrschbar sind.

Das Prinzip der Evolution kann man nicht ausschalten. Das, was wir in den mal 10.000 bekannten Jahren der Menschheitsgeschichte kennen, ist im Vergleich zu 1 Mio. Jahren ein Hundertstel. Die Dinosaurier starben vor ca. 65 Mio Jahren aus, und das war noch lange nicht der Beginn des Lebens auf Erden, also der Beginn, ab dem das Prinzip Evolution gegriffen hat. Auch Geburtenkontrolle stoppt die Evolution nicht. Evolution basiert nicht (nur) auf Quantität, sondern auf Selektion (die wahrscheinlich besser funktioniert, je mehr zufällige Mutationen es gibt. Aber auch die Mutationen, die Menschen gezielt einbauen werden, unterstützen das Evolutionsprinzip.

Deine Idee kann eine hübsche Episode sein, aber sie gefällt mir ganz und gar nicht. Ich muss allerdings zugeben, dass andere Völker mit dieser Art der Bevormundung besser klarkommen und sich freiwillig bespitzeln lassen. Dazu gehört eben eine andere imaginäre Weltanschauung.

Naja, hab ich ja schon geschrieben, verstehe ich. Woher die Vorstellung einer Bespitzelung kommt, kann ich nur ahnen. Ich hab mal erwähnt (in all dem vielen Geschreibsel), dass die Daten eines Menschen nur für einen RoboBuddy zugänglich sein sollen, und das ist technisch umsetzbar. Zwar werden diese nicht allein im Roboter selbst gespeichert, sonst würde ja bei der Zerstörung eines Roboters auch alle Info verloren gehen. Und diese Daten dienen als erstes dem Wohl des einzelnen Menschen selbst. Ein Hauptaspekt, den ich noch stärker erklären muss ist gerade, dass man den Roboter bzw. die KI dahinter eben NICHT abfragen kann, von der Konzeption schon so gebaut. Ja, das ist machbar, auch wenn es keiner glauben mag, vor allem als Laie.

Die KI für einen einzelnen Menschen soll wiederrum auf ein KI einer größeren Gruppe zugreifen, diese Gruppe dann auf eine z.B. landesweite Gruppe (ja, ich glaube nicht, dass irgendwann nur noch eine Sprache auf der Welt existieren wird und auch nicht soll, und damit sind auch sprach- bzw. nationale Gepflogenheiten zu berücksichtigen und zu bewahren.)

Zu einem anderen Post von dir:

Das ist sehr treffend zusammengefasst.

Da kann ich nicht zuordnen, auf welchen Post du dich beziehst, das solltest du immer irgendwie einbringen.

[Andreas Eschbach]

Aus meiner Sicht ist die Menschheit allerdings auch nicht erwachsen, jedenfalls nicht so erwachsen, wie es nötig ist, um unsere Zivilisation besser zu machen: also gerechter, sicherer, stabiler.

Ja, und? Wenn man Mama-Roboter auf alle loslässt, wird sie es auch nie werden, ganz im Gegenteil. Erwachsen wird man, wenn man Verantwortung zu übernehmen lernt, und das würde durch Dein Konzept gerade verhindert. Du willst die Verantwortung einer KI übertragen, weil Du (wie viele IT-Leute) glaubst, die weiß es besser. Ich dagegen halt KIs für chronisch überschätzt.

Schon jetzt haben viele junge Menschen massive Probleme mit dem Erwachsenwerden, weil sie von überbesorgten Eltern behelikoptert wurden. Dein Konzept der Mama-Roboter wäre Helikoptern im Quadrat.

In ein paar tausend Jahren, nach zig Zusammenbrüchen von Zivilisationen, wird man in der Analyse aus meiner Sicht darauf kommen: dem Menschen darf man keine absolute Freiheit geben, und noch nicht mal alles machen lassen, was nicht verboten ist.

Ich weiß nicht, wo Du lebst, dass Du das Gefühl hast, absolute Freiheit zu haben, aber ich bin sicher, Du täuschst Dich.

Ich sehe es an mir, dass es - rein logisch und faktisch betrachtet - so ist, von der Psychologie her jedoch klar ist, dass kaum ein Mensch bereit ist, sein Leben so stark zu ändern, wie es nötig ist.

Und wer legt fest, welche Änderung nötig ist? Das ist doch die Frage aller Fragen.

Dass ein Mensch noch Erziehung braucht, wird dann sichbar, wenn er nicht ausreichend an die Gesellschaft und Umwelt denkt.

Es gab einmal eine Zeit, da formulierte man das so: "Du bist nichts, dein Volk ist alles."

Vielleicht hat man durch das Lesen von zu vielen Dystopien schon zu viel Paranoia, dass so was generell zur Unterdrückung führen muss.

Nein, ich habe gerade zwei Romane geschrieben, die im an Unterdrückung reichen 20.Jahrhundert spielen, und musste mich dazu mit der Geschichte einiger Tyranneien beschäftigen, die es wirklich gegeben hat.

Ich glaube, ich weiß einiges darüber, was schief gehen kann, das habe ich aus der Software-Entwicklung gelernt. Und auch, dass eine Software unbrauchbar gebaut wird, nur weil die falschen Menschen entscheiden, was die SW können soll, und nicht die, die damit arbeiten müsssen oder die es betrifft.

Wer nur einen Hammer hat, sieht überall nur Nägel. Die Welt ist keine Software.

Letztlich macht mir das immer klarer, dass ich das eben strukturiert darlegen muss, damit man jedes Detail besprechen kann: Warum ist das nötig, ist es nötig? Gibt es eine andere Lösung, die besser funktionieren könnte?

Manchmal muss man den "erstbesten" Lösungsansatz auch verwerfen, weil man keine bessere Lösung finden wird, solange man daran festhält. Gilt übrigens auch für die Softwareentwicklung, anbei bemerkt.

[kaffee-charly]

Als Software-Entwickler kann ich dazu nur sagen:
Gäbe es eine solche Menschheits-Betreuungs-Mama-KI, dann würde ich sie mit allen Mitteln sabotieren. Ich bin sicher, dass ich nicht der Einzige wäre, denn jede Form von Diktatur (auch wenn sie noch so gut gemeint ist) erzeugt Widerstand.
Abgesehen davon hat uns die Geschichte gelehrt, dass jeder Versuch, das Paradies auf Erden zu erschaffen, geradewegs in eine Hölle geführt hat.

[Andreas Eschbach]

Wo ist der Button, wenn man ihn mal braucht?

[Badabumm]

Ich sehe hier das Phänomen, dass immer die gerade aktuellste Erfindung "hipp" ist und mit deren Hilfe alles gelöst wird. Das fing mit der Dampfmaschine an, setzte sich über Elektrizität fort, kam zur Atomkraft und ist heute bei Computertechnik angelangt, wovon die KI heute in aller Munde ist. Die KI muss für alles herhalten. In den 1950/60er Jahren hatten Comics und Filme atomgetriebene Staubsauger... weil das die Vorstellung war. Atomkraft war der Bhagwan jener Zeit.

Übrigens beginnt die Gentechnik, der KI den Rang abzulaufen. Mit perfekter DNS können wir sämtliche Krankheiten besiegen, Supermais züchten, den Welthunger besiegen, den idealen Menschen basteln... merkt Ihr was?

Tatsache ist, dass jeder dieser Entwicklungssprünge unser Leben massiv verändert, aber niemals die menschliche Natur an sich. Internet und Smartphones verändern unser Zusammenleben in der Tat, öffnen neue Möglichkeiten, aber immer hatte jede Technologie auch denselben Ballast an Nachteilen wie an Vorteilen. Was haben wir uns mit der supersauberen Atomkraft für ein Kuckucksei ins Nest gelegt! Mit Internet haben wir uns die ganze Welt ins Haus geholt, dafür verlassen wir es nicht mehr, kriegen eine Wampe, Diabetes und einen schlimmen Rücken, und haben auch alle schwarzen Schafe im Wohnzimmer, die wir nicht wollen. Wieviele Südostasiaten sind kurzsichtig? 80%, 90%...?

Auch KI wird unser Leben verändern, tut sie bereits, aber sie kann niemals alle Probleme lösen. Wir werden mit Automaten reden, sie werden Entscheidungen für uns treffen, sie können viel Gutes tun, keine Frage. Aber es werden genausoviel schlechte wie gute Entscheidungen dabei sein.

Deshalb ist jede Technik immer nur ein Werkzeug. Was man damit bauen will, hängt davon ab, was der Mensch will. Und was er will, hängt von seinen Vorstellungen ab. Und diese Vorstellungen sind Massenpsychologie, wozu Glaube auch gehört. Seine Faulheit und sein "Egoismus" werden bleiben, weil sie jedem Lebewesen eigen sind. Energieersparnis ist Überlebensvorteil. Um KI so wie gewünscht einzusetzen, müssen also erstmal das Weltbild und die Wertvorstellungen geklärt sein.

Ich widerspreche dem Grundsatz, dass Schmerzvermeidung und Wohlbefinden immer alles ist. Dazu nimmt der Mensch zuviele Schmerzen auf sich, um etwas zu erreichen. Allein schon die freiwillige Unterordnung in unbequeme Weltvorstellungen mit körperlichem Unbehagen und Zwängen aller Art wäre so nicht erklärbar und plausibel. Im Gegenteil: Psychohistoriker sprechen sogar von einem freiwilligen Drang zum Masochismus und zur Opferbereitschaft.