Idee für ein real mögliches Zukunftsszenario: Ähnliches?

[kaffee-charly]

Für alle, die an die Unfehlbarkeit Künstlicher Intelligenz glauben, könnte das hier lehrreich sein:

https://www.handelsblatt.com/technik/th ... 53002.html

https://www.wissenschaft.de/technik-dig ... rurteilen/

[manu2107]

Wo ist der :prima: Button, wenn man ihn mal braucht?

Eieiei, da hab ich ja wirklich einen empfindlichen Punkt getroffen. Mir war schon klar, dass es in der Form wie ich es formuliert habe, keiner akzeptieren könnte, und habe auch geschrieben, dass ich das auch nicht persönlich wollen würde.

Euch ist aber schon klar, dass diese ganzen Themen auf uns zukommen, und wenn es ein Land oder eine Region (Deutschland/Europa) nicht mit verantwortungsvollen Leuten (nein, nicht ich) aufgreift und darüber nachdenkt, es die Chinesen oder Russen oder Amis machen?

Das ist ja kein an allen Haaren der Welt herbeigezogene Idee von mir Verrücktem, sondern etwas, auf das wir mit unserer Technologie zwangsweise zusteuern. Die Chinesen sind eh schon auf der Schiene, wie Andreas ja schon erwähnt hat (https://de.wikipedia.org/wiki/Sozialkre ... tem#Kritik)

Entweder ich hab das total falsch angefangen oder den Zweck nicht richtig beschrieben, warum ich den Thread hier angefangen habe. Ich hab mir nochmal meinen Initialpost und die 2 die ich direkt dahinter geschrieben habe durchgelesen. Das es dort erstmal um ein Gedankenspiel in der fernen Zukunft geht, habe ich geschrieben. Das dieses Szenario real umseinbar sein könnte, wenn auch in sehr ferner Zukunft auch.

Der Gedanke darin ist, wieviel Freiheit sind Menschen bereit aufzugeben, um den Untergang unserer Zivilisation zu verhindern?
Eigentlich ein Problem ansprechend, wie es auch Philip K. Dick und andere (Orwell, Huxley, Autoren von SF-Filmen) taten, diesmal mit einem positiven Verständnis des Einsatzes von Technik. Nicht das ich mich auch nur entfernstesten in die Nähe dieser Meister bringen möchte, ich kann nicht gut genug schreiben, und so komplett neu und noch nie formuliert ist das Ganze ja nun auch nicht.

Und klagen uns Alte nicht Greta Thunberg und eine große Schar anderer junge Menschen an: „Ich mache das, weil ihr Erwachsenen auf meine Zukunft scheißt.“ und „Ich will, dass ihr in Panik geratet. Ich will, dass ihr die Angst spürt, die ich jeden Tag spüre. […] Ich will, dass ihr handelt, als würde euer Haus brennen. Denn es brennt.“

Ich weiß nicht, ob ihr so denkt wie ich, dass es keine schnelle, einfache Lösung für diese Probleme gibt. Greta Thunberg kann die Ausmaße der nötigen Veränderungen gar nicht erkennen, denke ich. Daß sie stinksauer ist, dazu hat sie aber das Recht.

Und was antworten wir diesen Jungen? "Wird schon wieder werden", "Das ist doch alles nur Panikmache".

Nochmal anders formuliert: "Wieviel sind wir Menschen bereit zu tun, damit eine Chance besteht, die Katastrophe abzuwenden"?
"Ist es möglich, dass die Ausnutzung von zu viel Freiheiten durch Menschen damit ursächlich zusammenhängt?"


Ist es richtig, wenn wir bestimmte Ansätze sofort als "faschistisch" brandmarken, als totalitär und gefährlich? Ist das nicht eine Chance, darüber nachzudenken, welche Rechte wir auf der Erde haben dürfen? Und ob wir es nicht mächtig überzogen haben, nicht aus Boshaftigkeit, kaum ein Mensch wollte die Erde so ausgebeutet und zerstört sehen? Ich liebe es, in einer Demokratie zu leben, aber eben auch, weil es meine Selbstsucht befriedigt.


Hier nochmal aus meinen ersten Posts:

...
Mir ist bisher dafür noch keine andere Lösung eingefallen, als dass man die Kontrolle, was Menschen tun und nicht tun dürfen, an eine neutrale, objektive Instanz übergeben soll, solange sich das Wesen der Menschen nicht von Haus aus vernünftiger verhält. Und wenn diese Kontrolle (hört sich natürlich sehr Orwell-mäßig an) gleich gerecht über alle Menschen ausgeübt wird, mit einem Maß an Freizügigkeit, die trotzdem ein sehr schönes und erfülltes Leben ermöglich, dann wäre das jeden Fall viel besser, als der Zustand, der jetzt schon herrscht (Hungersnöte, Unterdrückung, Überforderung durch Technologie usw.). Und wenn wir an die Zukunft in 100 Jahren denken, welchen anderen Ausweg gibt es?

Oder ist es jedem Menschen lieber, alles bleibt so wie es ist, und "nach mir die Sintflut"? Ich bin jetzt 54, und die 15-20 Jahre reiße ich noch recht angenehm herunter, meine Tochter will kein Kind bekommen, die wird es auch nicht mehr so erwischen. Aber es heißt doch immer, man soll an die Generationen nach uns denken. Und wäre es nicht schön, eine Aussicht auf eine Welt zu haben, die nicht unvermeidlich immer und immer wieder in der Zerstörung endet?
...

Keine Sorge, ich werde weiter antworten, nachfragen. Ich will keinen beleidigen, ich will auch keinen 'bekehren'. Einen etwas weniger rauhen und aggressiven Ton würde ich mir wünschen, ernst darf es sein. Aber gleich etwas als "faschistisch" zu bezeichnet, obwohl es eben genau darum geht, eben keine machtbessesenen, grausamen und korrupten 'pigs' an die Macht zu lassen. Und wie Maßnahmen aussehen müssten, dass das auch zu 100% gesichert ist und bleibt.

[Andreas Eschbach]

"Ist es möglich, dass die Ausnutzung von zu viel Freiheiten durch Menschen damit ursächlich zusammenhängt?"

Gib doch mal Beispiele dafür, wo normale Menschen Deiner Meinung nach zu viele Freiheiten nutzen, zum Schaden der Zivilisation.

Anbei bemerkt finde ich diesen Ansatz sehr zeitgeistig: Man hat nicht mehr Angst vor Gewalt, vor Krieg, vor Naturkatastrophen – man hat Angst vor zu viel Freiheit. Vor welcher Freiheit eigentlich? Wenn ich auch nur meine Terrasse umbauen will, muss ich bei umpfzich Ämtern um Genehmigungen ersuchen und hundertdrölfzig Vorschriften einhalten, von denen 99% völlig sinnfrei sind; von dem Geld, das ich verdiene, darf ich mit viel Glück 40% behalten, und auch das nur vielleicht, weil's der "Gesellschaft" irgendwann einfallen mag, dass sie ihre Schulden begleichen könnte, indem sie in die Bankkonten greift; als ich jünger war, hätte man mich in fremde Länder schicken und mir befehlen können, dort mir völlig unbekannte Leute totzuschießen - und so weiter, und so weiter: Auf wie viel Freiheit soll ich denn noch verzichten?

[Badabumm]

Ich wehre mich einfach dagegen, alles nur auf EINER Schulter abzulegen. Egal, welchem Prinzip eine digitale Technik folgt - sie ist Technik, die von Energie und anderen Faktoren abhängig ist. Die zunehmenden Wetterkapriolen haben gezeigt, dass wir nicht unverwundbar sind. Ein Frost von wenigen Tagen hatte ausgereicht, um die DDR teilweise in Dunkelheit versinken zu lassen, weil die Braunkohle nicht mehr gefördert werden konnte. Gut, die Energieerzeugung mag jetzt moderner scheinen, aber sie ist genauso anfällig für Attentate, Stürme oder Kälte wie ehedem. Und wir sind in den zivilisierten Ländern unfähig geworden, ohne das weiche Bett der Technik zu überleben.

Deshalb ist mein Postulat: ich verteile die Zukunft immer auf mehrere Schultern. Wir glauben heute, dass sich Smartphone und co immer weiter entwickeln und schließlich eine Totalüberwachung wie in China möglich und wahrscheinlich sein wird. Was ist jedoch, wenn sich das nur als Blase herausstellt? Wir postulieren, dass es immer besser, schneller und toller werden muss, aber das wird nicht so sein. Wachstum kann nie unendlich sein, sondern muss zu einem Stillstand kommen, weil wir nur die eine Erdkugel haben.

Nehmen wir nur mal den Kessler-Effekt, den ich in einem meiner SF zum Startschuss des menschlichen Untergangs gewählt habe. Das Thema wurde in „Gravity“ aufgegriffen, dort ging es vorrangig um das Überleben der Astronautin und um viel Crash-Action. Aber wie sich das wirklich auf das Leben auf der Erde auswirkt, hat man stillschweigend nicht geschildert. Zur Erläuterung: unsere Satellitenumlaufbahnen sind dermaßen voll mit Weltraumschrott, dass eine heftige Kollision zu einem Schneeballeffekt an unzähligen anderen Satelliten führen könnte oder besser: führen wird. Nun stellen wir uns mal eine Welt ohne GPS, ohne Container-Logistik, ohne Internet, ohne Satelliten-Fernsehen, ohne Wetterüberwachung, ohne Flugsicherung vor... Und das für Jahrzehnte, viele Wissenschaftler sprechen eher von Jahrhunderten, weil das Zeug einfach nicht von selbst verschwindet. Unsere Buddy-Roboter müssten sich dann vielleicht auf UKW miteinander vernetzen.

Wir haben uns mit so vielen Handicaps gleichzeitig in die Ecke gedrängt (Bienensterben, Überfischung, Mikroplastik, Meeresspiegelanstieg, Erosion, Überdüngung, Antibiotikaresistenz, und, und, und...), dass ein utopisches Weltverbesserungssystem ohne Strom und ohne Telekommunikation funktionieren sollte. Besser ist besser. Eines dieser Handicaps wird immer zuschlagen, und im schlimmsten Falle alle gleichzeitig. Wenn wir dann das Chaos haben: wollen wir 1000 Jahre warten, bis jemand wieder einen Generator erfunden hat...?

[manu2107]

Für alle, die an die Unfehlbarkeit Künstlicher Intelligenz glauben, könnte das hier lehrreich sein: ...

Ich glaube nicht an die Unfehlbarkeit eines Systems, egal ob mit oder ohne Verwendung des KI-Konzepts, und wer so denkt sollte aus der Systementwicklung raus, ausser bei nicht so kritischer Software. Denn nichts anderes ist eine "KI"-Software: es verwendet (zusätzlich zu den Standard-elementen einer Software) einfach ein zusätzliches Prinzip, was leider
die Programmierung komplexer macht. Man verwendet also das KI-Prinzip nur, wenn man es wirklich braucht. Und jetzt sind die Rechner
und die Infrastruktur eben so schnell, dass das KI-Prinzip langsam in der kommerzielle SW-Entwicklung ankommt, und natürlich mehr darüber gesprochen wird.

Ich weiß jedoch aus Erfahrung, dass mit den vorhanden Techniken zur Prüfung von Software und Code, durch Verwendung von erprobten Konzepten ("Design pattern", falls das schon jemand gehört hat) jede Software auf einem guten Level haltbar ist. Und das genügt. Keine Software muss perfekt sein, was immer das heißt. Es gibt auch keine perfekten Menschen, und trotzdem funktioniert vieles sicher. Und wenn eben was gehackt wird, dann wird das optimalerweise schnell behoben, die Lücke verschlossen, und am besten die Hacker ermittelt und gezielt gegen diese Maßnahmen ergreifen, passiv oder aktiv.

Es ist natürlich auch (wieder mal) ein Hype, der größer aufgeblasen wird als was wirklich dahintersteckt. Über Apps und Smartphones zu schreiben wird langsam langweilig, musste mal wieder was anderes her. Grundsätzlich entstehen allerdings wirklich mehr Anforderungen, die mit einer KI einfacher zu erschlagen sind, als mit herkömmlicher Software.

Dass Zeitungen das aufgreifen (hab ich damals auch gelesen) mit einer gewissen Schadenfreude, verständlich, ich hab auch geschmunzelt.

Genau betrachtet ist passiert, was bei jedem Entwicklungsprozess passiert: man konzipiert etwas, setzt es um, und testet das.
Wenn das System nicht das liefert, was man wünscht, dann hat man wohl irgendwo etwas nicht bedacht oder übersehen.
Dann überarbeitet man sein Konzept, setzt es wieder um, und testet nochmal

Erst der Entwickler, mit manuellen und optimalerweise mit UnitTests, dann die Tester im Dev-Team, dann der Fachbereich und natürlich nimmt man das Feedback von Usern im produktiven Betrieb auf, und priorisiert diese als Bugs, oder Wunsch, oder ignorierbar. Unit-Tests sind im KI-Umfeld etwas kniffliger zu programmieren, auch weil das Programmieren einer KI insgesamt komplexer ist. Da muss man um mehr Ecken herum denken als bei einer Finanzbuchhaltungs-SW.

Da du in der IT arbeitest, kennst Du diese Techniken.

Übrigens wird "KI" ja wirklich zur Zeit so mystifiziert, dass die meisten das für Zauberei oder Teufelszeugs halten.

Kurz gesagt, eine Software, welche auf die Programmieransatz "KI" ist genauso 'nur' eine Software, wie eine ohne KI-Elemente.

Wenn man auf Wikipedia "KI" durchliest, grad als Laie, dann hört sich das wohl wahnsinnig unverständlich an. Laien wird allerdings praktisch jeder Artikel über Programmiertechniken wie aus einer anderen Sprache vorkommen.

Ich würde das vereinfacht so erklären: In einer "normaler" Software ist die Logik bereits komplett eingebaut. Eine Rechnungssoftware addiert am Schluss den passenden Umsatzsteuersatz auf den Nettobetrag (z.Zt. 7% oder 19%). Die 7 und 19 sind natürlich nicht einprogrammiert, sondern stehen in einer Tabelle, die ein berechtigter User auch ändern darf, wenn sich z.B. die Sätze ändern. Wenn sich z.B. mit der Mwst generell was ändern würde (z.B. bei jeder Rechnung werden 5 EUR verlangt, höhö), DANN müsste ein Programmierer wirklich ran und das Programm abändern.

Wäre es dann nicht gut, diese Faktura-SW mit KI-Prinzipien zu schreiben. Nein, denn das würde die Software wesentlich verteuern (3-10x so teuer), und wenn der Fall nicht eintritt, hat man eine SW, die wesentlich umständlicher zu erweitern ist. Vielleicht nicht an der Stelle, aber dort wo man das KI-Prinzip noch nicht verwendet. Nicht das beste Beispiel, aber so ansatzweise vielleicht verständlich.

Das KI-Prinzip ist dann sinnvoll zu verwenden, wenn die Software auf etwas reagieren soll, was noch nicht von irgendwem als "von der Software zu erledigende Anforderung" formuliert wurde. Die Software versucht dann, mit verschiedenen Konzepten die passende Reaktion selbst anzustoßen. Und soll sich das merken, und nicht nur den ganz speziellen Fall, sondern das Prinzip dahinter, und es dann auch auf ähnliche Fälle anzuwenden

Z.B. in einem Online-Chat fragt ein Kunde, ob es auch möglich ist,ein Krokodil zu versichern, und nicht nur Hunde und 10 andere Haustierarten. Anstatt zurückzugeben "Anfrage nicht verstanden. Formulieren Sie neu" und den Interessenten abzuschrecken, sucht es z.B. zuerst in dem bereits gelernten Fällen, sagt oder schreibt dem Kunden aber vorher schon, "ich werde kurz nachfragen, wie es bei *Krokodilen* aussieht. Warten sie kurz". es wird u.U. auch schon ein menschlicher Sachbearbeiter informiert, dass eine unbekannte Frage gekommen ist, und eine Antwort die nächsten 30 Sek. nötig ist. Und warum das Ganze? Um den Eindruck zu vermitteln, was für ein unglaublich kompetentes Personal für ihn da ist. Und einen Abschluss mehr zu machen. Um Geld, ganz banal. Nicht um die Welt zu retten.

Ich hab auch mal angefangen, eine Software zu konzipieren, die für ein interessantes Kartenspiel. Und die Software soll in der jeweiligen Situation, abhängig was der Gegner ausgelegt hat, was noch verfügbar ist usw. die beste Aktion (von meist 5 möglichen) auswählen.

Jetzt ist es natürlich konventionell möglich, die Situation jeweils zu analysieren, die einzelnen Faktoren zu bewerten, und dann die dadurch gewählte Aktion auszuführen. Natürlich muss man das Spiel sehr gut beherschen und gute Taktiken und Strategien abzubilden. Und wenn man merkt, dass die Software noch nicht gut genug spielt, dann muss man analysieren, warum das so ist. Das Spiel ist allerdings schon recht komplex, und die Zusammenhänge, was welche Aktion beim Gegner behindert oder unterstützt oft erst im übernächsten Zug erkennbar ist, wenn überhaupt.

Beim KI-Ansatz wirddie Software jedoch ein paar Millionen oder gar Milliarden Spiele gegen sich selber spielen, und dabei die Resultate bewerten. Das Verständnis für das Spiel muss genauso groß oder sogar größer sein als wie für das kommerzielle Programm. KI-Programme erfordern also wesentlich talentiertere Programmierer als 'normale' Anwendungsentwickler. Es ist aber keine Zauberei, nur ist die Lernkurve steiler (um überhaupt etwas funktionierendes abzuliefern kann man nicht 1 Jahr lernen) und höher (man braucht wirklich eine höhere Abstraktionsfähigkeit, dumm gesagt einen höheren IQ. Meiner ist mittlerweise auch nicht mehr hoch genug, das Alter ist da unerbittlich).

[manu2107]

>>auf Manu2107: "Ist es möglich, dass die Ausnutzung von zu viel Freiheiten durch Menschen damit ursächlich zusammenhängt?"

Gib doch mal Beispiele dafür, wo normale Menschen Deiner Meinung nach zu viele Freiheiten nutzen, zum Schaden der Zivilisation. ...

Das ist ein guter Ansatz, das werde ich als nächstes tun :-)

Vorab sage ich schon mal, dass es wahrscheinlich um Dinge geht, von denen man spontan denken wird: Spinnt der? Wo soll das enden?
Nach dem ersten Reflex und Wutanfall sich beruhigen, und dann möglichst ohne Panik oder Hass darüber nachdenken. Keine Sorge es wird dir sowieso nicht mehr passieren. Die Umsetzung ist in unserem System der Marktwirtschaft nicht möglich, so generell anzusetzen würde das gesamte System zum Zusammenbruch bringen, also genau das Gegenteil von dem was gewünscht ist: die menschliche Zivilisation zu bewahren. Ich will das auch nicht, ich will einen einigermaßen ruhigen und angenehmen Lebensabend verbringen, selbst wenn ich dann keine großen Sprünge machen kann.

Schon mal ein Beispiel: Orangen. Könntest oder würdest Du auf Orangen verzichten, höchstens einmal im Jahr kannst du die bestellen, zu einem guten Anlass?
Wie das geregelt ist, sei mal dahingestellt. Es geht nur darum, ob es dich so unglücklich machen würde, dass das auf keinen Fall akzeptabel ist für dich.

Damit würde man natürlich gar nichts bewirken, wenn Orangen oder generell exotische Früchte nicht mehr weit exportiert würden, sondern man hauptsächlich heimisches Obst verspeist: Äpfel, Birnen, Pflaumen, Erdbeeren, es gibt sicher noch mind. 20 weitere heimische Obstsorten. Denk mal nicht an Kiwis, oder gar Kaffee aus Afrika, nur um die Möglichkeit, Orangen nur einmal im Jahr essen zu können, und dann nicht gleich 10 Stück.

Das soll keine Falle sein, es geht nur darum sich auf etwas zu fokussieren. Und stell dir vielleicht noch vor, wenn man das mit allen Obstsorten macht, die weiter als 300 km entfernt von deinem Wohnort kommen, dass dann alle Probleme mit der Umwelt gelöst wären. Ich hoffe, man kann sich auf dieses Gedankenexperiment einlassen, und mit Ja oder Nein antworten, mit einer Begründung, warum man auf das nicht verzichten kann oder will, weil einem dann das Leben nicht mehr lebenswert erscheint.

Die Idee dabei ist natürlich, diese Regeln zu erweitern, und rauszufinden ab wann etwas wirklich inakzeptabel ist.

An einer ausführlicheren Beantwortung deiner Frage arbeite ich dann trotzdem ...

[Badabumm]

Hallo, Manu2107, es ist beeindruckend, was ich über Software von dir lernen kann, aber ich befürchte, es schießt am Ziel vorbei. Hier handelt es sich um ein SF-Forum. Das heißt, wir gehen immer von einer gewissen Annahme aus. Die würde heißen: es gebe eine KI, die hinreichend fehlerfrei arbeitet, um deine Forderungen zu erfüllen. Dann müsste - wie ich versuchte, zu erläutern - erst die Basis für die Programmierung und überhaupt das Konzept existieren. Ein tatsächlich realisierbares Weltverbesserungsszenario ist alleine aufgrund einer funktionierenden Software nicht möglich, wenn alles andere gleich bleibt. Da spielen eben all diese Dinge wie Psychologie, Philosophie, Ökonomie, Religion mit rein. Es wäre die „Weltformel“ in Form einer Idee - und da versagten bereits früher alle Konzepte.

Ich habe im vorigen Beitrag meine Bedenken gegen eine rein technische Lösung ausgesprochen. Meine Lösung für einen „Weltfrieden“ beginnt im Kopf. Ein solches Konzept muss in kleinen wie in großen Einheiten genausogut funktionieren, es muss selbst reproduzierbar und einigermaßen immun gegen „Mutationen“ sein - das heißt, einige Ausrutscher dürfen nicht dazu führen, dass das System auseinanderbricht. Deshalb bin ich so auf der Religion herumgeritten, weil es ein so starkes und selbstverstärkendes Gefühl ist, dass es ohne Weiteres auch für vernünftige Ziele eingesetzt werden könnte.

In vielen SF wird diese Idee eines Technikglaubens oder an einen Gott vom Centauri oder was weiß ich beschrieben. Menschen lassen sich verführen und glauben an das unmöglichste Zeug, und mit den richtigen Werkzeugen kann man sie vielleicht dazu verführen, besser auf ihre Welt aufzupassen, sich nicht zu verprügeln und Frauen als gleichwertige Lebewesen zu akzeptieren. Man darf ihre Schwächen nicht bekämpfen, sondern sollte diese dafür benutzen, ein „vernünftiges“ Ziel anzustreben, das aber in ein religiöses Dogma verpackt ist.

Roboter würden nur dann funktionieren, wenn es auch ohne sie ginge. Das bedeutet: müsste eine KI (oder ein Alien oder ein Weltrat...) ihnen ununterbrochen ins Gewissen reden, klappt das nicht. Erst wenn der Mensch von sich aus etwas glaubt, kann er Roboter als Unterstützung verwenden. So wie eine gewisse Glaubensgruppe nicht auf Insekten auf dem Weg tritt, weil sie es vermeiden will, so muss das Bewusstsein IM Menschen gefestigt sein.

[Andreas Eschbach]

Schon mal ein Beispiel: Orangen. Könntest oder würdest Du auf Orangen verzichten, höchstens einmal im Jahr kannst du die bestellen, zu einem guten Anlass?
Wie das geregelt ist, sei mal dahingestellt. Es geht nur darum, ob es dich so unglücklich machen würde, dass das auf keinen Fall akzeptabel ist für dich.

In einer Welt, in der alle die Bitcoinkurse abfeiern und nichts dabei finden, dass für die Berechnung dieser völlig sinnlosen "Währung" mehr Strom verheizt wird als ganz Österreich verbraucht, werde ich auf gar nichts verzichten.


Ganz allgemein scheint mir, dass Du keine wirkliche Vorstellung von der Größe der Krise und der Größe der entsprechenden Maßnahmen hast. Ganz gewiss wird man die Zivilisation nicht mit Verzicht auf Orangen und ins Gewissen reden retten. Das wäre, als besprühe man mit dem Blumenbefeuchter die Türklinke, während das ganze Haus in Flammen steht.

[Uschi Zietsch]

Solange wir hormonell so triebgesteuert sind wie jetzt, unseren Instinkten ausgeliefert, solange unsere Gesellschaft auf Rudelverhalten basiert, das alles Fremde wegbeißt, und der Einzelne innerhalb davon nach Expansion strebt (mehr Geld, mehr Macht, mehr Land, mehr ...), solange ändert sich da gar nix. Eine KI ist keine Lösung, sondern lediglich die Extrapolierung des Problems.
Solange der Mensch sich weigert, Verantwortung für sein Handeln zu übernehmen und diese auf Gott, Götter oder Schicksal abwälzt, gibt es keine Freiheit. Die KI ist dann halt der neue Allmächtige.

Es geht nicht darum, dass wir uns ändern müssen, sondern darum, ob wir es überhaupt können. Noch wissen wir nicht mal, ob wir tatsächlich einen freien Willen haben (was aktuell wieder vieldiskutiert ist).
Die Verantwortung auf etwas anderes zu übertragen bringt in jedem Fall Unfreiheit und keinerlei Weiterentwicklung. Unter dem Diktat einer KI käme die menschliche Evolution zum Stillstand und würde reduziert auf ein Nutztier.

P.S. Was aus dem glückseligen Utopia wird, haben wir sehr anschaulich in Wall-E erlebt.

[Badabumm]

So handelten wir, seit wir sesshaft geworden sind und Ackerbau betrieben haben. Also seit 20000 Jahren oder so. Besitztum, das Streben danach und die Verteidigung desselben scheint mit Boden und einem festen Haus verbunden zu sein. Dann allerdings sieht es mau aus.

Es ist zwar richtig, dass Götter keine Eigenverantwortlichkeit ersetzen, aber da die Vorstellung von einem "höheren Wesen, das wir verehren" (na, Zitat erkannt..?*) so tief in uns verwurzelt ist, würde ich diesen Fakt benutzen, um wenigstens die Welt zu erhalten. Der Mensch wird weiterhin sein eigener schlimmster Feind sein. Da er aber sowieso unbedingt etwas Imaginäres braucht (auch alle Urmenschen schienen soetwas gebraucht zu haben, warum sonst gibt es Gräber und Riten?), kann man das doch zweckentfremden.

Im Grunde zeigen soziale Medien, wie es geht: Meme verstreuen. Genauso, wie Blödsinn am allerstärksten gehört und beachtet wird (Sprache wurde zum Tratschen erfunden), so könnte man das geschickt manipulieren. Dass wir inzwischen an auswuchernder politischer Korrektheit leiden, mag vielen absurd vorkommen, aber es zeigt, dass Gesellschaften sich in einem Fluss befinden und Werte sich verschieben.

Das dauert aber sehr lange, und die kaum gebrochene Misogynie zeigt, dass der Mensch immer wieder auf seine evolutionären Instinkte zurückfällt, egal, wie toll die Gesellschaft ist. Dieses animalische Grundverhalten muss man irgendwie einbauen, und weder verleugnen noch ausmerzen wollen. Wird nicht gehen. Warum ein Mensch mit einem Messer auf jemanden losgeht, weil dieser etwas eigentlich Banales gemacht oder gesagt hat, lässt sich durch kein Gesetz verhindern, auch nicht durch Roboter-KI. Das ist gewachsene Struktur, gepaart mit Urtrieben. Hirsche, Wildschweine und Ratten reagieren auch so...

*Bur-Malottke in "Dr. Murkes gesammeltes Schweigen" von Böll.

PS: Meme, nach Dawkins vergleichbar mit Genen. Kleine, sich selbst reproduzierende Einheiten, z.B. eine Fähigkeit, eine Meinung, eine Idee oder ein Verhalten, die von Mensch zu Mensch weitergegeben werden und ebenso Mutationen und Selektion besitzen.
So findet in Sprache ein solcher Prozess statt, z.B. hat "Sinn machen" eindeutig die ursprüngliche Form "Sinn ergeben" verdrängt. Das ist ein ungesteuerter Vorgang, der durch Selektion erzeugt wird. Keinem ist es bewusst, es fällt erst auf, wenn es eingetreten ist.

[manu2107]

Hi Badabumm,
du sprichst hier 2 verschiedene Punkte an, ich werde versuchen das zu beantworten:

1. Einbettung eines KI-Systems in die Gesellschaft und
2. Über die Möglichkeiten von Religion.

Einbettung eines KI-Systems in die Gesellschaft

... wir gehen immer von einer gewissen Annahme aus. Die würde heißen: es gebe eine KI, die hinreichend fehlerfrei arbeitet, um deine Forderungen zu erfüllen. Dann müsste - wie ich versuchte, zu erläutern - erst die Basis für die Programmierung und überhaupt das Konzept existieren.

1. wie eine KI-Software hinreichend fehlerfrei arbeiten kann, hab ich dargestellt, und auch, dass das möglich ist: mit viel größerer Sorgfalt als bei heute verkaufter kommerzieller Software.

Was ich bisher geschrieben habe ist noch recht dünn, in einem "Werk" würde das schon 10 - 20 Seiten einnehmen. Ich versuche mich vom allgemeinen zum speziellen vorzuarbeiten, und dabei seid mir ihr in dem Forum eine große Hilfe. Fragen gestellt zu bekommen zwingt mich dazu, mit der Sicht anderer zu betrachten und denken.

2. die Basis für die Programmierung und Konzepte dahinter habe ich angedeutet. Das ist recht technisch alles, für manche Punkte müsste ich mich viel einlesen, darauf freue ich mich auch, aber braucht Zeit. Ich hab diesen Punkt eher als low-Prio angesehen, denn selbst wenn ich das einigermaßen für Laien erklären kann, ist es komplex. Und ich bin auch kein Experte. Ich vertraue da auf was ich lese und u.U. mit kurzen Code-Beispielen nachvollziehen kann.

Ein tatsächlich realisierbares Weltverbesserungsszenario ist alleine aufgrund einer funktionierenden Software nicht möglich, wenn alles andere gleich bleibt.

Natürlich ist dieses System allein nicht alles, in denen die "mama robots" (der Begriff gefällt mir langsam ;-) die sichtbarste Komponente darstellen.


So wie der Straßenverkehr seine Regeln und Gesetze hat, braucht auch dieses KI-System Regeln nach denen es arbeitet, und Sicherheitskriterien, bis wann etwas erlaubt ist. So wie Autos Straßen, Tankstellen, Werkstätten, einen TüV brauchen, braucht so ein System auch eine Infrastruktur. Dieses KI-System soll ein Werkzeug sein, kein Allmächtiges, jeder Kontrolle entzogener Apparat.

Ja klar, es muss sichergestellt sein, dass dieses System die (von weisen Menschen) festgesetzten Grenzen nicht überschreitet. Und natürlich müssen diese Grenzen bei Bedarf wieder (von neuen weisen Menschen) erweitert oder verändert werden. Meine Idee zur Auswahl der 'Weisen' ist eine Prüfung dieser durch die KI (was darauf hinausläuft, dass die alten Weisen diese sozusagen prüfen und auswählen würde). Es sollte dabei rauskommen, dass keine Schreihälse, Menschenfänger, versteckt Kriminelle, Soziopathen usw. ausgewählt werden. Die heutigen psychologischen Erkenntnisse und Analyseverfahren sind nicht mehr einfach so zu täuschen. Da gehts auch nicht um einen Multiple-Choice-Test, sondern um wochen- und monatelange Gespräche, ob die Gesichts und Körpersprache im Einklang der Worte steht usw.


Über die Möglichkeiten von Religion

... Es wäre die „Weltformel“ in Form einer Idee - und da versagten bereits früher alle Konzepte ... Meine Lösung für einen „Weltfrieden“ beginnt im Kopf.

.. es muss selbst reproduzierbar und einigermaßen immun gegen „Mutationen“ sein .. das heißt, einige Ausrutscher dürfen nicht dazu führen, dass das System auseinanderbricht.

Also "Weltfrieden" halte ich generell für ein sehr seltsamen, missbrauchten Begriff, vor allem, was bedeutet das? Dass keine 2 Staaten jemals wieder aufeinander schießen? Handelskriege zählen nicht dazu? Wenn 2 Familien in einem Dorf seit Jahrzehnten bekriegen, ist das keine Störung des Weltfriedens? Menschen werden immer die Aggression in sich tragen, gerade das will ich ja nicht, den Menschen mit Drogen oder Sprüchen ruhigzustellen. Ich suche nach einer Lösung, mit dem aggressivem und zerstörerischen Wesen des Menschen umzugehen. Man kann kritische Situationen durchaus deeskalieren, Menschen beruhigen, Streithähne auseinanderbringen. Im der Mehrzahl wollen Menschen keine Auseinandersetzung, vor allem keine ernsthaften. Ein bißchen in Foren rumpöbeln, wo man das Gegenüber nicht kennt, halte ich für relativ normal, wenn auch kein guter Stil. Das wird dann 'frozeln', 'ärgern' und 'herabsetzen' genannt.

Ich kann mit dem Konzept 'Weltfrieden' nichts anfangen. Menschen tragen die Aggression in sich, und diese kannst Du ihnen nicht mit allgemeinen Sprüchen in der Zeitung, Fernsehen oder in Versammlungen austreiben.

Und den meisten Menschen gehts ja gut, leben nicht im Krieg. Ein Bekenntnis zum 'Weltfrieden' ist dort ziemlich verlogen. Es geht nicht um Weltfrieden (Kriege sind nur Zeichen, dass Aggression zu sehr starkem Hass geworden ist, und Tote auf beiden Seiten es schwer machen, zum Frieden zurückzukehren.)

Es geht um die Rettung unsere Zivilisation. Dass mit einem passenden Konzept dagegen dann Kriege verringert und irgendwann nicht mehr ausbrechen können, ist eher ein Nebeneffekt (meine Ansicht).

Deshalb bin ich so auf der Religion herumgeritten, weil es ein so starkes und selbstverstärkendes Gefühl ist, dass es ohne Weiteres auch für vernünftige Ziele eingesetzt werden könnte.

... SF ... diese Idee eines Technikglaubens ... einen Gott vom Centauri ... beschrieben. Menschen lassen sich verführen und glauben an das unmöglichste Zeug, und mit den richtigen Werkzeugen kann man sie vielleicht dazu verführen, besser auf ihre Welt aufzupassen, sich nicht zu verprügeln und Frauen als gleichwertige Lebewesen zu akzeptieren. (Anm.manu2107:Hervorhebungen von mir)

Religion, egal welcher Art zur Manipulation zu verwenden, halte ich für eine ganz schlechte Idee. In wohlhabenden Ländern spielt Religion und sogar der 'Glaube an eine höhere Macht' immer weniger eine Rolle bei der Lebensführung und im Zusammenleben. Religionen und der Glaube sind natürlich 2 komplett verschiedene Dinge: Religionen sind Gemeinschaften, der Glaube ist etwas persönliches. In Religionen entstehen noch leichter korrupte, verbrecherische Strukturen als im weltlichen Leben.

Man darf ihre Schwächen nicht bekämpfen, sondern sollte diese dafür benutzen, ein „vernünftiges“ Ziel anzustreben, das aber in ein religiöses Dogma verpackt ist.

Noch ein Wort zu 'Warum gibt es Religionen und warum glauben die Menschen an eine höhere Macht?"

Das kann auch aus dem "Ersten Hauptsatz der Psychologie" erklärt werden: "Jeder Mensch strebt jeden Moment danach, dass er sich besser fühlt, oder zumindest nicht schlechter"
Der Glaube an eine höhere Macht ('Gott') löst bei vielen Menschen ein gutes Gefühl aus: Beruhigung, Hoffnung, Freude, das Gefühl geliebt zu werden. Und dabei ist es unerheblich, ob ein Gott existiert oder nicht. Gemeinsam an 'einen Gott' zu glauben, stärkt das Gemeinschaftsgefühl. Und wenn der eigene Gott 'gütig' ist, und ein anderer nicht, dann gibt es auch ein gutes Gefühl, auf der richtigen Seite zu stehen

Andererseits kann man mit dem Glauben an einen Gott 'schwächere' Menschen besser lenken, vielleicht sogar zu angenehmeren Mitmenschen erziehen, gerade die Kinder. Religionen und Glaube soll in dem KI-System in keinerlei Hinsicht verboten werden, nur mit 'Anweisungen der Religion' kann es kritisch werden. Sowohl das Christentum als auch der Islam befehlen ihren Gläubigen, so viel wie mögliche 'Christen' und 'Moslems' zu erzeugen, weil es Gottes Wunsch ist. Dass damit natürlich auch die Machtbasis dieser Religionsführer größer wird, ist ein schöner Nebeneffekt. Aber wenn es Gott befiehlt, kann man ja wohl kaum nein sagen? Da würden jedenfalls viele Diskussionen anstehen, und wenig fruchtbare, fürchte ich.

Roboter würden nur dann funktionieren, wenn es auch ohne sie ginge. Das bedeutet: müsste eine KI (oder ein Alien oder ein Weltrat...) ihnen ununterbrochen ins Gewissen reden, klappt das nicht. Erst wenn der Mensch von sich aus etwas glaubt, kann er Roboter als Unterstützung verwenden. So wie eine gewisse Glaubensgruppe nicht auf Insekten auf dem Weg tritt, weil sie es vermeiden will, so muss das Bewusstsein IM Menschen gefestigt sein.

Diese "Mama Roboter" sollen definitiv kein Gewissen haben. Vorschriften, Regeln, an die sich sich halten müssen, die aber auch zur Situation passend ausgelegt werden solllen. Die "Mama robots" selbst entscheiden nur kleine Dinge. Bei größeren Probleme wird die nächsthöhere KI-Instanz kontaktiert. Schlägt diese eine Vorgehensweise vor, dann soll diese von einer integren Gruppe von Menschen geprüft werden, ob das vom Gefühl her passend ist. Gibt es zwischen Menchen und KI andere Ansichten, dann können Menschen und KI sich darüber austauschen, und die beste Lösung finden. Bleibt es uneinig, gehts zur nächsten höheren KI-Instanz (mit noch mehr Erfahrung und Rechenleistung). So ungefähr stelle ich mir das vor, gibt aber sicher viele ungeklärte Fragen, aber keine, die nicht gelöst werden können. Bei den Menschen funktionieren Problemlösungsstrategien ja auch, nur nicht bei den auf die die ganze Zivilisation baut, und damit alle Ressourcen verbraucht. Bei zwischenmenschlichen Angelegenheit sehe ich jedoch das kleinere Problem.

So, reicht erst mal, auch wenn es noch viel zu erklären gäbe ...

[L.N. Muhr]

Ich halte Länder wie Dubai für sehr wohlhabend und sehr religiös.

[Badabumm]

Kurze Anmerkung: ich sprach natürlich vom Gewissen der Menschen. Nicht von dem der Roboter. Entschuldigung für das Missverständnis.

Hier muss man sich beeilen, Fehler und unklare Formulierungen zu korrigieren, weil das Editieren nur kurzzeitig möglich ist.

Auch Marktwirtschaft und Kapitalismus sind ein Glaube. Jedes imaginäre Gerüst, an das wir uns klammern, ist Religion. Dann kam der Begriff vielleicht zu eingeschränkt rüber.

[L.N. Muhr]

Religion verlangt das Übersinnliche. In dem Sinne ist Marktwirtschaft keine Religion, trotz unsichtbarer Hand des Marktes etc., da diese ja nur Handlungseffekt der Akteure gesehen wird, nicht als tatsächlich steuernde unabhängige Wesenheit.

Aber natürlich funktioniert Marktwirtschaft über den Glauben, oder vielleicht eher: über die Einsicht, dass der andere einer Zahl auf einem Konto oder einen Stück Papier ebenso viel Vertrauen schenkt wie ich. Glauben ist Vertrauen ohne Wissen. Ich denke, das fasst tatsächlich die Einstellung der meisten Menschen zum Kapitalismus recht gut zusammen.,

[manu2107]

Ich halte Länder wie Dubai für sehr wohlhabend und sehr religiös.

Solches Auf-Ungenaukeiten-Rumpicken bringt ein Thema ja ungemein weiter. Ich mag lieber konstruktive Fragen oder nachvollziehbare, ausführliche Argumentation, keine One-Liner.

Dubai ist nur deshalb so wohlhabend, weil die eben auf unglaublichen Mengen von Öl sitzen.

Ein langsamer, geschichtlicher Aufbau einer Industrie, wie z.B. in Europa, hat da nie stattgefunden. Ohne Öl würden dort alle auch leben, wie in den Ländern drumrum ohne Öl. Vielleicht als Nomaden, vielleicht in armseligen Dörfern. Nur: was hat das mit dem Thema zu tun?