RE: 🌐 Wenn Optimierung Eigendynamik entwickelt
You are viewing a single comment's thread:
Sehe ich auch so. Ein Rahmen, der aber in der von Asimov entwickelten Priorität, wichtig ist! Nur das 0. Gesetz, das könnte Probleme verursachen. Denn z.B. ein mit Klimareligion ("CO2 ist böse") infiziertes AI-System könnte Maßnahmen ergreifen, die scheinbar für die Menschheit besser sind, aber für die Meisten (ökonomisch) schädlich (ähnlich wie das irregeleitete Heizungsgesetz des Grünen Regimes in D.). Aber dazu braucht es keine AI, diese Fehlleitungen gibt es jetzt schon.
0
0
0.000
Tja, das 0. Gesetz entstand 40 Jahre später aus einem logischen Dilemma in Asimovs Roman (Robots and Empire): Was passiert, wenn das Wohl eines einzelnen Menschen im Widerspruch zum langfristigen Wohl der Menschheit steht? Damit verschob sich der Fokus von individueller hin zu kollektiver Ethik. Und ja, hier beginnt die eigentliche Problematik, weil Menschheit viel abstrakter ist, als ein einzelner Mensch. Die Definition wird politisch, moralisch und interpretativ.