RE: 🌐 Wenn Optimierung Eigendynamik entwickelt
You are viewing a single comment's thread:
Ich finde nicht, dass die Asimov´schen Gesetze überholt sind. Auch wenn derzeit noch Systeme überwiegen, werden diese Systeme bald Roboter steuern. Die werden dann wie autonom wirken (auch wenn im Hintergrund ein komplexes System in einer Cloud oder sonstwo läuft). Und diese Roboter werden früher oder später auch konkrete Situationen erleben, die so eine Werteheuristik erfordern, z.B. im Straßenverkehr. Soll ein Roboter, der grad beim Einkaufen ist und der sieht, wie ein Kind über eine Straße läuft, nicht eingreifen, um Schaden abzuwehren? Auch wenn das ihn selbst gefährdet?
Es wäre entsetzlich, wenn Roboter herumlaufen würden, die keine Ethikregeln einprogrammiert hätten. Schlimm genug, dass es viele Menschen gibt, die hier geduldet werden, ohne sich an die Spielregeln zu halten.
Ich halte die Asimov´schen Gesetze ebenfalls nicht für überholt. Sie formulieren was auch heute noch zentral ist: "die Technik darf dem Menschen nicht schaden" Mein Punkt war, dass die praktische Umsetzung komplexer ist, als die vier Sätze vermuten lassen.
Ein gutes Beispiel! Natürlich erwarten wir, dass ein Roboter Schaden abwendet. Doch in der technischen Realität bedeutet das: Wie definieren wir „Schaden“? Wie gewichten wir Selbstgefährdung gegenüber Fremdgefährdung? Welche Wahrscheinlichkeiten gelten als akzeptabel? Solche Systeme arbeiten nicht mit moralischen Intuitionen, sondern mit Sensorik und Wahrscheinlichkeitsmodellen. Die Herausforderung ist ethische Regeln in konkrete Entscheidungsarchitektur zu übersetzen.
Asimovs Gesetze sehe ich daher nicht als fertige Lösung, eher als moralischen Rahmen, der in technische Governance, Sicherheitsmechanismen und Verantwortungsstrukturen überführt werden muss.
Sehe ich auch so. Ein Rahmen, der aber in der von Asimov entwickelten Priorität, wichtig ist! Nur das 0. Gesetz, das könnte Probleme verursachen. Denn z.B. ein mit Klimareligion ("CO2 ist böse") infiziertes AI-System könnte Maßnahmen ergreifen, die scheinbar für die Menschheit besser sind, aber für die Meisten (ökonomisch) schädlich (ähnlich wie das irregeleitete Heizungsgesetz des Grünen Regimes in D.). Aber dazu braucht es keine AI, diese Fehlleitungen gibt es jetzt schon.
Tja, das 0. Gesetz entstand 40 Jahre später aus einem logischen Dilemma in Asimovs Roman (Robots and Empire): Was passiert, wenn das Wohl eines einzelnen Menschen im Widerspruch zum langfristigen Wohl der Menschheit steht? Damit verschob sich der Fokus von individueller hin zu kollektiver Ethik. Und ja, hier beginnt die eigentliche Problematik, weil Menschheit viel abstrakter ist, als ein einzelner Mensch. Die Definition wird politisch, moralisch und interpretativ.