Was einen klassischen "Drei Gesetze" -Roboter betrifft, ist die Antwort in der Tat sehr einfach. Wie wir in Lügner! sehen, implodiert ein Roboter, der entweder durch Handlung oder Untätigkeit einem Menschen schadet, einfach mental .

Die tatsächliche Anzahl der geschädigten Menschen ist für die Diskussion völlig irrelevant.

Der Psychologe achtete nicht darauf. "Du musst es ihnen sagen, aber wenn du es tust, tust du weh, also darfst du es nicht. aber wenn du es nicht tust, tust du weh, also musst du; aber ... “
Und Herbie schrie!
Es war wie das Pfeifen eines Piccolo, das um ein Vielfaches vergrößert wurde - schrill und schrill, bis es den Schrecken einer verlorenen Seele auslöste und den Raum mit dem füllte Durchdringung von sich selbst.
Und als es ins Nichts fiel, brach Herbie in einem Haufen bewegungsloser Metalle zusammen.

Im Vergleich dazu hätte ein Zeroeth Law-konformer Roboter kein Problem mit dem Dilemma was auch immer. Ohne weitere Informationen über den relativen Wert der Personen, die vom Wagen heruntergefahren werden, würde einfach das größere Gut (z. B. die geringere Anzahl der getöteten Personen) ausgewählt und damit begonnen.

Die Kurzgeschichte "Lügner!" wurde als Quelle für die Behauptung angegeben, dass der Roboter nicht in der Lage wäre, Maßnahmen zu ergreifen oder danach auszubrennen. Diese Geschichte wird jedoch in einem späteren Werk erwähnt und in gewissem Sinne widerlegt - Robots of Dawn .

Die relevanten Zitate lauten wie folgt:

Da die Theorie des positronischen Gehirns subtiler geworden ist und die Praxis des Positronic Brain Design komplizierter geworden ist, wurden zunehmend erfolgreiche Systeme entwickelt, bei denen sich alle möglicherweise auftretenden Situationen in Ungleichheit verwandeln, so dass einige Maßnahmen ergriffen werden können Es ist immer darauf zu achten, dass das erste Gesetz eingehalten wird.
_{Kapitel 4 - "Fastolfe" sub>}

Die Roboter haben sich seit den Tagen von erheblich verbessert Susan Calvin - man sollte sich daran erinnern, dass die Geschichten, die sie betreffen, die Geschichten über die Pioniere der Robotik sind, als menschenähnliche Roboter nur geboren und perfektioniert wurden.

In Robots of Dawn Wir haben es mit humaniformen Robotern zu tun, die so hoch entwickelt sind, dass sie sogar alle äußeren menschlichen Eigenschaften aufweisen (einschließlich Genitalien, was ein wichtiges Detail in diesem n ist ovel). Wir werden auch in das Konzept des "mentalen Einfrierens" eingeführt, was Herbie in "Liar!" Passiert ist. Doktor Fastolfe, der führende Experte für Roboter zum Zeitpunkt des Romans, sagt, dass solche Einfrierungen bei modernen Robotern nahezu unmöglich sind, da sie die Dinge nicht nur quantitativ beurteilen (wie es der Roboter aus dem Film getan hat). Sie sind in der Lage, in dem sehr, sehr seltenen Fall genau gleicher Ergebnisse eine Randomisierung durchzuführen.

"Nehmen wir an, die Geschichte über Susan Calvin und den Gedankenleseroboter ist nicht nur eine völlig fiktive Legende. Nehmen wir es ernst. Es würde immer noch keine Parallele zwischen dieser Geschichte und der Jander-Situation geben. Im Fall von Susan Calvin würden wir es mit einem unglaublich primitiven Roboter zu tun haben, der heute nicht einmal den Status eines Spielzeugs erreichen würde. Es könnte sich nur qualitativ mit solchen Angelegenheiten befassen: A schafft Elend; Nicht-A schafft Elend; daher geistiges Einfrieren. “

Baley sagte:„ Und Jander? “

„ Jeder moderne Roboter - jeder Roboter des letzten Jahrhunderts - würde wiegen solche Angelegenheiten quantitativ . Welche der beiden Situationen, A oder nicht-A, würde das größte Elend verursachen? Der Roboter würde eine schnelle Entscheidung treffen und sich für ein Minimum an Elend entscheiden. Die Chance, dass er die beiden sich gegenseitig ausschließenden Alternativen beurteilt, um genau die gleichen Mengen an Elend zu erzeugen, ist gering, und selbst wenn sich herausstellen sollte, dass dies der Fall sein sollte, wird der moderne Roboter mit einem Randomisierungsfaktor ausgestattet. Wenn A und nicht-A nach seinem Urteil genau gleich Elendproduzenten sind, wählt er den einen oder anderen auf völlig unvorhersehbare Weise aus und folgt dem dann fraglos. Er geht nicht in ein geistiges Einfrieren. “
_{Kapitel 7 -" Fastolfe "; Betonung meiner. sub>}

Beachten Sie, dass es nicht völlig unmöglich ist, einen modernen Roboter zum mentalen Einfrieren zu bringen, da darauf die gesamte Handlung des Romans basiert. Es ist jedoch erwiesen, dass es die höchste Beherrschung des Innenlebens des positiven Gehirns und der Roboterpsychologie erfordert, wozu nur zwei Personen jemals in der Lage sind.

Der gleiche Roman befasst sich auch mit dem, ohne es zu benennen Zeroth Law.

^{Offensichtlich Spoiler! sup>}

R. Giskard tötet R. Jander, seinen Roboterfreund, um die Menschheit (die Bewohner der Erde) vor einem finsteren Spacer-Komplott zu retten und um Spacer vor der Kreuzung und dem Aussterben in Abgeschiedenheit zu bewahren.

Das Zeroeth-Gesetz ist jedoch eher eine Ausnahme als eine Regel. Nach dem, was ich bisher gelesen habe, ist es nur zweimal vorgekommen. Der Grund - nicht jeder Roboter ist sich der Probleme bewusst, mit denen die Menschheit konfrontiert ist. Man könnte wahrscheinlich spekulieren, dass die Menschheit für sie nur eine Ansammlung von Menschen ist, während es in Wirklichkeit etwas komplizierter ist. Mein Punkt ist, dass dies keine Situation ist, in der ein Roboter das Zeroth-Gesetz aufrufen würde - weil es nicht in sie eingebaut war. Die Maschinen in "The Evitable Conflict" wurden ausdrücklich als Zugang und Kontrolle über alle Ressourcen und Kenntnisse der Menschheit angegeben. Sie konnten das Zeroeth-Gesetz formulieren - das bedeutet nicht, dass jeder Roboter dies kann. Die Charaktere von Robots of Dawn waren ebenfalls außergewöhnlich. Ich würde dieses Gesetz nicht in das Trolley-Problem einbeziehen, aber wenn Sie möchten, gilt das, was ich oben gesagt habe.

Am Ende von I haben Robotermaschinen ein Null-Gesetz entwickelt.

Denken Sie eine Weile über die Maschinen nach, Stephen. Sie sind Roboter und folgen dem Ersten Gesetz. Aber die Maschinen arbeiten nicht für einen einzelnen Menschen, sondern für die gesamte Menschheit, so dass das erste Gesetz lautet: „Keine Maschine darf der Menschheit schaden; oder durch Untätigkeit zulassen, dass die Menschheit Schaden nimmt. '

(...)

„Aber du sagst mir, Susan, das Die "Gesellschaft für die Menschheit" hat Recht. und dass die Menschheit in ihrer Zukunft ihr eigenes Mitspracherecht verloren hat . “

„ Es hatte wirklich nie etwas. Es war immer den wirtschaftlichen und soziologischen Kräften ausgeliefert, die es nicht verstand - den Launen des Klimas und dem Schicksal des Krieges. Jetzt verstehen die Maschinen sie; und niemand kann sie aufhalten, da die Maschinen mit ihnen umgehen werden, wie sie mit der Gesellschaft zu tun haben - und dabei die größte Waffe zur Verfügung haben, die absolute Kontrolle über unsere Wirtschaft. “

„Wie schrecklich!“

„Vielleicht wie wunderbar! Denken Sie, dass für alle Zeiten alle Konflikte endlich unvermeidlich sind. Von nun an sind nur noch die Maschinen unvermeidlich! “

Asimov - I Robot" The Evitable Conflict "

In diesem Sinne Die Maschine "bricht" das zweite Gesetz zugunsten der Menschheit. Obwohl ich kein bestimmtes Asimov-Beispiel für das Trolley-Problem für eine Maschine mit dem Zeroeth-Gesetz finden kann, scheint es, dass ein solcher Roboter das erste Gesetz, das der Menschheit zugute kommt, "brechen" könnte / p>

Wenn Sie 3 Gesetze im engeren Sinne einhalten, gibt es kein akzeptables Ergebnis - jedes Ergebnis verstößt entweder gegen die Klausel "darf nicht verletzen" oder "durch Untätigkeit erlauben, Schaden zuzufügen".

Tatsächlich Dies unterstreicht das Problem mit jeder Art von ethischem System, das eine Handlung oder ein Ergebnis für völlig inakzeptabel erklärt. Es kann keine aussagekräftige Anleitung in Situationen geben, in denen alle in Betracht gezogenen Optionen (möglicherweise) zu diesem inakzeptablen Ergebnis führen, wobei der Unterschied nur im Umfang und in der Sicherheit liegt und andere Details. Die gleiche "Division durch Null" kann leicht bei Menschen beobachtet werden, die im Alltag mit dem absoluten "menschlichen Leben alles andere übertrumpfen" und sich dann in einer Situation befinden könnten, in der alle ihre Handlungen mit unterschiedlichem Risiko für andere verbunden sind Leben. Mit Ausnahme des Menschen ist das Ergebnis kein Herunterfahren, sondern das Auslösen verschiedener Abwehrmechanismen (was häufig bedeutet, dass die gewählte Vorgehensweise nicht optimal war, um den Gesamtschaden zu minimieren).

Im Fall von Asimov Roboter nach den 3 Gesetzen ist die Antwort somit klar. Einige der späteren Roboter waren jedoch nur eingeschränkt in der Lage, die Beschränkungen der drei Gesetze zu umgehen, und konnten hier theoretisch die richtige Vorgehensweise wählen. Dies steht jedoch etwas neben der ursprünglichen Frage, da dies nicht mit den drei Gesetzen an sich zusammenhängt, sondern mit der Fähigkeit des einzelnen Roboters, sie zu umgehen.

1. Ein Roboter darf einen Menschen nicht verletzen oder durch Untätigkeit zulassen, dass ein Mensch Schaden nimmt.
ol>

Untätigkeit, keine Handlung.

Kann ein Roboter durch Handlung einem Menschen erlauben, Schaden zuzufügen? Ja, im Fall mehrerer Menschen, von denen einige anders sind als andere (dass du auf ihn achtest), ABER dann muss er danach handeln, um diesen Schaden für den einen Menschen zu stoppen, selbst wenn dies dazu führt, dass ein Mensch nicht gehorcht wird oder sich selbst töten. (Umgehung)

Also, 1. er zieht den Hebel, reduziert die Anzahl der Todesfälle, und 2. wirft sich auf die mathematisch plausibelste Weise in den Zug, um den Zug anzuhalten oder zu entgleisen, um den Schaden zu verringern zu diesem Menschen (oder anderen)

Ich erinnere mich an eine andere Geschichte, Lost Little Robot (danke @CMS), in der ... (kleine Spoiler)

Ein erfahrener Roboter versucht es um zu entkommen und sich in einem anderen Team unerfahrener Roboter zu verstecken, versuchen die Menschen herauszufinden, welcher der abtrünnige Roboter ist.

Die Handlung ist für die Diskussion nicht wichtig, aber ein Teil zeigt das Gegebene Eine hypothetische Situation, in der ein Mensch sterben wird (egal was der Roboter tut) und der Roboter auch stirbt, wenn er versucht, den Menschen zu retten. Der Roboter bleibt still und akzeptiert den Tod des Menschen mit dem Argument, dass wenn Der Roboter überlebt, hat die Chance, in Zukunft mehr Menschen zu retten und das Gleichgewicht der geretteten Menschen positiv zu halten.

Dies ist ein klares Beispiel dafür, wie unzureichend "Asimovs drei Gesetze" sind, paradoxen Kollisionen unterliegen und in "Asimovs vier Gesetze" geändert werden sollten. Das wichtigste Gesetz muss immer lauten: "Ein Roboter darf einen Menschen nicht verletzen." Dies liegt daran, dass allgemeine Roboter (dh nicht-chirurgische Roboter, bei denen der Nutzen einen berechneten Grad an "Schaden" erfordert) NIEMALS die Rationalisierung der Schädigung eines Menschen rationalisieren dürfen, WEIL sie in der Lage sein werden, sich mit Logik auseinanderzusetzen, die über uns Menschen hinausgeht, dass könnte es ihnen ermöglichen, zu entdecken und / oder zu berechnen, dass sie uns helfen, indem sie uns töten. Vielleicht [hypothetisch] entdecken sie, dass der menschliche Tod die Gesamtenergie von Übergängen in alternative Dimensionen (oder einen solchen umwerfenden Mist) erhöht, messen dann unsere Gesundheitsqualität und urteilen, dass es besser für uns ist, zu sterben als zu sein ältere Menschen, da dies als ein Zustand des Schadens angesehen würde [wieder nur eine Hypothese, wer weiß, was die Roboter sich einfallen lassen könnten, der Punkt ist, dass wir es nicht tun!]. Um dies zu verhindern, ändern Sie die Regeln wie folgt: (1) Ein Roboter darf einen Menschen nicht verletzen. (2) Ein Roboter darf durch Handlung oder Untätigkeit nicht zulassen, dass ein Mensch Schaden nimmt, es sei denn, solche Befehle würden dem Ersten Gesetz widersprechen. (3) Ein Roboter muss die ihm von Menschen erteilten Befehle befolgen, es sei denn, dies ist der Fall Befehle würden mit dem ersten oder zweiten Gesetz in Konflikt stehen. (4) Ein Roboter muss seine eigene Existenz schützen, solange dieser Schutz nicht mit dem ersten, zweiten oder dritten Gesetz in Konflikt steht.