In der Geschichte Runaround zeigt Asimov deutlich, dass die drei Gesetze kein rein boolesches Logiksystem sind. In dieser Geschichte ist die SPD verwirrt, weil er ein Gleichgewicht zwischen den beiden "Potentialen" findet: eines aus der beiläufig festgelegten Reihenfolge, essentielle Mineralien zu holen (zweites Gesetz), eines aus dem "dritten Gesetz", um seine Existenz zu schützen, seit dem Der Bereich, in dem sich die Mineralien befinden, ist für ihn gefährlich. Das Potenzial des zweiten Gesetzes ist schwach (weil der Befehl beiläufig erteilt wurde) und das Potenzial des dritten Gesetzes wurde erhöht, da Speedy ein extrem teurer Roboter ist. Dies lässt uns glauben, dass die Gesetze keine festen booleschen Bedingungen sind, sondern ein gewichtetes Gleichgewicht der Prioritäten.

Die wahrscheinliche Antwort auf Ihre Frage lautet daher, dass dies von den Umständen abhängt. Eine beiläufige Anweisung von jemandem, den der Roboter nicht kannte, könnte ignoriert werden. Eine zwangsweise erteilte Anweisung von einer autorisierten Person kann befolgt werden.

Der Wikipedia-Artikel besagt, dass

Asimov selbst in verschiedenen Büchern und Kurzgeschichten geringfügige Änderungen an den ersten drei vorgenommen hat, um die Interaktion von Robotern mit Menschen und untereinander weiterzuentwickeln. In späteren Fiktionen, in denen Roboter die Verantwortung für die Regierung ganzer Planeten und menschlicher Zivilisationen übernommen hatten

Allerdings ist Ihre Denial-of-Service -Angriffsidee interessant und würde es tun Seien Sie nützlich, wenn Sie daran denken, dass autonome Systeme heute oder im fiktiven Kontext entworfen werden, wenn Sie Handlungsstrukturen schreiben, die für aktuelle Ideen relevant sind.

Dieses Thema wurde in der Robotik untersucht - Sie ' Ich finde diesen Artikel auf space.com interessant zu lesen:

Die Robotikgesetze von Science Fiction brauchen einen Reality Check

von Jeremy Hsu, Special to SPACE. com - 19. August 2009.

Bezieht sich auf David Woods, einen Systemingenieur an der Ohio State University.

Woods arbeitete mit Robin Murphy, einem Rettungsroboter, zusammen Experte an der Texas A&M University, um drei Gesetze zu erstellen, die Menschen als intelligente, verantwortungsbewusste Erwachsene in der Roboter-Mensch-Beziehung anerkennen. Ihr erstes Gesetz besagt, dass Menschen Roboter möglicherweise nicht ohne ein Arbeitssystem einsetzen, das den höchsten rechtlichen und professionellen Standards für Sicherheit und Ethik entspricht. Ein zweites überarbeitetes Gesetz schreibt vor, dass Roboter entsprechend ihrer Rolle auf Menschen reagieren müssen, und geht davon aus, dass Roboter so konzipiert sind, dass sie auf bestimmte Befehle einer begrenzten Anzahl von Menschen reagieren.

Das dritte überarbeitete Gesetz sieht vor, dass Roboter genug haben Autonomie zum Schutz ihrer eigenen Existenz, solange dieser Schutz nicht im Widerspruch zu den ersten beiden Gesetzen steht und eine reibungslose Übertragung der Kontrolle zwischen Mensch und Roboter ermöglicht. Das bedeutet, dass ein Marsrover automatisch wissen sollte, dass er nicht von einer Klippe fahren soll, es sei denn, menschliche Bediener weisen ihn ausdrücklich an, dies zu tun.

Einige der im Universum angesiedelten Geschichten behandeln diesen Fall:

1. In Runaround gibt es einen Konflikt zwischen dem zweiten und dritten Gesetz (überprüfen Sie das Antwort von DJClajworth)

2. Im Zweihundertjährigen Mann / Der Positronische Mann ist eines der Elemente der Handlung, dass Menschen befehle dem Protagonisten, sich zu zerstückeln, was er tun muss.

3. In der zweiten Robotertrilogie ( Caliban , Inferno und Aurora ), das nicht von Asmiov geschrieben wurde. Einer der Hauptpunkte in der Geschichte ist, dass jeder fähige Mann einen Roboter bitten kann, sich selbst zu zerstören, und das macht einen Wissenschaftler dazu, ein neues Set zu erstellen von Gesetzen, die die Roboter eher zu einem Verbündeten als zu einem Sklaven machen.

ol>

Ein bisschen spät, aber ich habe gerade diesen sehr relevanten Teil aus The Robots of Dawn (Kapitel Daneel) gelesen. Elijah Baley schlägt vor, die Selbstzerstörung anzuordnen, um Daneel einen "Robotermord" zuzufügen. Seine Reaktion:

Auf Aurora - oder auf einer der Spacer-Welten - werden Roboter höher angesehen als auf der Erde und sind im Allgemeinen komplexer, vielseitiger und wertvoller. Das dritte Gesetz ist im Vergleich zum zweiten Gesetz über Abstandswelten deutlich stärker als auf der Erde. Ein Befehl zur Selbstzerstörung würde in Frage gestellt, und es müsste einen wirklich legitimen Grund dafür geben - eine klare und gegenwärtige Gefahr.

Sie werden verletzt, wenn ein Vandal einen Vorschlaghammer nimmt und Ihren Roboter zerstört, nicht wahr? Sie erleiden finanzielle Verluste; Vielleicht trauern Sie sogar um einen verlorenen Freund.

Wenn ein Roboter angewiesen wird, sich selbst ohne Motiv zu zerstören, würde dies Ihnen denselben Schaden zufügen und Sie fühlen sich daher gezwungen, nicht zu gehorchen.

Ja, Sie können Ihrem Roboter bzw. jedem Roboter sagen, dass er sich selbst zerstören soll. The Bicentennial Man wurde von SztupY bereits kurz erwähnt, aber ich möchte seine Antwort erweitern, da diese Geschichte genau das vom OP beschriebene Szenario anspricht: Was soll ein Haufen Vandalismus stoppen? Menschen davon abhalten, Robotern zu sagen, sie sollen sich selbst zerstören? Anscheinend nichts:

(Hervorhebung von mir)

Der Große sagte: „Lüg einfach da.“ Er sagte zu dem anderen: „Wir können ihn auseinander nehmen. Hast du jemals einen Roboter auseinander genommen? “

„ Wird er uns lassen? “

„ Wie kann er uns aufhalten? “

Es gab keinen Weg Andrew könnte sie aufhalten, wenn sie ihm befehlen, nicht energisch genug Widerstand zu leisten. Das zweite Gesetz des Gehorsams hatte Vorrang vor dem dritten Gesetz der Selbsterhaltung. Auf jeden Fall konnte er sich nicht verteidigen, ohne sie möglicherweise zu verletzen, und das würde bedeuten, das Erste Gesetz zu brechen. Bei diesem Gedanken zog sich jede bewegliche Einheit leicht zusammen und er zitterte, als er dort lag.

Der Große ging hinüber und schob ihn mit dem Fuß. "Er ist schwer. Ich denke, wir brauchen Werkzeuge, um die Arbeit zu erledigen. “

Die Nase sagte:„ Wir könnten ihm befehlen, sich auseinander zu nehmen. Es würde Spaß machen, ihm beim Versuch zuzusehen. ”

Andrew Martin wird nur gerettet, weil ein Mitglied der Familie Martin mitkommt. Infolge dieses Vorfalls kämpfen die Martins für Roboterrechte, und schließlich sind sie erfolgreich:

„[...] Wenn die Roboter drei Gesetze zum Schutz von Männern haben, ist das zu viel zu fragen, ob Männer ein oder zwei Gesetze zum Schutz von Robotern haben? “

[...] am Ende wurde ein Gesetz verabschiedet, das Bedingungen festlegte, unter denen roboterschädigende Befehle verboten waren.

Nach diesen Ereignissen wäre es illegal, einem Roboter zu befehlen, sich selbst zu zerstören. Ob dies Vandalen stoppen würde oder nicht, ist eine andere Frage.

Wenn ein Roboter sich selbst tötet, kann er gegen das erste Gesetz verstoßen. Wenn die Aufgabe Ihres Roboters (oder zumindest ein Teil davon) darin besteht, Sie zu schützen oder sich auf andere Weise um Sie zu kümmern, würde ein Befehl, sich selbst zu töten, dazu führen, dass er dazu nicht in der Lage ist. Dies ist ein klarer Verstoß gegen das erste Gesetz, sodass der Roboter die Anweisung missachten kann.

Können Sie dem Roboter etwas sagen? Natürlich kannst du. Was auch immer.

Und was würde einen Vandalismus in der Gesellschaft voller Roboter verhindern, die menschliche Befehle verstehen können? Oh ja, und was wird einen Vandalismus in der gegenwärtigen Gesellschaft ohne Roboter verhindern? Es ist dasselbe.

Mehr als eine Frage zu den drei Gesetzen, es ist eine Frage der menschlichen Moral und Ethik / und des Vandalismus. 3 Gesetze zählen zur idealen menschlichen Gesellschaft, wie Asimov wie viele andere Denker gehofft hat, dass die Evolution den Menschen in den idealen Zustand / die ideale Gesellschaft bringen wird ... aber die Erfahrung hat uns gezeigt, dass die Evolution dies nicht tun wird.

Lösung ist, wenn Sie Roboter als persönliches Eigentum von jemandem betrachten. Wenn Sie persönliches Eigentum eines anderen Menschen zerstören oder beschädigen, erhalten Sie eine Strafe oder gehen ins Gefängnis. Die Art der Realisierung bei zerstörten Robotern kann unterschiedlich sein. Bei Robotern mit hohem Wert können Sie als Eigentümer eine Prioritätsreihenfolge erteilen. Wenn Sie Ihr eigenes Eigentum zerstören, verlieren Sie wahrscheinlich die Garantie oder zumindest den Wert, den es Ihnen bringt. Beide Dinge werden den Menschen daran hindern ... Jedes Konzept ohne persönliches Eigentum wird zur Hölle gehen, da alles in der heutigen Gesellschaft dasselbe tut. Öffentliches Eigentum ohne Eigentümer befindet sich normalerweise in einem schlechten Zustand.

Eine Änderung der drei Gesetze ist nicht erforderlich, da jede Änderung dazu führen kann, dass die Maschine den Menschen als potenzielle Gefahr entscheidet und sie beseitigt, wie in beschrieben Terminator-Saga.

Der Zweck der Gesetze ist es, Menschen vor Robo-Schaden zu schützen, nicht umgekehrt.

Natürlich können viele andere Regeln existieren, die den Bots helfen, vernünftig auf menschliche Eingaben zu reagieren, aber das ist nicht der Fall Asimovs Problem.

Ich denke, es ist ziemlich klar, dass eine Person einem Roboter befehlen kann, sich selbst zu zerstören, und der Roboter würde sich daran halten.

IIRC gibt es ein Beispiel dafür in dem Roman The Caves of Steel . Es gibt einen Roboter, dessen Wissen der Mörder nicht preisgeben wollte, und IIRC, der Mörder, sagte dem Roboter einfach, er solle sich selbst zerstören. Der Roboter nahm eine Art strahlungsemittierendes Gerät, hielt es an den Kopf und verwirrte das positive Gehirn.

Wir haben den tatsächlichen Befehl nicht gesehen. Wahrscheinlich wäre "Roboter, halte dieses Ding an deinen Kopf und zerstöre dich selbst" angemessen gewesen. Sicherlich hätte "Roboter, ein Mensch wird Schaden nehmen, wenn Sie nicht Ihr positronisches Gehirn durcheinander bringen" funktioniert.

IMHO, Asimovs drei Gesetze der Robotik würden in der realen Welt nicht funktionieren. Sie sind vor allem deshalb wichtig, weil sie das erste Mal waren, dass ein Schriftsteller überhaupt über einen Rahmen von Sicherheitsregeln nachdachte, um zu verhindern, dass Roboter zu einer Bedrohung werden ... Vor Asimovs Robotergeschichten waren Roboter in SF-Geschichten eher gefährliche Dinge.

Asimov selbst hat eine Reihe von Geschichten geschrieben, die die Grenzen der drei Gesetze erforschen. In The Naked Sun hat beispielsweise jemand darauf hingewiesen, dass Sie ein Robotergehirn in ein Raumschiff ohne Besatzung an Bord (ein rein automatisiertes Raumschiff) setzen und dem Robotergehirn mitteilen könnten, dass alle Raumschiffe Maschinen sind Positronische Gehirne und Radiosendungen von anderen Schiffen sind nicht vertrauenswürdig ... dann hätten Sie ein Roboter-Raumschiff, das trotz des Ersten Gesetzes andere Raumschiffe zerstören könnte.

Andere Autoren stocherten in den Drei herum Gesetze in Geschichten. Der, an den ich mich am besten erinnere, ist "A Code for Sam", wo ein Drei-Gesetze-Roboter miserabel ist, weil die Drei-Gesetze im wirklichen Leben unpraktisch sind. (Beispiel: Ein Mensch raucht eine Zigarette, und der Roboter ist der Ansicht, dass er den Menschen davon abhalten muss, sich selbst zu verletzen. Daher muss der Roboter dem Menschen die Zigarette wegnehmen. Sowohl Mensch als auch Roboter sind jedoch verzweifelt.)

http://en.wikipedia.org/wiki/The_Three_Laws_of_Robotics_in_popular_culture

Es gibt einen wirklich hervorragenden Webcomic namens Freefall , der eigentlich ein harte SF-Geschichte, die die Probleme rund um Roboter und die Gesetze, nach denen Roboter arbeiten, untersucht hat. Eine der Hauptfiguren, vielleicht die Hauptfigur, ist Florence Ambrose; Sie ist ein emporgehobener Wolf und legal ist ihr Status genau wie ein Roboter (sie wird manchmal als "biologische KI" oder manchmal nur als "KI" bezeichnet). Im Freefall -Comic leben ungefähr 20.000 Menschen mit ungefähr 450 Millionen Robotern auf einer Welt, die terraformiert wird.

An einem Punkt diskutiert Florence die Befehlshierarchie: if Der Bürgermeister der Stadt befahl den Robotern, sich nicht ohne guten Grund selbst zu zerstören, dann wäre ein gewöhnlicher Mensch nicht in der Lage, dem Befehl zu widersprechen. Florence schlägt vor, eine vorübergehende Position einzunehmen, die allen anderen Positionen überlegen ist, und dann die Person in dieser Position den Robotern neue Befehle erteilen zu lassen, die ihnen tatsächlich Grundrechte verleihen. Die Position kann bei Bedarf jederzeit neu erstellt werden, wenn sich herausstellt, dass einer der neuen Aufträge Probleme aufweist. Dies würde die missbräuchliche Behandlung der Roboter verringern.

http://freefall.purrsia.com/

Die menschliche Frau in diesen drei Comics ist der Bürgermeister. Ich denke, der Planet hat nur eine Stadt, also ist sie die ranghöchste Regierungsbeamtin auf dem Planeten. Ebenfalls im Raum sind Florence (der emporgehobene Wolf) und der Praktikant des Bürgermeisters.

http://freefall.purrsia.com/ff2200/fc02137.htm

http://freefall.purrsia.com/ff2200/fc02138.htm

http://freefall.purrsia.com/ff2200/fc02139.htm

Nun, wenn es stimmt, dass

einem oder mehreren Menschen Schaden zufügt, wenn Sie sich willkürlich aus keinem anderen Grund zerstören, als wenn Sie dazu aufgefordert werden.

dann würde es durch Zerstörung selbst gegen Regel Nr. 1 verstoßen (unabhängig davon, ob es ihm gesagt wurde oder nicht), die Regel Nr. 2 außer Kraft setzt. Es hängt jedoch davon ab, wie Sie Regel Nr. 3 interpretieren. Bedeutet dies, dass mit Regel Nr. 2 oder Nr. 1 in Konflikt steht und er nicht seine schützen muss Existenz - alles andere ignorieren? oder einfach, dass es Regel 1 oder 2 nicht überschreiben kann.

Ja, ein Mensch kann die meisten Maschinen so bedienen, dass die Maschine zerstört wird.

Um den von Ihnen beschriebenen Vandalismus zu verhindern, benötigen Roboter ein Authentifizierungssystem, mit dem sie nur Bestellungen von autorisierten Personen annehmen können. So wie Sie nicht einfach ein zufälliges Auto auf der Straße auswählen und fahren oder Zugang zu den Steuerungen des Zuges erhalten können, sollten Sie in Wirklichkeit nicht in der Lage sein, einen zufälligen Roboter zu steuern.

Züge und viele Fabrikmaschinen verfügen über eine "Stopp" -Regelung, die von einer zufälligen Person bedient werden kann. Möglicherweise könnte ein Roboter von jeder Person einen "Stopp" -Befehl akzeptieren, falls dies für andere Menschen sicher ist.

Auf einer grundlegenden Ebene ja, wenn Sie einem Roboter sagen, er solle seinen eigenen Kopf abziehen, wird dies wie im Beispiel aus Die Höhlen aus Stahl in einer anderen Antwort erwähnt, obwohl in diesem Fall der betroffene Roboter war eine relativ einfache.

Andere Roboter mit einer komplexeren Sicht auf die drei Gesetze gleichen sie etwas anders aus, während die Reihenfolge der Gesetze grundsätzlich die gegensätzlichen "Potentiale" zwischen dem zweiten und dritten Gesetz führen würde Roboter, um zumindest die Notwendigkeit seiner Zerstörung in Frage zu stellen und die Ordnung vollständig zu ignorieren, wenn die Notwendigkeit zu überleben von einem anderen Menschen stark genug auf sie eingeprägt wurde.

Nicht, wenn ich meinem Roboter gesagt hätte, er solle sich nicht selbst zerstören. Es müsste dieser Anweisung genauso folgen wie der Anweisung der Person, die es ihm gesagt hat.

Jetzt hat es zwei widersprüchliche Anweisungen, sodass es entweder auf das 3. Gesetz fällt, das es vorschreibt, sich selbst keinen Schaden zuzufügen. oder es muss die widersprüchlichen Befehle priorisieren. Ich denke, dass die Priorisierung derjenigen seines Besitzers, wenn es keine andere Möglichkeit gibt, zu entscheiden, ein anständiger Standard wäre.

Heute Abend diskutieren wir mit einem Freund über die drei Gesetze, sogar über das vierte, als das nullte Gesetz hinzugefügt wurde.

Wir haben das Problem festgestellt. Ein Roboter muss auf Anweisung des Menschen gehorchen. Wenn ein Mensch ihm also sagt, er solle sich selbst töten, wird der Roboter dies tun, weil das dritte Gesetz erst als nächstes kam.

Für den Roboter, der sich nicht selbst getötet hat, muss ein einfaches Gesetz gelten zu den vorhergehenden Gesetzen zwischen dem ersten und dem zweiten Gesetz hinzugefügt werden.

Ein Roboter darf seine eigene Existenz nicht beenden, es sei denn, solche Befehle würden dem Ersten Gesetz widersprechen oder der Menschheit selbst größeren Schaden zufügen

Es ändert alle folgenden Gesetze, so dass es wird:

• Ein Roboter darf der Menschheit keinen Schaden zufügen oder durch Untätigkeit zulassen, dass die Menschheit Schaden nimmt.
• Ein Roboter darf einen Menschen nicht verletzen oder durch Untätigkeit zulassen, dass ein Mensch Schaden nimmt, es sei denn, dies ist erforderlich, um einen größeren Schaden für die Menschheit selbst zu verhindern.
• Ein Roboter darf nicht enden seine eigene Existenz, es sei denn, solche Befehle würden dem Ersten Gesetz widersprechen oder der Menschheit selbst größeren Schaden zufügen.
• Ein Roboter muss allen Befehlen gehorchen, die ihm von Menschen erteilt wurden, es sei denn, solche Befehle würden w widersprechen mit dem ersten oder zweiten Gesetz oder der Menschheit selbst größeren Schaden zufügen.
• Ein Roboter muss seine eigene Existenz schützen, solange dieser Schutz nicht mit dem ersten, zweiten oder dritten Gesetz in Konflikt steht oder der Menschheit größeren Schaden zufügt selbst.