Experten von ANYbotics, Boston Dynamics und Clearpath Robotics beantworten Fragen zum verantwortungslosen und unethischen Einsatz ihrer Roboter.
Abbildung: iStockphoto / IEEE-Spektrum
Die kommerzielle Produktion autonomer Roboter, die außerhalb einer strukturierten Umgebung betrieben werden können, ist in den letzten fünf Jahren in die Höhe geschossen. Dieser relativ junge Übergang von Robotertechnologien von der Kategorie der Forschungsprojekte zu einem kommerziellen Produkt geht jedoch mit gewissen Schwierigkeiten einher, von denen viele mit der Tatsache verbunden sind, dass immer mehr Roboter in der Gesellschaft auftreten.
Roboter verfolgen oft den Geist von Menschen, vielleicht wegen ihrer offensichtlichen Funktionalität oder einer typischen Darstellung in der Populärkultur. Manchmal führt dies zu positiven Ergebnissen, beispielsweise zu innovativen Verwendungsmöglichkeiten. Es gibt aber auch Situationen, in denen dies zu unethischem oder verantwortungslosem Gebrauch führt. Gibt es etwas, was Roboterverkäufer in solchen Fällen tun können? Und selbst wenn sie können, sollten sie?
Die Robotik glaubt, dass Roboter in erster Linie Werkzeuge sind. Wir entwerfen sie, wir programmieren sie und selbst autonome Roboter folgen einfach den Anweisungen, die wir in sie codiert haben. Es ist jedoch die offensichtliche Lebensfähigkeit von Robotern, die ein derartiges Interesse weckt, dass Menschen, die keine Erfahrung mit der Interaktion mit echten Robotern haben, möglicherweise nicht verstehen, dass der Roboter selbst nicht gut und nicht schlecht ist, sondern nur ein Spiegelbild seiner Designer und Benutzer. ...
Dies kann Robotikunternehmen in ein Dilemma bringen. Die Person, die den Roboter von ihnen gekauft hat, kann ihn hypothetisch nach Belieben verwenden. Dies gilt natürlich für jedes Werkzeug, aber die Einzigartigkeit der Situation bei Robotern liegt in ihrer Autonomie. Man kann sagen, dass Autonomie eine Beziehung zwischen einem Roboter und seinem Hersteller oder in diesem Fall dem Unternehmen, das ihn entwickelt und verkauft, impliziert. Diese Assoziation mag nicht ganz gerechtfertigt sein, aber sie besteht, obwohl letztendlich der Käufer des Roboters die vollständige Kontrolle über alle seine Handlungen hat.
, Spot , .
, Boston Dynamics
Natürlich verstehen Robotikunternehmen dies, da viele von ihnen sorgfältig überwachen, an wen sie ihre Produkte verkaufen, und sich über die wünschenswerten Verwendungsmöglichkeiten ihrer Roboter im Klaren sind. Aber wie weit sollte diese Verantwortung gehen, wenn ein Roboter „aus dem Nest fliegt“ des Unternehmens, das ihn geschaffen hat? Und wie ist das überhaupt möglich? Sollten Robotikunternehmen für die Handlungen ihrer Roboter in der menschlichen Welt zur Rechenschaft gezogen werden, oder sollte anerkannt werden, dass nach dem Verkauf eines Roboters die Verantwortung dafür auch auf den neuen Eigentümer übergeht? Und was kann getan werden, wenn es Fälle von verantwortungslosem oder unethischem Einsatz von Robotern gibt, die sich nachteilig auf die Roboterhersteller auswirken könnten?
Um dieses Problem besser zu verstehen, haben wir Mitarbeiter von drei Robotikunternehmen kontaktiert, von denen jedes Erfahrung im Verkauf einzigartiger mobiler Roboter an gewerbliche Verbraucher hat. Wir haben ihnen fünf Fragen zur Verantwortung der Robotikunternehmen für die von ihnen verkauften Roboter gestellt, und diese haben sie beantwortet.
Gibt es irgendwelche Einschränkungen, wie Menschen Ihre Roboter benutzen können? Wenn ja, welche und wenn nicht, warum?
Peter Fankhauser , CEO von ANYbotics :
Wir arbeiten eng mit Kunden zusammen, um sicherzustellen, dass unser Produkt die richtige Lösung für ihr Problem bietet. Somit verstehen wir sofort, warum der Roboter gekauft wird, und arbeiten nicht mit Kunden zusammen, die unseren ANYmal-Roboter für andere Zwecke verwenden möchten. Insbesondere erlauben wir kategorisch keinen militärischen oder bewaffneten Einsatz unserer Roboter, und seit der Gründung von ANYbotics versuchen wir, die Arbeitsbedingungen für Menschen zu verbessern, sie komfortabler, angenehmer und sicherer zu machen.
Robert Plater , CEO von Boston Dynamics :
Ja, wir haben Beschränkungen für den Einsatz unserer Roboter eingeführt, die im Kaufvertrag festgelegt sind. Alle unsere Käufer müssen ausnahmslos bestätigen, dass Spot nicht dazu verwendet wird, Menschen oder Tieren Schaden zuzufügen oder sie einzuschüchtern, als Waffe verwendet zu werden oder für das Halten einer Waffe ausgerüstet zu sein. Wie jedes andere Produkt muss Spot legal verwendet werden.
Ryan Gariepi , CTO von Clearpath Robotics :
Wir haben strenge Einschränkungen und Verfahren für die Sorgfaltspflicht gegenüber Kunden, die hauptsächlich auf den kanadischen Exportkontrollbestimmungen basieren. Sie hängen von der Art der verkauften Geräte sowie vom Verwendungsort ab. Im Allgemeinen werden wir einen Roboter auch nicht verkaufen oder unterstützen, wenn wir wissen, dass er ein unkontrollierbares Sicherheitsrisiko darstellt, oder wenn wir Grund zu der Annahme haben, dass der Käufer nicht für die Verwendung des Produkts qualifiziert ist. Und in der Regel unterstützen wir den Einsatz unserer Produkte für die Entwicklung voll autonomer Waffensysteme nicht.
Warum sollte ein Käufer eines Roboters in seiner Verwendung eingeschränkt sein?
Peter Fankhauser, ANYbotics:
Wir sehen den Roboter nicht als gewöhnliches Objekt, sondern als künstliche Arbeitskraft. Für uns bedeutet dies, dass der Transfer des Roboters und seine Verwendung eng miteinander verbunden sind und der Kunde und der Lieferant sich darauf einigen müssen, welche Aufgaben der Roboter ausführen wird. Dieser Ansatz findet Resonanz bei unseren Kunden, die zunehmend an der Möglichkeit interessiert sind, Roboter als Service oder pro Nutzung zu bezahlen.
Robert Plater, Boston Dynamics:
Wir verkaufen das Produkt und werden alles in unserer Macht stehende tun, um zu verhindern, dass Angreifer unsere Technologie nutzen, um Schaden zu verursachen. Wir können jedoch nicht jeden Anwendungsfall kontrollieren. Wir glauben jedoch, dass die beste Auswirkung auf unser Geschäft darin besteht, Technologie für friedliche Zwecke einzusetzen - um mit Menschen als zuverlässigen Helfern zusammenzuarbeiten und sie vor Gefahren zu schützen. Wir wollen nicht, dass unsere Technologie dazu verwendet wird, Gewalt zu schädigen oder zu fördern. Wir verwenden dieselben Einschränkungen wie andere Hersteller oder Technologieunternehmen, die Maßnahmen ergreifen, um die gewaltsame oder illegale Verwendung ihrer Produkte zu reduzieren oder zu beseitigen.
Ryan Gariepi, Clearpath Robotics:
Angenommen, die einschränkende Einheit befindet sich in Privatbesitz und der Roboter und seine Software werden verkauft, anstatt geleast oder verwaltet zu werden, dann gibt es keinen zwingenden rechtlichen Grund für die Einschränkung der Verwendung. Der Hersteller ist jedoch auch nicht verpflichtet, diesen bestimmten Roboter oder Kunden in Zukunft zu unterstützen. Da wir jedoch immer noch am Rande sozialer Veränderungen stehen, die Roboter mit sich bringen werden, liegt es im Interesse des Herstellers und des Anwenders, ihre Ziele ehrlich miteinander zu kommunizieren. Jetzt investieren Sie nicht nur in den ersten Kauf und die Beziehung zum Hersteller, sondern auch in das Versprechen, wie Sie sich in Zukunft gegenseitig zum Erfolg verhelfen können.
Wenn der Roboter aus Sicherheitsgründen rücksichtslos eingesetzt wird: eingreifen! Wenn Sie mit unethischem Gebrauch konfrontiert sind, schweigen Sie nicht!
Peter Funkhauser, ANYbotics
Was können Sie realistisch tun, um sicherzustellen, dass die gekauften Roboter bestimmungsgemäß verwendet werden?
Peter Fankhauser, ANYbotics:
Wir arbeiten eng mit Kunden zusammen, um sicherzustellen, dass unsere Lösung es ihnen ermöglicht, ihre Ziele zu erreichen. Daher haben wir die technischen Möglichkeiten aufgegeben, die Verwendung von Produkten für andere Zwecke zu blockieren.
Robert Plater, Boston Dynamics:
Wir prüfen unsere Kunden sorgfältig und stellen sicher, dass der Verwendungszweck der Funktionalität des Spot-Roboters entspricht und nicht den Bestimmungen des Kaufvertrags widerspricht. Wir lehnen es ab, an Kunden zu verkaufen, die Roboter für Aufgaben einsetzen möchten, die nicht ganz zu ihnen passen. Und im Falle eines Missbrauchs unserer Technologien oder eines Verstoßes gegen die Nutzungsregeln gemäß den Bestimmungen des Kaufvertrags erlischt die Garantie und die Möglichkeit, Updates, Wartung, Reparatur oder Austausch des Roboters zu erhalten. Wir können auch Roboter beschlagnahmen, die gemietet und nicht gekauft wurden. Schließlich werden wir Roboter nicht an Kunden weiterverkaufen, die gegen die Bestimmungen des Kaufvertrags verstoßen.
Ryan Gariepi, Clearpath Robotics:
Wir arbeiten normalerweise vor dem Verkauf mit Kunden zusammen, um sicherzustellen, dass ihre Erwartungen der Realität entsprechen, insbesondere in Bezug auf Sicherheit, Kontrollanforderungen und Benutzerfreundlichkeit. Es ist besser, überhaupt keinen Deal zu machen, als einen Roboter zu verkaufen, der Staub im Regal sammelt oder, noch schlimmer, Schaden verursacht. Deshalb ziehen wir es vor, das Risiko einer solchen Situation zu verringern, bevor wir den Auftrag erhalten oder den Roboter an senden der Käufer.
Wie bewerten Sie Borderline-Anwendungsfälle, zum Beispiel, wenn jemand Ihren Roboter in einem Kunst- oder Forschungsbereich einsetzen möchte, der die Grenzen dessen verschieben könnte, was Sie persönlich für verantwortlich oder ethisch halten?
Peter Fankhauser, ANYbotics:
Die Hauptsache ist, einen Dialog zu führen, sich gegenseitig zu verstehen und nach Alternativen zu suchen, die für alle interessierten Parteien geeignet sind. Je früher dieser Dialog beginnt, desto besser.
Robert Plater, Boston Dynamics:
Es gibt eine klare Grenze zwischen dem Studium von Robotern in Wissenschaft und Kunst und dem Einsatz von Robotern für gewalttätige oder illegale Zwecke.
Ryan Gariepi, Clearpath Robotics:
Wir haben bisher Tausende von Robotern an Hunderte von Kunden verkauft, und ich kann mich nicht erinnern, wann wir uns das letzte Mal nicht mit Exportkontrollen befasst und eine Gesamtbewertung der Kundenziele und -erwartungen vorgenommen haben. Ich bin sicher, dass sich dies ändern wird, wenn die Preise für Roboter weiter sinken und ihre Flexibilität und Benutzerfreundlichkeit steigen.
, , .
, Clearpath Robotics
Was sollte die Robotik tun, wenn sie sieht, dass ein Roboter unethisch oder verantwortungslos eingesetzt wird?
Peter Fankhauser, ANYbotics:
Wenn der Roboter aus Sicherheitsgründen rücksichtslos eingesetzt wird, greifen Sie ein! Wenn Sie mit unethischem Gebrauch konfrontiert sind, schweigen Sie nicht!
Robert Plater, Boston Dynamics:
Wir möchten, dass Roboter der Menschheit zugute kommen, was unter anderem bedeutet, dass Menschen keinen Schaden erleiden. Wir glauben, dass die Robotikindustrie auf lange Sicht nur dann wirtschaftlich rentabel wird, wenn Menschen Roboter als nützliche Werkzeuge betrachten, ohne sich Gedanken darüber zu machen, ob sie Schaden anrichten könnten.
Ryan Gariepi, Clearpath Robotics:
Wenn dies ein Einzelfall ist, sollten sie das Problem mit dem Benutzer, Lieferanten oder Lieferanten, den Medien sowie Aufsichts- oder Regierungsbehörden besprechen, wenn eine unmittelbare Sicherheitsbedrohung auftritt. Wenn diese Situation die Gefahr birgt, sich wiederholt zu wiederholen, und nicht ernst genommen wird, sollte die Robotik sie an geeigneten Orten zur breiteren Diskussion bringen: auf Konferenzen, in Branchengruppen, in Normungsgremien usw.
Fazit
Da immer mehr Roboter mit unterschiedlichen Fähigkeiten auf dem Markt erscheinen, können diese Probleme immer häufiger auftreten. Die drei Unternehmen, mit denen wir gesprochen haben, vertreten sicherlich nicht alle Standpunkte. Aber ich nehme an (Hoffnung?) Jeder, der an der Herstellung von Robotern beteiligt ist, würde zustimmen, dass Roboter eingesetzt werden sollten, um das Leben der Menschen zu verbessern. Was „besser“ im Kontext von Kunst, Forschung und sogar dem Einsatz von Robotern im Militär bedeutet, ist jedoch nicht immer leicht zu definieren, und es kommt unweigerlich zu Meinungsverschiedenheiten darüber, was ethisch und verantwortungsbewusst ist und was nicht.