Elon Musk, Stephen Hawking warnen, dass AI-Militärroboter das nächste globale Wettrüsten entzünden könnten

Elon Musk, Stephen Hawking warnen, dass AI-Militärroboter das nächste globale Wettrüsten entzünden könnten
Stellen Sie sich eine Zukunft künstlich intelligent vor ( AI) Militärische Roboter entscheiden, wer wann und warum töten soll - ganz allein, ohne menschliches Zutun. Stephen Hawking, Elon Musk und Steve Wozniak haben - und zusammen fordern sie die Menschheit auf, die erschreckende Möglichkeit zu stoppen, bevor sie beginnt.

Stellen Sie sich eine Zukunft künstlich intelligent vor ( AI) Militärische Roboter entscheiden, wer wann und warum töten soll - ganz allein, ohne menschliches Zutun. Stephen Hawking, Elon Musk und Steve Wozniak haben - und zusammen fordern sie die Menschheit auf, die erschreckende Möglichkeit zu stoppen, bevor sie beginnt.

Die weltberühmten Intellektuellen schlossen sich heute rund 1.000 Vordenkern und KI- und Roboterforschern an warnen, dass autonome Waffen das nächste globale Wettrüsten läuten könnten. Das heißt, wenn wir die Killermaschinen nicht zuerst stoppen.

Related: Warum wir keine künstliche Intelligenz fürchten sollten

Ihre kühne Botschaft erscheint in einem offenen Brief, der heute vom Bostoner Future of Life Institute veröffentlicht wurde (FLI). Das Schreiben, das auch von Google-DeepMind-Chef Demis Hassabis, dem Google-Forschungsdirektor Peter Norvig und dem Kognitionswissenschaftler Noam Chomsky unterzeichnet wurde, fordert ein Verbot "anstößiger autonomer Waffen". & Rdquo; Es wird morgen bei der Eröffnung der Internationalen Gemeinsamen Konferenz für Künstliche Intelligenz in Buenos Aires, Argentinien, offiziell vorgestellt.

Der Brief warnt: "Wenn irgendeine größere militärische Macht die Entwicklung von KI-Waffen vorantreibt, ist ein globales Wettrüsten praktisch unausweichlich, und der Endpunkt dieser technologischen Entwicklung liegt auf der Hand: autonome Waffen werden zu den Kalaschnikows von morgen.

Wie schnell ist "morgen", "rdquo; nach den führenden Köpfen hinter dem grimmigen, wenn nicht beunruhigenden Aufruf zum Handeln? Wir reden Jahre. "Künstliche Intelligenz (KI) Technologie hat einen Punkt erreicht, wo der Einsatz solcher Systeme - praktisch, wenn nicht rechtlich - innerhalb von Jahren, nicht Jahrzehnten möglich ist", heißt es in dem Brief.

Related: Human + A.I. = Ihre Geschäftszukunft

Ihre Autoren zitieren die Verwendung von bewaffneten Assassinen-Quadrocoptern, die nach Personen suchen können, die bestimmte vordefinierte Kriterien erfüllen, & rdquo; als ein Beispiel für eine Art von Technologie, die Ziele ohne menschlichen Eingriff auswählen und aktivieren kann. & rdquo; (Sie erinnern sich vielleicht daran, dass gerade letzte Woche eine Drohne, die mit einer Pistole bewaffnet wurde, das Internet in Brand setzte, obwohl sie von einem Menschen mit geringem Einkommen gesteuert wurde.)

Der Vier-Absatz-Brief ist nicht alles Untergangsstimmung. Es erkennt kurz an, dass KI-Kriegsmaschinen den Menschen nützen können, indem sie sie im Kampf ersetzen, was möglicherweise die Zahl der Opfer verringert. Auf der anderen Seite können sie jedoch katastrophal sein, möglicherweise "senken die Schwelle für den Kampf zu gehen", & rdquo; Treibstoff für Terrorismus und destabilisierende Nationen.

Verwandte Themen: 5 Dinge, die Sie nicht über Elon wissen Musk

Dies ist nicht das erste Mal, dass Hawking und Musk öffentlich zur Vorsicht bei der Anwendung von AI aufgerufen haben. Letzten Januar unterschrieben beide ein ähnliches FIL-Dokument. Es drückte auch die Notwendigkeit aus, die dystopischen potentiellen Fallstricke von KI abzuwenden, während es die Erforschung seines Nutzens zur "Ausrottung von Krankheit und Armut" drängt. "

Wozniak unterschrieb auch denselben früheren Brief, obwohl seine Ansichten über KI schien seitdem aufgehellt zu haben. Der Apple-Mitbegründer sagte kürzlich, dass er seine Angst überwunden habe, dass wir von künstlich intelligenten Bots ersetzt werden. Wenn sie schließlich übernehmen, denkt er, dass wir große Haustiere für sie machen werden.

Related: Elon Musks Geld wird verwendet, um AI vor dem Auslöschen von Menschen