KI im Militär: Deutschland und 96 andere sind gegen autonome Kampfroboter

[Gerdchen]

Meine persönliche Sicht auf die Problematik:
Nun ja, es ist wie es ist. Kriegerische Auseinandersetzungen sind der Motor der Evolution. Friede, Freude, Eierkuchen, kein Anpassungsdruck u.s.w. bedeuten Stillstand in der Entwicklung.
Darum haben sich die friedlichen Bonobos auch nicht weiterentwickelt und hängen immernoch gelangweilt in den Bäumen herum.
Es gäbe keine Notwendigkeit Technologie zu entwickeln. Das Zeug lässt sich dann selbstverständlich wie fast alles für friedliche oder andere Zwecke gebrauchen.

[White_Fox]

@HaWe:
Und wen kümmert es, was HRW dazu sagt?

Wie gesagt - ich wäre auch gegen jede kampftaugliche Technologie, die ich selber nicht im Griff habe und deshalb nicht nutzen kann. Aber das hat nichts mit Ethik zu tun.

[HaWe]

alles was mir dazu noch einfällt, ist:
gegen Dummheit ist kein Kraut gewachsen.
Sei's also drum....

[Moppi]

Darum haben sich die friedlichen Bonobos auch nicht weiterentwickelt und hängen immernoch gelangweilt in den Bäumen herum.

Na ja, hätte man vor 30 Jahren oder auch noch vor 10 so sagen können. Aber seit dem der Verdacht erhoben wurde, weil auch Hinweise existieren, dass das menschliche Gehirn, in seiner heutigen Funktion, mit Evolution allein nicht erklärt werden kann, sind solche Aussagen nicht mehr so ganz zutreffend.
Wenn sich die Theorie hält, dass die Entwicklung des Menschengehirns eine Laune der Natur war, dann wäre es auch noch unwahrscheinlicher, als bisher, dass es in unserem Universum intelligenteres Leben, als den Menschen, gibt (wobei anderes Leben wahrscheinlicher bleibt).
Vielleicht sollte man unter diesen Gesichtspunkten mit den Kriegen langsam mal aufhören, bevor der Mensch sich eines Tages tatsächlich selbst ausrottet. Wobei ich mir denke, dass die KI in Maschinen beim Militär wohl teilautonom wären. Es muss ja eine Art Kontrolle bestehen bleiben. Vielleicht kann man so Menschen aus Konflikten befreien, selbst mit Maschinen töten zu müssen, weil es den Befehl dazu gibt.


MfG

[Manf]

https://www.deutschlandfunk.de/autom...icle_id=456686

In dieser Darstellung erscheint es so, als wäre es von dem was mit einem Verbot noch zulässig sein soll bis zur vollständigen Autonomie der Systeme nur ein kleiner Schritt der eben verboten und geächtet werden soll.
Damit wären dann viele Formen der autonomen Aufklärung und des autonomen Transports zulässig bis kurz vor die Entscheidung, ob ein militärischer Eingriff tatsächlich stattfindet.

Vielen Kritikern aber bereitet schon das Sorgen. Denn es ist nur noch einen Schritt davon entfernt, das System selbst entscheiden zu lassen, ob es das Feuer eröffnet. Mary Wareham sagt: „Was uns die meisten Sorgen bereitet sind vollständig autonome Systeme, die Ziele selbst sammeln und auswählen. Im Hinblick darauf denke ich nicht, dass wir jetzt schon irgendetwas ‚Kampfroboter‘ nennen können.“

Die Entwicklung von autonomen Kampfrobotern bestünde demnach noch in der Kopplung der Aufklärung und der Ausführung, wohl eine eher juristische als eine technische Hürde.

https://de.wikipedia.org/wiki/Milit%C3%A4rroboter
https://de.wikipedia.org/wiki/Abstan...ma%C3%9Fnahmen

[White_Fox]

@HaWe:
Was hat meine Bewertung des Sachverhalts mit Dummheit zu tun? Wenn das dein Niveau ist - ok...das überrascht mich nicht.

Ich erinnere nur mal eben an diese Affennummer, wo v.d.L. als frische EU-Kommissionskröse ihren Willen kundgab, das Europa in Sachen KI an die Weltspitze will. Und zu diesem Anlaß erstmal einen Haufen Ethikrichtlinien vorlegte. Konkrete Ziele, Projekte und deren Finanzierung...nein, Ethikrichtlinien. Genau das, was man als erstes braucht wenn man an die Weltspitze will.

Es ist halt einfach so: Außer Ethik und Moral kommt aus Europa und vor allem aus Deutschland einfach gar nichts mehr. Die Weiterentwicklung würde ohne uns ganz genauso stattfinden. Das Maul halten und leise sein wäre besser gewesen, aber nein: Stattdessen diese beschämende Nummer...

[Gerdchen]

Na ja, hätte man vor 30 Jahren oder auch noch vor 10 so sagen können. Aber seit dem der Verdacht erhoben wurde, weil auch Hinweise existieren, dass das menschliche Gehirn, in seiner heutigen Funktion, mit Evolution allein nicht erklärt werden kann, sind solche Aussagen nicht mehr so ganz zutreffend.
Wenn sich die Theorie hält, dass die Entwicklung des Menschengehirns eine Laune der Natur war, dann wäre es auch noch unwahrscheinlicher, als bisher, dass es in unserem Universum intelligenteres Leben, als den Menschen, gibt (wobei anderes Leben wahrscheinlicher bleibt).
Vielleicht sollte man unter diesen Gesichtspunkten mit den Kriegen langsam mal aufhören, bevor der Mensch sich eines Tages tatsächlich selbst ausrottet. Wobei ich mir denke, dass die KI in Maschinen beim Militär wohl teilautonom wären. Es muss ja eine Art Kontrolle bestehen bleiben. Vielleicht kann man so Menschen aus Konflikten befreien, selbst mit Maschinen töten zu müssen, weil es den Befehl dazu gibt.


MfG

Ja, man hat dieses ominöse Gen "ARHGAP11B" mit seiner sehr unwahrscheinlichen, zufälligen Punktmutation als wahrscheinlich Hauptschuldigen für die Entwicklung unseres recht "leistungsfähigen" Gehirns ausgemacht.

[HaWe]

Meine persönliche Sicht auf die Problematik:
Nun ja, es ist wie es ist. Kriegerische Auseinandersetzungen sind der Motor der Evolution. Friede, Freude, Eierkuchen, kein Anpassungsdruck u.s.w. bedeuten Stillstand in der Entwicklung.
Darum haben sich die friedlichen Bonobos auch nicht weiterentwickelt und hängen immernoch gelangweilt in den Bäumen herum.
Es gäbe keine Notwendigkeit Technologie zu entwickeln. Das Zeug lässt sich dann selbstverständlich wie fast alles für friedliche oder andere Zwecke gebrauchen.

Eine reichlich beschränkte Sichtweise auf Evolution und Technik.
Auch andere Primaten, die durchaus aggressiver sind, haben sich nicht "weiterentwickelt": Schimpansen, Gorillas, Meerkatzen, ...
Und auch andere, aggressivere Nicht-Primaten haben sich nicht "weiterentwickelt": Nashörner, Nilpferde, Seelöwen, Killerwale, Krokodile, Komodowarane, Panther,...

[Holomino]

Ich erinnere nur mal eben an diese Affennummer, wo v.d.L. als frische EU-Kommissionskröse ihren Willen kundgab, das Europa in Sachen KI an die Weltspitze will. Und zu diesem Anlaß erstmal einen Haufen Ethikrichtlinien vorlegte. Konkrete Ziele, Projekte und deren Finanzierung...nein, Ethikrichtlinien. Genau das, was man als erstes braucht wenn man an die Weltspitze will.

KI hat kein Weltbild. Sie löst nur aus dem Kontext gerissene antrainierte Aufgaben. Das sind gewissenlose, blind gehorsame und jenseits der Zweckerfüllung strunzendämliche Systeme ohne Probleme verursachendes Bewusstsein.
Soldaten kann man nicht durch Training, Drogen oder Gehirnwäsche dauerhaft und ohne irreversible Schäden geistig auf das erforderliche Niveau des uneingeschränkten Erfüllungsgehilfen herunterschrauben, also versucht man es jetzt mit KI? Ich finde, wir brauchen mehr Ethik, mehr Moral.

[HaWe]

KI hat kein Weltbild. Sie löst nur aus dem Kontext gerissene antrainierte Aufgaben. Das sind gewissenlose, blind gehorsame und jenseits der Zweckerfüllung strunzendämliche Systeme ohne Probleme verursachendes Bewusstsein.
Soldaten kann man nicht durch Training, Drogen oder Gehirnwäsche dauerhaft und ohne irreversible Schäden geistig auf das erforderliche Niveau des uneingeschränkten Erfüllungsgehilfen herunterschrauben, also versucht man es jetzt mit KI? Ich finde, wir brauchen mehr Ethik, mehr Moral.

Kann ich voll unterschreiben. Wobei noch die immanente Indetermiertheit der Lernprozesse durch zwangsläufig insuffiziente Trainigsalgorithmen hinzukommt.