Τα ρομπότ δολοφόνοι και η χρήση τους θα συζητηθεί σε συνάντηση των ΗΕ

[MNP-10]

Ε απλα θα φοραμε κρανος και τελος

[8anos]

....Πώς θα υπαχθούν όμως αυτά τα όπλα στο δημόσιο διεθνές δίκαιο; Η διεθνής κοινότητα ερίζει από το 2014, στο πλαίσιο της Συμφωνίας για τα μερικά συμβατικά Όπλα CCW του ΟΗΕ. Από τις ανεπίσημες συνομιλίες πέρασε το θέμα σε επίσημες διαπραγματεύσεις το 2018 με τη συμμετοχή 70 χωρών, επιστημόνων και ΜΚΟ.

Αντικείμενο των συζητήσεων που ξεκίνησαν σήμερα και θα διαρκέσουν μέχρι τέλος του μηνός είναι τα θανατηφόρα αυτόνομα οπλικά συστήματα (Lethal Autonomous Weapon Systems, LAWS). Μπορεί να είναι ένα ρομπότ, που πολεμά στα πεδία των μαχών, αλλά και μικρά μη επανδρωμένα αεροσκάφη, που δεν υπάρχουν ακόμη βέβαια, αλλά ενδεχομένως στο εγγύς μέλλον. Πολύς χρόνος δεν απομένει. Η διεθνής κοινότητα είναι διαιρεμένη ανάμεσα σε 3 στρατόπεδα. Ανάμεσα σε χώρες που τα πολεμούν και ζητούν απαγόρευση των αυτόνομων όπλων και σε αυτές που προτείνουν μεσαίο δρόμο, ανάμεσά στους η Γερμανία και η Γαλλία. Τέλος, κατά της απαγόρευσης είναι χώρες που επενδύουν πολλά χρήματα στη στρατιωτική χρήση της τεχνητής νοημοσύνης, όπως οι ΗΠΑ, η Ρωσία, το Ισραήλ και η Βρετανία.

πηγή: https://p.dw.com/p/33i74

[badweed]

http://autonomousweapons.org/
https://www.stopkillerrobots.org/

το εβλεπα full screen και καποια στιγμη ξεχαστηκα και νομισα οτι περιμενα να ξεκινησει κανενα καινουριο c&c generals

[value_]

Κράτος που έχει τους πόρους και τα μέσα (που σημαίνει ότι είναι στην κορυφή της "τροφικής αλυσίδας"), δεν υπάρχει περίπτωση να μην αναπτύξει αυτή τη τεχνολογία. Δύο βασικά πλεονεκτήματα αυτής της τεχνολογίας είναι:

1. Λιγότερα φέρετρα γιά τον κατέχοντα.
2. Get the job done, χωρίς λιποταξίες ,πεσμένο ηθικό κλπ.

[xasapis1821]

ειναι ηθικο να παιρνει τη ζωη ενος ανθρωπου ενα ρομποτ ;

[badweed]

ειναι ηθικο να παιρνει τη ζωη ενος ανθρωπου ενα ρομποτ ;

ρομποτ , κατα μια εννοια (βασικη νομιζω) , ειναι ο αυτοματισμος μιας διαδικασιας που κανει ενας ανθρωπος, μεσω ενος μηχανηματος . δεν χρειαζεται απαραιτητα να ειναι ψηφιακο .
οποτε ρομποτ ειναι και το αυτοματο πιστολι /τουφεκι/καραμπινα

[kerkiss]

ειναι ηθικο να παιρνει τη ζωη ενος ανθρωπου ενα ρομποτ ;

όσο ηθικό είναι να του την παίρνει ένας άλλος άνθρωπος

[xasapis1821]

ρομποτ , κατα μια εννοια (βασικη νομιζω) , ειναι ο αυτοματισμος μιας διαδικασιας που κανει ενας ανθρωπος, μεσω ενος μηχανηματος . δεν χρειαζεται απαραιτητα να ειναι ψηφιακο .
οποτε ρομποτ ειναι και το αυτοματο πιστολι /τουφεκι/καραμπινα

μιλαμε για αυτονομα ρομποτ, οχι για αυτοματισμενα υπαρχει διαφορα.

- - - Updated - - -

όσο ηθικό είναι να του την παίρνει ένας άλλος άνθρωπος

μαλλον.

[badweed]

μιλαμε για αυτονομα ρομποτ, οχι για αυτοματισμενα υπαρχει διαφορα.

αυτονομα , ειναι τα ναρκοπεδια .
θελω να πω , χωρις να προσπαθω να μειωσω αυτο που προσπαθεις να αναδειξεις , οτι ο ανθρωπος , ανεκαθεν εχει και μια "σκοτεινη" φυση , οποτε τα εργα του θα εμπεριεχουν μερος αυτης της φυσης .
οσο μεγαλυτερο το εργο του , τοσο μεγαλυτερο και το σκοτος που θα μεταφερει .

[xasapis1821]

αυτονομα , ειναι τα ναρκοπεδια .
θελω να πω , χωρις να προσπαθω να μειωσω αυτο που προσπαθεις να αναδειξεις , οτι ο ανθρωπος , ανεκαθεν εχει και μια "σκοτεινη" φυση , οποτε τα εργα του θα εμπεριεχουν μερος αυτης της φυσης .
οσο μεγαλυτερο το εργο του , τοσο μεγαλυτερο και το σκοτος που θα μεταφερει .

κοιτα αναλογα ποιες θεωριες ακολουθεις η φυση του ανθρωπου ποικιλει μορφης. για τα ναρκοπεδια δεν ξερω σε τι αναφερεσαι, αλλα το CCW οριζει ως αυτονομα (lethal) οπλικα συστηματα, τα συστηματα που μπορουν να λαμβανουν και να αποφασιζουν απο μονα τους, χωρις ανθρωπινη εποπτεια. Τετοιου ειδους συστηματα δεν υπαρχουν ακομη. Αλλα προβλεπεται οτι η αναπτυξη και παραγωγη τους θα ειναι το 2030 - . Ειναι τρομαχτικη τεχνολογια η τεχνιτη νοημοσυνη, οχι μονο η στρατιωτικη χρηση της αλλα και η πολιτικη χρηση της, η οποια τελευταια εχει δειξει ηδη αρνητικη σημαδια.

[Φιλόσοφος_Στ@ρχίδας]

κοιτα αναλογα ποιες θεωριες ακολουθεις η φυση του ανθρωπου ποικιλει μορφης. για τα ναρκοπεδια δεν ξερω σε τι αναφερεσαι, αλλα το CCW οριζει ως αυτονομα (lethal) οπλικα συστηματα, τα συστηματα που μπορουν να λαμβανουν και να αποφασιζουν απο μονα τους, χωρις ανθρωπινη εποπτεια. Τετοιου ειδους συστηματα δεν υπαρχουν ακομη. Αλλα προβλεπεται οτι η αναπτυξη και παραγωγη τους θα ειναι το 2030 - . Ειναι τρομαχτικη τεχνολογια η τεχνιτη νοημοσυνη, οχι μονο η στρατιωτικη χρηση της αλλα και η πολιτικη χρηση της, η οποια τελευταια εχει δειξει ηδη αρνητικη σημαδια.

Αν ένα robot εχει προγραμματιστει να αποφασιζει απο μόνο του για το αν θα σκοτωσει κάποιον, ποιος φταίει σε περίπτωση που σκοτώσει κάποιον άδικα; Το ρομπότ η ο προγραμματιστής του;

[badweed]

Αν ένα robot εχει προγραμματιστει να αποφασιζει απο μόνο του για το αν θα σκοτωσει κάποιον, ποιος φταίει σε περίπτωση που σκοτώσει κάποιον άδικα; Το ρομπότ η ο προγραμματιστής του;

ο compiler

[aroutis]

*A robot may not injure a human being or, through inaction, allow a human being to come to harm.
*A robot must obey orders given it by human beings except where such orders would conflict with the First Law.
*A robot must protect its own existence as long as such protection does not conflict with the First or Second Law.

Οι παραπάνω 3 νόμοι προφανώς και δεν ισχύουν για το θέμα που συζητάμε.
Οπως λοιπόν καταλαβαίνει κάποιος, όταν παίζεις με τη φωτιά , συνήθως υπάρχει ο κίνδυνος να καείς.

[xasapis1821]

Αν ένα robot εχει προγραμματιστει να αποφασιζει απο μόνο του για το αν θα σκοτωσει κάποιον, ποιος φταίει σε περίπτωση που σκοτώσει κάποιον άδικα; Το ρομπότ η ο προγραμματιστής του;

μαλλον οι auditors και οι υπηρεσιες που εδωσαν εγκριση για την κυκλοφορια του ρομποτ. Τα bugs βεβαια ειναι ενα θεμα, αλλα οταν μιλαμε για τετοια τεχνολογια πρεπει να ειμαστε σιγουροι οτι bugs τετοιου βαθμου δεν υπαρχει περιπτωση να υπαρξουν. Αν υπαρξει αμφιβολια για την υπαρξη τετοιου bugs, τα ρομποτ αυτα απλα δεν θα κυκλοφορουν.

[8anos]

ΗΠΑ: Θανατηφόρο αυτόνομο όπλο το τουρκικό drone STM Kargu-2

Τουρκικό Drone καταδίωξε άνθρωπο με δική του... απόφαση

Military drones may have attacked humans for first time without being instructed to, UN report says

A military drone may have autonomously attacked humans for the first time without being instructed to do so, according to a recent report by the UN Security Council.

The report, published in March, claimed that the AI drone – Kargu-2 quadcopter – produced by Turkish military tech company STM, attacked retreating soldiers loyal to Libyan General Khalifa Haftar.
The 548-page report by the UN Security Council’s Panel of Experts on Libya has not delved into details on if there were any deaths due to the incident, but it raises questions on whether global efforts to ban killer autonomous robots before they are built may be futile.
Over the course of the year, the UN-recognized Government of National Accord pushed the Haftar Affiliated Forces (HAF) back from the Libyan capital Tripoli, and the drone may have been operational since January 2020, the experts noted.

“Logistics convoys and retreating HAF were subsequently hunted down and remotely engaged by the unmanned combat aerial vehicles or the lethal autonomous weapons systems such as the STM Kargu-2,” the UN report noted.

Αυτου του ειδους τα οπλα πρέπει να απαγορευτούν χθές!