Τεχνητή ηθική

Από τον Robert C. Koehler, Μάρτιο 14, 2019

Η Τεχνητή Νοημοσύνη είναι ένα πράγμα. Η τεχνητή ηθική είναι άλλη. Μπορεί να ακούγεται κάτι τέτοιο:

«Πρώτον, πιστεύουμε στην ισχυρή υπεράσπιση των Ηνωμένων Πολιτειών και θέλουμε οι άνθρωποι που την υπερασπίζουν να έχουν πρόσβαση στην καλύτερη τεχνολογία του έθνους, συμπεριλαμβανομένης της Microsoft».

Αυτά είναι τα λόγια του προέδρου της Microsoft Μπραντ Σμιθ, γράφοντας σε ένα εταιρικό blog το περασμένο φθινόπωρο για την υπεράσπιση της νέας σύμβασης της εταιρείας με τον Αμερικανικό Στρατό, ύψους $ 479 εκατομμυρίων, για να κάνουν τα ακουστικά για την αύξηση της πραγματικότητας για μάχη. Τα ακουστικά, γνωστά ως Ολοκληρωμένο Σύστημα Οπτικής Αύξησης ή IVAS, είναι ένας τρόπος για να «αυξηθεί η θνησιμότητα» όταν ο στρατός ασχολείται με τον εχθρό, σύμφωνα με αξιωματούχο του Τμήματος Άμυνας. Η συμμετοχή της Microsoft σε αυτό το πρόγραμμα προκάλεσε ένα κύμα αγανάκτησης μεταξύ των υπαλλήλων της εταιρείας, με περισσότερους από εκατό από αυτούς να υπογράφουν επιστολή στα ανώτατα στελέχη της εταιρείας ζητώντας την ακύρωση της σύμβασης.

"Είμαστε ένας παγκόσμιος συνασπισμός Οι εργαζόμενοι της Microsoft, και αρνούμαστε να δημιουργήσουμε τεχνολογία για πολέμους και καταπίεση. Είμαστε τρομακμένοι ότι η Microsoft εργάζεται για την παροχή τεχνολογίας όπλων στον Στρατιωτικό των ΗΠΑ, βοηθώντας την κυβέρνηση να «αυξήσει τη θνησιμότητα» χρησιμοποιώντας τα εργαλεία που χτίσαμε. Δεν υπογράψαμε για την ανάπτυξη όπλων και ζητάμε να πούμε πώς χρησιμοποιείται το έργο μας ".

Πω πω, λόγια συνείδησης και ελπίδας. Η βαθύτερη ιστορία σε όλα αυτά είναι οι απλοί άνθρωποι που ασκούν τη δύναμή τους να διαμορφώσουν το μέλλον και αρνούνται να αυξήσουν τη θνησιμότητα τους.

Με αυτό το συμβόλαιο, η επιστολή συνεχίζεται, η Microsoft "διέσχισε τη γραμμή στην ανάπτυξη όπλων. . . . Η εφαρμογή του HoloLens στο σύστημα IVAS έχει σχεδιαστεί για να βοηθήσει τους ανθρώπους να σκοτώσουν. Θα αναπτυχθεί στο πεδίο της μάχης και θα λειτουργήσει μετατρέποντας τον πόλεμο σε ένα προσομοιωμένο «βιντεοπαιχνίδι», απομακρύνοντας τους στρατιώτες από τα ζοφερά πόλεμο και την πραγματικότητα της αιματοχυσίας ».

Αυτή η εξέγερση ήταν αυτή που απάντησε ο Σμιθ, όταν είπε ότι πίστευε σε μια «ισχυρή άμυνα», υπονοώντας ότι τα ηθικά κλισέ και όχι τα χρήματα είναι αυτά που οδηγούν τις αποφάσεις των μεγάλων εταιριών ή τουλάχιστον αυτής της συγκεκριμένης μεγάλης εταιρείας. Κάπως τα λόγια του, τα οποία προσπάθησε να μεταβιβάσει ως αντανακλαστικά και βαθιά θεωρημένα, δεν είναι πειστικά - όχι όταν συγκρίνονται με ένα αμυντικό συμβόλαιο αξίας περίπου μισού δισεκατομμυρίου δολαρίων.

Ο Smith συνεχίζει, αναγνωρίζοντας ότι κανένα θεσμικό όργανο, συμπεριλαμβανομένου του στρατού, δεν είναι τέλειο, αλλά επισημαίνει ότι "ένα πράγμα είναι σαφές. Εκατομμύρια Αμερικανοί υπηρέτησαν και αγωνίστηκαν σε σημαντικούς και δίκαιους πολέμους, "η ανάδειξη κερασιών τέτοιων λαϊκών παλαιών όπως ο Εμφύλιος Πόλεμος και ο Β 'Παγκόσμιος Πόλεμος, όπου η ενισχυμένη θνησιμότητα της Αμερικής απελευθέρωσε τους δούλους και απελευθέρωσε την Ευρώπη.

Συναρπαστικά, ο τόνος της ανάρτησης του ιστολογίου δεν είναι αλαζονικός απέναντι στους υπαλλήλους - κάνει ό, τι σας λένε ή απολύσατε - αλλά, μάλλον, μαλακό, που μοιάζει να δείχνει ότι η δύναμη εδώ δεν συγκεντρώνεται στα ανώτερα επίπεδα διαχείριση. Η Microsoft είναι ευέλικτη: "Όπως συμβαίνει πάντοτε, αν οι υπάλληλοί μας θέλουν να εργαστούν σε ένα διαφορετικό έργο ή ομάδα - για οποιοδήποτε λόγο - θέλουμε να γνωρίζουν ότι υποστηρίζουμε την κινητικότητα των ταλέντων".

Οι υπάλληλοι που υπέγραψαν την επιστολή απαίτησαν την ακύρωση της σύμβασης άμυνας. Ο Σμιθ προσέφερε την προσωπική συνείδησή του: Ελάτε να γίνετε μέλος μιας άλλης ομάδας εάν δεν θέλετε να περάσετε τη γραμμή και να εργαστείτε για την ανάπτυξη όπλων. Η Microsoft τιμά τους υπαλλήλους πολλών ηθικών πειθών!

Η Τεχνητή Νοημοσύνη είναι ένα φαινόμενο υψηλής τεχνολογίας που απαιτεί πολύ περίπλοκο τρόπο σκέψης. Η τεχνητή ηθική κρύβεται πίσω από το πλησιέστερο κλισέ σε υποταγή σε χρήματα.

Αυτό που βλέπω εδώ είναι η ηθική αφύπνιση που ανακατεύει την κοινωνικοπολιτική έλξη: Οι εργαζόμενοι στέκονται για κάτι μεγαλύτερο από τα καθαρά προσωπικά συμφέροντα, πιέζοντας το μπρούντζο της Big Tech να σκέφτεται πέρα ​​από την ανάγκη τους για μια ατέρμονη ροή κεφαλαίου, οι συνέπειες είναι καταδικασμένες.

Αυτό συμβαίνει σε ολόκληρη τη χώρα. Μια κίνηση διεισδύει: ο τεχνικός δεν θα το χτίσει!

"Σε όλη τη βιομηχανία τεχνολογίας," το New York Times που ανέφεραν τον Οκτώβριο, "οι υπάλληλοι της κατάταξης απαιτούν μεγαλύτερη εικόνα για τον τρόπο με τον οποίο οι επιχειρήσεις τους αναπτύσσουν την τεχνολογία που έχτισαν. Στο Google, στο Amazon, στο Microsoft και στο Salesforce, καθώς και στις νεοσύστατες τεχνολογίες, οι μηχανικοί και οι τεχνολόγοι θέτουν όλο και περισσότερο το ερώτημα κατά πόσο τα προϊόντα στα οποία εργάζονται χρησιμοποιούνται για επιτήρηση σε μέρη όπως η Κίνα ή για στρατιωτικά έργα στις Ηνωμένες Πολιτείες ή αλλού .

"Αυτή είναι μια αλλαγή από το παρελθόν, όταν οι εργαζόμενοι της Silicon Valley τυπικά ανέπτυξαν προϊόντα με ελάχιστες αμφιβολίες για το κοινωνικό κόστος".

Τι θα γίνει αν η ηθική σκέψη - όχι σε βιβλία και φιλοσοφικές εκδοχές, αλλά στον πραγματικό κόσμο, τόσο εταιρική όσο και πολιτική - ήταν τόσο μεγάλη και πολύπλοκη όσο η τεχνική σκέψη; Δεν θα μπορούσε πλέον να κρύβεται πίσω από το κλισέ του δίκαιου πολέμου (και σίγουρα το επόμενο που ετοιμάζουμε θα είναι δίκαιο), αλλά θα έπρεπε να αξιολογήσει τον ίδιο τον πόλεμο - όλους τους πολέμους, συμπεριλαμβανομένων εκείνων του παρελθόντος 70 χρόνια περίπου, στην πληρότητα του κόστους και των συνεπειών τους - καθώς και να δούμε το είδος του μέλλοντος που θα μπορούσαμε να δημιουργήσουμε, ανάλογα με τις αποφάσεις που λαμβάνουμε σήμερα. Η σύνθετη ηθική σκέψη δεν αγνοεί την ανάγκη επιβίωσης, οικονομικά και αλλιώς, στην παρούσα στιγμή, αλλά παραμένει ηρεμία εν όψει αυτής της ανάγκης και βλέπει την επιβίωση ως συλλογική και όχι ανταγωνιστική επιχείρηση.

Η ηθική πολυπλοκότητα ονομάζεται ειρήνη. Δεν υπάρχει καθόλου απλοϊκή ειρήνη.

Robert Koehler, συνδικαλισμένος από το PeaceVoice, είναι ένας βραβευμένος δημοσιογράφος και συντάκτης του Σικάγου. Το βιβλίο του, Courage Grows Strong στο τραύμα είναι διαθέσιμο. Επικοινωνήστε μαζί του στο koehlercw@gmail.com ή επισκεφθείτε την ιστοσελίδα του commonwonders.com.