Όταν τα ρομπότ δεν μπορούν να χειριστούν την αλήθεια: τεχνητή νοημοσύνη και ακτιβισμός

προσομοιωμένη ακουαρέλα από υπολογιστή 7 ατόμων που κλαίνε μπροστά από τη γέφυρα του Μπρούκλιν

Του Marc Eliot Stein, World BEYOND War, 31 Ιουλίου 2023

Αυτή είναι μια πλήρης μεταγραφή του επεισοδίου 50 του World BEYOND War: ένα νέο podcast.

Είναι Ιούλιος, το καυτό καλοκαίρι του 2023. Ξέρετε ποιος είμαι, είμαι ο Marc Eliot Stein, διευθυντής τεχνολογίας του World Beyond War, ακόμα εδώ, στα εδάφη Lanape του Μπρούκλιν της Νέας Υόρκης, εξακολουθεί να κάνει το σωστό εδώ στο World Beyond War το podcast, Εκτός από το σήμερα είναι ξεχωριστό γιατί αυτό είναι το επεισόδιο 50, ουάου ένα στρογγυλό νούμερο.

Όταν ξεκίνησα αυτό το podcast, υποθέτω ότι ποτέ δεν σκέφτηκα αν θα έφτανα ποτέ στα 50 επεισόδια ή όχι. Ο αριθμός 50 σίγουρα δεν θα φαινόταν ρεαλιστικός εκείνη τη στιγμή. Υποθέτω ότι κυρίως αναρωτιόμουν αν θα ολοκλήρωνα ποτέ το επεισόδιο νούμερο 1, και υπήρξαν μερικές στενές συνομιλίες με την παραίτηση πριν το κάνω.

Και εδώ είμαι στα 50, και τι χαρούμενο είναι να συνειδητοποιώ ότι καταλάβαμε πώς να κάνουμε αυτό το αντιπολεμικό podcast να λειτουργήσει πραγματικά και βρήκαμε ένα κοινό που αυξάνεται κάθε μήνα. Είμαι τόσο περήφανος για αυτό το podcast και είμαι ευγνώμων σε όλους όσοι έχουν συμμετάσχει σε αυτό μέχρι τώρα.

Το podcasting είναι μια μοναδική δημιουργική μορφή. Δεν μοιάζει με τίποτα άλλο. Το ξέρω γιατί είμαι και εγώ εθισμένος στα podcast. Έχω τουλάχιστον 20 τακτικές εκπομπές που με ενδιαφέρουν πραγματικά – για την ιστορία, την πολιτική, την τεχνολογία, τη μουσική, τη λογοτεχνία, την τηλεόραση, τις ταινίες. Όταν έχω τη διάθεση να χαλαρώσω και να διευρύνω τις γνώσεις μου ταυτόχρονα, δεν υπάρχει πραγματικά καμία άλλη μορφή που να ταιριάζει με τον τρόπο που κάνει ένα podcast. Νομίζω ότι αυτή είναι μια σημαντική διάκριση: βάλτε έναν οικοδεσπότη και έναν καλεσμένο σε ένα διαδικτυακό σεμινάριο, ας πούμε, ή σε μια ζωντανή συνομιλία, και θα έχουν ένα είδος συνομιλίας, αλλά αν βάλετε τα ίδια δύο άτομα σε μια συνέντευξη podcast, κατά κάποιο τρόπο θα Θα έχω ένα διαφορετικό είδος συνομιλίας – πιθανότατα πιο προσωπική, πιο αυθόρμητη, πιο περιπλανώμενη, περισσότερο αυτή τη στιγμή, λιγότερο σχεδιασμένη να προχωρήσει προς ένα συμπέρασμα.

Γιατί είναι αυτό ακριβώς; Δεν ξέρω, αλλά ο αείμνηστος φιλόσοφος των μέσων και της τεχνολογίας Marshall McLuhan έγραψε κάτι το 1964 για το πόσο γρήγορα άλλαζε η νέα δημοτικότητα της τηλεόρασης τη σύγχρονη κοινωνία, και είχε δίκιο. Το μέσο, ​​είπε ο McLuhan, είναι το μήνυμα. Η μορφή είναι το περιεχόμενο.

Για παράδειγμα, θα μπορούσατε να γράψετε τις ίδιες λέξεις στο Facebook και στο Twitter και στο LinkedIn και οι λέξεις θα έχουν διαφορετικό ιδιαίτερο νόημα σε κάθε περίπτωση. Δεδομένου ότι τα podcast γιορτάζουν την αυθόρμητη και ανεξέλεγκτη ανθρώπινη φωνή, το podcasting έχει γίνει ένα φόρουμ όπου η ανθρώπινη αμφιθυμία ή ακόμη και η περίπλοκη αντίφαση και ειρωνεία μπορούν εύκολα να γίνουν ευπρόσδεκτα και κατανοητά. Υποθέτω ότι αυτό είναι ένα καλό φόρουμ για να μιλήσουμε για μια τάση που είναι πολύ στις ειδήσεις και την οποία έχω πολλές διφορούμενες και μπερδεμένες σκέψεις από μέρους μου να μοιραστώ μαζί σας σήμερα. Μιλάω για τεχνητή νοημοσύνη.

Όταν ο Marshall McLuhan είπε ότι το μέσο είναι το μήνυμα το 1964, τότε που λίγοι άνθρωποι σκεφτόντουσαν τους λεπτούς τρόπους με τους οποίους η τηλεόραση και άλλα οικεία ραδιοτηλεοπτικά μέσα που βασίζονταν στο σπίτι άλλαζαν τον ίδιο τον ιστό της ανθρώπινης κοινωνίας. Σήμερα, ένα νέο μέσο που ενεργοποιείται από την πιο σύγχρονη τεχνολογία του σήμερα απειλεί επίσης να έχει τεράστιο κοινωνικό αντίκτυπο. Μιλώ για δημοφιλή εργαλεία τεχνητής νοημοσύνης γενικής χρήσης, όπως το ChatGPT, τα οποία είναι διαθέσιμα σε οποιονδήποτε έχει σύνδεση στο Διαδίκτυο – και αν δεν έχετε ακούσει για το ChatGPT, τραβάει μεγάλη προσοχή παντού λόγω του πόσο καλά μιμείται την ανθρώπινη συνομιλία και πόσο αβίαστα μπορεί να ενσωματώσει και να ανακτήσει ολόκληρο το ευρύ φάσμα των διαθέσιμων γενικών γνώσεων.

Τα Chatbots υπάρχουν εδώ και μερικά χρόνια – μπορεί να είναι τόσο απλά και αβλαβή όσο τα φιλικά αυτοματοποιημένα chatbot εξυπηρέτησης πελατών σε έναν ιστότοπο BestBuy ή Ticketmaster. Τα νέα chatbots όπως το ChatGPT4 δεν περιορίζονται σε ηλεκτρονικά προϊόντα ή εισιτήρια συναυλιών – πρόκειται για πολύ διαφορετικούς τύπους μηχανών γνώσης, γνωστές ως μεγάλα γλωσσικά μοντέλα, που έχουν εκπαιδευτεί να κατανοούν το σύνολο της ανθρώπινης νοημοσύνης.

Μερικές φορές οι άνθρωποι πιστεύουν ότι το G στο ChatGPT είναι για General, και αυτό θα ήταν μια αξιοπρεπή εικασία, επειδή το σύστημα έχει σχεδιαστεί για να επιδεικνύει γενική ευφυΐα και γενικές γνώσεις. Το G στην πραγματικότητα σημαίνει Generative, που σημαίνει ότι αυτό το προϊόν έχει επίσης σχεδιαστεί για να δημιουργεί πράγματα - για να δημιουργεί πρωτότυπες εικόνες και λέξεις. Το P σημαίνει pre-trained, για το οποίο θα μιλήσουμε σε λίγα λεπτά, και το T είναι για το Transformer, το οποίο δεν είναι ένα κλασικό άλμπουμ του Lou Reed, αλλά ένα μοτίβο σχεδιασμού λογισμικού που επιτρέπει στο μοντέλο γλώσσας να ανταποκρίνεται στα εισαγόμενα κείμενα όχι από επεξεργασία μιας λέξης τη φορά, αλλά εξετάζοντας και εκτελώντας μετασχηματισμούς σε ολόκληρο το εισαγόμενο κείμενο ως σύνολο.

Αυτά τα νέα chatbots μπορούν να συνομιλούν για οποιοδήποτε θέμα με ένα φιλικό, διαπροσωπικό, διακριτικό στυλ συνομιλίας. Τα chatbots μπορούν να γράφουν δοκίμια, να λύνουν προβλήματα, να κάνουν αναζητήσεις σε βάθος στη βάση δεδομένων, να δημιουργούν κώδικα υπολογιστή, να απαντούν άμεσα σε δύσκολες ερωτήσεις. Το ChatGPT και άλλες προσφορές σαν αυτό δείχνουν ένα επίπεδο γλωσσικής και ολοκληρωμένης ευελιξίας που φαίνεται να προωθεί τον τομέα της τεχνητής νοημοσύνης πιο γρήγορα από ό,τι πολλοί από εμάς περιμέναμε ότι θα ήταν δυνατό. Υπήρχε μια είδηση ​​πριν από λίγο καιρό ότι κάποιο προσωπικό της Google πίστευε ότι το δικό τους σύστημα τεχνητής νοημοσύνης θα μπορούσε να περάσει το τεστ Turing και να γίνει δυσδιάκριτο από την αισθανόμενη ανθρώπινη επικοινωνία, τρομάζοντας τους ειδικούς της Google με τα στοιχεία της συνείδησής της. Δεν ξέρω αν προσωπικά πιστεύω ότι κάποια τεχνητή νοημοσύνη μπορεί να περάσει το τεστ Turing, αλλά ξέρω ότι πολλοί ειδικοί πιστεύουν τώρα ότι αυτό γίνεται εφικτό.

Τα chatbot γενικής γνώσης δεν είναι η μόνη δημοφιλής περίπτωση χρήσης για AI. Οι γεννήτριες εικόνων μπορούν να δημιουργήσουν άμεσα οπτικά έργα τέχνης από μηνύματα κειμένου – μερικές φορές εντυπωσιακές, έξυπνες εικόνες που θα χρειάζονταν ώρες ή μέρες ή εβδομάδες για να δημιουργήσουν οι φυσικοί ζωγράφοι ή οι ψηφιακοί καλλιτέχνες. Η δημιουργία εικόνας από μηνύματα προτροπής κειμένου είναι μια πραγματικότητα σήμερα μέσω δωρεάν ηλεκτρονικών γεννητριών εικόνων τεχνητής νοημοσύνης όπως το DALL-E, από την OpenAI, την ίδια εταιρεία της Silicon Valley που δημιούργησε το ChatGPT. Μπορείτε να φανταστείτε μια ιδέα και να περιγράψετε ένα στυλ ζωγραφικής και αυτή η διαδικτυακή υπηρεσία σας στέλνει μαγικά ένα σωρό διαφορετικές παραλλαγές προσπαθειών για να καταγράψετε την ιδέα σας.

Μια προτροπή DALL-E που διαβάζει "παρακαλώ ζωγραφίστε μια διαφορετική ομάδα ανθρώπων που κλαίνε στη γέφυρα του Μπρούκλιν σε στυλ ακουαρέλας" ακολουθούμενη από 4 εικόνες που παράγονται από τη γεννήτρια εικόνων
Παράδειγμα αλληλεπίδρασης με τη γεννήτρια εικόνας DALL-E.

Αυτή είναι μια πραγματικότητα σήμερα, και είναι επίσης μια πραγματικότητα σήμερα ότι το ChatGPT4 μπορεί να γράψει ικανά, στοχαστικά, εκτενή δοκίμια για σχεδόν οποιοδήποτε θέμα που του ζητηθεί – δοκίμια που μπορεί να είναι αρκετά καλά για να κερδίσουν πτυχία κολεγίου για προχωρημένους.

Ίσως είναι πολύ νωρίς για να κάνουμε μια τέτοια πρόβλεψη, αλλά φαίνεται ότι τα έξυπνα chatbot και οι γεννήτριες εικόνων – γραφή που δημιουργείται από μηχανή και τέχνη που δημιουργείται από μηχανή – αντιπροσωπεύουν μια σημαντική τεχνολογική καινοτομία και μια σημαντική κοινωνική καινοτομία που θα επηρεάσει όλους εμάς στη γη με έναν τρόπο ή άλλο. Ποιος ξέρει ποιος δρόμος πηγαίνει το μέλλον αυτές τις μέρες, αλλά φαίνεται τουλάχιστον πιθανό ότι η κυκλοφορία του ChatGPT3 το 2022 θα θυμηθεί κάποια μέρα μια σημαντική στιγμή στην πολιτιστική ιστορία παρόμοια με την κυκλοφορία του προγράμματος περιήγησης Mosaic το 1993, το οποίο ξεκίνησε ολόκληρο το δημοφιλές Έκρηξη του Διαδικτύου που ζούμε ακόμα σήμερα.

Φαίνεται επίσης πιθανό, με ενοχλεί να το πω, ότι αυτή η νέα καινοτομία θα προκαλέσει νέα είδη μεγάλων προβλημάτων που θα πρέπει όλοι να αντιμετωπίσουμε, παρόλο που πολλοί από εμάς μπορεί να αισθανόμαστε ότι η κοινωνία μας πνίγεται ήδη στις ανεπιθύμητες συνέπειες των άλλες τεχνολογικές καινοτομίες που δεν ζητήσαμε στη ζωή μας, δεν προσκαλέσαμε στη ζωή μας, και όμως που υπάρχουν ούτως ή άλλως στη ζωή μας.

Θέλω να περάσω αυτό το επεισόδιο μιλώντας για το πώς η τεχνητή νοημοσύνη μας επηρεάζει ως ακτιβιστές κατά του πολέμου. Επιτρέψτε μου να το πω αυτό εκ των προτέρων: η τεχνητή νοημοσύνη είναι ένα καυτό θέμα, πολύ αμφιλεγόμενο, και έτσι θα έπρεπε να είναι. Θα πρέπει να ανησυχούμε γι' αυτό και θα πρέπει να το συζητάμε, και κατά τη γνώμη μου πρέπει επίσης να ανοίξουμε το μυαλό μας στο καλό που μπορεί να κάνει αυτή η τεχνολογία.

Είναι αμφιλεγόμενο μεταξύ προοδευτικών και ακτιβιστών και είναι αμφιλεγόμενο για όλους. Θα πρέπει να είναι αμφιλεγόμενο και δεν κάνω αυτό το επεισόδιο επειδή έχω εύκολες απαντήσεις σχετικά με το πώς αυτές οι πρόσφατες καινοτομίες μπορεί να επηρεάσουν τον πλανήτη μας. Ξέρω ότι θα επηρεάσουν τον κόσμο μας και ξέρω ότι οι αντιπολεμικοί ακτιβιστές πρέπει να μιλήσουν γι' αυτό. Κάνω λοιπόν αυτό το επεισόδιο για να ξεκινήσω τη συζήτηση, για να εκθέσω τα διάφορα διαφορετικά ζητήματα με τα οποία νομίζω ότι πολλοί αντιπολεμικοί ακτιβιστές πιθανότατα παλεύουν όταν μιλούν για αυτό το θέμα και ίσως για να εκφράσω κάποια κατανόηση όλων των πλευρών αυτού του μπερδεμένου θέματα. Αυτό θα προσπαθήσω να κάνω εδώ – και όταν τελειώσετε με την ακρόαση αυτού του επεισοδίου, μοιραστείτε τα σχόλιά σας για μας world beyond war ιστοσελίδα για αυτό το επεισόδιο ή επικοινωνώντας απευθείας μαζί μου – είναι εύκολο να βρω.

Όσον αφορά τον αντίκτυπο στην καθημερινή ζωή, πολλοί αναρωτιούνται εάν οι εκπληκτικές δυνατότητες της τεχνητής νοημοσύνης θα βάλουν πολλούς ανθρώπους χωρίς δουλειά. Αυτή είναι συχνά η πρώτη ανησυχία που εμφανίζεται στους ανθρώπους όταν βλέπουν τη δύναμη της τεχνητής νοημοσύνης. Αυτές οι προηγμένες ικανότητες θα προκαλέσουν διάφορους τομείς υγιεινής ανθρώπινης απασχόλησης και θα προσπαθήσουν να γίνουν ξαφνικά ανεπιθύμητοι; Η κοινωνία μας είναι ήδη άσχημα εκτός ισορροπίας όσον αφορά το ποιος εργάζεται, ποιος κερδίζει και ποιος κάνει τα έξοδα. Εάν τα οικοσυστήματα που εργάζονται για τη ζωή της μεσαίας τάξης διαταραχθούν περαιτέρω επειδή η τεχνητή νοημοσύνη μπορεί να κάνει πολλές από τις ίδιες εργασίες καλύτερα και δωρεάν, μπορούμε να είμαστε σίγουροι ότι η διαταραχή θα αυξήσει το χάσμα μεταξύ των πλουσίων και των υπολοίπων από εμάς, ότι το 1 % θα μπορεί να επωφεληθεί από την αλλαγή, ενώ οι υπόλοιποι θα έχουμε να αντιμετωπίσουμε τις συνέπειες και ότι το 1% θα κάνει επίσης εργαλεία τεχνητής νοημοσύνης που βοηθούν το 1% να μην είναι διαθέσιμο στα άτομα που θα μπορούσαν να χρησιμοποιήσουν τη βοήθειά τους ή πολύ ακριβά για να έχουν πρόσβαση.

Ας το παραδεχτούμε, στις αρπακτικές καπιταλιστικές οικονομίες πολλοί από εμάς έχουμε κολλήσει να ζούμε, η ανεργία σημαίνει χρέος και απώλεια της ελευθερίας επιλογής μας, και αυτό ακριβώς είναι που αυτές οι κοινωνικοπαθητικές οικονομίες φρούριο έχουν σχεδιαστεί να κάνουν στους κανονικούς ανθρώπους – αφαιρούν τη δύναμή μας της επιλογής μας και μας κάνουν να τους πληρώσουμε και να δουλέψουμε για αυτούς. Αυτό είναι το μελλοντικό όραμα του καπιταλισμού του φρουρίου σήμερα: θα έχουμε νέους έξυπνους και ισχυρούς υπολογιστές, καθώς οι ίδιοι είμαστε φτωχοί.

Υπάρχει επίσης το γεγονός ότι η αστυνομία και ο στρατός έχουν ήδη αρχίσει να χρησιμοποιούν εργαλεία τεχνητής νοημοσύνης, μαζί με νέα ισχυρά και βίαια ρομπότ. Νομίζω ότι αυτή μπορεί να είναι η πιο σοβαρή και άμεση απειλή που παρουσιάζει η τεχνητή νοημοσύνη αυτή τη στιγμή, και νομίζω ότι κινήματα διαμαρτυρίας που πολιορκούνται από την αστυνομία όπως, για παράδειγμα, το σημαντικό κίνημα Stop Cop City στην Ατλάντα Τζόρτζια, αντιμετωπίζουν ήδη αυτήν την αλλαγμένη πραγματικότητα. Τα συστήματα τεχνητής νοημοσύνης φέρουν τις προκαταλήψεις και τις κωδικοποιημένες αξίες των ανθρώπινων δημιουργών τους, επομένως αστυνομικοί ή στρατιωτικοί που έχουν εκπαιδευτεί σε τεχνητή νοημοσύνη απειλούν να γίνουν κυριολεκτικές μηχανές κυνηγιού και δολοφονίας για ευάλωτους πληθυσμούς, επιλέγοντας τους στόχους τους με βάση την εμφάνιση ή τη φυλή. Σε έναν κόσμο που μαίνεται ήδη εκτός ελέγχου με τον πόλεμο από την Ουκρανία στην Υεμένη, η ιδέα της ενδυνάμωσης της μιας ή της άλλης πλευράς –και, αναπόφευκτα, και των δύο πλευρών– με νέα είδη μηχανών δολοφονίας και καθεστώτα καταστολής κωδικοποιημένα με φαύλο φυλετικό προφίλ είναι τόσο φρικτή όσο ακούγεται.

Τα χειρότερα σενάρια για μαζική ανεργία ή ρατσιστικά κωδικοποιημένη τεχνητή νοημοσύνη που χρησιμοποιούνται από τις αστυνομικές και στρατιωτικές δυνάμεις είναι τρομακτικά και δεν μπορούμε να κοιμηθούμε γιατί τα αποτελέσματα είναι ήδη στον κόσμο μας. Συμβαίνει ήδη. Ας ξεκινήσουμε λοιπόν αυτή τη συζήτηση αναγνωρίζοντας ότι δύο από τους ξεχωριστούς τρόμους που φαίνεται να παρουσιάζει η προηγμένη τεχνητή νοημοσύνη – η μαζική ανεργία και η κακοποίηση από αστυνομικές και στρατιωτικές δυνάμεις – είναι δύο διαφορετικοί τρόποι με τους οποίους ισχυρές δυνάμεις παγιωμένου πλούτου και προνομίων κλέβουν δικαιώματα και ελευθερίες από τους ανθρώπους .

Μιλώντας για παγιωμένο πλούτο και προνόμια – ας μιλήσουμε για την OpenAI, μια εταιρεία στη Βόρεια Καλιφόρνια που μπορείτε να βρείτε στο διαδίκτυο στη διεύθυνση OpenAI.com. Αυτή η εταιρεία ήταν ελάχιστα γνωστή μέχρι που κυκλοφόρησε τη γεννήτρια εικόνων DALL-E το 2021, και στη συνέχεια, τον Νοέμβριο του 2022, μόλις πριν από εννέα μήνες, κυκλοφόρησαν το πρώτο τους δημόσιο chatbot, ChatGPT3, ακολουθούμενο γρήγορα από τα πιο ισχυρά και ικανά ChatGPT3.5 και ChatGPT4 , οι εκδόσεις που είναι διαθέσιμες τώρα.

Ήμουν αρκετά νοκ άουτ όταν είδα για πρώτη φορά τις εικόνες που θα μπορούσε να δημιουργήσει το DALL-E και έπεσα ακόμα περισσότερο την πρώτη φορά που δοκίμασα το ChatGPT. Η πρόκληση που προσπαθούσαν να ανταποκριθούν αυτά τα εργαλεία ήταν πολύ οικεία σε μένα, επειδή έχω μελετήσει εντατικά την τεχνητή νοημοσύνη ο ίδιος, όπως πολλοί προγραμματιστές λογισμικού. Η πρώτη μου συνάντηση με την τεχνητή νοημοσύνη ήταν μια ανεξάρτητη μελέτη που έκανα στο κολέγιο, πριν από αρκετές δεκαετίες.

Αυτή ήταν η δεκαετία του 1980, και ίσως μερικοί πολύ νέοι θα εκπλαγούν όταν ακούσουν ότι άνθρωποι σαν εμένα έκαναν δουλειά τεχνητής νοημοσύνης τη δεκαετία του 1980, αλλά ο όρος τεχνητή νοημοσύνη είναι σχεδόν τόσο παλιός όσο η ίδια η επανάσταση των υπολογιστών. Παρόλο που τα επιτεύγματα της τεχνητής νοημοσύνης από τη δεκαετία του 1950 έως τη δεκαετία του 1990 ήταν νηπιακά σε σύγκριση με τις προόδους που έχουμε δει τα τελευταία χρόνια από τότε.

Ο τομέας ήταν τόσο ανοιχτός στη δεκαετία του '80, στην πραγματικότητα, που μπόρεσα να πάρω μερικές μονάδες κατά τη διάρκεια του τελειόφοιτου έτους ως συνδυασμένης κατεύθυνσης Φιλοσοφίας και Επιστήμης Υπολογιστών, προετοιμάζοντας ένα πρωτότυπο ανεξάρτητο έργο μελέτης για ένα πρόγραμμα που θα αναλύει προτάσεις στα αγγλικά και απαντούν με τρόπο που να δείχνει ή να προσομοιώνει τη βασική κατανόηση. Κωδικοποίησα σε LISP σε ένα ξεκαρδιστικά ογκώδες, λαμπερό τερματικό Unimatic, συνδεδεμένο με ένα τεράστιο mainframe Univac που είχε το μέγεθος ενός μεγάλου κτιρίου και πιθανώς είχε λιγότερη ισχύ από το MacBook στο οποίο ηχογραφώ αυτό το podcast αυτή τη στιγμή, γιατί έτσι κυλήσαμε πίσω στη δεκαετία του '80.

Η συναρπαστική πρόκληση του ανεξάρτητου ερευνητικού μου έργου AI ήταν να αναλύσω και να απαντήσω σε προτάσεις που περιελάμβαναν απλά ρήματα και ουσιαστικά. Για παράδειγμα, θα πληκτρολογούσα προτάσεις όπως "Έχω μια γάτα με το όνομα Happy" και "η γάτα μου είναι πορτοκαλί" και "όλες οι γάτες λένε νιαούρισμα" στο πρόγραμμά μου LISP, οι οποίες θα έδειχναν κάποια κατανόηση απαντώντας σε ερωτήσεις όπως "είναι το Happy orange;" ή «η γάτα του Marc λέει νιαούρισμα;». Περιέργως, προσπαθούσα να δημιουργήσω ένα chatbot AI ακριβώς εκεί στον κεντρικό υπολογιστή Univac μου.

Βάζω στοίχημα ότι πολλοί άλλοι φοιτητές προσπαθούσαν να κάνουν το ίδιο πράγμα εκείνη την εποχή, αλλά κανένας από εμάς δεν έφτασε πολύ μακριά, επειδή αυτή ήταν η δεκαετία του 1980 και μια βασική λαμπρή ιδέα δεν είχε φτάσει ακόμη σε εμάς: το νευρωνικό δίκτυο, το οποίο παρέχει ένα λογισμικό δομή σχεδιασμένη να εκτελεί μαζικά παράλληλες απλές λειτουργίες παρόμοιες με τους νευρώνες στον ανθρώπινο εγκέφαλο. Ενώ το πρόγραμμά μου LISP παρείχε υπολογισμό μονού νήματος και τα προγράμματα Fortran και COBOL και Pascal ακολουθούσαν το ίδιο περιορισμένο πρότυπο μονού νήματος, τα νευρωνικά δίκτυα παρείχαν παράλληλα στοιχειώδη νήματα που εκτελούσαν απλούς υπολογισμούς παράλληλα. Ο ανθρώπινος εγκέφαλος κάνει πάρα πολλές παράλληλες επεξεργασίες – ταυτόχρονες λειτουργίες που σχηματίζουν ψευδαισθήσεις μοναδικότητας – και η δομή λογισμικού γνωστή ως νευρωνικό δίκτυο θα επέτρεπε στους κωδικοποιητές να συλλέξουν τη δύναμη αυτής της παράλληλης επεξεργασίας – αφού αποφοίτησα από το κολέγιο.

Μαζί με την έννοια του νευρωνικού δικτύου ήρθε τελικά η ιδέα της εκπαίδευσης ενός νευρωνικού δικτύου με επαναλαμβανόμενες δραστηριότητες – μια άλλη ιδέα που δεν είχε φτάσει ακόμη σε εμάς τη δεκαετία του '80. Ταΐζα το πρόγραμμά μου LISP με έναν μικρό αριθμό πλήρων προτάσεων και δεν του έδινα καμία ανατροφοδότηση για να διορθώσω και να βελτιώσω την απόδοσή του. Αυτό που έπρεπε να κάνω, αντί να πληκτρολογώ προτάσεις στο τερματικό του υπολογιστή μου, ήταν να του ταΐζω ολόκληρα βιβλία και εφημερίδες και εγκυκλοπαίδειες, και να αλληλεπιδρώ συνεχώς μαζί του για να παρέχω ανατροφοδότηση στη συμπεριφορά του καθώς το πρόγραμμά μου προσπαθούσε επανειλημμένα να προσομοιώσει τις πιο βασικές, πρωτόγονες πράξεις της κατανόησης. Δίνοντάς του άφθονο υλικό ανάγνωσης για να δημιουργήσει μια πλούσια και περίπλοκη βάση γνώσεων και εκπαιδεύοντάς την επαναλαμβανόμενα και διεξοδικά, ίσως είχα κάνει το πρόγραμμα του υπολογιστή μου να πει κάτι εκπληκτικό για το αν είχα ή όχι μια πορτοκαλί γάτα. Τα νευρωνικά δίκτυα και η επαναλαμβανόμενη εκπαίδευση, όπως αποδεικνύεται, βοήθησαν να οδηγήσουν στις επιτυχημένες προσομοιώσεις της ανθρώπινης νοημοσύνης που βλέπουμε με τα chatbots σήμερα.

Θα παρατηρήσετε ότι μιλάω για προσομοίωση ανθρώπινης νοημοσύνης. Αυτό δείχνει μια άλλη διαμάχη. Μερικοί άνθρωποι βρίσκουν τον όρο «τεχνητή νοημοσύνη» γελοίο. Χειρότερα από γελοία, ορισμένοι βρίσκουν την ιδέα ηθικά ανησυχητική επειδή, εάν η νοημοσύνη γεννά συνείδηση, η τεχνητή νοημοσύνη μπορεί να μεταμορφωθεί σε τεχνητή συνείδηση ​​- τεχνητή αίσθηση, τεχνητή θέληση, τεχνητό δικαίωμα ύπαρξης. Αυτό σίγουρα θέτει πολλά υπαρξιακά ερωτήματα. Όλες αυτές οι ερωτήσεις είναι έγκυρες και σημαντικές. Κάποιοι αναρωτιούνται εάν οι μηχανές γνώσης AI και τα γλωσσικά μοντέλα μπορεί να αναπτύσσουν ήδη συνείδηση. Προσωπικά, το βρίσκω πολύ εύκολο να δηλώσω ότι, όχι, δεν χρειάζεται να ανησυχούμε μήπως τα chatbot αναπτύσσουν πραγματικά συναισθήματα. Υπάρχουν πολλές διαφορετικές πτυχές της τεχνητής νοημοσύνης για τις οποίες πρέπει να ανησυχείτε και αυτό δεν με ανησυχεί προσωπικά. Αλλά αυτό δεν σημαίνει ότι μπορώ να αποδείξω ότι έχω δίκιο και ότι κανείς δεν πρέπει να ανησυχεί για αυτό. Ίσως είμαι τόσο συγκλονισμένος από διαφορετικά πράγματα για τα οποία θα έπρεπε να ανησυχώ ώστε να μην έχω χρόνο να ανησυχήσω για αυτό. Δεν έχω οριστική απάντηση σε όλες τις ερωτήσεις που μπορεί να προκύψουν σχετικά με τα ερωτήματα της μηχανικής αίσθησης και δεν πρόκειται να προσποιηθώ ότι έχω. Αλλά ξέρω ποιες είναι οι ερωτήσεις που χρειαζόμαστε για να καταλάβουμε πώς να αντιμετωπίσουμε.

Μια άποψη που ακούω μερικές φορές στις κοινότητες ακτιβιστών είναι ότι η τεχνητή νοημοσύνη ισοδυναμεί με μια δέσμη διαφημιστικών εκστρατειών – μια ψευδαίσθηση που καλλιεργείται από τις εξαιρετικές δεξιότητες συνομιλίας ενός μεγάλου γλωσσικού μοντέλου. Σίγουρα, το GPT μπορεί να αναλύσει μια ερώτηση και να απαντήσει με κομψή φρασεολογία, αλλά γιατί αυτή η ευχαρίστηση με τη γλώσσα μας έκανε να φανταστούμε ότι έχει γίνει κάποια σημαντική πρόοδος; Η Google και η Wikipedia έκαναν ήδη το σύνολο της ανθρώπινης γνώσης εύκολα διαθέσιμη δωρεάν στο Διαδίκτυο, προς απογοήτευση της Εγκυκλοπαίδειας Britannica. Ακούμε όλη αυτή τη διαφημιστική εκστρατεία για το ChatGPT απλώς και μόνο επειδή παρουσιάζει μια γλωσσική πρόσοψη της ανθρώπινης συνείδησης, μια ψευδαίσθηση που όλοι μας πέφτουμε τόσο ανυπόμονα. Νομίζω ότι υπάρχει κάποια εγκυρότητα εδώ. Ίσως αν η Google ή η Wikipedia είχαν αρχικά ξεκινήσει με τον ξαφνικό και πλήρως διαμορφωμένο τρόπο που έκανε το ChatGPT, ίσως θα μιλούσαμε για την κυκλοφορία του Google ή της Wikipedia ως τεράστιες εξελίξεις στη συλλογική ανθρώπινη νοημοσύνη, επειδή και οι δύο έχουν ήδη επηρεάσει τον κόσμο μας.

Ωστόσο, όπως ανέφερα παραπάνω όταν μίλησα για τα νευρωνικά δίκτυα και την εκπαίδευση, το να περιγράφεις μεγάλα γλωσσικά μοντέλα ως προσόψεις σημαίνει υποτίμηση των στρωμάτων δομής λογισμικού που πρέπει να υπάρχουν για να γίνει δυνατή αυτή η γλωσσική ευδαιμονία.

Εδώ είναι ένα μεγαλύτερο ερώτημα, κατά τη γνώμη μου: ας εξετάσουμε τη δεοντολογία του OpenAI και των αρχών, των ιδρυτών και των επενδυτών και των συνεργατών του. Υπάρχει ένα σωρό προβλήματα εδώ.

Το OpenAI.com είναι ένα ιδιωτικά χρηματοδοτούμενο ερευνητικό εργαστήριο που αναδύεται από το ίδιο υπερπλούσιο και υψηλού επιπέδου οικοσύστημα θερμοκοιτίδων τεχνολογίας της Silicon Valley που μας έδωσε το Facebook, η Google, η Microsoft, η Amazon και η Oracle. Οι ιδρυτές του περιλαμβάνουν τον Έλον Μασκ, τον διάσημο δισεκατομμυριούχο του οποίου οι κοινωνιοπαθητικές δημόσιες παρατηρήσεις με αρρωσταίνουν πραγματικά τόσο πολύ όσο αρρωσταίνουν πολλούς άλλους ανθρώπους. Ο Έλον Μασκ δεν συμμετείχε ποτέ άμεσα στο OpenAI και έχει προχωρήσει σε άλλα πράγματα όπως η εμφάνιση της προσβλητικής προσωπικότητάς του σε όλα τα μέσα κοινωνικής δικτύωσης, οπότε αυτό είναι το μόνο που θέλω να πω για τον Έλον Μασκ σήμερα.

Όπως το βλέπω εγώ, είναι ακόμη πιο καταδικαστικό το γεγονός ότι το OpenAI είναι στενά συνδεδεμένο με τη Microsoft, έναν μεγάλο κερδοσκόπο πολέμου και έναν μεγάλο κερδοσκόπο στον τομέα της τεχνητής νοημοσύνης για πόλεμο. Αυτή η ανησυχητική συσχέτιση είναι αυτό που ελπίζω να ανησυχεί ο κόσμος, ακόμη περισσότερο από τη σύνδεση του Έλον Μασκ. Θα πρέπει να είμαστε πολύ ενοχλημένοι που το φιλικό πρόσωπο του DALL-E και του OpenAI είναι μια χρήσιμη πρόσοψη για τουλάχιστον έναν κερδοσκόπο με τεράστια επιρροή και κακό πόλεμο, τη Microsoft, η οποία ήδη αναπτύσσει τα είδη των φυλετικά κωδικοποιημένων στρατιωτικών και αστυνομικών εφαρμογών τεχνητής νοημοσύνης που μιλήσαμε. περίπου παραπάνω. Αυτό συμβαίνει ήδη στα παρασκήνια της Microsoft και άλλων αμερικανικών τεχνολογικών κολοσσών που είναι βαθιά συνδεδεμένοι με την πολεμική μηχανή των ΗΠΑ. Και αυτό είναι για τα χειρότερα νέα που μπορώ να σκεφτώ.

Στρατιώτης που φορά ένα βαρύ ακουστικό με γυαλιά και καλώδια
Τα ακουστικά επαυξημένης πραγματικότητας Hololens της Microsoft χρησιμοποιείται από τον αμερικανικό στρατό

Εμείς στο αντιπολεμικό κίνημα δεν μπορούμε να γυρίσουμε την πλάτη μας στην τεχνητή νοημοσύνη λόγω των κακών δυνατοτήτων της. Δεν εννοώ φυσικά ότι όλοι στο αντιπολεμικό κίνημα πρέπει να επιτρέψουν τεχνολογικές καταπατήσεις στη ζωή τους. Χαίρομαι που πολλοί προοδευτικοί και ακτιβιστές κάνουν μια έγκυρη επιλογή για να αποφύγουν τις μοντέρνες τεχνολογικές καινοτομίες στη ζωή τους. Μπορώ να σχετιστώ και να σεβαστώ αυτή τη στάση, παρόλο που ο ίδιος απέχω πολύ από έναν τρόπο ζωής χωρίς τεχνολογία. Η τεχνολογία είναι ο τομέας μου, η καριέρα μου και ως τεχνολόγος με γοητεύει η ιδιοφυΐα, η δημιουργικότητα και η καινοτομία πίσω από προσπάθειες όπως η τεχνητή νοημοσύνη.

Επίσης, απλώς ως περίεργος άνθρωπος, με ενδιαφέρει απολύτως να αποκτήσω γνώσεις για την ανθρώπινη νοημοσύνη μαθαίνοντας πώς έχουν κατασκευαστεί οι υπολογιστές για να την προσομοιώνουν. Επιτρέπω επίσης το ChatGPT στη ζωή μου επειδή έχω ανακαλύψει πόσο χρήσιμο είναι. Πηγαίνω στο OpenAI.com και του κάνω συνεχώς ερωτήσεις. Χρησιμοποιώ το ChatGPT για να γράψω κώδικα, συμπεριλαμβανομένου του Javascript για μια νέα έκδοση του διαδραστικού μας χάρτη των ξένων στρατιωτικών βάσεων των ΗΠΑ στον οποίο εργάζομαι αυτό το καλοκαίρι μαζί με άλλους ανθρώπους στο World Beyond War.

Ας υποθέσουμε ότι θέλω να καθαρίσω μια παράμετρο συμβολοσειράς ερωτήματος αφαιρώντας ειδικούς χαρακτήρες με μια κανονική έκφραση, κάτι που θα χρησιμοποιούσα για να ρωτήσω το Stack Overflow και θα συνέδεζα τον κώδικα εργασίας μου από προτεινόμενα τμήματα που δημοσιεύτηκαν σε ένα νήμα συνομιλίας . Αντίθετα, τώρα λέω στο ChatGPT αυτό που θέλω και το ChatGPT απλώς βγάζει Javascript τέλεια μορφοποιημένο, εκτελέσιμο και χωρίς σφάλματα. Οι περισσότεροι φίλοι μου προγραμματιστές λογισμικού χρησιμοποιούν το ChatGPT για να γράφουν κώδικα τώρα – ξέρω ότι το κάνουμε γιατί μας αρέσει να μιλάμε γι' αυτό. Δεν νομίζω ότι κανένας από εμάς τους κωδικοποιητές ανησυχεί ακόμη ότι το ChatGPT θα μας αντικαταστήσει, γιατί εμείς είμαστε αυτοί που πρέπει να ενώσουμε τα κομμάτια του κώδικα για να δημιουργήσουμε συστήματα εργασίας και το GPT απλώς παράγει κομμάτια κώδικα. Αλλά αναρωτιέμαι πώς αυτό θα αλλάξει τον τρόπο με τον οποίο λειτουργούν οι προγραμματιστές λογισμικού. Σίγουρα αλλάζει ήδη το παιχνίδι.

Χρησιμοποιώ επίσης το ChatGPT για να αναζητήσω πράγματα στο Διαδίκτυο με τον τρόπο που θα χρησιμοποιούσα το Google και το χρησιμοποιώ για μηνύματα προτροπής και προοπτικές και πληροφορίες παρασκηνίου για πράγματα που γράφω ή σκέφτομαι. Δεν αστειεύομαι όταν λέω ότι το χρησιμοποιώ για τα πάντα – όπως όταν ανέφερα τον φιλόσοφο τεχνολογίας της δεκαετίας του 1960 Marshall McLuhan παραπάνω, φυσικά ζήτησα από το ChatGPT μερικές πληροφορίες για τον Marshall McLuhan και ήταν ο ChatGPT που μου είπε ότι το 1964 ήταν η χρονιά που δημοσίευσε το βιβλίο που έλεγε «το μέσο είναι το μήνυμα».

Το γεγονός ότι τόσοι πολλοί από εμάς έχουμε ήδη μετακομίσει από το Google στο GPT για βασικές αναζητήσεις στο διαδίκτυο λέει πολλά. Είναι πολύ εύκολο να αρχίσουμε να επιτρέπουμε σε αυτά τα νέα είδη εργαλείων να μπαίνουν αργά και ανεπαίσθητα στη ζωή μας, ακόμα κι αν ανησυχούμε για τις επιπτώσεις και τα κίνητρα πίσω από αυτά.

Όπως η υποκείμενη τεχνολογία λογισμικού του ίδιου του Διαδικτύου, η οποία δημιουργήθηκε για αμφίβολους λόγους από τον αμερικανικό στρατό, αλλά προκάλεσε κοινωνικές αλλαγές και βρίσκει νέες περιπτώσεις χρήσης που ήταν εντελώς έξω από τη σφαίρα του αρχικού της σκοπού, αυτή η νέα τεχνολογία πρόκειται να βρει τον δικό του δρόμο για να επηρεάσει τη ζωή μας. Αυτή η νέα τεχνολογία είναι πραγματική, λειτουργεί πολύ καλά για να την αγνοήσουμε και ήρθε για να μείνει. Και πάλι, γι' αυτό περνάω ένα επεισόδιο μιλώντας σε αντιπολεμικούς ακτιβιστές γι' αυτό – επειδή είναι ήδη μέρος της πραγματικότητάς μας και μπορεί να χρειαστούμε κάποιες από τις δυνάμεις εάν προσφέρουμε για να κάνουμε τη δική μας δουλειά εδώ στη γη.

Ας περάσουμε ένα λεπτό στοχαζόμενοι τις πολλές πτυχές της ζωής σε αυτόν τον πλανήτη που δεν έχουν τα τρομερά προβλήματα που εμείς οι αντιπολεμικοί ακτιβιστές γνωρίζουμε τόσο πολύ. Τέχνες, μουσική, λογοτεχνία, βιολογία, χημεία, φυσική, γεωλογία, αστρονομία, ιατρική, υγεία, μεταποίηση, γεωργία, διατροφή. Σε όλους αυτούς τους κόσμους, όλες αυτές οι προσπάθειες … η δημόσια κυκλοφορία ενός chatbot γενικής γνώσης υψηλής ικανότητας έχει σημαντικό αντίκτυπο. Δεν υπάρχει πεδίο που να μην αγγίζει.

Στο επίπεδο της ειρηνικής ανθρώπινης συνύπαρξης – ένα αεροπλάνο που θα ήθελα να μπορούσα να αφιερώσω περισσότερο χρόνο υπάρχοντας στον εαυτό μου – η τεχνητή νοημοσύνη είναι μια θαυματουργή εξέλιξη της ανθρώπινης ικανότητας που υπόσχεται μεγάλα οφέλη. Αν ζούσαμε μόνο σε έναν ειρηνικό, ασφαλή και δίκαιο κόσμο, θα μπορούσαμε να απολαύσουμε καλύτερα μαζί τα θαύματα που μπορεί να δημιουργήσει η τεχνητή νοημοσύνη.

Βλέπουμε μερικά από αυτά τα θαύματα όταν εργαζόμαστε με μια γεννήτρια εικόνας και δημιουργούμε εκπληκτικά έξυπνες ή δημιουργικές εικόνες με βάση τις δικές μας προτροπές που δεν θα μπορούσαμε να παράγουμε διαφορετικά. Νιώθουμε επίσης το παράδοξο σχετικά με το εάν τα εργαλεία τεχνητής νοημοσύνης μπορούν να χρησιμοποιηθούν για καλό ή όχι. Ως τεχνικός, πιστεύω ότι δεν είναι η τεχνολογική καινοτομία που είναι το πρόβλημα στον πλανήτη Γη στον 21ο αιώνα. Χαιρετίζω πάντα την τεχνολογική καινοτομία και νομίζω ότι οι κίνδυνοι που παρουσιάζει η τεχνητή νοημοσύνη οφείλονται στον εδραιωμένο καπιταλισμό και τον πόλεμο – στο γεγονός ότι αυτός είναι ένας πλανήτης σε πόλεμο με τον εαυτό του, ένας πλανήτης που κυριαρχείται από ένα πλούσιο 1% που δεν μπορεί να αντισταθεί στο να βάλει τον εαυτό του η αυτοκτονική πορεία της οικοδόμησης στρατιωτικοποιημένων κοινωνιών φρουρίων που καταστέλλουν άλλα ανθρώπινα όντα για να διατηρήσουν προνόμια. Αυτό που πρέπει να κάνουμε είναι να θεραπεύσουμε την κοινωνία μας – αυτό που δεν χρειάζεται να κάνουμε είναι να ξεφύγουμε από τις τεχνολογικές εξελίξεις γιατί παρεξηγούμε τα αίτια της αγωνίας μας και την αυτοκτονική μας τροχιά.

Αυτό νομίζω. Φυσικά δεν είναι αυτό που πιστεύει κάθε αντιπολεμικός ακτιβιστής, και αυτό είναι εντάξει. Είχαμε κάποιες ενδιαφέρουσες αντιδράσεις για το World Beyond War λίστα συζητήσεων μέσω email – το οποίο είναι ένα ζωντανό και έξυπνο φόρουμ στο οποίο συνιστώ σε οποιονδήποτε να συμμετάσχει, απλώς κάντε κλικ στον σύνδεσμο στον ιστότοπό μας ή αναζητήστε world beyond war λίστα συζητήσεων – αφού κάποιος μοιράστηκε μερικές πραγματικά ευφάνταστες αντιπολεμικές εικόνες που είχαν δημιουργηθεί με το DALL-E και κάποιος άλλος μοιράστηκε μερικές εκπληκτικά χρήσιμες λέξεις για το πώς ο άρρωστος πλανήτης μας μπορεί να βρει μονοπάτια για την παγκόσμια ειρήνη.

Πιστεύω ότι οι ακτιβιστές πρέπει να κατέχουν όλες τις διαθέσιμες τεχνολογίες – ότι ο ακτιβισμός δεν πρέπει να θέτει τον εαυτό του στη θέση να είναι λιγότερο ικανός να χρησιμοποιεί προηγμένες καινοτόμες τεχνολογίες από τις διεφθαρμένες κυβερνήσεις και τις άπληστες εταιρείες που συνηθίζουν να μας καταπιέζουν.

Πιστεύω επίσης ότι μπορούμε επίσης να συλλέξουμε εκπληκτικές φιλοσοφικές αλήθειες για την ανθρώπινη συνείδηση ​​και την ανθρώπινη ύπαρξη μελετώντας τους αλγόριθμους και τα σχέδια σχεδίασης που χρησιμοποιούνται για τη μοντελοποίηση και την προσομοίωση της. Απλά αφιερώνοντας λίγα λεπτά χαζεύοντας το ChatGPT στον ιστότοπο OpenAI μπορεί να αποκαλύψει μερικές άγριες αλήθειες για την ανθρώπινη φύση.

Εδώ είναι ένα άγριο πράγμα που ακόμα τυλίγω το μυαλό μου. Το ChatGPT μερικές φορές λέει ψέματα. Φτιάχνει πράγματα. Συνήθως δεν θα το δείτε όταν αρχίσετε να ρωτάτε το GPT, επειδή συνήθως θα βρει μια ισχυρή απάντηση στην πρώτη ερώτηση σε ένα νήμα συνομιλίας. Στη συνέχεια, το GPT σας παρακολουθεί καθώς κάνετε επακόλουθες ερωτήσεις, και εδώ είναι δυνατό να επαναφέρετε το GPT σε μια γωνία όπου αρχίζει να ψεύδεται κατευθείαν. Μία από τις πρώτες ερωτήσεις που έκανα ποτέ στο ChatGPT ήταν να μου πει για τα καλύτερα αντιπολεμικά podcast, επειδή, φυσικά, ο εγωισμός μου είχε δεσμευτεί και ήθελα να δω αν World Beyond War Το podcast θα εμφανιζόταν στη λίστα.

Τώρα, επειδή το GPT είναι προεκπαιδευμένο – δηλαδή, ήταν προεκπαιδευμένο και δεν τροφοδοτείται πλέον ενεργά με πολύ τρέχουσες ειδήσεις και πληροφορίες, οπότε δεν θα περίμενα να γνωρίζει πολλά για το μικρό μου podcast. Επίσης, δεν ήθελα να παραμορφώσω τα αποτελέσματα δείχνοντας στο GPT ότι με ενδιέφερε ένα συγκεκριμένο podcast, οπότε το ρώτησα αν υπήρχαν εξαιρετικά αντιπολεμικά podcast και με διαβεβαίωσε ότι όντως υπήρχαν. Τότε άρχισα να μπαίνω σε λεπτομέρειες, ελπίζοντας να το ζητήσω να το ονομάσει World Beyond War podcast ρωτώντας – μπορείτε να μου πείτε για podcast που έχουν πάρει συνεντεύξεις από γνωστούς ακτιβιστές όπως η Medea Benjamin. Εδώ είναι που τα πράγματα αρχίζουν να γίνονται αστεία. Μόλις το σύστημα κάνει μια αξίωση, θα προσπαθήσει να υποστηρίξει την αξίωση, οπότε αφού με διαβεβαίωσε ότι υπήρχαν όντως podcast που είχαν πάρει συνέντευξη από τον Medea Benjamin, του ζήτησα να ονομάσει ένα από αυτά τα podcast και μετά μου είπε ότι ο Medea Benjamin ήταν η οικοδέσποινα του δικού της podcast. Εμ, δεν είναι! Αν ήταν, σίγουρα θα το άκουγα. Κατάφερα να πείσω το ChatGPT να πει ψέματα φέρνοντάς το πίσω σε μια γωνία όπου χρειαζόταν να παρέχει πληροφορίες που δεν είχε, επομένως έφτιαχνε πληροφορίες που ακούγονταν ρεαλιστικές.

Αυτό συμβαίνει πιο συχνά από όσο θα φανταζόταν κανείς. Μπορείτε επίσης να συλλάβετε εύκολα το ChatGPT σε ένα λάθος ρίχνοντας αληθινές αλλά αντιφατικές πληροφορίες σε αυτό. Αφού το GPT με πληροφόρησε σωστά ότι ο Marshall McLuhan's εισήγαγε το απόφθεγμα «The medium is the message» το 1964, θυμήθηκα ότι αυτός ο λαμπρός και οξυδερκής φιλόσοφος είχε επίσης γράψει ένα είδος ειρωνικής συνέχειας στο προηγούμενο βιβλίο του που απευθυνόταν στα πιο σκοτεινά και πιο ανησυχητικά. τρόποι με τους οποίους τα μέσα ενημέρωσης μπορούν να κοιμίσουν το ανθρώπινο μυαλό, οι τρομακτικοί πληθυσμοί του εταιρικού μαζικού ελέγχου του πληθυσμού μέσω των μέσων ενημέρωσης – επειδή ο Marshall McLuhan ήταν πραγματικά τόσο φοβερός, κατάλαβε αυτόν τον κίνδυνο πολύ τότε στη δεκαετία του 1960 και δημοσίευσε ένα άλλο βιβλίο το 1967 με τον καλλιτέχνη Quentin Fiore που ονομάζεται «Το μέσο είναι το μασάζ».

Να λοιπόν που τα πράγματα έγιναν περίεργα με το GPT. Ζήτησα από το ChatGPT να μου πει για το απόφθεγμα του Marshall McLuhan «το μέσο είναι το μασάζ» … και το GPT με πληροφόρησε κατηγορηματικά ότι ο McLuhan δεν είχε πει «το μέσο είναι το μασάζ», αλλά είχε πει «το μέσο είναι το μήνυμα». Σαφώς, ο GPT θεώρησε ότι το μασάζ ήταν τυπογραφικό λάθος. Στη συνέχεια ενημέρωσα το GPT ότι ήταν λάθος και ότι ο McLuhan είχε πράγματι πει και «το μέσο είναι το μήνυμα» και «το μέσο είναι το μασάζ». Μόλις το είπα αυτό, το ChatGPT κατάλαβε το λάθος του και ζήτησε συγγνώμη και με ενημέρωσε ότι, ναι, «το μέσο είναι το μασάζ» ήταν ένα βιβλίο που είχε γράψει το 1967.

εξώφυλλο του "The Medium is the Massage" των Marshall McLuhan και Quentin Fiore, 1967

Γιατί λοιπόν το έκανε λάθος πρώτα, και κυρίως γιατί έκανε λάθος όταν είχε ήδη πρόσβαση στη σωστή απάντηση εντός των ορίων του; Λοιπόν, εδώ είναι που το GPT αρχίζει να αποκαλύπτει εκπληκτικές αλήθειες για τον εαυτό μας, γιατί στην πραγματικότητα τα δύο λάθη ή οι κακές συμπεριφορές του GPT το έκαναν να φαίνεται πιο ανθρώπινο, όχι λιγότερο. Θυμηθείτε ότι το G στο GPT σημαίνει γενετική. Το σύστημα έχει σχεδιαστεί για να παράγει απαντήσεις όταν δεν είναι σίγουρο για τη σωστή απάντηση. Μπορεί να σας πει τον τίτλο μιας ταινίας ή ενός βιβλίου που δεν υπάρχει – αλλά θα είναι ένας τίτλος που φαίνεται ότι θα μπορούσε να υπάρχει. Εάν έχετε μια ανοιχτή, μακρά συζήτηση με το ChatGPT για οποιοδήποτε θέμα γνωρίζετε πολλά, θα δείτε γρήγορα ότι αρχίζει να κάνει λάθη.

Ο τρόπος με τον οποίο μπόρεσα να ελίσσω το GPT σε μια γωνία, κάνοντάς του επακόλουθες ερωτήσεις για τις δικές του απαντήσεις, με αποτέλεσμα να παράγει ρεαλιστικές φαινομενικά αλλά ψευδείς πληροφορίες σε μια προσπάθεια να υποστηρίξει τις προηγούμενες δηλώσεις του δεν μου φαινόταν απάνθρωπος, αλλά εντελώς ο άνθρωπος.

Βλέπουμε την αμβλύ δύναμη των ρητορικών και χειριστικών μορφών επιχειρημάτων εδώ. Ίσως αυτό που μπορούμε να μάθουμε από αυτήν την εκπληκτική κακή συμπεριφορά του ChatGPT είναι ότι είναι ανθρωπίνως αδύνατο να κατανοήσουμε την αλήθεια χωρίς να κατασκευάσουμε αλήθειες με τον ένα ή τον άλλο τρόπο, και αν δεν είμαστε προσεκτικοί, αυτές οι κατασκευασμένες αλήθειες που χρησιμοποιούμε για ρητορικούς σκοπούς μπορεί να γίνουν ψέματα. αναγκάστηκε να υπερασπιστεί με περισσότερες κατασκευές. Αγόρι μου, αυτό σίγουρα μου φαίνεται ζωντανό.

Ακόμα πιο αληθινό: γνωρίζουμε ότι η ανθρώπινη συμπεριφορά του ChatGPT περιλαμβάνει το ψέμα. Κι όμως το εμπιστευόμαστε! Ακόμη και ο ίδιος συνεχίζω να το χρησιμοποιώ, γιατί, πραγματικά, έχω αρκετή αυτοπεποίθηση ώστε να πιστεύω ότι θα μπορώ πάντα να ανιχνεύω πότε το GPT πιέζει για μια απάντηση και δημιουργεί ψευδείς πληροφορίες. Γεια σου, ίσως κοροϊδεύω τον εαυτό μου και ίσως θα έπρεπε να σκεφτώ τη δική μου τάση να πιστεύω κατασκευασμένες αλήθειες και τη δική μου τάση να επιτρέπω το ψέμα στους άλλους.

Ακολουθεί ένας τρόπος με τον οποίο το GPT μας κάνει πιο έξυπνους, επισημαίνοντας τους τρόπους με τους οποίους ασχολούμαστε με την αναλήθεια και τις προσόψεις και τα λευκά ψέματα και τις φιλικές εξαπατήσεις στις κανονικές ανθρώπινες σχέσεις μας. Για να το θέσω με λίγα λόγια: Το ChatGPT δεν μπορεί να προσομοιώσει την ανθρώπινη συμπεριφορά χωρίς μερικές φορές να λέει ψέματα. Αυτό είναι κάτι που πρέπει να σκεφτούμε όλοι μας.

Εδώ πρέπει να σκεφτείτε κάτι άλλο: πώς τα πάμε εμείς οι άνθρωποι όσον αφορά το να συμβαδίζουμε με τις τεχνολογικές καινοτομίες που καθορίζουν τις κοινωνίες μας; Τα τελευταία χρόνια, προσαρμοζόμαστε στις εξελίξεις της τεχνητής νοημοσύνης την ίδια στιγμή που απορροφούμε την εφεύρεση του blockchain, μιας νέας τεχνολογικής μεθόδου δημιουργίας κοινών βάσεων δεδομένων με νέες έννοιες ιδιοκτησίας, πρόσβασης και επικύρωσης. Κάναμε ένα προηγούμενο επεισόδιο σχετικά με το blockchain και προσωπικά νιώθω αρκετά σίγουρος ότι οι περισσότεροι άνθρωποι που γνωρίζω δεν καταλαβαίνουν ακόμα τους τρόπους με τους οποίους το blockchain αλλάζει τη ζωή μας και θα αλλάξει τη ζωή μας στο μέλλον – και τώρα έχουμε μεγάλη γλώσσα μοντέλα και μηχανές γενικής γνώσης για να αλλάξουν τη ζωή μας και το μέλλον μας επίσης! Βάλτε το πάνω από αυτό, χμμ… πού να πάω ακόμη εδώ… το έργο του ανθρώπινου γονιδιώματος, τις τεράστιες προόδους στην επιστήμη του εγκεφάλου, την εξερεύνηση και τον αποικισμό του διαστήματος… ρε, συνάνθρωποι, συμβαδίζουμε με όλα αυτά;

Τώρα ας ρίξουμε τις τεχνολογικές και επιστημονικές διαφωνίες για πανδημίες όπως το COVID, και ας μην επαναπαυόμαστε εκεί, αλλά ας εξετάσουμε την κατάσταση των ευρέως διαθέσιμων πυρηνικών όπλων στα χέρια διεφθαρμένων και ανίκανων λεγόμενων κυβερνήσεων που διευθύνονται από γερασμένους γραφειοκράτες και την πολιτική αμοιβαία εξασφαλισμένης καταστροφής.

Συνεχίζουμε με αυτό; Όχι, αλλά αυτό το σκατά μας συμβαδίζει, και έχει τον αριθμό μας. Κάθε πρωί ξυπνάω και διαβάζω για τον πόλεμο αντιπροσώπων μεταξύ ΝΑΤΟ και Ρωσίας που δολοφονεί τραγικά τους φτωχούς ανθρώπους που ζουν στην Ουκρανία. Και κάθε πρωί αναρωτιέμαι αν αυτή είναι η ημέρα που η ανικανότητα των λεγόμενων ηγετών μας θα προκαλέσει την έναρξη πυρηνικού πολέμου – κάθε μέρα αναρωτιέμαι αν αυτή είναι η τελευταία μέρα για την ανθρώπινη ζωή στον πλανήτη γη.

Είναι το καυτό καλοκαίρι του 2023. Κυκλοφορεί μια νέα ταινία που ονομάζεται «Oppenheimer» για τον επιστήμονα του οποίου η δουλειά οδήγησε στην απίστευτη φρίκη της στιγμιαίας δολοφονίας εκατοντάδων χιλιάδων ανθρώπινων όντων στη Χιροσίμα και το Ναγκασάκι της Ιαπωνίας το 1945. Δεν νομίζω οποιοσδήποτε από εμάς έχει ακόμη καταφέρει να επεκτείνει το μυαλό του αρκετά ώστε να κατανοήσει το απόλυτο κακό, τις συγκλονιστικές, αβάσταχτες αλήθειες των λαθών που έχουν κάνει οι κοινωνίες μας - και της αποτυχίας μας να βελτιωθούμε και να σηκωθούμε από τον αξιοθρήνητο, επαίσχυντο κοινωνικό εθισμό μας. μαζικό μίσος και μαζική βία.

Ανέφερα παραπάνω ότι μερικοί άνθρωποι ρωτούν εάν η τεχνητή νοημοσύνη μπορεί ή όχι να οδηγήσει σε συνείδηση ​​ή/και συναίσθημα - εάν ένα σύστημα AI μπορεί ποτέ να αναπτύξει συναισθήματα και συναισθήματα και τι σημαίνουν ακόμη και αυτές οι λέξεις και αυτές οι ερωτήσεις. Δεν έχω δει ακόμα την ταινία Oppenheimer και νιώθω πολύ άρρωστος από την ιδέα μιας ταινίας για τις μαζικές δολοφονίες στην Ιαπωνία που δεν δείχνει τα πρόσωπα των Γιαπωνέζων θυμάτων. Αντί να αναρωτιέμαι εάν τα συστήματα τεχνητής νοημοσύνης είναι ευαίσθητα ή όχι, το μόνο που θέλω να πω είναι ότι κάθε άτομο που αποτεφρώθηκε στη Χιροσίμα και το Ναγκασάκι ήταν αισθητός και συνειδητός. Αυτή είναι μια αλήθεια που δεν νομίζω ότι έχουμε καταφέρει να αντιμετωπίσουμε ακόμα. Ίσως πρέπει να εκπαιδεύσουμε λίγο περισσότερο το μυαλό μας σε αυτό.

Και εδώ τελειώνουμε σήμερα. Οι άνθρωποι δεν μπορούν να χειριστούν την αλήθεια για τα προβλήματα που έχουμε δημιουργήσει και τις αλλαγές που πρέπει να κάνουμε για να βελτιωθούμε. Ούτε τα ρομπότ δεν μπορούν να χειριστούν την αλήθεια. Ευχαριστώ που μοιράζεσαι αυτόν τον χώρο μαζί μου καθώς σκέφτομαι τα μυστήρια και τις ειρωνείες της ανθρώπινης ύπαρξης και θα μας βγάλω έξω με την ανθρώπινη φωνή μιας τραγουδίστριας και τραγουδοποιού που αγαπώ εδώ και πολύ καιρό, της Sinead O'Connor, και ένα τραγούδι που ονομάζεται The Healing Room. Ευχαριστώ που ακούσατε το επεισόδιο 50. Θα σας δω σύντομα για το 51.

World BEYOND War Podcast στο iTunes
World BEYOND War Podcast στο Spotify
World BEYOND War Podcast στο Stitcher
World BEYOND War Podcast RSS Feed

Αφήστε μια απάντηση

Η διεύθυνση email σας δεν θα δημοσιευθεί. Τα υποχρεωτικά πεδία σημειώνονται *

Σχετικά άρθρα

Η Θεωρία της Αλλαγής μας

Πώς να τερματίσετε τον πόλεμο

Φεστιβάλ Κινηματογράφου WBW 2024
Αντιπολεμικά γεγονότα
Βοηθήστε μας να μεγαλώσουμε

Οι μικροί δωρητές μας συνεχίζουν

Εάν επιλέξετε να κάνετε μια επαναλαμβανόμενη συνεισφορά τουλάχιστον 15 $ το μήνα, μπορείτε να επιλέξετε ένα ευχαριστήριο δώρο. Ευχαριστούμε τους επαναλαμβανόμενους δωρητές μας στον ιστότοπό μας.

Αυτή είναι η ευκαιρία σας να ξανασκεφτείτε α world beyond war
Κατάστημα WBW
Μετάφραση σε οποιαδήποτε γλώσσα