..............................................................
"Νησίδες" ("ΕΦ.ΣΥΝ."17.03.24)
Με την υπόθεση της Boeing αντιλαμβανόμαστε ότι η θρησκεία των αγορών και του ανταγωνισμού των πολυεθνικών μπορεί κάλλιστα να επιφέρει το ίδιο αποτέλεσμα, ακόμη και με λογισμικά πολύ χαμηλής νοημοσύνης.
Οσοι (πολλοί) γνωρίζουν τον χημικό-μηχανικό Αντώνη Μαυρόπουλο αναφέρονται σε αυτόν ως τον «διανοούμενο της ανακύκλωσης». Είναι άλλωστε ιδρυτής και διευθύνων σύμβουλος της D-Waste (εταιρείας συμβούλων που δραστηριοποιείται διεθνώς με στόχο να κάνει την ανακύκλωση και τη διαχείριση απορριμμάτων υπόθεση όλων και όχι μόνο των ειδικών και των υπευθύνων), μέλος της διεθνούς συμβουλευτικής επιτροπής του Περιβαλλοντικού Προγράμματος των Ηνωμένων Εθνών (UNEP’s International Environmental Technologies Centre) και σύμβουλος στρατηγικής για το Let’s Do It Foundation. Υπηρέτησε για 4 χρόνια ως πρόεδρος της Διεθνούς Ενωσης Στερεών Αποβλήτων (ISWA) και 8 χρόνια ως πρόεδρος της Επιστημονικής και Τεχνικής Επιτροπής ISWA. Και ακόμα συμμετέχει σε έργα διαχείρισης στερεών αποβλήτων τα τελευταία 25 χρόνια σε πάνω από 30 χώρες.
Εχει εφεύρει τον Ατλαντα απορριμμάτων και έχει σχεδιάσει πολλά συστήματα πληροφοριών και εφαρμογές για κινητά για σκοπούς ανάκτησης πόρων. Εχει βέβαια εκδώσει πολλά βιβλία που έχουν μεταφραστεί σε πολλές γλώσσες. Υπό έκδοση τον ερχόμενο Απρίλιο από τον εκδοτικό οίκο Τόπος βρίσκεται το νέο του βιβλίο «Τεχνητή Νοημοσύνη, Ανθρωπος, Φύση, Μηχανές». Από εκεί και η προδημοσίευση του κεφαλαίου στο οποίο ο Μαυρόπουλος παίρνει αφορμή για να θέσει τον προβληματισμό του για τα όρια της Τεχνητής Νοημοσύνης, ανακαλώντας τη συγκλονιστικότερη ιστορία της ζωής του, το πολύνεκρο αεροπορικό δυστύχημα της πτήσης 302 της Ethiopian Airlines, στην οποία επρόκειτο και ο ίδιος να επιβιβαστεί αλλά από μια συγκυρία της τύχης (του) και της έλλειψης οργάνωσης των αιθιοπικών αερογραμμών την έχασε.
Μαύρα κουτιά και μαύροι κύκνοι
Στις 10 Μαρτίου 2019, ώρα 08:44, η πτήση 302 της Ethiopian Airlines, με την οποία επρόκειτο να ταξιδέψω και εγώ από την Αντίς Αμπέμπα προς το Ναϊρόμπι, συνετρίβη στο έδαφος, κοντά στην πόλη Μπισόφτου, με σχεδόν κάθετη κλίση, μόλις έξι λεπτά μετά την απογείωση. Εκατόν πενήντα επτά άνθρωποι έχασαν τη ζωή τους ακαριαία. Ηταν η δεύτερη, σχεδόν πανομοιότυπη, συντριβή αεροσκάφους 737 ΜΑΧ 8 της Boeing, μετά την πτώση της πτήσης 610 της Lion Air στην Τζακάρτα, με εκατόν ογδόντα εννιά νεκρούς, στις 29 Οκτωβρίου 2018.
45 λεπτά πριν τη συντριβή, έφτανα στην πύλη επιβίβασης και την έβρισκα κλειστή και κλειδαμπαρωμένη με λουκέτο, 20 ολόκληρα λεπτά πριν την προβλεπόμενη ώρα αναχώρησης. Εβριζα θεούς και δαίμονες για την ανοργανωσιά του αεροδρομίου και την αθέτηση της υπόσχεσης της εταιρείας ότι θα με περίμεναν σε κάθε περίπτωση. Μερικές ώρες αργότερα, συνειδητοποίησα ότι οι θεοί ήταν με το μέρος μου και ότι οι δαίμονες δεν σχετίζονταν με το αεροδρόμιο, αλλά με το αεροπλάνο και την εταιρεία που το κατασκεύασε.
Σύντομα έγινε γνωστό ότι και οι δύο συντριβές οφείλονταν στο λογισμικό MCAS που έπαιρνε κρίσιμες αποφάσεις για την πορεία του αεροπλάνου, χωρίς καν να το ξέρουν οι πιλότοι και χωρίς να υπάρχει τρόπος απενεργοποίησής του. Το λογισμικό αυτό τοποθετήθηκε για να διορθώνει τα σοβαρά αεροδυναμικά προβλήματα που εμφάνιζαν τα αεροσκάφη 737 ΜΑΧ 8. Ενεργοποιούνταν αυτόματα και έπαιρνε τον έλεγχο από τους πιλότους. Οι πιλότοι, μη γνωρίζοντας την ύπαρξη του μηχανισμού, αδυνατούσαν να διαχειριστούν τα αεροσκάφη και προσπαθούσαν μάταια να πάρουν τον έλεγχο στα χέρια τους από μια ανεξήγητη δύναμη που το τραβούσε προς τα κάτω.
Πώς όμως η Boeing που φημιζόταν για την κουλτούρα ασφάλειας και μηδενικής ανοχής στα λάθη έφτασε στο σημείο να αγνοήσει τα σοβαρά αεροδυναμικά προβλήματα των 737 ΜΑΧ 8 και να προσπαθεί να τα κουκουλώσει με αυτό το λογισμικό;
Η απάντηση έχει ήδη δοθεί από μια σειρά άρθρα π.χ. των New York Times και του Bloomberg. Ο σκληρός ανταγωνισμός με την Air Bus που με τα Α320 Neo σάρωνε τις περιφερειακές αγορές, οι διαρκείς περικοπές κόστους για την αύξηση των κερδών σύμφωνων με τις προσδοκίες των χρηματιστηρίων, η πίεση στο προσωπικό με ασφυκτικά χρονοδιαγράμματα υλοποίησης του νέου μοντέλου, η εχθρική αντιμετώπιση κάθε υπαλλήλου που έθετε θέματα ασφαλείας και, πάνω από όλα, η ταύτιση της επιτυχίας με την διαρκή αύξηση της τιμής της μετοχής αποτελούν ένα μοτίβο που κάθε άλλο παρά άγνωστο είναι στον καπιταλισμό. Με αυτή την οπτική γωνία, ο θάνατος των 346 ανθρώπων ήταν συστημικό αποτέλεσμα μιας καλά σχεδιασμένης, απόλυτα προμελετημένης και συνηθισμένης επιχειρηματικής πρακτικής που αυτού του μεγέθους οι πολυεθνικές ακολουθούν ως business as usual: ο ανταγωνισμός και τα κέρδη πάνω από όλους και όλα.
Σκεπτόμενος σήμερα την υπόθεση, από κάποια απόσταση πια, συνειδητοποιώ ότι έζησα ένα δραματικό επεισόδιο στη σχέση ανθρώπων και μηχανών, ένα επεισόδιο από το μέλλον της Τεχνητής Νοημοσύνης:
● Ενα λογισμικό «μαύρο κουτί» που ενεργοποιείται αυτόματα, παίρνει τον έλεγχο από τον άνθρωπο και μανουβράρει μόνο του το ρύγχος του αεροσκάφους.
● Πιλότους που ξαφνικά χάνουν τον έλεγχο του αεροπλάνου και προσπαθούν να διορθώσουν την πορεία του χωρίς καν να ξέρουν ότι υπάρχει λογισμικό που τους πήρε τον έλεγχο.
● Εκατοντάδες νεκρούς από την πρωτοβουλία μιας «μηχανής», η οποία επιβλήθηκε στους ανθρώπους και τους στέρησε την αυτονομία τους.
Πρόκειται, πραγματικά, για μια ιστορία βγαλμένη από τα πιο δυστοπικά σενάρια επιστημονικής φαντασίας περί της κυριαρχίας υπερέξυπνων μηχανών στο ανθρώπινο είδος και την τελική υποδούλωση των ανθρώπων από τις μηχανές. Θα μπορούσε να είναι και η επιβεβαίωση του φιλοσόφου Νικ Μπόστρομ, ο οποίος στο εξαιρετικά διαυγές βιβλίο του Superintelligence αναφέρει ότι επί της αρχής είναι εφικτό να φτιαχτούν υπερέξυπνες μηχανές, που θα ξεπερνούν τον ανθρώπινο εγκέφαλο σε νοημοσύνη. Σε αυτήν την περίπτωση υπογραμμίζει ότι «όπως η μοίρα του γορίλα τώρα εξαρτάται περισσότερο από τον άνθρωπο παρά από τον ίδιο τον γορίλα, έτσι και η μοίρα του ανθρώπου θα εξαρτάται περισσότερο από τις υπερέξυπνες μηχανές παρά από τον ίδιο τον άνθρωπο».
Η ζωή μάς αποδεικνύει έμπρακτα ότι δεν χρειάζεται να φτιαχτούν υπερέξυπνες μηχανές για να χάσουμε τον έλεγχο των λογισμικών και της Τεχνητής Νοημοσύνης, με αποτέλεσμα θανάσιμους κινδύνους και πολλούς νεκρούς. Με την υπόθεση της Boeing αντιλαμβανόμαστε ότι η θρησκεία των αγορών και του ανταγωνισμού των πολυεθνικών μπορεί κάλλιστα να επιφέρει το ίδιο αποτέλεσμα, ακόμη και με λογισμικά πολύ χαμηλής νοημοσύνης.
Μήπως πρόκειται για μια εξαιρεση στον κανόνα; Μήπως οι δύο συντριβές ήταν «μαύροι κύκνοι», δηλαδή γεγονότα που αποτελούν ακραίες περιπτώσεις; Για τους εκατοντάδες νεκρούς και τους χιλιάδες συγγενείς τους, για τα εκατομμυρια που πετούν με αεροπλάνο καθημερινά, τα δύο δυστυχήματα ήταν «μαύροι κύκνοι. Για την εταιρεία που κατασκευασε τα αεροπλάνα, οι κίνδυνοι είχαν καταγραφεί και ποσοτικοποιηθεί και η εξέλιξη ήταν απολύτως προβλέψιμη και μπορούσε να αποφευχθεί. Για την εταιρεία τα δυστυχήματα δεν ήταν «μαύροι κύκνοι», αλλά επιχειρηματικό ρίσκο που πήρε στην προσπάθειά της να ανταγωνιστεί σκληρά στην αγορά, ήτανε δηλαδή μέρος της κανονικότητας και της ομαλότητάς της.
Ας κρατήσουμε, λοιπόν, αυτό το στοιχείο σχετικά με την Τεχνητή Νοημοσύνη. Οσο λιγότερη γνώση έχουμε για αυτήν, τόσο περισσότερες πιθανότητες έχουμε για ακραία γεγονότα, με ακραίες επιπτώσεις στη ζωή μας, που θα μοιάζουν τυχαία. Η περιορισμένη γνώση μας για την Τεχνητή Νοημοσύνη, το ότι για τη συντριπτική πλειονότητα των ανθρώπων στη Γη παραμένει «μαύρο κουτί», για το οποίο δεν έχουμε ιδέα πώς λειτουργεί, μας κάνει ευάλωτους στους «μαύρους κύκνους» που σχετίζονται με τις εφαρμογές της.
Αν δεν θέλουμε να γίνουμε οι «τυχαιοι επιβάτες» σε προδιαγεγραμμένες συντριβές, αν δεν θέλουμε να είμαστε τα θύματα που θα θυσιαστούν για να βελτιωθεί η τεχνολογία, πρώτο μας καθήκον είναι να απομαγεύσουμε και να κατανοήσουμε, έστω σε αδρές γραμμές, τι είναι η Τεχνητή Νοημοσύνη, από πού έρχεται και πού μας πάει, ποιος καθορίζει τους όρους ανάπτυξής της και γιατί. Αν η Τεχνητή Νοημοσύνη αποτελεί κορωνίδα της ανθρώπινης δημιουργικότητας, τότε η συζήτηση γύρω από αυτήν οφείλει να είναι η απαρχή για την απελευθέρωση της ανθρώπινης δημιουργικότητας από τη Σκύλλα της εκμετάλλευσης και τη Χάρυβδη της αλλοτρίωσης.
♦ Tο νέο βιβλίο του Αντώνη Μαυρόπουλου «Τεχνητή Νοημοσύνη, Ανθρωπος, Φύση, Μηχανές» θα κυκλοφορήσει από τις εκδόσεις «Τόπος» στις αρχές Απριλίου 2024.
Δεν υπάρχουν σχόλια:
Δημοσίευση σχολίου