Ο «μεγάλος αδελφός» γιγαντώνεται – Το δυστοπικό εργαλείο ελέγχου συναισθημάτων και οι εφαρμογές του που τρομάζουν

Μπορεί ένα πρόγραμμα να καταλάβει τα συναισθήματα και την ψυχολογία ενός ανθρώπου αναλύοντας απλώς το πρόσωπό του ή τον τρόπος ομιλίας του; Ορισμένες startups απαντούν στο εν λόγω ερώτημα ηχηρά καταφατικά.

Οι εν λόγω εταιρείες επικεντρώνονται σε αυτό που αποκαλείται «τεχνητή νοημοσύνη συναισθημάτων» (EAI) και υποστηρίζουν πως η ΑΙ μπορεί να αντιληφθεί ακόμη και ανεπαίσθητες κινήσεις του προσώπου, που δεν γνωρίζουμε καν ότι κάνουμε, να τις αναλύσει και να καθορίσει την ψυχολογία ενός ατόμου. Ακολούθως μπορεί να μετατρέψει αυτές τις πληροφορίες σε δεδομένα συναισθημάτων.

Οι προγραμματιστές, σύμφωνα με το Business Insider, ισχυρίζονται πως η EAI μπορεί να ξεχωρίσει τις διαφορές μεταξύ συναισθημάτων όπως η ευτυχία, η σύγχυση, ο θυμός, ακόμη και ο συναισθηματισμός. Θεωρητικά αυτή η τεχνολογία δίνει τη δυνατότητα σε ένα υπολογιστή να γνωρίζει τα συναισθήματά μας, ακόμη κι αν εμείς δεν αντιλαμβανόμαστε ότι τα εξωτερικεύουμε.

Για πολλές εταιρείες, το EAI μπορεί να αποδειχθεί «χρυσωρυχείο». Για παράδειγμα, η κατανόηση των συναισθημάτων των πελατών θα διευκόλυνε πολύ την πώληση προϊόντων. Εάν η EAI μπορεί να αντιληφθεί την συναισθηματική αντίδραση ενός ανθρώπου στην παρουσίαση ενός προϊόντος, τότε μπορεί να του προσφέρει όλο και περισσότερα από αυτά που του προκαλούν θετικά συναισθήματα, αυξάνοντας τις πιθανότητες τελικά να πραγματοποιήσει μια αγορά.

Σύμφωνα με το δημοσίευμα του Business Insider, ορισμένες επιχειρήσεις χρησιμοποιούν ήδη αυτή την τεχνολογία για την κατασκευή έξυπνων παιχνιδιών, ρομπότ, οχημάτων και ΑΙ chatbot με «ενσυναίσθηση».  

Πέρα από τις εμπορικές χρήσεις, το EAI θα μπορούσε να αποδειχθεί και ένα νοσηρά χρήσιμο εργαλείο στην αγορά εργασίας: Η γνώση της συναισθηματικής κατάστασης ενός υποψήφιου ή ενός εργαζόμενου μιας εταιρείας μπορεί να αξιοποιηθεί από τους υπεύθυνους, όχι μόνο για τον εν λόγω εργαζόμενο, αλλά και για την εν γένει λειτουργία της εταιρείας.

Αν και οι υποστηρικτές αυτής τεχνολογίας διαρκώς αυξάνονται, δεν είναι λίγοι αυτοί που εκφράζουν σοβαρές επιφυλάξεις και αντιρρήσεις, ακόμη και για το εάν η EAI λειτουργεί στην πραγματικότητα. Πολλοί από τους επικριτές επισημαίνουν πως δεν είναι δυνατή η κατανόηση των συναισθημάτων μας απλώς μέσα από μια ανάλυση των εκφράσεων του προσώπου μας.

Αυτό όμως, τονίζει το Business Insider, δεν εμποδίζει εταιρείες να χρησιμοποιούν ήδη το EAI – έστω και ως συμπληρωματικό εργαλείο.

Η «Εmotion Artificial intelligence» έχει αρχίσει να αναπτύσσεται από τα τέλη της δεκαετίας του 1990, ωστόσο τα τελευταία χρόνια η ανάπτυξή της έχει εκτιναχθεί λόγω του γιγαντιαίου όγκου δεδομένων, τα οποία χρησιμοποιούνται για την εκπαίδευση των μοντέλων τεχνητής νοημοσύνης.

Οι κινήσεις του προσώπου, η αναπνοή, οι καρδιακοί παλμοί, η εφίδρωση, η στάση του σώματος, ο τρόπος ομιλίας και οι τονικές αλλαγές, η διαστολή της κόρης του ματιού, το βλέμμα και πολλά άλλα δεδομένα μπορούν να συγκεντρωθούν και να αξιοποιηθούν σε μια μεγάλη ποικιλία εφαρμογών που αξιολογούν συμπεριφορές και συναισθήματα. Υπάρχουν μοντέλα ΕΑΙ που σύμφωνα με τους δημιουργούς τους, μπορούν ακόμη και να εντοπίσουν συναισθήματα, τα οποία εκφράζονται ασυνείδητα, σε emails, sms και άλλα ηλεκτρονικά κείμενα.

Το «έξυπνο μάτι»

Μια από τις εταιρείες που δουλεύουν πάνω στη EAI είναι η Smart Eye. Η εταιρεία έχει συγκεντρώσει έναν τεράστιο όγκο δεδομένων από βίντεο με εκφράσεις προσώπου για να αναπτύξει τα μοντέλα της. Η Smart Eye χρησιμοποιείται αυτή την στιγμή για την παρακολούθηση του οδηγού, ώστε να ανιχνεύεται η κόπωση του.

Παρέχει επίσης αναλυτικά στοιχεία για εταιρείες διαφήμισης και ψυχαγωγίας. Οι ενδιαφερόμενοι πληρώνουν την εταιρεία για να συγκεντρώσει στοιχεία σχετικά με τις αντιδράσεις σε ένα διαφημιστικό μήνυμα ή το τρέιλερ μιας ταινίας. Προκάλεσε τελικά το σποτ το συναίσθημα για το οποίο δημιουργήθηκε; Η απάντηση στο ερώτημα και τα επιμέρους στοιχεία των αντιδράσεων αξιοποιούνται απο τις εταιρείες ώστε να προχωρήσουν σε πιθανές προσαρμογές όχι μόνο των διαφημιστικών μηνυμάτων, αλλά και των ίδιων των προϊόντων.

Και στην αγορά εργασίας

Η HireVue είναι μια πλατφόρμα προσλήψεων στη Γιούτα η οποία χρησιμοποιεί την EAI ως μέρος της διαδικασίας συνέντευξης ενός υποψήφιου. Η ιδέα για τη χρήση της ήταν «ευγενής», καθώς κατά τους υπεύθυνους της HireVue, η EAI μπορεί να μετριάσει την προκατάληψη και να εντοπίσει ιδανικούς υποψήφιους αξιολογώντας και τα ψυχολογικά χαρακτηριστικά, αλλά και τη συναισθηματική νοημοσύνη. H ΙΚΕΑ, το πρακτορείο Dow Jones και η Oracle, σύμφωνα με την Washington Post, έχουν χρησιμοποιήσει την EAI για να αξιολογήσουν περισσότερα από 1 εκατομμύρια άτομα που αναζητούσαν εργασία.

 Το 2019 υπήρξαν καταγγελίες για «αθέμιτες και παραπλανητικές πρακτικές» σε βάρος της HireVue. Οι κατηγορίες αφορούσαν έρευνα που διαπίστωνε πιθανές προκαταλήψεις του μοντέλου EAI κατά γυναικών, μαύρων και ατόμων με νευρολογικές διαφορές. Η εταιρεία, αν και απέρριψε τις καταγγελίες, τελικά ανακοίνωσε το 2021 πως θα σταματήσει – τουλάχιστον προσωρινά – την ανάλυση προσώπων. Ωστόσο τόνισε ότι θα συνεχίσει την ανάλυση από την τεχνητή νοημοσύνη της ομιλίας και της συμπεριφοράς των υποψηφίων κατά τη διάρκεια των συνεντεύξεων.  Σύμφωνα με την εταιρεία, τα λεκτικά στοιχεία είναι αρκετά για να προκύψουν συμπεράσματα για τη συναισθηματική κατάσταση ενός ατόμου.

Η υπόθεση της HireVue είναι ενδεικτική και όχι μοναδική. Πολλές άλλες παρόμοιες πλατφόρμες χρησιμοποιούν την EAI ισχυριζόμενες πως τα μοντέλα τους είναι απαλλαγμένα από οποιαδήποτε προκατάληψη.

Επίσης η επίμαχη τεχνολογία έχει χρησιμοποιηθεί και σε τηλεφωνικά κέντρα, ώστε να ενημερώνονται οι εκπρόσωποι των εταιρειών, σε πραγματικό χρόνο, για τα συναισθήματα των πελατών που έχουν καλέσει και να διαμορφώνουν τη στάση και την προσέγγισή τους.

Στους ιδρυτές της Looksery, μιας εταιρείας ανάπτυξης λογισμικού που ανήκει στην Snap Inc., χορηγήθηκε δίπλωμα ευρεσιτεχνίας το 2017 για μια τεχνολογία τηλεδιάσκεψης που αναφέρεται ως «αναγνώριση συναισθημάτων για το εργατικό δυναμικό». Πρόκειται για ένα εργαλείο που θα μπορούσε να χρησιμοποιηθεί κατά τη διάρκεια βιντεοκλήσεων, ενδεχομένως μεταξύ εκπροσώπων μιας εταιρείας και των πελατών, και όπως αναφέρεται «ένας εργοδότης μπορεί να χρησιμοποιήσει τις πληροφορίες που συλλέγονται για τη βελτιστοποίηση του εργατικού δυναμικού, την απόλυση υπαλλήλων με χαμηλή απόδοση, την προώθηση των εργαζομένων που έχουν θετική στάση απέναντι στους πελάτες ή τη λήψη άλλων διοικητικών αποφάσεων».

Έρευνες που έχουν πραγματοποιηθεί για το EAI, όπως για παράδειγμα αυτή του Κατ Ρόμιχ από το Πανεπιστήμιο του Μίσιγκαν, διαπιστώνουν πως οι εργαζόμενοι συχνά δεν γνωρίζουν ότι η εταιρεία τους χρησιμοποιεί αυτή τη τεχνολογία. Στην πραγματικότητα, βάσει της τρέχουσας νομοθεσίας, κανείς δεν είναι υποχρεωμένος να τους ενημερώσει. Οι συναισθηματικές πληροφορίες μπορούν να συλλεχθούν «αναλύοντας δεδομένα που ήδη συλλέγουν ως μέρος των υφιστάμενων προγραμμάτων παρακολούθησης και επιτήρησης», τονίζει ο Ρόμιχ στο Business Insider, πράγμα που σημαίνει ότι οι εταιρείες μπορούν απλώς να προσαρμόσουν την EAI σε υπάρχοντα προγράμματα επιτήρησης χωρίς να ειδοποιήσουν τους υπαλλήλους.

Τα προγράμματα επιτήρησης εργαζομένων επεκτάθηκαν ιδιαίτερα κατά τη διάρκεια της πανδημίας, λόγω της υιοθέτησης της εργασίας από το σπίτι. Δεδομένου ότι η EAI δεν αφορά μοναδικά αναγνωρίσιμα βιομετρικά δεδομένα, όπως για παράδειγμα το δακτυλικό αποτύπωμα, δεν ελέγχεται στις ΗΠΑ. Στην Ευρώπη, η Κομισιόν επεξεργάζεται ένα νομοσχέδιο που θα μπορούσε να καταστήσει παράνομη τη χρήση της εν λόγω τεχνολογίας στο χώρο εργασίας. Όμως μέχρι να εγκριθεί το ρυθμιστικό πλαίσιο, οι εταιρείες είναι ελεύθερες να χρησιμοποιούν την ΕΑΙ κατά το δοκούν.