ΣYΜΒΑΤΗ ΜΕ ΤΟΝ ΑΝΘΡΩΠΟ;

ΣYΜΒΑΤΗ ΜΕ ΤΟΝ ΑΝΘΡΩΠΟ;

Η Τεχνητή Νοημοσύνη και το πρόβλημα του ελέγχου

Βιώνουμε μια τεχνολογική επανάσταση που εγείρει βαθιά ερωτήματα για το τι είναι «άνθρωπος». Το σώμα και το μυαλό μας, που κάποτε τα θεωρούσαμε αποκλειστικά δικά μας, σύντομα θα αποτελούν εκφάνσεις μιας νοημοσύνης που δεν θα είναι ούτε φυσική ούτε τεχνητή. Πόσο συμβατή με τον άνθρωπο θα είναι μια μηχανή με νοημοσύνη ανώτερη από τη δική του; Θα συνυπάρξουμε ή μήπως, κάτω από την εξουσία της, θα καταρρεύσουν οι θέσεις εργασίας, οι ανθρώπινες σχέσεις, και ο ίδιος ο πολιτισμός μας; Ποιος, τελικά, θα κατέχει το «είναι» μας και τα δεδομένα του;

Ο Στιούαρτ Ράσελ –κορυφαίος επιστήμονας της Τεχνητής Νοημοσύνης, η «φωνή» της κατά κυριολεξία–περιγράφει πώς, μπροστά σε ένα μέλλον που έρχεται νωρίτερα απ' όσο νομίζουμε, θα καταφέρουμε να αλλάξουμε πορεία προτού να είναι αργά.

Προδιαγράφει τρόπους σχεδιασμού συστημάτων Τεχνητής Νοημοσύνης ασφαλών και ωφέλιμων για τον άνθρωπο. Προτείνει μηχανές που θα τις χαρακτηρίζει η αβεβαιότητα (η αμφιβολία) ως προς τους στόχους τους –στοιχείο θετικό, όχι σφάλμα της λειτουργίας τους– με επακόλουθο να συμμορφώνονται με τις επιθυμίες των ανθρώπων: θα ζητούν την άδειά τους, θα αποδέχονται διορθώσεις, θα τίθενται εκτός λειτουργίας, θα είναι ταπεινές, αλτρουιστικές, θα ανακαλύπτουν νέες δράσεις και, όπως κι εμείς, θα διαχειρίζονται τις γνώσεις τους και θα αποφασίζουν γρήγορα.

Θέτει το πλαίσιο ελέγχου της Τεχνητής Νοημοσύνης, με πρωταρχικό μέλημα ότι οι πράξεις των μηχανών θα οδηγούν στην επίτευξη των δικών μας στόχων, όχι των δικών τους. Ο Ράσελ θεωρεί την υπερανθρώπινη Τεχνητή Νοημοσύνη ως υπαρξιακή απειλή για το είδος μας και παράλληλα την αναγνωρίζει ως το ύψιστο επίτευγμα του ανθρώπου. Ας ευχηθούμε ότι δεν θα είναι και το ύστατο.

Συχνά, και όχι αδίκως, η Τεχνητή Νοημοσύνη μάς τρομάζει. Μολονότι προσφέρει τεράστιες δυνατότητες για βελτίωση της ζωής μας, δεν παύει να είναι μια εργασιακή επανάσταση πολύ διαφορετική από τις προηγούμενες, που μεταμορφώνει ολόκληρο το σύστημα παραγωγής, μετασχηματίζει τη δομή της διακυβέρνησης, και ανατρέπει τη σύγχρονη πολιτικοκοινωνική τάξη πραγμάτων. Στις μέρες μας επενδύονται δισεκατομμύρια σε μια παγκόσμια προσπάθεια να «ξεκλειδωθούν» τα οφέλη της Τεχνητής Νοημοσύνης –τόσο στην καθημερινή ζωή όσο και στους κρατικούς μηχανισμούς και τις επιχειρήσεις– με στόχο το πέρασμα της κοινότητας προς ένα βιώσιμο, ακόμη πιο συναρπαστικό μέλλον. Παράλληλα, η έρευνα για την προσέγγιση της υπερανθρώπινης Τεχνητής Νοημοσύνης συνεχίζεται ακάθεκτη. Μήπως αυτό που θα προκύψει, μόλις τα καταφέρουμε, απαιτήσει την καταστροφή της ανθρώπινης φυλής; Ο Στιούαρτ Ράσελ δηλώνει πως ακόμη τίποτε δεν έχει χαθεί· αρκεί να κατανοήσουμε πού έχουμε κάνει λάθος και μετά να το διορθώσουμε.

Λίγα λόγια για τον συγγραφέα

Ο Στιούαρτ Ράσελ γεννήθηκε το 1962 στο Πόρτσμουθ της Αγγλίας. Είναι Καθηγητής Επιστήμης των Υπολογιστών και κάτοχος της Έδρας Μηχανικής Smith-Zadeh, στο Πανεπιστήμιο της Καλιφόρνιας, στο Μπέρκλεϊ των Η.Π.Α. Σπούδασε Φυσική (κάτοχος Bachelor of Arts) στο Πανεπιστήμιο της Οξφόρδης (1982) και κατόπιν ολοκλήρωσε το διδακτορικό του στην Επιστήμη των Υπολογιστών στο Πανεπιστήμιο του Στάνφορντ (1986). Στη συνέχεια, έλαβε θέση Καθηγητή (και Προέδρου) στο Τμήμα Ηλεκτρικής Μηχανολογίας και Επιστημών των Υπολογιστών του Πανεπιστημίου της Καλιφόρνιας στο Μπέρκλεϊ. Στο ίδιο πανεπιστήμιο κατέχει την Έδρα Μηχανικής Smith-Zadeh· επίσης, ίδρυσε και διευθύνει το Κέντρο για τη Συμβατή με τον Άνθρωπο Τεχνητή Νοημοσύνη (Center for Human-Compatible AI). Διετέλεσε επίκουρος Καθηγητής Νευρολογικής Χειρουργικής στο Πανεπιστήμιο της Καλιφόρνιας, στο Σαν Φρανσίσκο και Αντιπρόεδρος του Συμβουλίου του Παγκόσμιου Οικονομικού Φόρουμ για την Τεχνητή Νοημοσύνη και τη Ρομποτική. Τιμήθηκε με τα βραβεία «Presidential Young Investigator Award» του Εθνικού Ιδρύματος Επιστημών, «Computers and Thought Award», «World Technology Award», «Mitchell» της Αμερικανικής Στατιστικής Ένωσης, «Feigenbaum» του Συνδέσμου για την Προώθηση της Τεχνητής Νοημοσύνης, και «Outstanding Educator Awards» από την ACM και την AAAI. Από το 2012 έως το 2014, ήταν κάτοχος της έδρας Chaire Blaise Pascal στο Παρίσι, ενώ του έχει απονεμηθεί η υποτροφία Andrew Carnegie Fellowship για την περίοδο 2019 έως 2021. Είναι Επίτιμος Fellow του Wadham College της Οξφόρδης, Επίτιμος Fellow του Stanford Institute for Human-Centered AI, Επίτιμος Fellow του Βασιλικού Ινστιτούτου Διεθνών Υποθέσεων (Chatham House), Fellow της Ένωσης για την Προώθηση της Τεχνητής Νοημοσύνης, του Association for Computing Machinery και της Αμερικανικής Ένωσης για την Προώθηση της Επιστήμης. Στο έργο του Artificial Intelligence: A Modern Approach, που έχει συγγράψει με τον Peter Norvig καλύπτει ένα ευρύ φάσμα θεμάτων στον τομέα της τεχνητής νοημοσύνης που περιλαμβάνουν τη μηχανική μάθηση, την πιθανοτική συλλογιστική, την αναπαράσταση της γνώσης, τον σχεδιασμό, τη λήψη αποφάσεων σε πραγματικό χρόνο, την παρακολούθηση πολλαπλών στόχων, την υπολογιστική όραση, την υπολογιστική φυσιολογία και θέματα φιλοσοφικού περιεχομένου. Εργάζεται επίσης για τον Οργανισμό Ηνωμένων Εθνών, αναπτύσσοντας ένα νέο παγκόσμιο σύστημα παρακολούθησης σεισμών για τη συνθήκη απαγόρευσης των πυρηνικών δοκιμών. Οι τρέχουσες ερευνητικές ανησυχίες του περιλαμβάνουν την ενδεχόμενη απειλή από τη χρήση αυτόνομων όπλων, καθώς και το μακροπρόθεσμο μέλλον της τεχνητής νοημοσύνης και τη σχέση της με την ανθρωπότητα.