Είκοσι χρόνια μετά το Deep Blue, τι μπορεί να κάνει η AI για εμάς; ότι θα μπορούσε να ξεπεράσει έναν άνθρωπο στον πιο ανθρώπινο στόχο: να παίξει ένα παιχνίδι. Ο άνθρωπος ήταν ο παγκόσμιος πρωταθλητής σκακιού Γκάρι Κασπάροφ και ο υπολογιστής ήταν ο Deep Blue της IBM. Ο Murray Campbell, ένας από τους δημιουργούς της Deep Blue, μιλάει για τα άλλα πράγματα που έμαθαν να κάνουν οι υπολογιστές όσο και για τους ανθρώπους και τι σημαίνει αυτό για το μέλλον μας.

Ένας από τους δημιουργούς της Deep Blue, Murray Campbell, μίλησε με την IDG News Service για τα άλλα πράγματα που οι υπολογιστές έχουν μάθει να κάνουν τόσο καλά όσο και καλύτερα από τους ανθρώπους και τι σημαίνει αυτό για το μέλλον μας.

IDGNS: Είναι αλήθεια ότι εσείς και η Deep Blue μπήκατε ταυτόχρονα στην IBM;

[Περισσότερες πληροφορίες: Οι καλύτερες υπηρεσίες τηλεοπτικής ροής]

Murray Campbell: Δεν είναι είναι αλήθεια. Μια ομάδα από εμάς, μαζί με τον εαυτό μου, ήρθαμε στην IBM από το Πανεπιστήμιο Carnegie-Mellon στο Πίτσμπουργκ το 1989, αλλά δεν καταφέραμε να βρούμε το όνομα Deep Blue μέχρι περίπου ένα χρόνο αργότερα.

MC: Από τότε που μπήκα μέχρι το 1997 με τον παγκόσμιο πρωταθλητή που ήταν η δουλειά μου, να οικοδομήσουμε και να βελτιώσουμε το Deep Blue.

IDGNS: Λέγεται ότι ένας από τους λόγους που ο Depar Blue κτύπησε τον Kasparov ήταν ότι είχε ένα σφάλμα που το έκανε να παίξει μια παράξενη κίνηση που με έκανε να τον βγάλει έξω.

MC: Δεν είμαι σίγουρος αν αυτή είναι μια έγκυρη θεωρία ή όχι. Αυτό που συνέβη ήταν ότι, στο τέλος του πρώτου αγώνα του αγώνα, ο Deep Blue ήταν έτοιμος να χάσει. Είχε μια χαμένη θέση, αλλά το παιχνίδι θα μπορούσε να έχει πάει για αρκετό καιρό. Ο Kasparov θα έπρεπε να αποδείξει ότι ήξερε πώς να κερδίσει τη θέση, κάτι που φυσικά είμαι σίγουρος ότι ήταν ικανός να κάνει. Αλλά ο Deep Blue, λόγω ενός σφάλματος, έπαιξε μια τυχαία κίνηση και η τυχαία κίνηση ήταν μια ιδιαίτερα κακή κίνηση και έτσι μόλις αποκρίθηκε ο Kasparov, παραιτήσαμε για το Deep Blue.

Υπήρχαν κάποιες εικασίες σε κάποιο σημείο που αυτό προκάλεσε Kasparov να μην έχει μια καλή εικόνα για το τι Deep Blue μπορούσε και δεν μπορούσε να κάνει στο παιχνίδι του σκάκι. Νομίζω ότι είναι απλά εικασίες.

IDGNS: Πώς προέκυψε το σφάλμα; Μπορείτε να καταλάβετε τι την προκάλεσε;

MC: Ναι, το καταφέραμε να το καταλάβουμε και να το διορθώσουμε, αν και δεν το διορθώσαμε μέχρι το δεύτερο παιχνίδι, έτσι ήταν και εκεί για το παιχνίδι δύο. Φυσικά, δεν συνέβη τότε: Ήταν πολύ σπάνιο.

Εμφανίστηκε μόνο κάτω από συγκεκριμένες περιστάσεις: η Deep Blue έλαβε ένα χρονικό περιθώριο για να υπολογίσει μια κίνηση και αν έλειπε εκτός χρόνου με κάποιο τρόπο, μπορεί να προκαλέσει τυχαία κίνηση. Είχαμε δει αυτό το σφάλμα μερικούς μήνες νωρίτερα και νομίζαμε ότι το διορθώσαμε. Νομίζω ότι είχαμε καθορίσει τέσσερις από τους πέντε τρόπους που θα μπορούσε να συμβεί, αλλά χάσαμε ένα από αυτά. Έτσι, βέβαια, σε μια παγκόσμια σκηνή, εμφανίστηκε ξανά.

IDGNS: Από εκείνο τον αγώνα, είδαμε το Alpha Go του DeepMind να αναλάβει μερικούς από τους πιο δυνατούς παίκτες του κόσμου και είδαμε τον Watson της IBM να αναλάβει Πρωταθλητές κινδύνου. Τι πιστεύετε ότι είναι οι επόμενες μεγάλες προκλήσεις που η AI είναι έτοιμη;

MC: Τα επιτραπέζια παιχνίδια έχουν εξυπηρετήσει AI πολύ καλά, και τα δύο σκάκι και να πάνε, αλλά πιστεύω ότι τα επιτραπέζια παιχνίδια έχουν λίγο πολύ την ημέρα τους και είναι καιρός να να προχωρήσουμε σε περισσότερα προβλήματα πραγματικού κόσμου, προβλήματα που έχουν μεγαλύτερη πολυπλοκότητα σε αυτά. Παιχνίδια όπως το σκάκι είναι πολύ καλά καθορισμένα: Όλα είναι ακριβώς μπροστά σου, έχετε όλες τις πληροφορίες, ξέρετε ακριβώς τι κινήσεις είναι δυνατόν, ξέρετε ποια μακέτα μοιάζει και ούτω καθεξής.

Ο πραγματικός κόσμος δεν είναι έτσι: Υπάρχει πολυπλοκότητα σε κάθε τρόπο που γυρίζεις. Νομίζω ότι θα πρέπει να προσθέσουμε κάποια πρόσθετη πολυπλοκότητα στις προκλήσεις και τα προβλήματα που αντιμετωπίζουμε.

Υπάρχουν ακόμα ενδιαφέρουσες προκλήσεις στα παιχνίδια υπολογιστών. Για παράδειγμα, είδα πρόσφατα ότι ένα πρόγραμμα είχε κτυπήσει μια ομάδα ανθρώπων επαγγελματιών στο πόκερ και αυτό είναι ενδιαφέρον επειδή προσθέτει αυτές τις ατελείς πληροφορίες, όπως τις αποκαλούμε, κρυφές πληροφορίες όπου οι αντίπαλοί σας γνωρίζουν τις κάρτες τους αλλά δεν το κάνετε. Αυτός είναι ένας τρόπος για να προσθέσετε πολυπλοκότητα. Υπάρχουν και άλλοι.

Όμως, μακροπρόθεσμα, θέλουμε να αντιμετωπίσουμε προβλήματα όχι εκεί που προσπαθούμε να δημιουργήσουμε ένα σύστημα που μπορεί να κάνει τόσο καλά όσο και καλύτερα από τους ανθρώπους, αυτό που πραγματικά θέλουμε είναι συστήματα που συμπληρώνουν τους ανθρώπους με ενδιαφέρον τρόπο και βοηθούν τους ανθρώπους να λαμβάνουν αποφάσεις

Στο σκάκι, προφανώς, ο στόχος μας τουλάχιστον αρχικά με το Deep Blue ήταν να αποδείξουμε ότι ήταν δυνατό να οικοδομηθεί ένα σύστημα που θα μπορούσε να παίξει καθώς και οι καλύτεροι παίκτες στον κόσμο. Στο δρόμο, χτίσαμε αυτό το σύστημα που έπαιζε σκάκι με εντελώς διαφορετικό τρόπο από τον ανθρώπινο τρόπο να παίζεις σκάκι. Ήταν φανερό ότι η ανθρώπινη προσέγγιση είχε τα πλεονεκτήματα και τις αδυναμίες της και η προσέγγιση των υπολογιστών που χρησιμοποιούσαμε είχε τα δυνατά και αδύναμα σημεία της. Συνδυάζοντας τα δύο μαζί, στην πραγματικότητα αποδείχθηκε αρκετά γρήγορα για να παραχθεί ένας παίκτης που θα μπορούσε να είναι καλύτερος από τον άνθρωπο ή μόνο από τον υπολογιστή.

Είκοσι χρόνια αργότερα αυτό εξακολουθεί να ισχύει, γι 'αυτό θεωρώ ότι το μάθημα που μάθαμε ισχύει για σχεδόν κάθε πραγματικό πρόβλημα που μπορούμε να σκεφτούμε.

Για παράδειγμα, στην υγειονομική περίθαλψη, ο γιατρός μπορεί να κοιτάξει έναν ασθενή και να κάνει μια διάγνωση και να βρει μια θεραπεία. Αλλά αν έχουν έναν βοηθό που σκέφτεται το πρόβλημα διαφορετικά απ 'ότι κάνουν, έχει διαφορετικές δεξιότητες, μπορεί να εξετάσει όλη την πρόσφατη ιατρική βιβλιογραφία και όλες τις τρέχουσες δοκιμές φαρμάκων και να παράγει εναλλακτικές διαγνώσεις ή εναλλακτικές θεραπείες που ο ανθρώπινος ειδικός, ο γιατρός , μπορεί να εξετάσει και να δεχθεί ή να απορρίψει; Τους επιτρέπει να διευρύνουν τη σκέψη τους και με αυτό, να αποκτήσουν υψηλότερο επίπεδο απόδοσης από ό, τι με καθεμία από αυτές.

IDGNS: Είναι ένα πλεονέκτημα αυτού του αυξημένου συστήματος πληροφοριών, όπου είναι τελικά ο ιατρός που λαμβάνει την απόφαση, ότι το κάνει

MC: Μερικές φορές τα προβλήματα δεν είναι η ζωή ή ο θάνατος. Αν αποφασίσετε να εγκαταστήσετε ένα σύστημα που συνιστά μια ταινία ή ένα βιβλίο σε κάποιον, αν κάνετε λάθος δεν είναι το τέλος του κόσμου, ενώ κάποιες αποφάσεις είναι πραγματικά σημαντικές. Πρέπει να έχουμε, για πολλές δεκαετίες, να προτείνω, οι άνθρωποι να έχουν την τελευταία λέξη για αυτές τις αποφάσεις. Όμως, όσο πιο ενημερωμένοι είναι για λογικές εναλλακτικές λύσεις και τα πλεονεκτήματα και τα μειονεκτήματα αυτών των εναλλακτικών λύσεων, νομίζω ότι ο καλύτερος θα είναι όλοι.

IDGNS: Βρήκατε το σφάλμα στο Deep Blue, αλλά η πιο πρόσφατη γενιά AI φαίνεται πολύ περισσότερο απίστευτο και πιο δύσκολο να ελεγχθεί από το Deep Blue: Δεν μπορείτε να κοιτάξετε πίσω στο δέντρο αναζήτησης των κινήσεων που έχουν εξετάσει και να υπολογίσετε εάν μας δίνουν τη σωστή απάντηση, ιδιαίτερα σε αυτά τα πραγματικά προβλήματα που μιλούσατε.

MC: Είναι ίσως ένα από τα πιο κρίσιμα προβλήματα στο AI σήμερα. Έχουμε δει μερικές από τις επιτυχίες που βασίζονται στη βαθιά εκμάθηση, στα μεγάλα νευρωνικά δίκτυα που εκπαιδεύονται σε προβλήματα και είναι εξαιρετικά χρήσιμα, αλλά είναι μεγάλα μαύρα κουτιά. Δεν εξηγούν τους εαυτούς τους με κανένα χρήσιμο τρόπο αυτή τη στιγμή

Υπάρχουν ερευνητικά έργα που προσπαθούν να αλλάξουν αυτό, αλλά, για παράδειγμα, ακόμη και το Deep Blue, το οποίο δεν βασίστηκε σε ένα νευρωνικό δίκτυο αλλά σε μια μεγάλη αναζήτηση μέσω δισεκατομμυρίων των δυνατοτήτων, δεν είχε πραγματικά χρήσιμο τρόπο να περιγράψει ακριβώς γιατί έκανε τις κινήσεις που έκανε. Θα χρειαστεί να κάνετε πολλή δουλειά αν σας δοθεί μια σύσταση Deep Blue για να καταλάβετε γιατί το είχε συστήσει. Και νομίζω ότι αυτό ισχύει και για τα σύγχρονα συστήματα AI. Στην ομάδα με την οποία εργάζομαι, ένα από τα βασικά ερευνητικά προβλήματα είναι η ερμηνεία του AI, επιτρέποντάς τους να εξηγηθούν έτσι ώστε τα ενισχυμένα συστήματα πληροφοριών που μίλησα να είναι πιο αποτελεσματικά εάν το σύστημα μπορεί να εξηγήσει τη συλλογιστική του στην ανθρώπινη απόφαση λήψης αποφάσεων,

IDGNS: Τι προσεγγίσεις παίρνετε σε αυτό;

Υπάρχουν προσεγγίσεις που χρησιμοποιούν τη μηχανική μάθηση για να βοηθήσουν την εκμάθηση μηχανών να περιγραφεί. Έχετε ένα σύστημα που παίρνει αποφάσεις ή σας δίνει μια πρόβλεψη και στη συνέχεια, ίσως με το κόστος πολλών εργασιών, για κάθε μία από αυτές τις αποφάσεις καταλαβαίνετε τι είναι η συλλογιστική, ένας κατανοητός από τον άνθρωπο λόγος για τον οποίο αυτή είναι μια καλή απόφαση ή γιατί η απόφαση αυτή ελήφθη. Στη συνέχεια, μπορείτε να οικοδομήσετε ένα σύστημα το οποίο, δεδομένης μιας δέσμης παραδειγμάτων αποφάσεων και εξηγήσεων, μπορεί να μάθει να εξηγεί χρήσιμες εξηγήσεις. Αυτή είναι μια προσέγγιση.

Υπάρχουν ορισμένες τυπικές προσεγγίσεις μηχανικής μάθησης που χρησιμοποιούν πιο ερμηνεύσιμα συστήματα που βασίζονται σε κανόνες που μπορούν να θεωρηθούν, επειδή οι κανόνες είναι πολύ διαισθητικοί για τους ανθρώπους. Μπορούν να λειτουργήσουν με κανόνες: Εάν η θερμοκρασία είναι μεγαλύτερη από αυτή και η υγρασία είναι τέτοια και τέτοια, θα είσαι άβολα.

Υπάρχουν όρια. Ορισμένα από αυτά τα προβλήματα του πραγματικού κόσμου είναι αρκετά σύνθετα ώστε ένα απλό σύνολο κανόνων δεν αρκεί και πιστεύω ότι γι 'αυτό είναι ένα τόσο σημαντικό ερευνητικό θέμα με πολλούς ανθρώπους που το βλέπουν. Προσπαθεί να βρει εξηγήσεις που είναι αληθινές αλλά και χρήσιμες. Αυτός ο συνδυασμός είναι αυτό που εξετάζουμε.

IDGNS: Παρατήρησα την ιδέα της νομικής ευθύνης νωρίτερα. Υπάρχει κάποια εργασία που κάνει τις εξηγήσεις αυτές να είναι επαρκώς αξιόπιστες και να συνδέονται με τη συλλογιστική του συστήματος AI ότι θα μπορούσαν να βασιστούν σε μια νομική διαδικασία;

MC: Αυτή είναι μια ερώτηση που είναι πιθανόν πέρα ​​από τις γνώσεις μου επειδή περιλαμβάνει συστήματα το νομικό πλαίσιο, αλλά η σκέψη μου είναι ότι για τις αποφάσεις που έχουν σημασία, τελικά χρειαζόμαστε τους ανθρώπους να είναι υπεύθυνοι για τις επόμενες δεκαετίες. Οι συστάσεις από έναν υπολογιστή, μαζί με εξηγήσεις αυτών των συστάσεων, είναι χρήσιμα εργαλεία, αλλά είναι μόνο εργαλεία και τελικά ένας υπεύθυνος λήψης αποφάσεων πρέπει να αναλάβει την ευθύνη.

IDGNS: Πείτε μας για τις προσεγγίσεις που είστε εργαζόμενοι για την παροχή βοήθειας στους υπολογιστές να δουλεύουν με ανθρώπους και τους τομείς στους οποίους μπορούν να χρησιμοποιηθούν;

MC: Μιλήσαμε λίγο για την υγειονομική περίθαλψη. Επιτρέψτε μου να σας δώσω ένα συγκεκριμένο παράδειγμα. Χρησιμοποιώντας βαθιές προσεγγίσεις μάθησης, εμείς στην IBM έχουμε αναπτύξει ένα σύστημα αναγνώρισης εικόνων για τον καρκίνο του δέρματος έτσι, δεδομένης μιας φωτογραφίας, για παράδειγμα, μιας βλάβης στο δέρμα, θα είναι σε θέση να ταξινομήσει ή να εντοπίσει αυτή τη βλάβη με πολύ υψηλή ακρίβεια, υψηλότερη ακρίβεια από τους ανθρώπινους εμπειρογνώμονες.

Αλλά δεν κατανοεί το πλήρες πλαίσιο του ασθενούς και γι 'αυτό είναι μόνο ένα κομμάτι πληροφοριών που πρέπει να παρέχεται στον ιατρό. Βλέπουν τον ασθενή αυτοπροσώπως, βλέπουν την ιστορία τους και βλέπουν τη σύσταση, λένε: "Αυτή η βλάβη έχει 85% πιθανότητα να είναι καρκίνος, πρέπει να είναι βιοψία". Αυτή είναι η σύσταση, αλλά ο γιατρός μπορεί να πει, "Ω, καλά στην περίπτωση αυτή ξέρω ότι δεν είναι πρόβλημα επειδή …". Αυτό είναι ένα παράδειγμα.

Ένας άλλος που με ενδιαφέρει είναι αυτό που ονομάζουμε "γήρανση στη θέση του". Εξοπλίζετε τα σπίτια ενός γηράσκοντος πληθυσμού με αισθητήρες, τεχνολογίες διαδικτύου με τα πράγματα και, στη συνέχεια, τα συστήματα που βασίζονται σε συστήματα AI παρακολουθούν εκείνους τους αισθητήρες που αναζητούν προειδοποιητικά σημάδια ανώμαλων συμπεριφορών που μπορεί να υποδεικνύουν ένα πρόβλημα, το οποίο φέρνει την προσοχή των φροντιστών. > Ένα από τα μεγαλύτερα ελλείμματα στον κόσμο σήμερα είναι ότι δεν ξέρουμε πού να εστιάσουμε την προσοχή μας. Υπάρχουν τόσα πολλά στοιχεία ότι αν είχαμε ένα σύστημα που θα μπορούσε να μας βοηθήσει να εστιάσουμε την προσοχή μας σε σημαντικά πράγματα, θα ήταν ένας πολύ καλός τρόπος για να οικοδομήσουμε ένα συνεργατικό σύστημα.

IDGNS: Ποιο είναι το πράγμα που σας ενθουσιάζει περισσότερο για το πεδίο του AI τη στιγμή που νομίζετε ότι θα έχει το μεγαλύτερο αντίκτυπο στη ζωή σας;

MC: Ελπίζω ότι από τη στιγμή που είμαι συνταξιούχος το σύστημα γήρανσης στη θέση έχει επεξεργαστεί με μεγάλη λεπτομέρεια και μπορώ να πάρω

Με την πρόοδο του AI, μερικά από τα συστήματα που υπάρχουν αυτή τη στιγμή σε περιορισμένη μορφή θα γίνουν πολύ πιο χρήσιμα στον πραγματικό κόσμο

Ένα από τα μεγάλα προβλήματα που βλέπω με όλο το deep- η εκρηκτική μάθηση είναι, τείνουν να επικεντρώνονται σε προβλήματα που θα μπορούσατε να πείτε ότι είναι πιο αντιληπτικά: Παίρνετε μια εικόνα ή ένα κλιπ ή κάτι και ταξινομείτε την εικόνα ή παράγετε το κείμενο που προέρχεται από αυτό το κλιπ ήχου. η πραγματική συλλογιστική πολλών σταδίων και ο σχεδιασμός και η στρατηγική σκέψη δεν αποτελούν επί του παρόντος μεγάλη δύναμη αυτού του συστήματος AI s, και αυτό είναι όπου οι άνθρωποι έρχονται μέσα. Λέω πριν από το πώς τα συστήματα AI μπορούν να βοηθήσουν να εστιάσουν τους ανθρώπους σε ό, τι έχει σημασία :; Νομίζω ότι οι άνθρωποι μπορούν να επικεντρώσουν τα συστήματα AI στην εξέταση προβλημάτων ή στην αναζήτηση σε κατευθύνσεις όπου υπάρχει μια διαίσθηση ότι υπάρχει κάτι χρήσιμο εκεί.

Εκεί βλέπω αυτά τα συστήματα να αναπτύσσονται την επόμενη δεκαετία, οι άνθρωποι φέρνουν τις δεξιότητές τους στο μίγμα, μηχανές που φέρνουν τις δεξιότητές τους και εργάζονται μαζί. Βλέπω ότι συμβαίνει σε σχεδόν όλους τους τομείς, την υγειονομική περίθαλψη, την εκπαίδευση, τη γήρανση στη θέση της, την ονομάζετε.

IDGNS: Κατασκευάζετε σύστημα AI στην εργασία, αλλά χρησιμοποιείτε συστήματα AI για να σας βοηθήσουμε στην εργασία σας;

MC: Ως ερευνητής, χρησιμοποιώ τα εργαλεία, προφανώς. Χρησιμοποιώ αναζητήσεις στο διαδίκτυο και έχω εργαλεία που με βοηθούν να κοιτάξω τα τεχνικά έγγραφα που βγαίνουν και να προσπαθήσω να εντοπίσω αυτά που πρέπει να επικεντρωθώ. Αλλά όταν πρόκειται να ρωτήσω τις ενδιαφέρουσες ερωτήσεις, τι πρέπει να δουλέψω και να εντοπίσω τις πιο κερδοφόρες ή πιθανές κατευθύνσεις που πρέπει να κάνω έρευνα, δεν έχω δει ακόμα ένα εργαλείο που πραγματικά μπορεί να με βοηθήσει. Προφανώς, αυτό θα ήταν ένα σπουδαίο έργο που θα με έκανε πολύ πιο αποτελεσματικό ως ερευνητής αν μπορούσα να αναπτύξω τα εργαλεία AI που θα με βοηθούσαν να κάνουμε τη δουλειά μου καλύτερα.

IDGNS: Ίσως αυτή να είναι η επόμενη μεγάλη πρόκληση; > Αυτό είναι σίγουρα ένα από αυτά, ίσως όχι εκείνο που όλοι εκεί έξω σκέφτονται επειδή υπάρχουν τόσα πολλά προβλήματα πραγματικού κόσμου που επηρεάζουν εκατομμύρια ή ακόμα και δισεκατομμύρια ανθρώπους κάθε μέρα. Αλλά για την κοινότητα που εργάζεται στην AI, πλημμυρίζουμε όπως και όλοι οι άλλοι με πληροφορίες. Ο αριθμός των τεχνικών εγγράφων που βγαίνουν καθημερινά είναι αρκετά εκπληκτικός ακόμη και σε σύγκριση με πριν από πέντε χρόνια και χρειαζόμαστε βοήθεια όπως όλοι οι άλλοι.