>Joseph Weizenbaum: Plug and Pray

>

Διαβάστε εδώ δύο συνεντεύξεις-ομιλίες του Joseph Weizenbaum

Aμέθυστος

Advertisements

>Συνέντευξη-ομιλία του Joseph Weizenbaum

>

Συνέντευξη-ομιλία του Joseph Weizenbaum (JW) κατά την ημερίδα πληροφορικής στο πανεπιστήμιο Erlangen-Nürnberg, το 2007. Την συνέντευξη συντονίζει ο καθ. Herbert Stoyan (HS).

Συνέχεια από το Σάββατο 20 Νοεμβρίου

Αποσπάσματα:

HS: Είστε επαναστάτης, εναντίον ποιου πράγματος επαναστατείτε;

JW: Επαναστατώ θα έλεγα εναντίον της ανοησίας, μάλιστα της ανοησίας που γίνεται επικίνδυνη. Από που όμως ξεκίνησε αυτή η επανάσταση; Από τον αντισημιτισμό. Έζησα μέχρι το 1936 στην Γερμανία. Και βέβαια όλοι περιμένουν να ακούσουν πως με πείραζαν στον δρόμο προς το σχολείο. Όχι. Τον πιο βαθύ αντισημιτισμό τον έζησα από τον πατέρα μου. Κάποτε είχα φέρει στο σπίτι ένα παιδί ρακένδυτο. (Ήταν Εβραίος, που ζούσε στην Γερμανία, αλλά ήταν φτωχός όπως πολλοί Εβραίοι που ζούσαν τότε στην Ευρώπη). Και ο πατέρας μου είπε: τί τον έφερες αυτόν, δεν μιλάει καν σωστά γερμανικά. (Οι Εβραίοι της Ευρώπης έχουν μια διάλεκτο που λέγεται Jiddisch, και είναι μείγμα της γερμανικής και εβραϊκής κυρίως γλώσσας). Ο πατέρας μου ήταν, όπως και πολλοί άλλοι της ίδιας κοινωνικής τάξης, αφομοιωμένος Εβραίος, και προσπαθούσε να είναι πιο Γερμανός από τους Γερμανούς. Στο τέλος βέβαια ο Göring αποφάσισε ποιος είναι Εβραίος και ποιος όχι. Αυτό το γεγονός ήταν ο σπόρος για την επανάσταση μου. Μετά, το 1936, πήγαμε στις ΗΠΑ και είδα πως ζούσαν οι μαύροι. Αργότερα πήγα στο ΜΙΤ και είδα τι φρικτά όπλα, που δεν μπορείτε καν να φανταστείτε, σχεδιάζονταν εκεί για τον πόλεμο του Βιετνάμ. Και βέβαια κανένας επιστήμονας δεν ήθελε να ξέρει ποιες πρακτικές συνέπειες είχε η δουλειά του. Ένα άλλο στοιχείο που με κάνει να επαναστατώ είναι χρήση του υπολογιστή ως μέτρου σύγκρισης για όλα τα πράγματα. Πήγα πριν λίγο καιρό σε μια ημερίδα με τον τίτλο: “Είναι το σύμπαν ένας υπολογιστής;”. Η ίδια η ερώτηση είναι εντελώς ανόητη. Ας πούμε ότι είναι. Ε, και; Αυτό το δεύτερο σκέλος είναι το δύσκολο. Γιατί μας αναγκάζει να συλλογιστούμε την συνέπεια της πρότασης. Αν τα πάντα είναι υπολογιστής, πάει να πει πως είναι προβλέψιμα. Ακόμα και ο άνθρωπος. Αλλά επ’ αυτού έχω να σημειώσω δυο πράγματα. Πρώτα μια πρόταση του Ιονέσκο: “όλα μπορούν να ειπωθούν, μόνο η ζωντανή αλήθεια όχι”. Το δεύτερο, κάτι που μου είχε πει ένας γέρος καθηγητής (μερικοί καθηγητές μπορούν και σκέφτονται): “Σε αυτόν που διαθέτει μόνο σφυρί, όλος κόσμος είναι ένα καρφί”. Η ιδέα αυτή έχει μπει στην καθημερινή γλώσσα. Έτσι φτάνουμε στο σημείο να ακούμε ακόμα και στο σούπερ μάρκετ μια μάνα να λέει στο παιδί της: πάψε πια, δεν είμαι προγραμματισμένη έτσι. Ή άνθρωποι να λένε δεν θέλω να προγραμματίσω έτσι το παιδί μου… Ή παίρνουμε βιβλία νευρολογίας και όλη η ορολογία είναι αυτή των υπολογιστών. Ή όπως λέει ο Marwin Minski, «the brain is merely a meat-machine». Πρέπει να σημειώσουμε πως στα αγγλικά υπάρχουν δυο λέξεις για το κρέας: meat που είναι το νεκρό κρέας με το οποίο μπορούμε να κάνουμε ότι θέλουμε, και flesh που είναι η ζωντανή σάρκα. Η έκφραση αυτή λοιπόν, the brain is merely a meat-machine, είναι έκφραση περιφρόνησης προς την ζωή. Σε αυτά επαναστατώ και στις συνέπειες. Το χειρότερο απ’ όλα είναι η αδιαφορία. Αυτό ήταν και το μεγάλο λάθος του γερμανικού λαού στα χρόνια του Χίτλερ (και τονίζω, δεν πιστεύω στην συλλογική ενοχή). Τρόμαξε κανείς ακούγοντας ότι η Audi παράγει κάπου ένα εκατομμύριο αυτοκίνητα τον χρόνο, και τώρα είμαστε έτοιμοι να βοηθήσουμε την Κίνα και την Ινδία να φτιάξουν δικά τους αυτοκίνητα; Και είναι γνωστό ήδη από την εποχή του Einstein πως επέρχεται καταστροφή του κλίματος. Έχουν οι άνθρωποι ακόμα την ικανότητα να δουν πως συνδέονται τα πράγματα;

Πριν από περίπου 50 χρόνια έγραψα πως θα φθάσουμε σε μια εποχή όπου το να καταλάβουμε κάτι, θα σημαίνει: μπορούμε να το προγραμματίσουμε. Και είμαστε σχεδόν εκεί, στην ιδέα πως κάθε πτυχή της πραγματικότητας είναι υπολογίσιμη. Καταλαβαίνουμε κάτι αν μπορούμε να κάνουμε μια προσομοίωση του πράγματος. Αλλά αυτό αποκλείει την ζωή. Θυμάμαι κάποτε ήρθε ο διευθυντής του εργαστηρίου τεχνητής νοημοσύνης του ΜΙΤ και μου είπε, κάναμε το πρόγραμμα σου να κατανοεί κείμενα. Αυτό ήθελα να το δω. Έβαλαν λοιπόν στο μηχάνημα τον Άμλετ, και μπορούσα να ρωτήσω διάφορα: που έμενε ο Άμλετ, τι δουλειά έκανε… και το μηχάνημα απαντούσε. Και η πεποίθηση στο εργαστήριο αυτό(το λέει γελώντας) ήταν πως κατανόηση μιας ιστορίας είναι η ικανότητα να δώσει κανείς απάντηση στην ερώτηση: «what happened?». Διάβασα τον King Lear 3-4 φορές, σε διάφορες περιόδους της ζωής μου. Και κάθε φορά καταλάβαινα το κείμενο, αλλά διαφορετικά. Γιατί είχα κάθε φορά πιο μακρά ζωή πίσω μου, και είχα βιώματα (ήμουν έφηβος, μετά είχα παιδιά, μετά τα παιδιά μου είχαν μεγαλώσει…) σημαντικό είναι να διαβάζει κανείς, όχι για να μαζέψει στοιχεία, αλλά για να βιώσει. Και θα σας πω μια ιστορία που έχει να κάνει με την κατανόηση. Κάποτε στην Νέα Υόρκη, γύρω στις 3 το μεσημέρι σε ένα φανάρι που είχε ανάψει κόκκινο, μέσα στο πλήθος που περίμενε να περάσει απέναντι, ένας άνθρωπος της ηλικίας μου περίπου, με είχε σκουντήξει διακριτικά. Γύρισα προς το μέρος του. Με ρώτησε: είσαι Εβραίος; Είπα ναι. Και μετά ρώτησε: τι ώρα είναι; Αυτή είναι όλη η ιστορία. Όλοι σας τώρα μπορείτε να επαναλάβετε τι έγινε, what happened, αλλά η κατανόηση εξαρτάται από τις εμπειρίες του καθενός.

HS: Θυμάμαι κάτι που είπες: οι άνθρωποι έχουν την ικανότητα για μάθηση. Μπορούν δηλαδή να δημιουργήσουν κάτι καινούριο. Που δείχνει πως η μάθηση είναι κάτι διαφορετικό από το διάβασμα για να περάσω τις εξετάσεις. Αλλά η απόκτηση σημαίνει παραγωγή γνώσης, και παραγωγή απόκτηση.

JW: Information is a difference that makes a difference, (μου το έμαθε κάποιος καθηγητής ηθολογίας ζώων). Αυτά που σας λέω δεν είναι πληροφορίες, είναι απλά σήματα, τα οποία λαμβάνετε και ερμηνεύοντάς τα θα φτιάξετε την πληροφορία, την οποία θα εντάξετε σε ένα πλαίσιο, το οποίο έχει φτιαχτεί από την εμπειρία σας. Αν σας πω για τα quarks, για τα οποία δεν έχετε ακούσει ποτέ κάτι, δεν θα μπορείτε να εντάξετε κάπου αυτά που θα ακούσετε, γιατί δεν υπάρχει το πλαίσιο….

Κάποιος από το παρασκήνιο λέει, ίσως θα μπορούσαμε να περάσουμε στις ερωτήσεις των ακροατών και ο HS λέει: ναι, είχα και εγώ αυτή την ιδέα.

JW: Χα χα, βλέπετε είπε είχε μια ιδέα. Θυμάμαι τώρα, σε μια συνέντευξη του Einstein: (ο νεαρός δημοσιογράφος τον ρώτησε αν έχει πάντα μαζί του ένα μπλοκάκι. Ο Einstein είπε όχι, και τον ρώτησε γιατί νομίζει πως φέρει ένα. Ο νεαρός είπε: για να καταγράφετε τις ιδέες σας. Και ο Einstein είπε: νεαρέ μου, στη ζωή μου είχα μόνο δυο ή τρεις ιδέες). Βλέπετε, έχω μεγάλο σεβασμό για την λέξη ιδέα….

…Με ρωτούν αν φοβάμαι πως θα έχουμε ρομπότ που μοιάζουν με ανθρώπους. Ίσως να φοβάμαι λίγο. Αλλά αυτό που πολύ φοβάμαι είναι πόσους ανθρώπους έχουμε που μοιάζουν με ρομπότ. Που δεν το καταλαβαίνουν αυτό, που λένε πως μπορούμε στο ρομπότ να φτιάξουμε ένα ώμο και μετά να βάλουμε το χέρι μας απάνω του (συναισθηματικά). Είναι το ίδιο λάθος που έζησα στο ΜΙΤ, όπου έφτιαξαν ένα ρομπότ που έχει κάτω από το “πρόσωπο” του 33 μικρούς κινητήρες, και μπορεί να χαμογελάει. Και κάποιος μου είπε, βλέπεις χαμογελάει, δηλαδή έχει συναισθήματα…

…Το αποτέλεσμα της ιατρικής έρευνας όπως γίνεται σήμερα, και κυρίως στον χώρο της νευρολογίας, είναι η καταστροφή της εικόνας του ανθρώπου. Ο άνθρωπος έχει κομματιαστεί. Και για το κάθε μέρος υπάρχει ένας ειδικός… η αντίληψη πως τα νεύρα ακολουθούν τους νόμους της φυσικής οδηγεί στο συμπέρασμα πως ο άνθρωπος δεν έχει ελεύθερη θέληση, άρα είναι σαν το ρομπότ που χαμογελάει…

…όταν ρωτώ τους ανθρώπους να μου πουν ένα παράδειγμα, όπου ο υπολογιστής κάνει κάτι καλό, όλοι χωρίς εξαίρεση αναφέρουν τον υπολογιστή στην ιατρική. Πρέπει όμως να σας πω, πως στην Αμερική κάπου 30 (δεν είμαι σίγουρος) χιλιάδες άνθρωποι κάθε χρόνο πεθαίνουν λόγω της προόδου της ιατρικής επιστήμης. Το ένα τρίτο των ανθρώπων δεν έχει ασφάλιση, γιατί το κογκρέσο θεωρεί κομμουνιστική την ιατρική που είναι για πλατιά στρώματα λαού. Και κανένας ίσως από το ακροατήριο δεν γνωρίζει το βάθος και το πλάτος της φτώχειας που υπάρχει στην Αμερική. Τέλος να πούμε πως κάθε νοσοκομείο και ιατρείο πρέπει να έχει τα πιο μοντέρνα μηχανήματα, γιατί αλλιώς, αν κάποιος νοσηλευτεί εκεί και γίνει κάποιο λάθος στη διάγνωση ή περίθαλψη, και το νοσοκομείο δεν είχε τα πιο μοντέρνα μηχανήματα, τότε μπορεί να τους μηνύσει ο ασθενής και να χρειαστεί να πληρώσουν τεράστιες αποζημιώσεις. Έτσι η τεχνολογική πρόοδος εκτοξεύει τις τιμές της ιατρικής στα ύψη, και πολλοί άνθρωποι δεν βλέπουν γιατρό ούτε μια φορά στη ζωή τους… Τα μηχανήματα λαμβάνουν την αξία τους από την κοινωνία στην οποία χρησιμοποιούνται…

Κάποιος από το κοινό έχει μια ερώτηση, αλλά επειδή ο Joseph Weizenbaum δίνει μακρές απαντήσεις, λέει, παρακαλώ να δώσετε μια σύντομη απάντηση στην ερώτηση που θα κάνω, για να μπορέσουν να ρωτήσουν και άλλοι.
Και του λέει: η απάντηση είναι 42.

Αμέθυστος

>Ο υπολογιστής ήταν από την αρχή ένα όργανο πολέμου

>

Joseph Weizenbaum

Γεννήθηκε το 1923 στο Βερολίνο. Λόγω εβραϊκής καταγωγής η οικογένεια του αναγκάστηκε το 1936 να μεταναστεύσει στην Αμερική. Εκεί σπούδασε μαθηματικά. Συνέβαλε αποφασιστικά στην ανάπτυξη της τεχνητής νοημοσύνης και γενικά του προγραμματισμού και των computer. Δίδαξε για πολλά χρόνια στο ΜΙΤ. Το 1966 δημοσίευσε ένα άρθρο που αφορούσε το πρόγραμμα ELIZA, που επέτρεπε ένα υποτυπώδη διάλογο του ανθρώπου με την μηχανή. Αυτό που ακολούθησε, η σοβαρότητα με την οποία οι ψυχίατροι προπάντων προσέλαβαν την κατασκευή του, τον συντάραξε. Τον συντάραξε το γεγονός πως οι άνθρωποι τόσο μαζικά και εύκολα πίστεψαν πως ο άνθρωπος μπορεί να αντικατασταθεί από την μηχανή. Από εκείνη την στιγμή είχε αρχίσει να προειδοποιεί και να επαναστατεί εναντίον της ανοησίας που εξαπλωνόταν ως κάτι αυτονόητο. Μέχρι το τέλος της ζωής του μιλούσε και προειδοποιούσε για την δύναμη και την εξουσία και την επικινδυνότητα που μπορεί να προσλάβει μια ανοησία. Και τον συγκλόνιζε το γεγονός πως ένα ακροατήριο δεν αντιδρούσε, ακούγοντας κάποιους να καταργούν τον άνθρωπο. Αυτό που τόνιζε είναι πως ο άνθρωπος είναι απρόβλεπτος, και όχι υπολογίσιμος, όπως τον θεωρεί η υπολογιστική και η ρομποτική επιστήμη.
Πέθανε το 2008 στο Βερολίνο.

«Ich bin doch nur ein Feigenblatt»
Είμαι απλά ένα φύλλο συκής

Berliner Zeitung (ΒΖ), 25.3.1995

Wolfgang Kirkamm

Ο γκουρού της πληροφορικής Joseph Weizenbaum (JW:), έχει την δυνατότητα, ευρισκόμενος “στα χωράφια του”, να ασκήσει παθιασμένη κριτική στην κοινωνία των υπολογιστών. Μαζί του μίλησε ο Wolfgang Kirkamm.

Ο Αμερικανός καθηγητής Joseph Weizenbaum (71), θεωρείται ως ένας από τους άνδρες εκείνους που στην δεκαετία του 50 και 60, προώθησαν αποφασιστικά την ανάπτυξη των υπολογιστών και την διερεύνηση της τεχνητής νοημοσύνης. Σήμερα προειδοποιεί ο πιο καταρτισμένος κριτικός από τις σειρές των επιστημόνων των ηλεκτρονικών υπολογιστών: “Μπορούμε να κάνουμε τα πάντα με την βοήθεια των υπολογιστών – αλλά με ποιο αντίτιμο?”

ΒΖ: Κύριε καθηγητά, τί θα συμβουλεύατε τους γονείς, που θέλουν να αγοράσουν υπολογιστή στο δεκάχρονο παιδί τους?

JW: Θα ρωτούσα, γιατί νομίζετε πως το παιδί σας χρειάζεται έναν υπολογιστή και όχι ένα ποδήλατο ή ένα μουσικό όργανο? Πολλοί λένε, ο κόσμος όπου μεγαλώνει και εργάζεται το παιδί μου είναι γεμάτος υπολογιστές. Για να μη μείνουν πίσω, τα παιδιά πρέπει να γνωρίζουν κάτι γι’ αυτούς. Αυτό όμως δεν ισχύει. Ο σημερινός μας κόσμος δεν θα μπορούσε να υπάρχει χωρίς τους ηλεκτρικούς κινητήρες. Είναι παντού. Αλλά κανένας δεν λέει πως για τον λόγο αυτό πρέπει κανείς να γνωρίζει κάτι γι’ αυτούς. Έτσι είναι και με τους υπολογιστές.

ΒΖ: Γιατί προτιμάτε ένα μουσικό όργανο παρά έναν υπολογιστή?

JW: Αυτό έχει να κάνει με προτεραιότητες. Παιδιά που από πολύ νωρίς κάθονται στον υπολογιστή παραμελούν πράγματα που είναι πιο πολύτιμα για την ηλικία αυτή-την γερμανική γλώσσα, το γράψιμο, την κριτική ανάγνωση, την ενασχόληση με την ιστορία. Όποιος ξέρει τα πάντα για τους υπολογιστές, αλλά όχι πολλά για άλλα πράγματα, βρίσκεται στην θέση ενός διερμηνέα που μεταφράζει πολύ ωραία, αλλά δεν έχει να πει κάτι δικό του.

ΒΖ: Κάποιοι ειδικοί στα παιδαγωγικά βλέπουν τον υπολογιστή ως ένα ευφυή σύντροφο με τον οποίο μπορεί κανείς να παίξει. Άλλοι θεωρούν πως όποιος κάθεται πολλές ώρες μπρος στην οθόνη, θα γίνει ένας αβοήθητος, ανίκανος να επικοινωνία σπιτόγατος. Είναι πραγματικός αυτός ο κίνδυνος?

JW: Φυσικά και βλέπω ένα τέτοιο κίνδυνο. Αλλά αν είναι έτσι, δεν πρέπει να ρίξουμε το φταίξιμο στον υπολογιστή. Είναι υπόθεση των γονέων αν αφήνουν την ευθύνη των παιδιών στο σχολείο ή στην τηλεόραση ή στον υπολογιστή. Εδώ και 30 χρόνια είμαι δάσκαλος σε ένα ελίτ πανεπιστήμιο στο Cambridge (Μασαχουσέτη). Μόνο τα δίδακτρα στοιχίζουν 25000 δολάρια τον χρόνο. Αλλά όλο και πιο πολλοί φοιτητές μου λένε πως για χρόνια δεν έφαγαν μαζί με τους γονείς τους, ή δεν είχαν μια σοβαρή συζήτηση.

ΒΖ: Αθωώνετε τους υπολογιστές?

JW: Ο υπολογιστής είναι σαν την πιπίλα, που χρησιμεύει για να καθησυχάσει το παιδί. Πρέπει για τον λόγο αυτό να απαγορευθεί η λειτουργία των εργοστασίων παραγωγής ελαστικών? Μπορείτε να το τυπώσετε, κανείς δε θα το πιστέψει, αλλά είναι αληθές: το ένα τρίτο των Αμερικανών 16-30 ετών, είναι πρακτικά αναλφάβητοι. Μπορούν να διαβάσουν πινακίδες στους δρόμους και κόμικς. Αλλά δεν μπορούν να γράψουν ούτε μια παράγραφο στην γλώσσα τους, που να μην είναι σχεδόν ακατανόητη. Τα τρία παιδιά μου πήγαν σε ένα κανονικό δημόσιο σχολείο. Στο σπίτι είχα πάντα ένα υπολογιστή, και παρόλα αυτά δεν τους μόλυνε. Κατέχουν την αγγλική γλώσσα. Γιατί είχαμε βιβλία, γιατί κάθε βράδυ καθόμασταν μαζί.

ΒΖ: Παιδαγωγοί συνιστούν παιχνίδια στον υπολογιστή. Υποτίθεται πως βοηθούν την φαντασία, την αντίσταση στο στρες, αυξάνουν την ταχύτητα των αντιδράσεων και την υπολογιστική σκέψη.

JW: Είμαι παθιασμένα εναντίον. Τί μεταδίδουν στην πραγματικότητα τα περισσότερα παιχνίδια? Αν κοιτάξει κανείς καλά, η απάντηση είναι: τον χωρισμό μεταξύ αυτού που κάνει ένας άνθρωπος, και της ευθύνης γι’ αυτό. Τα περισσότερα παιχνίδια είναι γεμάτα με βία. Εκεί καταστρέφονται πόλεις ή αεροπλάνα, εκτοξεύονται πύραυλοι κατά διαστημοπλοίων-και όλα πρέπει να γίνουν πολύ γρήγορα. Στην πραγματικότητα πεθαίνουν άνθρωποι αν γίνουν τέτοια πράγματα. Αλλά το παιδί εκπαιδεύεται να μην τα σκέφτεται αυτά.

ΒΖ: Βλέπετε κάποιο σκοπό από πίσω?

JW: Δεν ξέρω. Αλλά πρέπει να διηγηθώ κάτι επ’ αυτού. Συνέβη εδώ και κάποια χρόνια. Ο Reagan ήταν ακόμη πρόεδρος. Είχε πάει σε ένα πάρκο Disneyland. Του έδειξαν παιδιά που πυροβολούσαν αεροπλάνα στον υπολογιστή. Και τότε αυθόρμητα είπε: “Αυτοί είναι οι πιλότοι του αύριο.” Και είχε απόλυτο δίκαιο. Ρωτάτε αν είναι σκοπιμότητα. Τουλάχιστο το περιστατικό με τον Reagan είναι πραγματικό.

ΒΖ: Αυτά είναι εξαιρέσεις, λένε οι κριτικοί σας.

JW: Δεν είναι. Πάρτε για παράδειγμα “αθώα” παιχνίδια όπου τρώγονται ζώα ή πολεμούν ρομπότ. Όλα αναίμακτα. Αλλά είναι όμως βία και καταστροφή, η νίκη κατά εκείνου τον οποίο θέλει κανείς να εξαφανίσει.

ΒΖ: Καταπιάνεστε εδώ και 40 χρόνια με υπολογιστές. Επέφερε η τεχνολογία αυτή την πρόοδο την οποία ελπίζατε?

JW: Δεν μπορώ να πω έτσι απλά τι έλπιζα. Δεν ξέραμε πόσο τρομακτικά γρήγορη θα ήταν η πρόοδος. Μέχρι το 1957, νόμιζαν σημαντικοί άνθρωποι, που πράγματι κάτι καταλάβαιναν από υπολογιστές, πως έρχεται σύντομα ο καιρός, που θα έχουμε στην Αμερική 7 με 8 μεγάλους υπολογιστές. Και αυτό θα ήταν και η υπολογιστική ανάγκη των ΗΠΑ θα καλυπτόταν. Ένας υπολογιστής σε κάθε μεγάλη πόλη. Δεν μπορούσαμε να φανταστούμε πως έρχεται καιρός όπου σχεδόν κάθε φοιτητής έχει για εκείνη την εποχή αφάνταστα γρήγορο υπολογιστή.

ΒΖ: Τι έδωσε την ώθηση για ένα τέτοιο ρυθμό ανάπτυξης?

JW: Η ώθηση προήλθε ξεκάθαρα από τον στρατό. Ο υπολογιστής επινοήθηκε πριν 60 χρόνια, και αναπτύχθηκε στην Αμερική, Αγγλία και Γερμανία, ανεξάρτητα (χωρίς συνεργασία μεταξύ τους). Ήταν από την αρχή ένα όργανο πολέμου. Λίγο καιρό μετά από μια αφάνταστα έντονη αποστρατικοποίηση, με τον πόλεμο της Κορέας ξεκίνησε η μοντέρνα στρατικοποίηση της αμερικάνικης κοινωνίας, η οποία δεν έχει ακόμα σταματήσει. Ο στρατός απαίτησε τα τεράστια computer να γίνουν πολύ μικρότερα. Δεν έπρεπε απλά να χωράνε σε ένα αεροπλάνο αλλά και σε ένα πύραυλο. Για τον σκοπό αυτό ήταν διαθέσιμα άπειρο ποσό χρημάτων και άπειρο ανθρώπινο ταλέντο. Νομίζω πως, αν ο αμερικάνικος στρατός θεωρούσε απαραίτητη την ανάπτυξη ηλιακών κυψελών, και την υποστήριζε, όπως τότε υποστήριξε την ανάπτυξη του τρανζίστορ (βασικό εξάρτημα ενός ηλεκτρονικού επεξεργαστή), θα είχαμε σήμερα αξιοποιημένη ηλιακή ενέργεια, και δε θα χρειαζόμασταν τα πυρηνικά εργοστάσια. Οι υπολογιστές για την βιομηχανία ήρθαν ως «παραπροϊόντα».

ΒZ: Ο άνθρωπος κατασκευάζει τον εαυτό του σαν υπολογιστή, αλλά ενσωματώνει και τα σφάλματα του, ενώπιον των οποίων είναι αβοήθητος (όταν δηλαδή ο υπολογιστής κάνει κάτι αντ’ αυτού)


JW: Αυτή την κατάσταση όπου ο άνθρωπος είναι αβοήθητος, δεν μπορούμε να μην την δούμε. Οι πτώσεις των Airbus είναι ένα παράδειγμα. Ή σκεφτείτε την κατάρρευση των χρηματιστηρίων το 1987, μόνο και μόνο γιατί οι υπολογιστές «τρελάθηκαν». Κατά το τρομερό ατύχημα στο Bhopal της Ινδίας (διέρρευσαν τοξικά), ένα σφάλμα του λογισμικού παρεμπόδισε την έγκαιρη ενημέρωση του πληθυσμού. Κατασκευάζουμε όλο και περισσότερα συστήματα με τρομερή πολυπλοκότητα, τα οποία δεν μπορούμε πια να ελέγξουμε.

ΒZ: Ο ίδιος είπατε κάποτε, πως ως νεαρός πιστεύατε πως όλα τα ερωτήματα αυτού του κόσμου μπορούν να υπολογισθούν μαθηματικά.

JW: Ήμουν 16 όταν είδα για πρώτη φορά την συμβολική λογική. Ναι, τότε σκέφτηκα, με αυτό όλα είναι δυνατά. Αλλά αυτό δεν θα το έλεγα πίστη. Είναι όπως με τη γλώσσα: όλα μπορούν να ειπωθούν, αλλά είναι πολύ μακριά να πούμε πως όλα ειπώθηκαν.

ΒZ: Μεταξύ άλλων έχετε αναπτύξει το υπολογιστικό σύστημα της Bank of America. Υπάρχουν και άλλες δουλειές για τις οποίες είστε περήφανος;

JW: Αχ. ήμουν αρκετά καλός δάσκαλος. Και αν καταλαβαίνω κάτι μπορώ να το μεταδώσω με κατανοητό τρόπο. Στις ΗΠΑ είναι διαφορετικά απ’ ότι εδώ στην Γερμανία. Αν εδώ γράψει ένας ακαδημαϊκός ένα βιβλίο που είναι κατανοητό από τον γενικό πληθυσμό, γρήγορα θα κατηγορηθεί ως μη επιστημονικό.

ΒZ: Γιατί δεν αναφέρετε το πρόγραμμα ELIZA, που εσείς αναπτύξατε; Που θεωρείται από τους θεμέλιους λίθους στην ιστορία της τεχνητής νοημοσύνης;

JW: Το ότι έγινε θεμέλιος λίθος οφείλεται στο πόσο τρομερά παρανοήθηκε η εργασία και στην κατάχρηση που έγινε και γίνεται ακόμη. Αυτό έγινε το 1966, και ήταν τεχνικά απλό. Ανέπτυξα μηχανισμούς για την ανάλυση και χειρισμό φυσικών γλωσσών, λέξεων και προτάσεων δηλ, μέσα στον υπολογιστή. Ήθελα να δοκιμάσω αυτούς τους μηχανισμούς, και με μια σειρά έξυπνων τρικ-το παραδέχομαι ευχαρίστως- προσομοίωσα την συνομιλία ψυχίατρου-ασθενούς. Αυτό ήταν πολύ αστείο για μένα και άλλους. Αλλά έγινε σοβαρό όταν ψυχίατροι είπαν: αυτή είναι η αρχή της αυτόματης ψυχιατρικής. Αυτό δεν σήμαινε τίποτε άλλο παρά το ότι πίστεψαν πως οι μηχανές μπορούν να αντιμετωπίσουν θεραπευτικά ένα άνθρωπο. Τότε σκέφτηκα, τί τρέχει εδώ; Και σήμερα, μπορεί κανείς να αγοράσει στην Αμερική προγράμματα που κάνουν ακριβώς αυτό.

ΒZ: Άλλοι επιστήμονες, όπως ο Αμερικανός Hans Morawec πάνε πολύ πιο μακριά. Λέει πως είμαστε πολύ κοντά στον καιρό, που κάθε σημαντική σωματική ή πνευματική λειτουργία του ανθρώπου θα έχει το τεχνητό της αντίστοιχο. Βλέπει ένα μεταβιολογικό κόσμο, που θα κυριαρχείται από μηχανές που σκέφτονται και βελτιώνονται από μόνες τους. Ίσως σε 50 χρόνια.

JW: Ναι και εμείς οι άνθρωποι θα είμαστε τυχεροί αν οι απόγονοί μας κρατήσουν για σκυλάκια του καναπέ. Έτσι συνεχίζεται αυτή η ανοησία. Ο άνθρωπος έχει την δύναμη της αναπαράστασης και την φαντασία. Αλλά αυτό δεν σημαίνει ότι μπορεί να γίνει πραγματικότητα – ή ότι πρέπει να γίνει!

ΒZ: Εννοείτε δηλ. πως οι προβλέψεις για την εμφάνιση τέτοιων δημιουργημάτων της τεχνητής νοημοσύνης απλά δεν είναι ρεαλιστική;

JW: Εννοώ πως είναι ανώμαλο να σκέφτεται κανείς πως μπορεί να κατασκευάσει τεχνητά ότι είναι ανθρώπινο. Οι ελπίδες και προβλέψεις των μεγαλύτερων αυθεντιών, που έγιναν πριν 30 χρόνια, του τομέα της τεχνητής νοημοσύνης, δεν έχουν πραγματοποιηθεί.

ΒZ: Τότε γιατί ανησυχείτε;

JW: Γιατί οι ιδέες έχουν δύναμη, και οι λανθασμένες ιδέες επίσης έχουν μεγάλη δύναμη. Η ιδέα, πως εμείς οι άνθρωποι δεν είμαστε τίποτε άλλο παρά ένας σωρός από πληροφορίες, μια πολύ εκλεπτυσμένη μηχανή, που μπορεί να αντικατασταθεί από άλλες, αυτή η ιδέα -αν και λανθασμένη- έχει πολλή δύναμη.

ΒZ: Σας κατηγορούν οι συνάδελφοι σας ως κάποιον που λέρωσε την φωλιά του;

JW: Όχι αυτό δεν έγινε ποτέ, τουλάχιστο δεν το έχω αντιληφθεί. Πριν κάποιο καιρό, ρώτησαν τον πρόεδρο του ΜΙΤ, σε μια συνέντευξη στο γαλλικό περιοδικό Magazin Express, εάν σκέφτεται τις πολιτικές συνέπειες και τους κινδύνους που προκύπτουν από την εργασία του ινστιτούτου. Ο πρόεδρος απάντησε: «για την δουλειά αυτή έχουμε τον καθηγητή Weizenbaum». Και συμφωνώ, είμαι απλά ένα φύλλο συκής (σαν παραπέτασμα, για να κρυφτεί κάτι). Αλλά πρέπει να πω τότε ότι θα σταματήσω αυτό που κάνω;

ΒZ: Ας ρίξουμε μια ματιά στο μέλλον. Θα κάνουμε σε λίγο περιπάτους στην virtual reality του cyberspace σε μακρινούς πλανήτες, ή από το δωμάτιο μας νυχτερινούς περιπάτους στο Παρίσι;

JW: Πολλές υποσχέσεις γίνονται, αλλά όλα αυτά είναι τόσο εκτός πραγματικότητος και τόσο ακριβά, που ούτε σε 15 χρόνια δεν θα είναι ούτε στο περίπου τέλεια. Αλλά είμαι σχεδόν έτοιμος να πω, πως στα επόμενα 20 χρόνια, ο υπολογιστής θα εξαφανιστεί στο υποσυνείδητο, όπως και ο ηλεκτρικός κινητήρας. Είναι παντού, αλλά δεν μιλάμε πολύ περί αυτού. Και κάτι ακόμη. Θα έρθει καιρός που ο επιστήμονας των υπολογιστών θα πέσει στην ίδια δυσμένεια όπως και ο πυρηνικός επιστήμονας. Φοβάμαι πως η ανθρώπινη επικοινωνία θα μειωθεί τόσο, λόγω της επέκτασης των υπολογιστών ώστε να είναι για λύπηση το γεγονός. Δεν είναι μεγαλύτερη η χαρά να μιλάς με ένα άνθρωπο, παρά με ένα υπολογιστή;

Mετάφραση: Πέτρος

Αμέθυστος