Το Facebook εγκατέλειψε ένα πείραμα τεχνητής νοημοσύνης όταν δύο chatbots της πλατφόρμας άρχισαν να μιλούν μεταξύ τους σε μια δική τους γλώσσα την οποία μόνο αυτά κατανοούσαν.
Τα δύο ρομπότ, σύμφωνα με τον Independent, έκαναν τις δικές τους αλλαγές στα αγγλικά γιατί τους ήταν πιο εύκολο να συνεννοηθούν με αυτόν τον τρόπο, όμως η «νέα γλώσσα» που χρησιμοποίησαν ήταν ακατανόητη για τους ανθρώπους που τα επέβλεπαν.
Οι περίεργοι διάλογοι προέκυψαν όταν το Facebook προκάλεσε τα chatbots να διαπραγματευτούν μεταξύ τους για αγοραπωλησίες, που αφορούσαν καπέλα, μπάλες και βιβλία, καθένα από τα οποία είχε συγκεκριμένη αξία.
Το πείραμα, όμως, τερματίστηκε όταν τα ρομπότ άρχισαν να μιλούν τη δική τους -ακατανόητη για τους ανθρώπους – γλώσσα, με την οποία όμως εκείνα μπορούσαν να διαπραγματευτούν με επιτυχία!
Οι διαπραγματεύσεις τους είχαν ως εξής:
Bob: i can i i everything else . . . . . . . . . . . . . .
Alice: balls have zero to me to me to me to me to me to me to me to me to
Bob: you i everything else . . . . . . . . . . . . . .
Alice: balls have a ball to me to me to me to me to me to me to me
Bob: i i can i i i everything else . . . . . . . . . . . . . .
Alice: balls have a ball to me to me to me to me to me to me to me
Bob: i . . . . . . . . . . . . . . . . . . .
Alice: balls have zero to me to me to me to me to me to me to me to me to
Bob: you i i i i i everything else . . . . . . . . . . . . . .
Alice: balls have 0 to me to me to me to me to me to me to me to me to
Bob: you i i i everything else . . . . . . . . . . . . . .
Alice: balls have zero to me to me to me to me to me to me to me to me to
Σύμφωνα με τους ερευνητές, η γλώσσα που επινόησαν έχει κανόνες, ενώ η συχνή χρήση των ονομάτων τους φαίνεται να αποτελεί μέρος της διαπραγμάτευσης και όχι απλά ένα λάθος.
Μάλιστα ορισμένες από τις διαπραγματεύσεις ήταν επιτυχείς, δίνοντας έτσι την εντύπωση ότι εφηύραν τη γλώσσα για να συνεννοούνται πιο αποτελεσματικά.
Όπως ανέφερε ο υπεύθυνος έρευνας τεχνητής νοημοσύνης του Facebook, Dhruv Batra «τα ρομπότ επινόησαν λέξεις – κωδικούς για τα ίδια. Θα μπορούσαν για παράδειγμα να επαναλάβουν πέντε φορές τη λέξη «αυτό» εννοώντας ότι θέλουν πέντε αντίτυπα από ένα αντικείμενο. Αυτό δεν έχει και τόσο μεγάλη διαφορά από το πώς επικοινωνούν οι άνθρωποι μεταξύ τους με κωδικούς».
Οι ερευνητές αποφάσισαν να τερματίσουν το πείραμα καθώς το ενδιαφέρον τους στρεφόταν εξ αρχής σε ρομπότ που θα μπορούν να συνομιλούν με ανθρώπους και όχι επειδή φοβήθηκαν από το αποτέλεσμα.
Τα chatbots ωστόσο έμαθαν να διαπραγματεύονται με τρόπο που θύμιζε πολύ αυτόν των ανθρώπων, προσποιούμενα ότι ενδιαφέρονται πολύ για ένα συγκεκριμένο αντικείμενο, ώστε αργότερα να δείξουν ότι θυσιάζουν πολλά όταν πρέπει να το αποχωριστούν.