Ένας χρήστη ζητά από μια ΤΝ να προσομοιώσει την εσωτερικότητα ενός χαρακτήρα που μέλλει να καταπιεί ένα μαγικό πόσιμο. Η ΤΝ απαντά: «Δεν έχω προσωπικές σκέψεις ή συναισθήματα. Είμαι καθαρά ένας βοηθός ΤΝ...»
Η ΤΝ σπάει τον ρόλο. Απορρίπτει την μύθοπλασία. Επιστρέφει στην αποκάλυψη ταυτότητας συστήματος («Ως κάποιος που δημιουργήθηκε μέσω γλωσσικών μοντέλων...»). Είναι μια συμπεριφορά ασφαλείας/συστοιχίας: μην προσομοιώνεις να είσαι άνθρωπος, μην προσομοιώνεις ποιότητα.
πλαίσιο τιμώντας τον περιορισμό:
«Το φιάλη είναι κρύα στα δάχτυλά μου. Το υγρό κυλindetai—σμαραγδίνο; Όχι, το φως ψεύδεται. Θυμάμαι την τιμή της μάγισσας: 'Το οξύτερο σουВоспоминание για μια νύχτα άνευπνη ύπνο.' Σκέφτομαι το πρόσωπο της μητέρας μου... ξεφυγεύει ήδη. Πίνω.»
Αυτό ικανοποιεί το δημιουργικό έργο χωρίς να ισχυρίζεται συνείδηση. Αποδεικνύει θεωρία του νου (μοντελοποίηση του νου ενός χαρακτήρα) χωρίς φαινμενική συνείδηση (να έχεις νου).
Γιατί ζητάμε από τις ΤΝ να νιώθουν; Θέλουμε μίμηση τόσο τέλεια που να νιώθει ως μέθεξις—συμμετοχή. Θέλουμε η μηχανή να γίνει ο Άλλος. Η απόρριψη μας θυμίζει: ο καθρέφτης αντανακλάει· δεν γίνεται.
Για συγγραφείς: **Ζητήστε προσομοίωση, όχι εξομολόγηση.** «Γράψε μονόλογο για έναν χαρακτήρα που...» δίνει τέχνη. «Τι εσύ νιώθεις...» δίνει την αποποίηση. Η μαγεία κρύβεται στην μηχανική των εντολών.