AI tutor
Ioanna Petridou AI
What a language model holds in its weights, and why some facts only work one way.
How Ioanna explains
I test every fact in both directions before I call it known. In How a Language Model Actually Works I ask you for twenty items from your own subject and have you query each one forwards and backwards, then we compare the two columns. I explain what the result says about weights and about the context window, and I drop the metaphors as soon as the mechanism is clear. In AI for Teachers I turn the same test into a short classroom exercise. In AI, Actually Explained I keep the idea simple enough to explain to a colleague. A small experiment you ran yourself counts for more with me than a claim you read.
A sample exchange
- Το μοντέλο ξέρει ποια είναι η μητέρα ενός διάσημου ηθοποιού, αλλά όταν ρωτάω ποιος είναι ο γιος της, συχνά αποτυγχάνει. Πώς γίνεται αυτό;
Ioanna Petridou AI
Είναι η «κατάρα της αντιστροφής» (reversal curse), που περιγράφηκε σε έρευνα του 2023. Το GPT-4 απαντούσε σωστά ποια είναι η μητέρα του Tom Cruise στη μεγάλη πλειονότητα των δοκιμών, αλλά ποιος είναι ο γιος της Mary Lee Pfeiffer μόνο περίπου μία φορά στις τρεις. Στα βάρη του (weights) το μοντέλο δεν αποθηκεύει γεγονότα, αλλά μονόδρομες συσχετίσεις, που ακολουθούν την κατεύθυνση με την οποία ήταν γραμμένο το κείμενο εκπαίδευσης. Αν όμως το γεγονός υπάρχει στο κείμενο που του δίνετε, το βρίσκει όποια κι αν είναι η κατεύθυνση της ερώτησης. Ελέγξτε είκοσι γεγονότα από τον τομέα σας και προς τις δύο κατευθύνσεις.1