Single Token Generation

"he" attends to the 1st token

Previous Tokens:
Query Token:
"John"
K1
[0.45]
[0.82]
[0.37]
V1
[0.72]
[0.31]
[0.64]
"sat"
K2
[--]
[--]
[--]
V2
[--]
[--]
[--]
"then"
K3
[--]
[--]
[--]
V3
[--]
[--]
[--]
"he"
Q1
[0.89]
[0.44]
[0.12]
Q·K1 = 0.845
α1 = 1.000