Como a IA calcula quem importa mais? Ela cria uma Matriz de Pesos.
Cores mais escuras significam que o token da linha está prestando muita atenção no token da coluna. Passe o mouse sobre os quadrados para ver o valor matemático exato!
Peso 0.0 (Ignora)Peso 1.0 (Foco Total)
🧠 O Segredo Matemático:
Os valores que você vê (entre 0.0 e 1.0) são calculados usando a função Softmax. O Transformer multiplica a "Consulta" (Query) de uma palavra pela "Chave" (Key) de outra. O resultado passa pelo Softmax, garantindo que a soma das atenções de uma linha seja sempre igual a 1 (ou 100%). É assim que a IA distribui sua atenção!