Guckste http://de.wikipedia.org/wiki/Drehmatrix

Für deinen Fall würde das heißen:

x' = sqrt(2)/2 * x - sqrt(2)/2 * y
y' = sqrt(2)/2 * x + sqrt(2)/2 * y

MfG Mork