Матрицы. Действия с матрицами.

% Вычислим матрицу поворота на угол alpha. Будем использовать символьную математику
syms alpha;

U = [cos(alpha) sin(alpha); -sin(alpha) cos(alpha)];

% Условие ортогональности U * U' = E
simplify(U*U.')

% Знак .' означает транспонирование, тогда как ' - сопряжение
% conj(U.') = U', где conj - комплексное сопряжение.

>>