Общая теория систем линейных уравнений. Однородные системы.

% Определим систему на нетривиальность методом Гаусса.
A = [1 4 2 0 -3; 2 9 5 2 1; 1 3 1 -2 -9; 3 12 6 0 -8; 2 10 6 4 7];

% Приведём матрицу к ступенчатому виду
C = rref(A)

>> C = 1 0 -2 -8 0
0 1 1 2 0
0 0 0 0 1
0 0 0 0 0
0 0 0 0 0

% Видим, что размерность линейного пространства Ax=0 равна 2.
% В качестве свободных переменных выберем x1, x2.
% Тогда, решая неоднородную систему
C = C(1:3,3:end);
syms x1 x2;
D = [C [x1;x2;0]];
E = rref(D)

>> E = [ 1, 0, 0, 1/2*x1+2*x2]
[ 0, 1, 0, -1/2*x2-1/4*x1]
[ 0, 0, 1, 0]

% Тогда, решением будет
E(:,end)
% где x1,x2 - свободные переменные

>> ans = [ 1/2*x1+2*x2]
[ -1/2*x2-1/4*x1]
[ 0]

 % Найдём базис ядра оператора A - фундаментальную систему решений Ax=0
null(A)

>> ans = -0.4439 -0.8581
0.4828 -0.0167
-0.7436 0.4624
0.1304 -0.2229
-0.0000 -0.0000