Общая теория систем линейных уравнений. Однородные системы.

% Введём матрицу A
A = [1 -1 0; 0 1 -1; 1 0 -1];

% Условие нетривиальности системы Ax=0 - вырожденность A.
% Проверим определитель A == 0, тогда система имеет нетривиальные решения
det(A)

>>  ans  =  0