Каждый элемент матрицы имеет два индекса, поэтому для перебора всех элементов нужно использовать вложенный цикл.
Обычно матрицу перебирают по строкам: внешний цикл перебирает индексы строк, а внутренний - индексы столбцов.
Но при необходимости можно перебирать матрицу и по столбцам, тогда циклы меняются местами.