Оно то верно, только как оно решается?

1) Для начала попробуем найти решения для выражения a_{n+3} = 6a_{n+2} - 11a_{n+1} + 6a_n в виде степеней. Т.е.
a_n = x^n. Подставлям в выражение и получаем
x^{n+3} = 6x^{n+2} - 11x^{n+1} + 6x^n
Деля на x^n получим кубическое уравнение с корнями x = 1; x = 2; x = 3.
То есть a_n = 1; b_n = 2^n; c_n = 3^n Подходят в наше рекурентное соотношение.
2) Что бы прийти к нашим начальным данным, нетрудно заметить, что линейная комбинация наших последовательностей, т.е. d_n = x*a_n + y*b_n + z*c_n = x + y*2^n + z*3^n, также подхотит.
Чтобы найти x,y,z составим систему по первым трем элементам.
x + y*2^1 + z*3^1 = 10
x + y*2^2 + z*3^2 = 20
x + y*2^3 + z*3^3 = 46
Решаем систему и получаем ответ