Рекурзивни алгоритам најмањих квадрата

Рекурзивни алгоритам најмањих квадрата (RLS) је адаптивни филтер који рекурзивно утврђује коефицијенте који смањују пондерисани линеарни најмањи квадрат функција трошкова у вези улазних сигнала. Ово је за разлика у односу на друге алгоритме као што је алгоритам најмањих средњих квадрата (LMS) чији је циљ да смањи средње квадратне грешке. У извођење рекурзивног алгоритма најмањих квадрата, улазни сигнал се сматра детерминистичким, док се алгоритам најмањих средњих квадрата и слични алгоритми сматрају стохастичком. У поређењу са већином својих конкурената, експонати рекурзивног алгоритма најмањих квадрат изузетно брзо конвергирају. Међутим, ова корист долази по цену високог рачунарске комплексности.

Мотивација

RLS је открио Карл Фридрих Гаус али остаје неискоришћен или игнорисан до 1950. године, када Плацкет открива оригинални рад Гауса од 1821. У принципу, RLS алгоритми могу да се користе за решавање сваког проблема који могу да реше адаптивни филтери, На пример, претпоставимо да је сигнал d(n) који се преноси преко еха, бучни канал који узрокује да буде примљен као

${\displaystyle x(n)=\sum _{k=0}^{q}b_{n}(k)d(n-k)+v(n)}$

где ${\displaystyle v(n)}$ представља додатну буку. Ми ћемо покушати да опоравимо жељени сигнал ${\displaystyle d(n)}$ употребом ${\displaystyle p+1}$-tap импулса коначних одзива, ${\displaystyle \mathbf {w} }$:

${\displaystyle {\hat {d}}(n)=\sum _{k=0}^{p}w_{n}(k)x(n-k)=\mathbf {w} _{n}^{\mathit {T}}\mathbf {x} _{n}}$

где ${\displaystyle \mathbf {x} _{n}=[x(n)\quad x(n-1)\quad \ldots \quad x(n-p)]^{T}}$ је вектор који садржи ${\displaystyle p+1}$ Најновији узорци ${\displaystyle x(n)}$. Наш циљ је да се процени параметре филтера ${\displaystyle \mathbf {w} }$, и у сваком тренутку n мислимо на нове најмањих квадрата процена ${\displaystyle \mathbf {w} _{n}}$. Како време пролази, желимо да се у потпуности избегну преправке алгоритма најмањих квадрата и да пронађу нову процену за ${\displaystyle \mathbf {w} _{n+1}}$, у смислу ${\displaystyle \mathbf {w} _{n}}$.

Корист од RLS алгоритма је да нема потребе обрнути матрицу, чиме се штеди рачунарска снага. Још једна предност је у томе што даје интуицију иза таквих резултата као Калман филтер.

Дискусија

Идеја РЛС филтера је да минимизира функцију трошкова ${\displaystyle C}$ и адекватно одабира филтер коефицијенти ${\displaystyle \mathbf {w} _{n}}$, ажурирање филтера кад стигну нови подаци. Сигнал грешке ${\displaystyle e(n)}$ и жељени сигнал ${\displaystyle d(n)}$ су дефинисани у дијаграму негативне повратне спреге :

Грешка имплицитно зависи од коефицијента филтера путем процене. ${\displaystyle {\hat {d}}(n)}$:

${\displaystyle e(n)=d(n)-{\hat {d}}(n)}$

Најмања функција квадрата грешка ${\displaystyle C}$— желимо да се цена функција минимизира-као функција e(n) стога такође зависи од коефицијента филтера: ${\displaystyle C(\mathbf {w} _{n})=\sum _{i=0}^{n}\lambda ^{n-i}e^{2}(i)}$ где је ${\displaystyle 0<\lambda \leq 1}$ " фактор заборављања " који даје експоненцијално мању тежину старијим узорцима грешака.

Функција трошкова је сведена на минимум узимањем парцијалног извода за све ставке ${\displaystyle k}$ коефицијента вектора ${\displaystyle \mathbf {w} _{n}}$ и постављање резултата на нулу:${\displaystyle {\frac {\partial C(\mathbf {w} _{n})}{\partial w_{n}(k)}}=\sum _{i=0}^{n}\,2\lambda ^{n-i}e(i)\,{\frac {\partial e(i)}{\partial w_{n}(k)}}={-}\sum _{i=0}^{n}\,2\lambda ^{n-i}e(i)\,x(i-k)=0\qquad k=0,1,\cdots ,p}$ Даље, замени ${\displaystyle e(n)}$ са дефиницијом сигнала грешке

${\displaystyle \sum _{i=0}^{n}\lambda ^{n-i}\left[d(i)-\sum _{l=0}^{p}w_{n}(l)x(i-l)\right]x(i-k)=0\qquad k=0,1,\cdots ,p}$

Преуређивање једначине приноса

${\displaystyle \sum _{l=0}^{p}w_{n}(l)\left[\sum _{i=0}^{n}\lambda ^{n-i}\,x(i-l)x(i-k)\right]=\sum _{i=0}^{n}\lambda ^{n-i}d(i)x(i-k)\qquad k=0,1,\cdots ,p}$

Овај облик може да се изрази у смислу матрице

${\displaystyle \mathbf {R} _{x}(n)\,\mathbf {w} _{n}=\mathbf {r} _{dx}(n)}$

where ${\displaystyle \mathbf {R} _{x}(n)}$ је измерен узорак коваријанси матрица за ${\displaystyle x(n)}$, и ${\displaystyle \mathbf {r} _{dx}(n)}$ је еквивалентна процена за попречну-коваријансу од ${\displaystyle d(n)}$ и ${\displaystyle x(n)}$ На основу овог израза налазимо коефицијенте који минимизирају трошкове функције као::${\displaystyle \mathbf {w} _{n}=\mathbf {R} _{x}^{-1}(n)\,\mathbf {r} _{dx}(n)}$ Ово је главни резултат дискусије.

Избор ${\displaystyle \lambda }$

Мањи ${\displaystyle \lambda }$ је, мали допринос претходним узорцима. То чини филтер више осетљивим на недавне узорке, што значи више флуктуације у филтеру коефицијента. За ${\displaystyle \lambda =1}$ случај се узима као пример растућег РЛС алгоритма. У пракси, ${\displaystyle \lambda }$ се обично бира између 0,98 и 1.^[1]

Рекурзивни алгоритам

Расправа је резултирала у једној једначини да се одреди коефицијент вектор који минимизира функцију трошкова. У овом одељку желимо да изведемо рекурзивно решење у облику

${\displaystyle \mathbf {w} _{n}=\mathbf {w} _{n-1}+\Delta \mathbf {w} _{n-1}}$

где ${\displaystyle \Delta \mathbf {w} _{n-1}}$ је корективни фактор у времену ${\displaystyle {n-1}}$. Истражујемо порекло рекурзивног алгоритма изражавајући унакрсно коваријансу${\displaystyle \mathbf {r} _{dx}(n)}$ поводом ${\displaystyle \mathbf {r} _{dx}(n-1)}$

${\displaystyle \mathbf {r} _{dx}(n)}$	${\displaystyle =\sum _{i=0}^{n}\lambda ^{n-i}d(i)\mathbf {x} (i)}$
	${\displaystyle =\sum _{i=0}^{n-1}\lambda ^{n-i}d(i)\mathbf {x} (i)+\lambda ^{0}d(n)\mathbf {x} (n)}$
	${\displaystyle =\lambda \mathbf {r} _{dx}(n-1)+d(n)\mathbf {x} (n)}$

где је${\displaystyle \mathbf {x} (i)}$${\displaystyle {p+1}}$димензионални вектор података:${\displaystyle \mathbf {x} (i)=[x(i),x(i-1),\dots ,x(i-p)]^{T}}$ Слично изражавамо ${\displaystyle \mathbf {R} _{x}(n)}$ У погледу ${\displaystyle \mathbf {R} _{x}(n-1)}$ од

${\displaystyle \mathbf {R} _{x}(n)}$	${\displaystyle =\sum _{i=0}^{n}\lambda ^{n-i}\mathbf {x} (i)\mathbf {x} ^{T}(i)}$
	${\displaystyle =\lambda \mathbf {R} _{x}(n-1)+\mathbf {x} (n)\mathbf {x} ^{T}(n)}$

Да би генерисали коефицијент вектора ми смо заинтересовани за супротност од детерминистичке матрице. Из тог задатка идентитет матрица долази у комбинацији. Са

${\displaystyle A}$	${\displaystyle =\lambda \mathbf {R} _{x}(n-1)}$ is ${\displaystyle (p+1)}$-by-${\displaystyle (p+1)}$
${\displaystyle U}$	${\displaystyle =\mathbf {x} (n)}$ is ${\displaystyle (p+1)}$-by-1
${\displaystyle V}$	${\displaystyle =\mathbf {x} ^{T}(n)}$ is 1-by-${\displaystyle (p+1)}$
${\displaystyle C}$	${\displaystyle =\mathbf {I} _{1}}$ is the 1-by-1

Следи идентитет матрица

${\displaystyle \mathbf {R} _{x}^{-1}(n)}$	${\displaystyle =}$	${\displaystyle \left[\lambda \mathbf {R} _{x}(n-1)+\mathbf {x} (n)\mathbf {x} ^{T}(n)\right]^{-1}}$
	${\displaystyle =}$	${\displaystyle \lambda ^{-1}\mathbf {R} _{x}^{-1}(n-1)}$
		${\displaystyle -\lambda ^{-1}\mathbf {R} _{x}^{-1}(n-1)\mathbf {x} (n)}$
		${\displaystyle \left\{1+\mathbf {x} ^{T}(n)\lambda ^{-1}\mathbf {R} _{x}^{-1}(n-1)\mathbf {x} (n)\right\}^{-1}\mathbf {x} ^{T}(n)\lambda ^{-1}\mathbf {R} _{x}^{-1}(n-1)}$

У складу са стандардном литературом, дефинишемо

${\displaystyle \mathbf {P} (n)}$	${\displaystyle =\mathbf {R} _{x}^{-1}(n)}$
	${\displaystyle =\lambda ^{-1}\mathbf {P} (n-1)-\mathbf {g} (n)\mathbf {x} ^{T}(n)\lambda ^{-1}\mathbf {P} (n-1)}$

где је "добијен вектор"${\displaystyle g(n)}$

${\displaystyle \mathbf {g} (n)}$	${\displaystyle =\lambda ^{-1}\mathbf {P} (n-1)\mathbf {x} (n)\left\{1+\mathbf {x} ^{T}(n)\lambda ^{-1}\mathbf {P} (n-1)\mathbf {x} (n)\right\}^{-1}}$
	${\displaystyle =\mathbf {P} (n-1)\mathbf {x} (n)\left\{\lambda +\mathbf {x} ^{T}(n)\mathbf {P} (n-1)\mathbf {x} (n)\right\}^{-1}}$

Пре него што кренемо даље, неопходно је да се донесе ${\displaystyle \mathbf {g} (n)}$ у другом облику

${\displaystyle \mathbf {g} (n)\left\{1+\mathbf {x} ^{T}(n)\lambda ^{-1}\mathbf {P} (n-1)\mathbf {x} (n)\right\}}$	${\displaystyle =\lambda ^{-1}\mathbf {P} (n-1)\mathbf {x} (n)}$
${\displaystyle \mathbf {g} (n)+\mathbf {g} (n)\mathbf {x} ^{T}(n)\lambda ^{-1}\mathbf {P} (n-1)\mathbf {x} (n)}$	${\displaystyle =\lambda ^{-1}\mathbf {P} (n-1)\mathbf {x} (n)}$

Одузимањем другог мандата на левој страни приноса

${\displaystyle \mathbf {g} (n)}$	${\displaystyle =\lambda ^{-1}\mathbf {P} (n-1)\mathbf {x} (n)-\mathbf {g} (n)\mathbf {x} ^{T}(n)\lambda ^{-1}\mathbf {P} (n-1)\mathbf {x} (n)}$
	${\displaystyle =\lambda ^{-1}\left[\mathbf {P} (n-1)-\mathbf {g} (n)\mathbf {x} ^{T}(n)\mathbf {P} (n-1)\right]\mathbf {x} (n)}$

Са рекурзивном дефиницијом ${\displaystyle \mathbf {P} (n)}$ жељена форма прати

${\displaystyle \mathbf {g} (n)=\mathbf {P} (n)\mathbf {x} (n)}$

Сада смо спремни да завршимо рекурзију. Као што је наведено

${\displaystyle \mathbf {w} _{n}}$	${\displaystyle =\mathbf {P} (n)\,\mathbf {r} _{dx}(n)}$
	${\displaystyle =\lambda \mathbf {P} (n)\,\mathbf {r} _{dx}(n-1)+d(n)\mathbf {P} (n)\,\mathbf {x} (n)}$

Други корак произлази из рекурзивне дефиниције${\displaystyle \mathbf {r} _{dx}(n)}$. Затим смо уградили рекурзивно дефиниције ${\displaystyle \mathbf {P} (n)}$ заједно са алтернативним обликом ${\displaystyle \mathbf {g} (n)}$ и добијамо

${\displaystyle \mathbf {w} _{n}}$	${\displaystyle =\lambda \left[\lambda ^{-1}\mathbf {P} (n-1)-\mathbf {g} (n)\mathbf {x} ^{T}(n)\lambda ^{-1}\mathbf {P} (n-1)\right]\mathbf {r} _{dx}(n-1)+d(n)\mathbf {g} (n)}$
	${\displaystyle =\mathbf {P} (n-1)\mathbf {r} _{dx}(n-1)-\mathbf {g} (n)\mathbf {x} ^{T}(n)\mathbf {P} (n-1)\mathbf {r} _{dx}(n-1)+d(n)\mathbf {g} (n)}$
	${\displaystyle =\mathbf {P} (n-1)\mathbf {r} _{dx}(n-1)+\mathbf {g} (n)\left[d(n)-\mathbf {x} ^{T}(n)\mathbf {P} (n-1)\mathbf {r} _{dx}(n-1)\right]}$

Са${\displaystyle \mathbf {w} _{n-1}=\mathbf {P} (n-1)\mathbf {r} _{dx}(n-1)}$ долазимо до једначине за ажурирање

${\displaystyle \mathbf {w} _{n}}$	${\displaystyle =\mathbf {w} _{n-1}+\mathbf {g} (n)\left[d(n)-\mathbf {x} ^{T}(n)\mathbf {w} _{n-1}\right]}$
	${\displaystyle =\mathbf {w} _{n-1}+\mathbf {g} (n)\alpha (n)}$

Где је ${\displaystyle \alpha (n)=d(n)-\mathbf {x} ^{T}(n)\mathbf {w} _{n-1}}$Грешка израчунавања "после" филтера се ажурира::${\displaystyle e(n)=d(n)-\mathbf {x} ^{T}(n)\mathbf {w} _{n}}$ То значи да смо нашли фактор корекције:${\displaystyle \Delta \mathbf {w} _{n-1}=\mathbf {g} (n)\alpha (n)}$

Овај интуитивно задовољавајући резултат указује да је корективни фактор директно пропорционалан грешкама и појачањима вектора, и да контролише колика осетљивост се жели.

RLS алгоритам резиме

RLS алгоритам за pсе помоћу RLS филтера може сумирати на:

Параметри:	${\displaystyle p=}$ поредак филтера
	${\displaystyle \lambda =}$ фактор заборављања
	${\displaystyle \delta =}$ вредност да се покрене ${\displaystyle \mathbf {P} (0)}$
Иницијализација:	${\displaystyle \mathbf {w} (n)=0}$,
	${\displaystyle x(k)=0,k=-p,\dots ,-1}$,
	${\displaystyle d(k)=0,k=-p,\dots ,-1}$
	${\displaystyle \mathbf {P} (0)=\delta ^{-1}I}$ где је ${\displaystyle I}$ матрица идентитета ранга ${\displaystyle p+1}$
Обрачун:	За ${\displaystyle n=1,2,\dots }$
	${\displaystyle \mathbf {x} (n)=\left[{\begin{matrix}x(n)\\x(n-1)\\\vdots \\x(n-p)\end{matrix}}\right]}$
	${\displaystyle \alpha (n)=d(n)-\mathbf {x} ^{T}(n)\mathbf {w} (n-1)}$
	${\displaystyle \mathbf {g} (n)=\mathbf {P} (n-1)\mathbf {x} ^{*}(n)\left\{\lambda +\mathbf {x} ^{T}(n)\mathbf {P} (n-1)\mathbf {x} ^{*}(n)\right\}^{-1}}$
	${\displaystyle \mathbf {P} (n)=\lambda ^{-1}\mathbf {P} (n-1)-\mathbf {g} (n)\mathbf {x} ^{T}(n)\lambda ^{-1}\mathbf {P} (n-1)}$
	${\displaystyle \mathbf {w} (n)=\mathbf {w} (n-1)+\,\alpha (n)\mathbf {g} (n)}$.

Имајте на уму да рекурзија за ${\displaystyle P}$ следи алгебарска Рикатијева једначина и тако повлачи паралеле до Калман филтера.^[2]

Рекурзивне решетке најмањих квадрата филтера (LRLS)

Рекурзивне решетке најмањих квадрата филтера се односи на стандардни RLS, осим да је потребно мање аритметичких операција . Она нуди додатне предности у односу на конвенционалне LMS алгоритме као што су брже стопе конвергенције, модуларне структуре, и неосетљивост на варијацијама у ширења улазне корелационе матрице.LRLS алгоритам заснован је на грешкама и укључује нормализовани облик. Извођење је слична стандардном RLS алгоритму и заснива се на дефиницији ${\displaystyle d(k)\,\!}$. У предикционом случају, имамо ${\displaystyle d(k)=x(k)\,\!}$ са улазним сигналом ${\displaystyle x(k-1)\,\!}$ као највиши узорак. Предвиђање заосталих случајева ${\displaystyle d(k)=x(k-i-1)\,\!}$, где индекс узорка у прошлости желимо да предвидимо, а улазни сигнал ${\displaystyle x(k)\,\!}$ је најновији узорак.^[3]

Преглед параметара

${\displaystyle \kappa _{f}(k,i)\,\!}$ је напредни коефицијент рефлексије

${\displaystyle \kappa _{b}(k,i)\,\!}$ је назадан коефицијент рефлексије

${\displaystyle e_{f}(k,i)\,\!}$ представља тренутно апостериори напредно предвиђање о грешци

${\displaystyle e_{b}(k,i)\,\!}$ представља тренутно апостериори назадно предвиђање о грешци

${\displaystyle \xi _{b_{min}}^{d}(k,i)\,\!}$ је минимум најмањих квадрата назадно предвиђање грешака

${\displaystyle \xi _{f_{min}}^{d}(k,i)\,\!}$је минимум најмањих квадрата напредно предвиђање грешака

${\displaystyle \gamma (k,i)\,\!}$ је фактор конверзије између априори и апостериори, грешке

${\displaystyle v_{i}(k)\,\!}$ су вишеструки коефицијенти.

${\displaystyle \epsilon \,\!}$ је мала позитивна константа која може бити 0.01

LRLS преглед алгоритма

Алгоритам за LRLS филтер се може сажети у

Иницијализација:
	For i = 0,1,...,N
	${\displaystyle \delta (-1,i)=\delta _{D}(-1,i)=0\,\!}$ (if x(k) = 0 for k < 0)
	${\displaystyle \xi _{b_{min}}^{d}(-1,i)=\xi _{f_{min}}^{d}(-1,i)=\epsilon }$
	${\displaystyle \gamma (-1,i)=1\,\!}$
	${\displaystyle e_{b}(-1,i)=0\,\!}$
	End
Израчунавање:
	For k ≥ 0
	${\displaystyle \gamma (k,0)=1\,\!}$
	${\displaystyle e_{b}(k,0)=e_{f}(k,0)=x(k)\,\!}$
	${\displaystyle \xi _{b_{min}}^{d}(k,0)=\xi _{f_{min}}^{d}(k,0)=x^{2}(k)+\lambda \xi _{f_{min}}^{d}(k-1,0)\,\!}$
	${\displaystyle e(k,0)=d(k)\,\!}$
	For i = 0,1,...,N
	${\displaystyle \delta (k,i)=\lambda \delta (k-1,i)+{\frac {e_{b}(k-1,i)e_{f}(k,i)}{\gamma (k-1,i)}}}$
	${\displaystyle \gamma (k,i+1)=\gamma (k,i)-{\frac {e_{b}^{2}(k,i)}{\xi _{b_{min}}^{d}(k,i)}}}$
	${\displaystyle \kappa _{b}(k,i)={\frac {\delta (k,i)}{\xi _{f_{min}}^{d}(k,i)}}}$
	${\displaystyle \kappa _{f}(k,i)={\frac {\delta (k,i)}{\xi _{b_{min}}^{d}(k-1,i)}}}$
	${\displaystyle e_{b}(k,i+1)=e_{b}(k-1,i)-\kappa _{b}(k,i)e_{f}(k,i)\,\!}$
	${\displaystyle e_{f}(k,i+1)=e_{f}(k,i)-\kappa _{f}(k,i)e_{b}(k-1,i)\,\!}$
	${\displaystyle \xi _{b_{min}}^{d}(k,i+1)=\xi _{b_{min}}^{d}(k-1,i)-\delta (k,i)\kappa _{b}(k,i)}$
	${\displaystyle \xi _{f_{min}}^{d}(k,i+1)=\xi _{f_{min}}^{d}(k,i)-\delta (k,i)\kappa _{f}(k,i)}$
	${\displaystyle \delta _{D}(k,i)=\lambda \delta _{D}(k-1,i)+{\frac {e(k,i)e_{b}(k,i)}{\gamma (k,i)}}}$
	${\displaystyle v_{i}(k)={\frac {\delta _{D}(k,i)}{\xi _{b_{min}}^{d}(k,i)}}}$
	${\displaystyle e(k,i+1)=e(k,i)-v_{i}(k)e_{b}(k,i)\,\!}$
	End
	End

Нормализован рекурзиван филтер најмањих квадрата (NLRLS)

Нормализована форма LRLS има мање рекурзије и променљивих. Може се израчунати применом нормализације интерних варијабли алгоритма који ће задржати своју величину. Ово се углавном не користи у реалном времену апликације због броја одељења и квадратног корена операција која долази са високим рачунарским оптерећењем.

NLRLS преглед алгоритма

Алгоритам за NLRLS филтер се може сажети у

Иницијализација:
	For i = 0,1,...,N
	${\displaystyle {\overline {\delta }}(-1,i)=0\,\!}$ (if x(k) = d(k) = 0 for k < 0)
	${\displaystyle {\overline {\delta }}_{D}(-1,i)=0\,\!}$
	${\displaystyle {\overline {e}}_{b}(-1,i)=0\,\!}$
	End
	${\displaystyle \sigma _{x}^{2}(-1)=\lambda \sigma _{d}^{2}(-1)=\epsilon \,\!}$
Израчунавање:
	For k ≥ 0
	${\displaystyle \sigma _{x}^{2}(k)=\lambda \sigma _{x}^{2}(k-1)+x^{2}(k)\,\!}$ (улазни сигнал снаге)
	${\displaystyle \sigma _{d}^{2}(k)=\lambda \sigma _{d}^{2}(k-1)+d^{2}(k)\,\!}$ (референтни сигнал снаге)
	${\displaystyle {\overline {e}}_{b}(k,0)={\overline {e}}_{f}(k,0)={\frac {x(k)}{\sigma _{x}(k)}}\,\!}$
	${\displaystyle {\overline {e}}(k,0)={\frac {d(k)}{\sigma _{d}(k)}}\,\!}$
	For i = 0,1,...,N
	${\displaystyle {\overline {\delta }}(k,i)=\delta (k-1,i){\sqrt {(1-{\overline {e}}_{b}^{2}(k-1,i))(1-{\overline {e}}_{f}^{2}(k,i))}}+{\overline {e}}_{b}(k-1,i){\overline {e}}_{f}(k,i)}$
	${\displaystyle {\overline {e}}_{b}(k,i+1)={\frac {{\overline {e}}_{b}(k-1,i)-{\overline {\delta }}(k,i){\overline {e}}_{f}(k,i)}{\sqrt {(1-{\overline {\delta }}^{2}(k,i))(1-{\overline {e}}_{f}^{2}(k,i))}}}}$
	${\displaystyle {\overline {e}}_{f}(k,i+1)={\frac {{\overline {e}}_{f}(k,i)-{\overline {\delta }}(k,i){\overline {e}}_{b}(k-1,i)}{\sqrt {(1-{\overline {\delta }}^{2}(k,i))(1-{\overline {e}}_{b}^{2}(k-1,i))}}}}$
	${\displaystyle {\overline {\delta }}_{D}(k,i)={\overline {\delta }}_{D}(k-1,i){\sqrt {(1-{\overline {e}}_{b}^{2}(k,i))(1-{\overline {e}}^{2}(k,i))}}+{\overline {e}}(k,i){\overline {e}}_{b}(k,i)}$
	${\displaystyle {\overline {e}}(k,i+1)={\frac {1}{\sqrt {(1-{\overline {e}}_{b}^{2}(k,i))(1-{\overline {\delta }}_{D}^{2}(k,i))}}}[{\overline {e}}(k,i)-{\overline {\delta }}_{D}(k,i){\overline {e}}_{b}(k,i)]}$
	End
	End

Референце

1. Emannual C. Ifeacor, Barrie W. Jervis. Digital signal processing: a practical approach, second edition. Indianapolis: Pearson Education Limited. (2002). стр. 718.
2. Welch, Greg and Bishop, Gary "An Introduction to the Kalman Filter", Department of Computer Science, University of North Carolina at Chapel Hill, September 17, 1997, accessed July 19, 2011.
3. Albu, Kadlec, Softley, Matousek, Hermanek, Coleman, Fagan "Implementation of (Normalised) RLS Lattice on Virtex" Архивирано на веб-сајту Wayback Machine (4. март 2016), Digital Signal Processing, 2001, accessed December 24, 2011.

Литература

• Hayes, Monson H. (1996). „9.4: Recursive Least Squares”. Statistical Digital Signal Processing and Modeling. Wiley. стр. 541. ISBN 978-0-471-59431-4. 
• Haykin, Simon (2002). Adaptive Filter Theory. Prentice Hall. ISBN 978-0-13-048434-5. 
• M.H.A Davis, R.B. Vinter (1985). Stochastic Modelling and Control. Springer. ISBN 978-0-412-16200-8. 
• Weifeng Liu, Jose Principe and Simon Haykin (2010). Kernel Adaptive Filtering: A Comprehensive Introduction. John Wiley. ISBN 978-0-470-44753-6. 
• R.L.Plackett, Some Theorems in Least Squares, Biometrika, 1950, 37, 149-157, ISSN 0006-3444
• C.F.Gauss, Theoria combinationis observationum erroribus minimis obnoxiae, 1821, Werke, 4. Gottinge