Korisnički Kontrolni Panel
Pogledajte svoj profil
Pogledajte svoje postove
ČPP
Prijavite se

Matematički forum na kojem možete da diskutujete o raznim matematičkim oblastima, pomognete drugima oko rešavanja zadataka, a i da dobijete pomoć kada vam zatreba


















Index stranica OSTALE MATEMATIČKE OBLASTI OSTALE OBLASTI MATEMATIKE

Metod najmanjih kvadrata – regresiona prava

Sve što spada u matematiku a ne spada u prethodno nabrojane rubrike

Metod najmanjih kvadrata – regresiona prava

Postod desideri » Utorak, 08. Mart 2016, 20:10

Ovde se razmatra jedno od važnijih pitanja u Matematičkoj statistici, dobijanje jednačine regresione prave koja najmanje odstupa od zadatog uzorka tj. zadatih tačaka. Metod je prvi predložio i pokazao mogućnosti primene Karl Friedrich Gauss, koga su za života prozvali „princeps mathematicorum“ tj. princ matematike.

Povezanost između obeležja ili pojava može se razlikovati po jačini povezanosti. Na primer, obim kruga [inlmath]O[/inlmath] i prečnik kruga [inlmath]R[/inlmath] u funkcionalnoj su vezi [inlmath]O=R\pi[/inlmath]. Labavija veza, ali još uvek značajna, bila bi između visine i telesne mase ljudi. Veza između srednjih dnevnih temperatura na Arktiku i broja postova dnevno na Matemaniji ne verujem da postoji, no nikad se ne zna, možda imamo i korisnike s Arktika ili naši korisnici tamo imaju neke bliske ljude...

Gauss je došao na ideju da podigne na kvadrat sva vertikalna odstupanja tačaka od zamišljene „idealne“ prave i da, zatim, te kvadrate odstupanja sabere:

1.jpg
1.jpg (6.88 KiB) Pogledano 2629 puta

Moglo se raditi i s apsolutnim vrednostima (neke tačke su ispod a neke iznad prave, a ideja je da prava što manje odstupa od tih tačaka), no je jednostavnije u matematičkom smislu kvadrirati ove vrednosti i naći sumu tih kvadrata odstupanja, zbog čega je metod i nazvan „Metod najmanjih kvadrata“:
[dispmath]S=\sum_{i=1}^n(e_i)^2=\sum_{i=1}^n(ax_i+b-y_i)^2[/dispmath]
Potrebno je naglasiti da je jednačina plave prave na gornjoj slici zapravo [inlmath]y=ax+b[/inlmath]. Nepoznate su [inlmath]a[/inlmath] i [inlmath]b[/inlmath], a ne [inlmath]x_i[/inlmath] i [inlmath]y_i[/inlmath], jer su to tačke zadate uzorkom.

Problem se svodi na nalaženje minimuma funkcije [inlmath]S(a,b)[/inlmath] tj. nakon urađenih parcijalnih izvoda po promenljivim [inlmath]b[/inlmath] i [inlmath]a[/inlmath], respektivno, jer prava zavisi od slobodnog člana i od koeficijenta pravca i dobija se, naravno, nakon izjednačavanja ovih izvoda s nulom:
[dispmath]nb+a\sum_{i=1}^nx_i=\sum_{i=1}^ny_i[/dispmath][dispmath]b\sum_{i=1}^nx_i+a\sum_{i=1}^n{x_i}^2=\sum_{i=1}^ny_i x_i[/dispmath]

Evo na kraju i jednog primera, ako se neko zainteresuje. Zadat je uzorak:
[inlmath](1,10);\;(2,30);\;(3,20)[/inlmath]
Da pojasnim: prva tačka ima [inlmath]x[/inlmath] koordinatu jednaku [inlmath]1[/inlmath] i [inlmath]y[/inlmath] koordinatu jednaku [inlmath]10[/inlmath]. Itd.
Potrebno je naći jednačinu regresione prave.
Rezultat je:
[dispmath]y=5x+10[/dispmath]
Korisnikov avatar
Zaslužni forumaš
 
Postovi: 1542
Lokacija: Beograd
Zahvalio se: 1097 puta
Pohvaljen: 864 puta

Sharuj ovu temu na:

Share on Facebook Facebook Share on Twitter Twitter Share on MySpace MySpace Share on Google+ Google+
  • +1

Re: Metod najmanjih kvadrata – regresiona prava

Postod bole » Sreda, 09. Mart 2016, 07:12

Može se ovaj primjer vrlo lako riješiti u excelu primjenom funkcije linest pri čemu dobijamo [inlmath]a[/inlmath] i [inlmath]b[/inlmath]
a možemo primijeniti i matrično rješenje
znamo da je jednačina pravca [inlmath]y=ax+b[/inlmath], te formiramo matrice
[dispmath]\mathrm{A}=\begin{bmatrix}
1 & 1\\
2 & 1\\
3 & 1
\end{bmatrix}\\
\mathrm{L}=\begin{bmatrix}
10\\
30\\
20
\end{bmatrix}[/dispmath]
pri čemu su u matrici [inlmath]\mathrm{A}[/inlmath] članovi izvodi po nepoznatim parametrima (ili koeficijenti uz nepoznate parametre [inlmath]a[/inlmath] i [inlmath]b[/inlmath]), a matrica [inlmath]\mathrm{L}[/inlmath] vektor rješenja(slobodnih članova)
i onda
[inlmath]\mathrm{N}=\mathrm{A^T}\cdot\mathrm{A}=\begin{bmatrix}
14 & 6\\
6 & 3
\end{bmatrix}\\
\mathrm{n}=\mathrm{A^T\cdot L}=\begin{bmatrix}
130\\
60
\end{bmatrix}[/inlmath]
[inlmath]\mathrm{N}[/inlmath] - matrica normalnih jednačina
[inlmath]\mathrm{n}[/inlmath] - vektor slobodnih članova normalnih jednačina
[dispmath]\mathrm{Q_x}=\mathrm{N}^{-1}\begin{bmatrix}
0.5 & -1\\
-1 & 2.3333
\end{bmatrix}[/dispmath]
[inlmath]\mathrm{Q_x}[/inlmath] - kofaktorska matrica nepoznatih parametara
[dispmath]\mathrm{x}=\mathrm{Q_x\cdot n}=\begin{bmatrix}
5\\
10
\end{bmatrix}[/dispmath]
[inlmath]\mathrm{x}[/inlmath] - vektor nepoznatih parametara, prvi član vektora je [inlmath]a[/inlmath], drugi član vektora je [inlmath]b[/inlmath]
Sad iz ovoga možemo izračunati standardno odstupanje
[inlmath]\mathrm{V}=\mathrm{A\cdot x}-\mathrm{L}[/inlmath]
te je [inlmath]s_0=\sqrt{\frac{\mathrm{V^T\cdot V}}{\mathrm{n}-u}}[/inlmath] standardno odstupanje, pri čemu je [inlmath]\mathrm{n}[/inlmath] broj jednačina, a [inlmath]u[/inlmath] broj nepoznatih

bar sam ja učio da se ovako radi

p.s. funkcija linest radi kao i ostale funkcije povezane sa matricama, označe se dvije ćelije(po kolonama) i onda nam funkcija prvo traži poznate [inlmath]y[/inlmath] pa poznate [inlmath]x[/inlmath] i na kraju samo Ctrl+Shift+Enter (npr. =LINEST(A1:A3;B1:B3 gdje su nam u koloni A poznate [inlmath]y[/inlmath] koordinate, a u koloni B poznate [inlmath]x[/inlmath] koordinate)
bole  OFFLINE
Zaslužni forumaš
 
Postovi: 76
Lokacija: Banja Luka
Zahvalio se: 29 puta
Pohvaljen: 91 puta

  • +1

Re: Metod najmanjih kvadrata – regresiona prava

Postod desideri » Četvrtak, 10. Mart 2016, 22:53

@Bole,
dao sam thanks i mislim da je tvoj post sjajan ali... Uvek fali neko ali.
Pre svega tebi ali i svim ostalim korisnicima preporučujem ovu temu:
Čudesne matrične formule u Excelu
Excel je sjajan i jako kompatibilan s Matematičkom statistikom i uostalom u tvom postu je sve tačno osim pojašnjenja:
1.jpg
1.jpg (7.48 KiB) Pogledano 2529 puta

Naime, funkciju tj. matričnu formulu LINEST je potrebno tako postaviti da su argumenti dve kolone kao što ti i reče, tj. dva vektora, ali rezultat se prikazuje horizontalno tj. prvo se označe dve ćelije po horizontali i onda dobijemo rezultat. Baš kao na slici koju sam gore postovao.
Dakle:
Označio sam polja D1 i E1 zajedno i uneo u ta dva polja formulu LINEST(A1:A3,B1:B3). Potom naravno po pravilu za unos matrične formule pritisnuh CTRL+SHIFT+ENTER. I to je to.
Korisnikov avatar
Zaslužni forumaš
 
Postovi: 1542
Lokacija: Beograd
Zahvalio se: 1097 puta
Pohvaljen: 864 puta

  • +1

Re: Metod najmanjih kvadrata – regresiona prava

Postod desideri » Četvrtak, 10. Mart 2016, 23:55

I da se doreknem:
Postoji i funkcija (u Excelu naravno) koja računa koeficijent korelacije, tj. meru uzajamne linearne povezanosti između dve promenljive:
PEARSON(A1:A3,B1:B3)
Eto stavite ovo u bilo koje polje i dobićete rezultat [inlmath]0.5[/inlmath]
Za navedeni primer u mom postu, naravno. Ovo čak i nije matrična formula, može i obična s enterom prostim.
p.s. Ova funkcija u Excelu ima takvo ime zahvaljujući besmrtnom matematičaru i statističaru čije je ime i prezime: Karl Pearson.
Korisnikov avatar
Zaslužni forumaš
 
Postovi: 1542
Lokacija: Beograd
Zahvalio se: 1097 puta
Pohvaljen: 864 puta


Povratak na OSTALE OBLASTI MATEMATIKE

Ko je OnLine

Korisnici koji su trenutno na forumu: Nema registrovanih korisnika i 32 gostiju


Index stranicaTimObriši sve kolačiće boarda
Danas je Četvrtak, 28. Mart 2024, 17:13 • Sva vremena su u UTC + 1 sat
Pokreće ga phpBB® Forum Software © phpBB Group
Prevod – www.CyberCom.rs