Uopšte ne znam kako da uradim ovaj tip zadatka, pa mi treba nečija pomoć ako može.
Neka je [inlmath]p[/inlmath] ceo broj i [inlmath]\alpha\in\left(0,\frac{\pi}{4}\right][/inlmath]. Ako su [inlmath]x_1=\cos\alpha[/inlmath] i [inlmath]x_2=\sin\alpha[/inlmath] rešenja jednačine [inlmath]18x^2-6(p+3)x+p(p+6)=0[/inlmath], broj uređenih parova [inlmath](p,\alpha)[/inlmath] je?

Evo kako bih ja uradio, ali nisam siguran da je tačno.
Kako su rešenja date kvadratne jednačine realni brojevi, zaključujemo da je [inlmath]D\ge0[/inlmath].
Koreni kvadratne jednaćine će biti jednaki kada je ugao [inlmath]\alpha=45^\circ[/inlmath], a biće različiti za sve ostale uglove u datom intervalu (bar ja tako mislim).
Imamo da je diskriminanta:
[dispmath]D=\big(-6(p+3)\big)^2-4\cdot18\cdot p(p+6)[/dispmath]
Ja sam dobio (ipak proverite račun) da je [inlmath]p_1=1+\frac{\sqrt{6}}{3},\;p_2=1-\frac{\sqrt{6}}{3}[/inlmath].
Kako je uslov da je [inlmath]p[/inlmath] ceo broj, ovaj slučaj kada je [inlmath]D=0[/inlmath] isklučujemo iz razmatranja (pod pretpostavkom da sam tačno izračunao). Ostaje samo slučaj kada je [inlmath]D>0[/inlmath]. Prebroje se celi brojevi koji pripadaju intervalu koji se dobije kada se reši kvadratna nejednačina [inlmath]D>0[/inlmath].

Miladin Jovic je napisao:[dispmath]D=\big(-6(p+3)\big)^2-4\cdot18\cdot p(p+6)[/dispmath]
Ja sam dobio (ipak proverite račun) da je [inlmath]p_1=1+\frac{\sqrt{6}}{3},\;p_2=1-\frac{\sqrt{6}}{3}[/inlmath].

Izraz za diskriminantu ti je tačan, ali ti ne valjaju rešenja za [inlmath]D=0[/inlmath].
Za [inlmath]D=0[/inlmath] se dobije [inlmath]p_{1,2}=-3\pm3\sqrt2[/inlmath], a za [inlmath]D\ge0[/inlmath] se dobije [inlmath]p\in\left[-3-3\sqrt2,\;-3+3\sqrt2\right][/inlmath]. Pošto je [inlmath]p[/inlmath] ceo broj, rešenje nejednačine se svodi na [inlmath]p\in\left[-7,1\right][/inlmath].

Međutim, nije nenegativnost diskriminante jedini uslov da bi bilo zadovoljeno ono što se u zadatku traži. To jeste potreban, ali ne i dovoljan uslov.

Da bi rešenja kvadratne jednačine [inlmath]x_1[/inlmath] i [inlmath]x_2[/inlmath] mogla da se predstave kao [inlmath]\cos\alpha[/inlmath] i [inlmath]\sin\alpha[/inlmath], potrebno je da između njih važi ista veza kao između kosinusa i sinusa, a to je [inlmath]\cos^2\alpha+\sin^2\alpha=1[/inlmath]. Dakle, potrebno je da važi [inlmath]x_1^2+x_2^2=1[/inlmath]. Treba ispitati za koje vrednosti [inlmath]p[/inlmath] to važi.
Dobiće se da važi za svako [inlmath]p[/inlmath], prema tome, ovaj uslov je uvek zadovoljen.

Zatim, iz uslova da je [inlmath]\alpha\in\left(0,\frac{\pi}{4}\right][/inlmath] sledi:
[dispmath]\cos\alpha\in\left[\frac{\sqrt2}{2},1\right)\quad\Rightarrow\quad x_1\in\left[\frac{\sqrt2}{2},1\right)[/dispmath][dispmath]\sin\alpha\in\left(0,\frac{\sqrt2}{2}\right]\quad\Rightarrow\quad x_2\in\left(0,\frac{\sqrt2}{2}\right][/dispmath][dispmath]\Rightarrow\quad x_1+x_2\in\left(\frac{\sqrt2}{2},\frac{\sqrt2}{2}+1\right)[/dispmath]
Primeni se Vietova formula, [inlmath]x_1+x_2[/inlmath] se izrazi preko [inlmath]p[/inlmath] i odatle se nađe u kom intervalu se nalazi [inlmath]p[/inlmath]. Dobije se [inlmath]p\in\left[0,2\right][/inlmath]. To u preseku s uslovom nenegativnosti diskriminante, [inlmath]p\in\left[-7,1\right][/inlmath], daje [inlmath]\left[0,1\right][/inlmath], što je već dovoljno sužen izbor „kandidata“ za one vrednosti [inlmath]p[/inlmath] koje zadovoljavaju uslov zadatka.

Sada možemo uvrštavanjem te dve vrednosti, [inlmath]p=0[/inlmath] i [inlmath]p=1[/inlmath], u polaznu kvadratnu jednačinu ispitati za koje od te dve vrednosti [inlmath]p[/inlmath] će biti ispunjeno [inlmath]x_1\in\left[\frac{\sqrt2}{2},1\right)[/inlmath] i [inlmath]x_2\in\left(0,\frac{\sqrt2}{2}\right][/inlmath].

Sada mi je jasno... Hvala vam puno ljudi, stvarno mi baš pomažete