[dispmath]\left(1+2\log_{\left|xy\right|}2\right)\cdot\log_{x+y}\left|xy\right|=1[/dispmath][dispmath]x-y=2\sqrt3[/dispmath]
Na samom startu postavljamo uslove da ovaj sistem jednačina bude definisan:
[inlmath]\left|xy\right|>0\quad\Rightarrow\quad xy\ne0\quad\Rightarrow\quad x\ne0,\;y\ne0\\
\left|xy\right|\ne1\quad\Rightarrow\quad xy\ne\pm1\\
x+y>0\\
x+y\ne1[/inlmath]
Pošto je [inlmath]\left|xy\right|\ne1[/inlmath], znači da je [inlmath]\log_{x+y}\left|xy\right|\ne0[/inlmath], pa možemo obe strane podeliti sa [inlmath]\log_{x+y}\left|xy\right|[/inlmath]:
[dispmath]1+2\log_{\left|xy\right|}2=\frac{1}{\log_{x+y}\left|xy\right|}[/dispmath][dispmath]\log_{\left|xy\right|}\left(x+y\right)-\log_{\left|xy\right|}4=1[/dispmath][dispmath]\log_{\left|xy\right|}\frac{x+y}{4}=1[/dispmath][dispmath]\log_{\left|xy\right|}\frac{x+y}{4}=\log_{\left|xy\right|}\left|xy\right|[/dispmath][dispmath]\frac{x+y}{4}=\left|xy\right|[/dispmath][dispmath]x+y=4\left|xy\right|[/dispmath]
Iz druge jednačine sistema možemo [inlmath]y[/inlmath] izraziti preko [inlmath]x[/inlmath]:
[inlmath]y=x-2\sqrt3[/inlmath]
pa onda to uvrstimo u dobijenu jednačinu:
[dispmath]x+\left(x-2\sqrt3\right)=4\left|x\left(x-2\sqrt3\right)\right|[/dispmath][dispmath]2x-2\sqrt3=4\left|x^2-2x\sqrt3\right|[/dispmath][dispmath]x-\sqrt3=2\left|x^2-2x\sqrt3\right|[/dispmath]
I sad razmatramo dva slučaja, zavisno od toga da li je izraz pod apsolutnom vrednošću pozitivan ili negativan:
[inlmath]I[/inlmath] slučaj: [inlmath]x^2-2x\sqrt3\ge0[/inlmath]
[inlmath]x\left(x-2\sqrt 3\right)\ge0\\
\left(x\ge0\;\land\;x\ge2\sqrt3\right)\;\lor\;\left(x\le0\;\land\;x\le2\sqrt3\right)\\
\Rightarrow\quad x\le0\;\lor\;x\ge2\sqrt3[/inlmath]
[dispmath]x-\sqrt3=2\left(x^2-2x\sqrt3\right)[/dispmath][dispmath]2x^2-\left(1+4\sqrt3\right)x+\sqrt3=0[/dispmath][dispmath]x_{1,2}=\frac{1+4\sqrt3\pm\sqrt{\left(1+4\sqrt3\right)^2-8\sqrt3}}{4}[/dispmath][dispmath]x_{1,2}=\frac{1+4\sqrt3\pm\sqrt{1+\cancel{8\sqrt3}+48-\cancel{8\sqrt3}}}{4}[/dispmath][dispmath]x_{1,2}=\frac{1+4\sqrt3\pm7}{4}[/dispmath][dispmath]\cancel{x_1=\sqrt3-\frac{3}{2}}\quad\enclose{box}{x_2=2+\sqrt3}[/dispmath]([inlmath]x_1[/inlmath] ne zadovoljava pretpostavku za [inlmath]I[/inlmath] slučaj, dok [inlmath]x_2[/inlmath] zadovoljava, pošto je [inlmath]2+\sqrt3\ge2\sqrt3[/inlmath]).
[inlmath]II[/inlmath] slučaj: [inlmath]x^2-2x\sqrt3<0[/inlmath]
[inlmath]x\left(x-2\sqrt3\right)<0[/inlmath]
[inlmath]\left(x>0\;\land\;x<2\sqrt3\right)\;\lor\;\left(x<0\;\land\;x>2\sqrt3\right)[/inlmath]
[inlmath]\Rightarrow\quad 0<x<2\sqrt3[/inlmath]
[dispmath]x-\sqrt3=-2\left(x^2-2x\sqrt3\right)[/dispmath][dispmath]2x^2+\left(1-4\sqrt3\right)x-\sqrt3=0[/dispmath][dispmath]x_{1,2}=\frac{4\sqrt3-1\pm\sqrt{\left(1-4\sqrt3\right)^2+8\sqrt3}}{4}[/dispmath][dispmath]x_{1,2}=\frac{4\sqrt3-1\pm\sqrt{1-\cancel{8\sqrt3}+48+\cancel{8\sqrt3}}}{4}[/dispmath][dispmath]x_{1,2}=\frac{4\sqrt3-1\pm7}{4}[/dispmath][dispmath]\cancel{x_1=\sqrt3-2}\quad\enclose{box}{x_2=\sqrt3+\frac{3}{2}}[/dispmath]
([inlmath]x_1[/inlmath] ne zadovoljava pretpostavku za [inlmath]II[/inlmath] slučaj, dok [inlmath]x_2[/inlmath] zadovoljava, pošto je [inlmath]0<\sqrt3+\frac{3}{2}<2\sqrt3[/inlmath]).
[dispmath]x=2+\sqrt3\quad\Rightarrow\quad y=2+\sqrt3-2\sqrt3\quad\Rightarrow\quad y=2-\sqrt3[/dispmath][dispmath]x=\sqrt3+\frac{3}{2}\quad\Rightarrow\quad y=\sqrt3+\frac{3}{2}-2\sqrt3\quad\Rightarrow\quad y=\frac{3}{2}-\sqrt3[/dispmath]
Treba proveriti i da li rešenja zadovoljavaju početne uslove.
Očigledno je da zadovoljavaju [inlmath]x\ne0[/inlmath] i [inlmath]y\ne0[/inlmath].
Provera da li je zadovoljeno [inlmath]xy\ne\pm1[/inlmath]:
[inlmath]xy=\left(2+\sqrt3\right)\left(2-\sqrt3\right)=4+\cancel{2\sqrt3}-\cancel{2\sqrt3}-3=1\quad[/inlmath]

ne zadovoljava uslov
[inlmath]xy=\left(\sqrt3+\frac{3}{2}\right)\left(\frac{3}{2}-\sqrt3\right)=\cancel{\frac{3}{2}\sqrt3}+\frac{9}{4}-3-\cancel{\frac{3}{2}\sqrt3}=-\frac{3}{4}\quad[/inlmath]

zadovoljava uslov
Provera da li je zadovoljeno [inlmath]x+y>0[/inlmath] i [inlmath]x+y\ne1[/inlmath] (proveru vršimo, naravno, samo za rešenje koje nismo eliminisali):
[inlmath]x+y=\cancel{\sqrt3}+\frac{3}{2}+\frac{3}{2}-\cancel{\sqrt3}=3\quad[/inlmath]

zadovoljava uslov
Dakle, postoji jedno rešenje ovog sistema:
[dispmath]\left(x,y\right)=\left(\sqrt3+\frac{3}{2},\;\frac{3}{2}-\sqrt3\right)[/dispmath]