Koliko sam razumeo, tvoje pitanje se, zapravo, svodi na to kako rešiti nejednačinu [inlmath]2\sqrt{x^2-x}-2x+1>0[/inlmath]?
Mislim da znam i koju si grešku napravio. Prvo si prebacio [inlmath]-2x+1[/inlmath] na desnu stranu, što je OK, dobivši
[dispmath]2\sqrt{x^2-x}>2x-1[/dispmath]
ali si sada jednostavno kvadrirao obe strane, dobivši [inlmath]\cancel{4x^2}-\cancel{4x}>\cancel{4x^2}-\cancel{4x}+1[/inlmath], zaboravivši da se kvadriranjem gubi informacija o predznaku leve i desne strane i da je zbog toga neophodno da pre kvadriranja komentarišeš predznake.
(Ovo je sve trebalo u svom pitanju ti da napišeš, umesto što ja sad nagađam kako je išao tvoj postupak, no dobro.)
Dakle, kad smo došli pred samo kvadiranje:
[dispmath]2\sqrt{x^2-x}>2x-1[/dispmath]
zapažamo sledeće. Leva strana je uvek pozitivna (ili, eventualno, nula – to se onda kaže da je nenegativna). Desna strana je manja od leve strane. A to znači, pošto je leva strana [inlmath]\ge0[/inlmath], da će nejednakost biti sigurno zadovoljena onda kada je desna strana manja od nule, tako da je [inlmath]2x-1<0[/inlmath] jedna mogućnost za rešenje ove jednačine. Drugu mogućnost dobijamo kvadriranjem obe strane, što si ti i učinio, i dobio [inlmath]0<1[/inlmath], što znači da taj slučaj nema rešenja. Da je i taj slučaj imao rešenja, tražili bismo uniju ta dva dobijena skupa rešenja, a ovako ostaje samo [inlmath]2x-1<0[/inlmath], tj. [inlmath]x<\frac{1}{2}[/inlmath].
Naravno, pošto je potrebno da bude zadovoljen i uslov nenegativnosti potkorene veličine, a za taj uslov se dobije [inlmath]x\le0\;\lor\;x\ge1[/inlmath], kao konačno rešenje ove nejednačine imamo [inlmath]x\le0[/inlmath].
O rešavanju raznih slučajeva ovakvih iracionalnih nejednačina možeš pogledati
ovaj i
ovaj post.
EDIT
@Onomatopeja, sorry, tek kad sam objavio post videh da si ti već odgovorio, no bi mi glupo da brišem ovo kad sam se već ovako raspisao.
