Zadatak koji me muči glasi:
Neka je [inlmath]G=\left\{\begin{bmatrix} a & b\\ -a & -b \end{bmatrix}\Bigm|a,b\in\mathbb{R}\right\}[/inlmath] i neka je operacija [inlmath]*[/inlmath] definisana na sledeći način
[dispmath]A*B=A\cdot(B+M),\;A,B\in G[/dispmath] gde je [inlmath]M=\begin{bmatrix} 0 & 0\\ 1 & 1 \end{bmatrix}[/inlmath]. Ispitati da li je [inlmath](G,*)[/inlmath] grupa. Da li je [inlmath](G,*)[/inlmath] Abelova grupa?


Konkretno najveći problem mi stvara asocijativnost, nisam siguran da li je dobro dobijam, ukratko pokušao sam sledeće:
[dispmath]A\cdot(B\cdot(C+M))=C\cdot(A\cdot(B+M))[/dispmath] Gde sam nakon odredjenog dela došao do
[dispmath]ABC-CAB+(AB+CA)\cdot M=0[/dispmath] pošto je množenje asocijativno ostalo je samo
[dispmath](AB+CA)\cdot M=0[/dispmath][dispmath]AB\cdot M+CA\cdot M=0[/dispmath][dispmath]AB=-CA[/dispmath] jer sam pomnožio sa inverznom matricom
i na kraju, kako god da proverim neću dobiti date jednakosti jer su uvek drugi elementi uzeti za matrice, stoga po meni asocijativnost ne važi, da li sam u pravu, ili grešim?

Mislim da imaš grešku prilikom primene definicije operacije [inlmath]*[/inlmath]. Takođe, obrati pažnju da zbog nekomutativnosti matrica u opštem slučaju, treba razlikovati levo i desno množenje.
Dakle, pretpostavimo da važi komutativnost,
[dispmath]A*(B*C)=(A*B)*C[/dispmath] zatim primenimo definiciju operacije [inlmath]*[/inlmath],
[dispmath]A*\bigl(B\cdot(C+M)\bigr)=\bigl(A\cdot(B+M)\bigr)*C\\
A\cdot\bigl(B\cdot(C+M)+M\bigr)=\bigl(A\cdot(B+M)\bigr)\cdot(C+M)[/dispmath] i dalje, sređivanjem, dođemo ili do potvrde ili do kontradikcije...

---

I, mada zbog početne greške tvoj dalji postupak nije validan, ipak moram ukazati i na grešku u ovom koraku,

Miloš je napisao:[dispmath]ABC-CAB+(AB+CA)\cdot M=0[/dispmath] pošto je množenje asocijativno ostalo je samo
[dispmath](AB+CA)\cdot M=0[/dispmath]

Asocijativnost ne znači da je [inlmath]ABC=CAB[/inlmath], već znači da je [inlmath]A(BC)=(AB)C[/inlmath]. Ništa manje, ništa više od toga. Kada bi još važila i komutativnost, onda bi se iz [inlmath]A(BC)=(AB)C[/inlmath] moglo dobiti i [inlmath]ABC=CAB[/inlmath] kako si napisao. Ali, komutativnost matrica u opštem slučaju ne važi.