Vektori će biti komplanarni onda i samo onda kada je zapremina paralelopipeda kojeg oni razapinju – jednaka nuli. Što je i logično. Ako su sva tri vektora u jednoj ravni, onda je i taj paralelopiped, da tako kažem, „spljošten“, pa mu je i zapremina nula, tj. to onda i nije paralelopiped.
Zapreminu paralelopipeda razapetog nad vektorima, kada su ti poznate komponente tih vektora, određuješ kao apsolutnu vrednost mešovitog proizvoda tih vektora (formulu možeš pogledati
ovde).
Kada napišeš tu determinantu, odmah će ti biti očigledno čemu je jednaka, čak i bez razvoja iste.
Takođe, komplanarnost vektora možeš ispitati i tako što pretpostaviš da se treći vektor može napisati kao linearna kombinacija prva dva, tj. napišeš [inlmath]\lambda\vec a+\mu\vec b=\vec c[/inlmath], odakle ćeš, uvrštavajući tri komponente za svaki vektor, dobiti sistem od
tri jednačine, s
dve nepoznate ([inlmath]\lambda[/inlmath] i [inlmath]\mu[/inlmath]). Ukoliko je sistem protivrečan, pretpostavka je bila pogrešna, tj. ovi vektori nisu komplanarni. Ukoliko se dobije da sistem ima rešenja po [inlmath]\lambda[/inlmath] i [inlmath]\mu[/inlmath], vektori su komplanarni (i samim tim je odrađen i onaj drugi deo zadatka, tj. [inlmath]\vec c[/inlmath] je izražen kao linearna kombinacija vektora [inlmath]\vec a[/inlmath] i [inlmath]\vec b[/inlmath]).
Preporučujem da pokušaš na oba načina.