a) Với \(m=0\) ta có:

\(\left\{{}\begin{matrix}0x+4y=10-0\\x+0y=4\end{matrix}\right.\)

\(\Leftrightarrow\left\{{}\begin{matrix}x=4\\y=\dfrac{5}{2}\end{matrix}\right.\) (nhận trường hợp này).

Với \(m\ne0\), ta có:

\(\left\{{}\begin{matrix}mx+4y=10-m\\x+my=4\end{matrix}\right.\)

\(\Leftrightarrow\left\{{}\begin{matrix}mx+4y=10-m\\-mx-m^2y=-4m\end{matrix}\right.\)

\(\Leftrightarrow\left\{{}\begin{matrix}\left(4-m^2\right)y=10-5m\left(1\right)\\x+my=4\left(2\right)\end{matrix}\right.\)

Biện luận:

Với \(m=2\) \(\left(1\right)\Rightarrow0y=0\) (phương trình vô số nghiệm),

Với \(m=-2\Rightarrow0y=20\) (phương trình vô nghiệm).

Với \(m\ne\pm2\Rightarrow y=\dfrac{10-5m}{4-m^2}=\dfrac{5\left(2-m\right)}{\left(2-m\right)\left(2+m\right)}=\dfrac{5}{m+2}\)

Vì \(y>0\Rightarrow\dfrac{5}{m+2}>0\Leftrightarrow m+2>0\Leftrightarrow m>-2\)

Thay \(y=\dfrac{5}{m+2}\) vào (2) ta được:

\(x+\dfrac{5m}{m+2}=4\Leftrightarrow x=\dfrac{8-m}{m+2}\)

Vì x>0 \(\Rightarrow\left[{}\begin{matrix}\left\{{}\begin{matrix}8-m>0\\m+2>0\end{matrix}\right.\\\left\{{}\begin{matrix}8-m< 0\\m+2< 0\end{matrix}\right.\end{matrix}\right.\Rightarrow-2< m< 8\)

Vì m là số nguyên và \(m\ne2\) nên \(m\in\left\{-1;0;1;3;4;5;6;7\right\}\)

Vậy \(m\in\left\{1;0;1;3;4;5;6;7\right\}\) thì hệ đã cho có nghiệm duy nhất sao cho \(x>0,y>0\).

b) Với \(m=0\) ta có nghiệm \(\left(x;y\right)=\left(4;\dfrac{5}{2}\right)\) (loại).

Với \(m=2\). Ta có hệ vô số nghiệm với nghiệm tổng quát có dạng \(\left\{{}\begin{matrix}x\in R\\y=2-\dfrac{x}{2}\end{matrix}\right.\)

Vì y là số nguyên dương nên:

\(\left\{{}\begin{matrix}x⋮2\\2-\dfrac{x}{2}>0\end{matrix}\right.\Leftrightarrow\left\{{}\begin{matrix}x⋮2\\x< 4\end{matrix}\right.\). Mặt khác x>0.

\(\Rightarrow x=2\Rightarrow y=1\)
Với \(m\ne\pm2\). Ta có \(y=\dfrac{5}{m+2}\).

Vì x,y là các số nguyên dương nên x,y>0. Nên:

\(m\in\left\{-1;0;1;3;4;5;6;7\right\}\) (1')

Mặt khác: \(5⋮\left(m+2\right)\)

\(\Rightarrow m+2\inƯ\left(5\right)\)

\(\Rightarrow m+2\in\left\{1;-1;5;-5\right\}\)

\(\Rightarrow m\in\left\{-1;-3;3;-7\right\}\) (2')

Từ (1') ,(2') \(\Rightarrow m\in\left\{-1;3\right\}\)

Vậy \(m\in\left\{-1;2;3\right\}\) thì hệ có nghiệm \(\left(x;y\right)\) với x,y là số nguyên dương.

a) Thay m=-1 vào hệ phương trình, ta được:

\(\left\{{}\begin{matrix}3x+y=7\\x+y=5\end{matrix}\right.\Leftrightarrow\left\{{}\begin{matrix}2x=2\\x+y=5\end{matrix}\right.\)

\(\Leftrightarrow\left\{{}\begin{matrix}x=1\\y=4\end{matrix}\right.\)

Vậy: Khi m=-1 thì (x,y)=(1;4)

b) Ta có: \(\left\{{}\begin{matrix}3x+y=2m+9\\x+y=5\end{matrix}\right.\)

\(\Leftrightarrow\left\{{}\begin{matrix}3x+y=2m+9\\x=5-y\end{matrix}\right.\Leftrightarrow\left\{{}\begin{matrix}3\left(5-y\right)+y=2m+9\\x=5-y\end{matrix}\right.\)

\(\Leftrightarrow\left\{{}\begin{matrix}15-3y+y=2m+9\\x=5-y\end{matrix}\right.\Leftrightarrow\left\{{}\begin{matrix}-2y=2m-6\\x=5-y\end{matrix}\right.\)

\(\Leftrightarrow\left\{{}\begin{matrix}y=-m+3\\x=5-\left(-m+3\right)=5+m-3=m+2\end{matrix}\right.\)

Ta có: \(x^2+2y^2=18\)

\(\Leftrightarrow\left(m+2\right)^2+2\cdot\left(-m+3\right)^2=18\)

\(\Leftrightarrow m^2+4m+4+2\left(m^2-6m+9\right)-18=0\)

\(\Leftrightarrow m^2+4m-14+2m^2-12m+18=0\)

\(\Leftrightarrow3m^2-8m+4=0\)

\(\Leftrightarrow3m^2-2m-6m+4=0\)

\(\Leftrightarrow m\left(3m-2\right)-2\left(3m-2\right)=0\)

\(\Leftrightarrow\left(3m-2\right)\left(m-2\right)=0\)

\(\Leftrightarrow\left[{}\begin{matrix}3m-2=0\\m-2=0\end{matrix}\right.\Leftrightarrow\left[{}\begin{matrix}3m=2\\m=2\end{matrix}\right.\Leftrightarrow\left[{}\begin{matrix}m=\dfrac{2}{3}\\m=2\end{matrix}\right.\)

\(\left\{{}\begin{matrix}mx+y=2m\\x+my=m+1\end{matrix}\right.\)

⇔\(\left\{{}\begin{matrix}y=2m-mx\\x+m\left(2m-mx\right)=m+1\left(1\right)\end{matrix}\right.\)

(1) ⇔x+2m²-m²x=m+1

⇔x(1-m²)=m+1-2m²

TH1: 1-m²=0

⇔m=\(\pm\)1

-Thay m= 1 vào (2) ta có: 0x =0 (luôn đúng)

⇒m=1(chọn)

-Thay m=-1 và (2) ta có: 0x=-2 (vô lí)

⇒m=-1(loại)

TH2: 1-m² ≠ 0

⇔m ≠ \(\pm\) 1

⇒HPT có nghiệm duy nhất: 

x= \(\dfrac{-2m^2+m+1}{1-m^2}\)

y= \(2m-m.\dfrac{-2m^2+m+1}{1-m^2}\)

⇔y= \(2m+\dfrac{-2m^3-m^2-m}{1-m^2}\)