a/ \(\hept{\begin{cases}mx+y=2m\\x+my=m+1\end{cases}}\)

\(\Rightarrow\left(x+y\right)\left(m+1\right)=3m+1\)

\(\Leftrightarrow\left(x+y\right)=\frac{3m+1}{m+1}=3-\frac{2}{m+1}\)

Vì x, y nguyên nên (m + 1) phải là ước nguyên của 2.

b/ \(\hept{\begin{cases}\left(m+1\right)x+my=2m-1\\mx-y=m^2-2\end{cases}}\)

\(\Leftrightarrow\hept{\begin{cases}\left(m+1\right)x+my=2m-1\left(1\right)\\y=mx-m^2+2\left(2\right)\end{cases}}\)

\(\Rightarrow\left(2\right)\Leftrightarrow\left(m+1\right)x+m\left(mx-m^2+2\right)=2m-1\)

\(\Leftrightarrow\left(m^2+m+1\right)\left(x-m+1\right)=0\)

\(\Rightarrow\hept{\begin{cases}x=m-1\\y=2-m\end{cases}}\)

\(\Rightarrow A=\left(m-1\right)\left(2-m\right)=-m^2+3m-2\le\frac{1}{4}\)

mx+y=m
<=>mx-m=-y
<=>m(x-1)=-y(1)
x+my=1
<=>x-1=-my
<=>m(x-1)=-m^2y(2)
Thay (1) vào (2) ta có:
-y=-m^2y
<=> y=m^2y
<=>m^2=1
=>m thuộc{1;-1}
Vậy m thuộc{-1;1}
 

\(\left\{{}\begin{matrix}x+my=3\\m^2x+my=2m^2+m\end{matrix}\right.\)

\(\Rightarrow\left\{{}\begin{matrix}x+my=3\\\left(m^2-1\right)x=2m^2+m-3\end{matrix}\right.\)

\(\Rightarrow\left\{{}\begin{matrix}x+my=3\\x=\dfrac{2m+3}{m+1}\end{matrix}\right.\) \(\Rightarrow\left\{{}\begin{matrix}x=\dfrac{2m+3}{m+1}\\y=\dfrac{1}{m+1}\end{matrix}\right.\)

\(P=\left(\dfrac{2m+3}{m+1}\right)^2+\dfrac{3}{\left(m+1\right)^2}=\left(2+\dfrac{1}{m+1}\right)^2+\dfrac{3}{\left(m+1\right)^2}\)

\(=4+\dfrac{4}{m+1}+\dfrac{4}{\left(m+1\right)^2}=\left(\dfrac{2}{m+1}+1\right)^2+3\ge3\)

\(P_{min}=3\) khi \(m=-3\)

Xét hệ 

m x + y = 3 4 x + m y = 6 ⇔ y = 3 − m x 4 x + m 3 − m x = 6 ⇔ y = 3 − m x 4 x + 3 m − m 2 x = 6 ⇔ y = 3 − m x 4 − m 2 x = 6 − 3 m ⇔ y = 3 − m x                                 1 m 2 − 4 x = 3 m − 2       2

Hệ phương trình đã cho có nghiệm duy nhất ⇔ (2) có nghiệm duy nhất

m 2 – 4 ≠ 0 ⇔ m ≠ ± 2 ( * )

Khi đó hệ đã cho có nghiệm duy nhất

⇔ x = 3 m + 2 y = 3 − 3 m m + 2 ⇔ x = 3 m + 2 y = 6 m + 2

Ta có

x > 0 y > 2 ⇔ 3 m + 2 > 0 6 m + 2 > 1 ⇔ m + 2 > 0 4 − m m + 2 > 0 ⇔ m > − 2 4 − m > 0 ⇔ m > − 2 m < 4 ⇔ − 2 < m < 4

Kết hợp với (*) ta được giá trị m cần tìm là – 2 < m < 4; m ≠ 2