* Điều kiện cần : Giả sử hệ đã cho có nghiệm duy nhất là (x;y), khi đó, dễ thấy (y;x) cũng là nghiệm của hệ. Do tính duy nhất suy ra y = x, thay vào (1) ta có :

\(x^2+x^2=m\left(x-1\right)\Leftrightarrow2x^2-mx+m=0\left(3\right)\)

Vì (3) có nghiệm kép nên \(\Delta=m^2-8m=0\Leftrightarrow\left[\begin{array}{nghiempt}m=0\\m=8\end{array}\right.\)

* Điều kiện đủ :

+ Khi m = 0 hệ phương trình đã cho trở thành 

\(\begin{cases}xy+x^2=0\\xy+y^2=0\end{cases}\)\(\Leftrightarrow\)\(\begin{cases}x\left(y+x\right)=0\\y\left(x+y\right)=0\end{cases}\)            (4)

Dễ thấy (1;-1) và (2;-2) là nghiệm (4), vậy m=0 không thỏa mãn đề bài 

+)khi m=8 hệ phương trình đã trở thành \(\begin{cases}xy+x^2=8y-8\left(5\right)\\xy+y^2=8x-8\left(6\right)\end{cases}\)

lấy (5) trừ (6) được 

\(x^2-y^2=8\left(y-x\right)\Leftrightarrow\left(x-y\right)\left(x+y+8\right)=0\)\(\Leftrightarrow\)\(\left[\begin{array}{nghiempt}x=y\\y=-8-x\end{array}\right.\)

khi y=x thay vào (5) ta được \(2x^2-8x+8=0\Leftrightarrow x=2\Rightarrow y=2\)khi y=-8-x, thay vào (5) ta được

\(x\left(-8-x\right)+x^2=8\left(-8-x\right)-8\Leftrightarrow-8x=-64-8x-8\)(VÔ NGHIỆM

kết luận : Hệ phương trình có nghiệm duy nhất khi và chỉ khi m=8

\(\hept{\begin{cases}x^2-3x-4\le0\left(1\right)\\x^3-3\left|x\right|\cdot x-m^2+6m\ge0\left(2\right)\end{cases}}\)

(1) có tập nghiệm là [-1;1]

(2) <=> \(x^3-3\left|x\right|\cdot x\ge m^2-6m\)

Xét đồ thị hàm số \(y=x^3-3\left|x\right|\cdot x=\hept{\begin{cases}x^3-3x^2\left(x\ge0\right)\\x^3+3x^2\left(x\le0\right)\end{cases}}\)trên [-1;4]

Trên đồ thị hàm số ta thấy đường thẳng y=m²-6m (m là tham số) có vị trí "ở dưới" đồ thị \(y=x^3-3\left|x\right|\cdot x\)thì \(m^2-6m\le16\) lúc đó hệ bất phương trình đã cho có nghiệm

\(m^2-6m\le16\Leftrightarrow m^2-6m-16\le0\Leftrightarrow-2\le m\le8\)

\(\hept{\begin{cases}mx+y=m^2+m+1\\-x+my=m^2\end{cases}}\Leftrightarrow\hept{\begin{cases}m\left(my-m^2\right)+y-m^2-m-1=0\\x=my-m^2\end{cases}}\)

\(\Leftrightarrow\)\(\hept{\begin{cases}\left(m^2y-m^2\right)+\left(y-1\right)-\left(m^3+m\right)=0\\x=my-m^2\end{cases}}\Leftrightarrow\hept{\begin{cases}\left(m^2+1\right)\left(y-m-1\right)=0\\x=my-m^2\end{cases}}\)

\(\Leftrightarrow\)\(\hept{\begin{cases}y=m+1\\x=m\left(m+1\right)-m^2\end{cases}}\Leftrightarrow\hept{\begin{cases}x=m\\y=m+1\end{cases}}\)

\(\Rightarrow\)\(x^2+y^2=2m^2+2m+1=2\left(m+\frac{1}{2}\right)^2+\frac{1}{2}\ge\frac{1}{2}\)

Dấu "=" xảy ra khi \(m=\frac{-1}{2}\) hay hệ có nghiệm \(\left(x;y\right)=\left(\frac{-1}{2};\frac{1}{2}\right)\)