Lời giải:
Từ PT$(1)\Rightarrow x=m+1-my$. Thay vô PT(2):

$m(m+1-my)+y=3m-1$

$\Leftrightarrow y(1-m^2)+m^2+m=3m-1$

$\Leftrightarrow y(1-m^2)=-m^2+2m-1(*)$

Để hpt có nghiệm $(x,y)$ duy nhất thì pt $(*)$ cũng phải có nghiệm $y$ duy nhất 

Điều này xảy ra khi $1-m^2\neq 0\Leftrightarrow m\neq \pm 1$
Khi đó: $y=\frac{-m^2+2m-1}{1-m^2}=\frac{-(m-1)^2}{-(m-1)(m+1)}=\frac{m-1}{m+1}$

$x=m+1-my=m+1-\frac{m(m-1)}{m+1}=\frac{3m+1}{m+1}$

Có:

$x+y=\frac{m-1}{m+1}+\frac{3m+1}{m+1}=\frac{4m}{m+1}<0$

$\Leftrightarrow -1< m< 0$

Kết hợp với đk $m\neq \pm 1$ suy ra $-1< m< 0$ thì thỏa đề.

`x+my=m+1=>x=m+1-my` thế vào dưới

`=>m(m+1-my)+y-3m+1=0`

`<=>m^2+m-my^2+y-3m-1`

`=>y(1-m^2)=2m-1-m^2`

Hệ có no duy nhất

`=>1-m^2 ne 0=>m ne +-1`

`=>y=(-1+2m-m^2)/(1-m^2)=(m-1)/(m+1)`

`=>x=m+1-my=((m+1)^2-m(m-1))/(m+1)=(3m+1)/(m+1)`

`=>xy=((3m+1)(m-1))/(m+1)^2=(3m^2-2m-1)/(m+1)^2`

Xét `xy+1`

`=(3m^2-2m-1+m^2+2m+1)/(m+1)^2=(4m^2)/(m+1)^2`

`=>xy+1>=0=>xy>=-1`

Dấu "=" xảy ra khi `m=0`

Ta có:  D = m − 1 3 m = m 2 + 3 ;   D x = 2 − 1 5 m = 2 m + 5 ;   D y = m 2 3 5 = 5 m − 6

Vì m 2 + 3 ≠ 0 ,   ∀ m nên hệ phương trình luôn có nghiệm duy nhất  x = D x D = 2 m + 5 m 2 + 3 y = D y D = 5 m − 6 m 2 + 3

Theo giả thiết, ta có:

x + y < 1 ⇔ 2 m + 5 m 2 + 3 + 5 m − 6 m 2 + 3 < 1 ⇔ 7 m − 1 m 2 + 3 < 1

⇔ 7 m − 1 < m 2 + 3 ⇔ m 2 − 7 m + 4 > 0 ⇔ m > 7 + 33 2 m < 7 − 33 2

Đáp án cần chọn là: A

a: Thay m=-2 vào hệ phương trình, ta được:

\(\left\{{}\begin{matrix}x-2y=-2+1=-1\\-2x+y=3\cdot\left(-2\right)-1=-7\end{matrix}\right.\)

=>\(\left\{{}\begin{matrix}2x-4y=-2\\-2x+y=-7\end{matrix}\right.\Leftrightarrow\left\{{}\begin{matrix}-3y=-9\\x-2y=-1\end{matrix}\right.\)

=>\(\left\{{}\begin{matrix}y=3\\x=2y-1=2\cdot3-1=5\end{matrix}\right.\)

b: Để hệ có nghiệm duy nhất thì \(\dfrac{1}{m}\ne\dfrac{m}{1}\)

=>\(m^2\ne1\)

=>\(m\notin\left\{1;-1\right\}\)

\(\left\{{}\begin{matrix}x+my=m+1\\mx+y=3m-1\end{matrix}\right.\)

=>\(\left\{{}\begin{matrix}x=m+1-my\\m\left(m+1-my\right)+y=3m-1\end{matrix}\right.\)

=>\(\left\{{}\begin{matrix}x=m+1-my\\m^2+m-m^2y+y=3m-1\end{matrix}\right.\)

=>\(\left\{{}\begin{matrix}x=m+1-my\\y\left(-m^2+1\right)=3m-1-m^2-m=-m^2+2m-1\end{matrix}\right.\)

=>\(\left\{{}\begin{matrix}x=m+1-my\\y\left(m-1\right)\left(m+1\right)=\left(m-1\right)^2\end{matrix}\right.\)

=>\(\left\{{}\begin{matrix}y=\dfrac{m-1}{m+1}\\x=m+1-m\cdot\dfrac{m-1}{m+1}=\left(m+1\right)-\dfrac{m^2-m}{m+1}\end{matrix}\right.\)

=>\(\left\{{}\begin{matrix}y=\dfrac{m-1}{m+1}\\x=\dfrac{m^2+2m+1-m^2+m}{m+1}=\dfrac{3m+1}{m+1}\end{matrix}\right.\)

\(x^2-y^2=4\)

=>\(\dfrac{\left(3m+1\right)^2-\left(m-1\right)^2}{\left(m+1\right)^2}=4\)

=>\(\dfrac{9m^2+6m+1-m^2+2m+1}{\left(m+1\right)^2}=4\)

=>\(8m^2+8m+2=4\left(m+1\right)^2\)

=>\(8m^2+8m+2-4m^2-8m-4=0\)

=>\(4m^2-2=0\)

=>\(m^2=\dfrac{1}{2}\)

=>\(m=\pm\dfrac{1}{\sqrt{2}}\)