\(\hept{\begin{cases}y^2\sqrt{2x-1}+\sqrt{3}=5y^2-\sqrt{6x-3}\left(1\right)\\2y^4\left(5x^2-17x+6\right)=6-15x\left(2\right)\end{cases}}\)

\(ĐKXĐ:x\ge\frac{1}{2}\)

\(\left(2\right)\Leftrightarrow2y^4\left(5x-2\right)\left(x-3\right)=3\left(2-5x\right)\)\(\Leftrightarrow\left(5x-2\right)\left[2y^4\left(x-3\right)+3\right]=0\Leftrightarrow\orbr{\begin{cases}x=\frac{2}{5}\left(KTMĐK\right)\\2y^4\left(x-3\right)+3=0\end{cases}}\)

Với \(2y^4\left(x-3\right)+3=0\)thì ta được \(y^4=\frac{3}{6-2x}\Rightarrow y^2=\sqrt{\frac{3}{6-2x}}\)(3)

Thay vào (1), ta được \(\sqrt{\frac{3}{6-2x}}.\sqrt{2x-1}+\sqrt{3}=5\sqrt{\frac{3}{6-2x}}-\sqrt{6x-3}\)

\(\Leftrightarrow\sqrt{6x-3}+\sqrt{3\left(6-2x\right)}=5\sqrt{3}-\sqrt{\left(6x-3\right)\left(6-2x\right)}\)

Đặt \(u=\sqrt{6x-3};v=\sqrt{3\left(6-2x\right)}\left(u,v\ge0\right)\).Khi đó ta được hệ phương trình:

\(\hept{\begin{cases}u^2+v^2=15\\u+v=5\sqrt{3}-\frac{uv}{\sqrt{3}}\end{cases}}\Leftrightarrow\hept{\begin{cases}u^2+v^2=15\\\sqrt{3}\left(u+v\right)+uv=15\end{cases}}\)

\(\Leftrightarrow\hept{\begin{cases}3\left(u+v\right)^2=45+6uv\\\sqrt{3}\left(u+v\right)=15-uv\end{cases}}\)

Từ hệ trên suy ra được \(45+6uv=\left(15-uv\right)^2\Leftrightarrow\left(uv\right)^2-36uv+180=0\)

\(\Leftrightarrow\left(uv-6\right)\left(uv-30\right)=0\Leftrightarrow\orbr{\begin{cases}uv=6\\uv=30\end{cases}}\)(\(uv\ge0\))

+) Với uv = 30 ta được: \(u+v=-5\sqrt{3}\)(loại)

+) Với uv = 6 ta được: \(u+v=3\sqrt{3}\)suy ra u, v là hai nghiệm của phương trình \(k^2-3\sqrt{3}k+6=0\)

Giải phương trình bậc hai trên ta thu được hai nghiệm \(2\sqrt{3}\)và \(\sqrt{3}\)

Suy ra \(u=2\sqrt{3};v=\sqrt{3}\)hoặc \(u=\sqrt{3};v=2\sqrt{3}\)

* Với \(u=2\sqrt{3};v=\sqrt{3}\)thì \(\hept{\begin{cases}\sqrt{6x-3}=2\sqrt{3}\\\sqrt{3\left(6-2x\right)}=\sqrt{3}\end{cases}}\Rightarrow x=\frac{5}{2}\)

* Với \(u=\sqrt{3};v=2\sqrt{3}\)thì \(\hept{\begin{cases}\sqrt{6x-3}=\sqrt{3}\\\sqrt{3\left(6-2x\right)}=2\sqrt{3}\end{cases}}\Rightarrow x=1\)

+) Thay \(x=\frac{5}{2}\)vào (3) tìm được \(y=\pm\sqrt[4]{3}\)

+) Thay x = 1 vào (3) tìm được \(y=\pm\sqrt{\frac{\sqrt{3}}{2}}\)

Vậy hệ phương trình có 4 nghiệm (x;y) là \(\left\{\left(1;\sqrt{\frac{\sqrt{3}}{2}}\right);\left(1;-\sqrt{\frac{\sqrt{3}}{2}}\right);\left(\frac{5}{2};\sqrt[4]{3}\right);\left(\frac{5}{2};-\sqrt[4]{3}\right)\right\}\)

ĐKXĐ: \(x\ge\frac{1}{2}\)biến đổi phương trình thứ hai ta được

\(2y^4\left(5x-2\right)\left(x-3\right)=3\left(2-5x\right)\Rightarrow\orbr{\begin{cases}x=\frac{2}{5}\left(loai\right)\\2xy^4+3=6y^4\end{cases}}\)

Ta đưa về hệ về pt \(\hept{\begin{cases}y^2\sqrt{2x-1}+\sqrt{3}\cdot\sqrt{2x-1}=5y^2-\sqrt{3}\\2xy^4+3=6y^4\end{cases}}\)

Nhận thấy y=0 không là nghiệm của hệ pt nên chia cả 2 vế của pt thứ nhất cho y² và pt thứ hai cho y⁴ có:

\(\hept{\begin{cases}\sqrt{2x-1}+\frac{\sqrt{3}}{y^2}\sqrt{2x-1}=5-\frac{\sqrt{3}}{y^2}\\2x-1+\frac{3}{y^4}=5\end{cases}}\)

Đặt \(a=\sqrt{2x-1};b=\frac{\sqrt{3}}{y^2}\left(a\ge0;b\ge0\right)\)

Ta có hệ pt \(\hept{\begin{cases}a+ab+b=5\\a^2+b^2=5\end{cases}}\)

Ta được \(a=\frac{5-b}{1+b}\)thay vào phương trình thứ hai ta có:

\(\left(\frac{5-b}{1+b}\right)^2+b^2=5\Leftrightarrow b^4+2b^3-3b^2-20b+20=0\Leftrightarrow\left(b-1\right)\left(b^2+5b+10\right)=0\)

\(\Rightarrow\hept{\begin{cases}a=2\\b=1\end{cases}}\)hoặc \(\hept{\begin{cases}a=1\\b=2\end{cases}}\)

Với \(\hept{\begin{cases}a=2\\b=1\end{cases}\Rightarrow\hept{\begin{cases}x=\frac{5}{2}\\y=\pm\sqrt[4]{3}\end{cases}}}\)

Với \(\hept{\begin{cases}a=1\\b=2\end{cases}\Rightarrow\hept{\begin{cases}x=1\\y=\pm\frac{\sqrt[4]{3}}{\sqrt{2}}\end{cases}}}\)

Vậy \(\left(x;y\right)\in\left\{\left(\frac{5}{2};\pm\sqrt[4]{3}\right);\left(1;\pm\frac{\sqrt[4]{3}}{\sqrt{2}}\right)\right\}\)