Ta có: \(\sqrt{a^2-ab+b^2}=\sqrt{\frac{1}{4}\left(a+b\right)^2+\frac{3}{4}\left(a-b\right)^2}\ge\sqrt{\frac{1}{4}\left(a+b\right)^2}=\frac{1}{2}\left(a+b\right)\)

khi đó:

\(P\le\frac{1}{\frac{1}{2}\left(a+b\right)}+\frac{1}{\frac{1}{2}\left(b+c\right)}+\frac{1}{\frac{1}{2}\left(a+c\right)}\)

\(=\frac{2}{a+b}+\frac{2}{b+c}+\frac{2}{c+a}\)

Lại có: \(\frac{1}{a}+\frac{1}{b}\ge\frac{\left(1+1\right)^2}{a+b}=\frac{4}{a+b}\)=> \(\frac{2}{a+b}\le\frac{1}{2}\left(\frac{1}{a}+\frac{1}{b}\right)\)

=> \(P\le\frac{1}{2}\left(\frac{1}{a}+\frac{1}{b}\right)+\frac{1}{2}\left(\frac{1}{b}+\frac{1}{c}\right)+\frac{1}{2}\left(\frac{1}{c}+\frac{1}{a}\right)\)

\(=\frac{1}{a}+\frac{1}{b}+\frac{1}{c}=3\)

Dấu "=" xảy ra <=> a = b = c = 1

Vậy max P = 3 tại a = b = c =1.

Không thích làm cách này đâu nhưng đường cùng rồi nên thua-_-

Đặt \(\sqrt{x+y}=a;\sqrt{y+z}=b;\sqrt{z+x}=c\) suy ra

\(x=\frac{a^2+c^2-b^2}{2};y=\frac{a^2+b^2-c^2}{2};z=\frac{b^2+c^2-a^2}{2}\). Ta cần chứng minh:

\(abc\left(a+b+c\right)\ge\left(a+b+c\right)\left(a+b-c\right)\left(b+c-a\right)\left(c+a-b\right)\)

\(\Leftrightarrow abc\ge\left(a+b-c\right)\left(b+c-a\right)\left(c+a-b\right)\)

Đây là bất đẳng thức Schur bậc 3, ta có đpcm.

Ta có: \(a^2-ab+3b^2+1=\left(a^2-2ab+b^2\right)+ab+\left(b^2+1\right)+b^2\)

\(=\left(a-b\right)^2+ab+\left(b^2+1\right)+b^2\ge ab+2b+b^2\)

\(=b\left(a+b+2\right)\Rightarrow\frac{1}{\sqrt{a^2-ab+3b^2+1}}\le\frac{1}{\sqrt{b\left(a+b+2\right)}}\)(1)

Tương tự: \(\frac{1}{\sqrt{b^2-bc+3c^2+1}}\le\frac{1}{\sqrt{c\left(b+c+2\right)}}\)(2); \(\frac{1}{\sqrt{c^2-ca+3a^2+1}}\le\frac{1}{\sqrt{a\left(c+a+2\right)}}\)(3)

Cộng theo vế của 3 BĐT (1), (2), (3) và sử dụng AM - GM kết hợp liên tục BĐT \(\frac{1}{x+y}\le\frac{1}{4}\left(\frac{1}{x}+\frac{1}{y}\right)\), ta được:

\(P\le\frac{1}{\sqrt{b\left(a+b+2\right)}}+\frac{1}{\sqrt{c\left(b+c+2\right)}}+\frac{1}{\sqrt{a\left(c+a+2\right)}}\)

\(=\Sigma\frac{2}{\sqrt{4b\left(a+b+2\right)}}\)\(\le\Sigma\left(\frac{1}{4b}+\frac{1}{a+b+2}\right)\)(AM - GM)

\(=\frac{1}{4}\left(\frac{1}{a}+\frac{1}{b}+\frac{1}{c}\right)+\text{​​}\Sigma\left(\frac{1}{a+b+2}\right)\)

\(\le\frac{1}{4}\left(\frac{1}{a}+\frac{1}{b}+\frac{1}{c}\right)+\text{​​}\Sigma\left[\frac{1}{4}\left(\frac{1}{a+b}\right)+\frac{1}{2}\right]\)

\(\le\frac{3}{4}+\text{​​}\left[\frac{1}{8}+\frac{1}{8}+\frac{1}{8}+\text{​​}\Sigma\frac{1}{16}\left(\frac{1}{a}+\frac{1}{b}\right)\right]\)

\(=\frac{3}{4}+\text{​​}\left[\frac{3}{8}+\text{​​}\frac{1}{8}\left(\frac{1}{a}+\frac{1}{b}+\frac{1}{c}\right)\right]\le\frac{3}{4}+\frac{3}{8}+\frac{3}{8}=\frac{3}{2}\)

Đẳng thức xảy ra khi a = b = c = 1

Dòng thứ 10 sửa lại cho mình là \(\le\frac{1}{4}\left(\frac{1}{a}+\frac{1}{b}+\frac{1}{c}\right)+\Sigma\left[\frac{1}{4}\left(\frac{1}{a+b}+\frac{1}{2}\right)\right]\)

Do olm có lỗi là mỗi lần bấm dấu ngoặc là số nó tự động nhảy ra ngoài