Đáp số : \(m=\frac{1}{\sqrt[3]{3}}\)

a. Hàm có 3 cực trị \(\Rightarrow m< 0\)

\(y'=8x^3+4mx=4x\left(2x^2+m\right)=0\Rightarrow\left[{}\begin{matrix}x=0;y=-\dfrac{3m}{2}\\x=-\sqrt{-\dfrac{m}{2}};y=-\dfrac{m^2+3m}{2}\\x=\sqrt{-\dfrac{m}{2}};y=-\dfrac{m^2+3m}{2}\end{matrix}\right.\)

Trong đó \(A\left(0;-\dfrac{3m}{2}\right)\) là cực đại và B, C là 2 cực tiêu

Do tam giác ABC luôn cân tại A \(\Rightarrow\) tâm I của đường tròn ngoại tiếp luôn nằm trên trung trực BC hay luôn nằm trên Oy

Mà tứ giác ABCO nội tiếp \(\Rightarrow OI=AI\Rightarrow I\)  là trung điểm OA (do I, O, A thẳng hàng, cùng nằm trên Oy)

\(\Rightarrow I\left(0;-\dfrac{3m}{4}\right)\)

Mặt khác trung điểm BC cũng thuộc Oy và IB=IC (do I là tâm đường tròn ngoại tiếp)

\(\Rightarrow\) I trùng trung điểm BC

\(\Rightarrow-\dfrac{3m}{4}=-\dfrac{m^2+3m}{2}\) \(\Rightarrow m\)

b.

Từ câu a ta thấy khoảng cách giữa 2 cực đại là:

\(\left|x_B-x_C\right|=2\sqrt{-\dfrac{m}{2}}=5\Rightarrow m=-\dfrac{25}{2}\)

Ta có \(y'=4x^3-4mx=4x\left(x^2-m\right);y'=0\Leftrightarrow x=0\) hoặc \(x^2=m\)

Hàm số có 3 điểm cực trị \(\Leftrightarrow\) phương trình \(y'=0\) có 3 nghiệm phân biệt là \(x=0;x=\pm\sqrt{m}\) suy ra đồ thị của hàm số có 3 điểm cực trị là \(A\left(0;m^2-m\right);B\left(-\sqrt{m};-m\right);\overrightarrow{AB}=\left(-\sqrt{m};-m^2\right);\overrightarrow{AC}=\left(\sqrt{m;}-m^2\right)\)

Do đó \(AB=AC=\sqrt{m^4+m}\) nên yêu cầu bài toán được thỏa mãn 

\(\Leftrightarrow\widehat{BAC}=120^0\Leftrightarrow\left(\overrightarrow{AB};\overrightarrow{AC}\right)=120^0\)\(\Leftrightarrow\frac{\overrightarrow{AB}\overrightarrow{AC}}{\left|\overrightarrow{AB}\right|\left|\overrightarrow{AC}\right|}=\frac{1}{2}\)

                           \(\Leftrightarrow\frac{-\left(m\right)+m^4}{m+m^4}=-\frac{1}{2}\Leftrightarrow2m^4-2m=-m-m^4\)

                          \(\Leftrightarrow3m^4-m=0\Leftrightarrow m\left(3m^3-1\right)=0\Leftrightarrow m=0\) hoặc \(m=\frac{1}{\sqrt[3]{3}}\)

Kết hợp với điều kiện (*) ta có giá trị cần tìm là \(m=\frac{1}{\sqrt[3]{3}}\)

Đáp số : \(m=-\frac{1}{\sqrt[3]{3}};m=-\sqrt[3]{\left(2+\sqrt{3}\right)^2}\)

Hàm số đã cho có 3 điểm cực trị \(\Leftrightarrow y'=0\) có 3 nghiệm phân biệt

\(\Leftrightarrow x^3-2\left(3m+1\right)x=0\) có 3 nghiệm phân biệt \(\Leftrightarrow m>-\frac{1}{3}\) (1)

Khi đó 3 điểm cực trị của đồ thị  là \(A\left(0;2m+2\right);B\left(-\sqrt{6m+2};-9m^2-4m+1\right);C\left(\sqrt{6m+2};-9m^2-4m+1\right)\)

Rõ ràng tam giác ABC cân tại A và trung tuyến kẻ từ A thuộc Oy. Do đó O là trọng tâm của tam giác ABC \(\Leftrightarrow y_A+2y_B=0\)

Hay \(2m+2+2\left(-9m^2-4m+1\right)=0\Leftrightarrow9m^2+3m-2=0\)

Suy ra \(m=-\frac{2}{3}\) hoặc \(m=\frac{1}{3}\)

Kết hợp với (1) suy ra giá trị của m là \(m=\frac{1}{3}\)

\(y'=4x^3-4mx=0\Rightarrow\left[{}\begin{matrix}x=0\\x^2=m\end{matrix}\right.\)

Hàm có 3 cực trị khi \(m>0\)

Gọi 3 cực trị là A; B; C với \(\left\{{}\begin{matrix}A\left(0;m^4+2m\right)\\B\left(\sqrt{m};2m\right)\\C\left(-\sqrt{m};2m\right)\end{matrix}\right.\)

Tam giác ABC luôn cân tại A, gọi H là trung điểm BC \(\Rightarrow H\left(0;2m\right)\)

\(AH=\left|y_A-y_H\right|=m^4\) ; \(BC=\left|x_B-x_C\right|=2\sqrt{m}\)

\(S_{ABC}=\dfrac{1}{2}AH.BC=\dfrac{1}{2}.m^4.2\sqrt{m}=4\)

\(\Leftrightarrow m^9=16\Rightarrow m=\sqrt[3]{2}\)