Lời giải
Cách 1: Ta có \(y' = - 4x\left( {{x^2} - m - 1} \right)\)
Xét \(y' = 0 \Leftrightarrow \left[ \begin{array}{l}x = 0\\{x^2} = m + 1\end{array} \right.\).
Đồ thị hàm số có ba điểm cực trị \( \Leftrightarrow \) \(m > - 1\) \(\left( * \right)\)
Tọa độ ba điểm cực trị là \(A\left( {0;\, - {m^2}} \right),\)\(B\left( {\sqrt {m + 1} ;\,2m + 1} \right),\)\(C\left( { - \sqrt {m + 1} ;\,2m + 1} \right)\)
Gọi \(H\) là trung điểm của đoạn thẳng \(BC\) thì \(H\left( {0;\,2m + 1} \right)\)
Ba điểm cực trị lập thành tam giác vuông cân khi và chỉ khi \(AH = \frac{{BC}}{2}\)\( \Leftrightarrow \sqrt {{{\left( {m + 1} \right)}^4}} = \sqrt {m + 1} \)\( \Leftrightarrow \left[ \begin{array}{l}m = 0\\m = - 1\end{array} \right.\).
So với điều kiện (*) thì \(m = 0\) thỏa mãn.
Cách 2: (Phương pháp trắc nghiệm)
Điều kiện để đồ thị hàm số trùng phương \(y = a{x^4} + b{x^2} + c\,,a \ne 0\) có ba điểm cực trị là \(ab < 0 \Leftrightarrow m > - 1\)
Khi đó ba điểm cực trị lập thành tam giác vuông cân khi \({b^3} + 8a = 0 \Leftrightarrow - 8{\left( {m + 1} \right)^3} + 8 = 0 \Leftrightarrow m = 0\).