Ta có: $a^4+b^4\ge ab\left(a^2+b^2\right)$$\Rightarrow \frac{ab}{a^4+b^4+ab}\le \frac{ab}{ab\left(a^2+b^2\right)+ab}=\frac{1}{a^2+b^2+1}$

Tương tự có: $\frac{bc}{b^4+c^4+bc}\le \frac{1}{b^2+c^2+1}$;$\frac{ca}{c^4+a^4+ca}\le \frac{1}{c^2+a^2+1}$

Suy ra $VT\le \frac{1}{a^2+b^2+1}+\frac{1}{b^2+c^2+1}+\frac{1}{c^2+a^2+1}$

Đặt $a^2=x^3;b^2=y^3\text{'}{c}^2=z^3$ ta có: xyz = 1 ( do abc = 1)

Suy ra: $VT\le \frac{1}{x^3+y^3+1}+\frac{1}{y^3+z^3+1}+\frac{1}{z^3+x^3+1}$

Dễ cm đc $x^3+y^3\ge xy\left(x+y\right)$

$VT\le \frac{1}{xy\left(x+y\right)+1}+\frac{1}{yz\left(y+z\right)+1}+\frac{1}{zx\left(z+x\right)+1}$

$VT\le \frac{z}{xyz\left(x+y\right)+z}+\frac{x}{xyz\left(y+z\right)+x}+\frac{y}{zxy\left(z+x\right)+y}$

$VT\le \frac{z}{x+y+z}+\frac{x}{x+y+z}+\frac{y}{zx+y+z}=1$

Vậy $VT\le 1$ Dấu “=” xảy ra khi a = b = c.

Đặt $P=\frac{a^3}{b}+\frac{b^3}{c}+\frac{c^3}{a}$.

Có a, b, c là các số thực dương, theo bất đẳng thức AM-GM có:

$\left\{\begin{array}{l}\frac{a^3}{b}+ab\ge 2a^2\\ \frac{b^3}{c}+bc\ge 2b^2\\ \frac{c^3}{a}+ac\ge 2c^2\end{array}\right.$.

$\Rightarrow P=\frac{a^3}{b}+\frac{b^3}{c}+\frac{c^3}{a}\ge 2\left(a^2+b^2+c^2\right)-\left(ab+bc+ac\right)$, mà $a+b+c+ab+bc+ac=6$.

$\Rightarrow P\ge 2\left(a^2+b^2+c^2\right)+\left(a+b+c\right)-6$.

Có ${\left(a-b\right)}^2+{\left(b-c\right)}^2+{\left(a-c\right)}^2\ge 0$$\Rightarrow 2\left(a^2+b^2+c^2\right)\ge 2\left(ab+bc+ca\right)$$\Rightarrow 3\left(a^2+b^2+c^2\right)\ge {\left(a+b+c\right)}^2$.

Suy ra $P\ge \frac{2}{3}{\left(a+b+c\right)}^2+\left(a+b+c\right)-6$.

Có $ab+bc+ca\le a^2+b^2+c^2$$\Rightarrow 3\left(ab+bc+ac\right)\le {\left(a+b+c\right)}^2$.

Do đó $6=a+b+c+ab+bc+ac\le a+b+c+\frac{1}{3}{\left(a+b+c\right)}^2$$\Rightarrow \frac{1}{3}{\left(a+b+c\right)}^2+\left(a+b+c\right)-6\ge 0$.$\Rightarrow \left(a+b+c\right)\ge 3$, ${\left(a+b+c\right)}^2\ge 9$.

Suy ra $P\ge \frac{2}{3}.9+3-6=3$. Dấu đẳng thức xảy ra khi a = b = c.

Vậy $\frac{a^3}{b}+\frac{b^3}{c}+\frac{c^3}{a}\ge 3$.

Bất đẳng thức cần chứng minh $\frac{1}{2+a}+\frac{1}{2+b}+\frac{1}{2+c}\le 1$

$\iff \left(b+2\right)\left(c+2\right)+\left(a+2\right)\left(c+2\right)+\left(a+2\right)\left(b+2\right)\le \left(a+2\right)\left(b+2\right)\left(c+2\right)$

$\iff ab+bc+ca+4\left(a+b+c\right)+12\le abc+2\left(ab+bc+ca\right)+4\left(a+b+c\right)+8$

$\iff ab+bc+ca+4\left(a+b+c\right)+12\le 1+2\left(ab+bc+ca\right)+4\left(a+b+c\right)+8$

$\iff ab+bc+ca\ge 3$

Thật vậy áp dụng bất đẳng thức CauChy cho 3 số dương ta có $\iff ab+bc+ca\ge 3\sqrt[3]{{\left(abc\right)}^2}\ge 3$.

Dấu “=” xảy ra khi a = b = c.

Hoàn tất chứng minh.

Từ a + b = 4ab $\Rightarrow 4ab\ge 2\sqrt{ab}\Rightarrow ab\ge \frac{1}{4}$ .

Chứng minh được BĐT: Với x, y > 0 ta có $\frac{a^2}{x}+\frac{b^2}{y}\ge \frac{{\left(a+b\right)}^2}{x+y}$ (*) .

Áp dụng (*) ta có

$\frac{a}{4b^2+1}+\frac{b}{4a^2+1}=\frac{a^2}{4a{b}^2+a}+\frac{b^2}{4a^{2}b+b}\ge \frac{{\left(a+b\right)}^2}{4ab(a+b)+(a+b)}$

= $\frac{a+b}{4ab+1}=\frac{4ab}{4ab+1}=1-\frac{1}{4ab+1}\ge \frac{1}{2}$

Dấu đẳng thức xảy ra khi $a=b=\frac{1}{2}$ .

Áp dụng bất đẳng thức $\frac{x}{y}+\frac{y}{x}\ge 2$ cho hai số x > 0; y > 0 ta chứng minh được $\left(x+y+z\right)\left(\frac{1}{x}+\frac{1}{y}+\frac{1}{z}\right)\ge 9$ .

Ta chứng minh bất đẳng thức $\frac{1}{x+y}\le \frac{1}{4}\left(\frac{1}{x}+\frac{1}{y}\right)$ với x, y > 0.

Thậy vậy, với x, y > 0 thì:

$\frac{1}{x+y}\le \frac{1}{4}\left(\frac{1}{x}+\frac{1}{y}\right)\iff \frac{1}{x+y}\le \frac{x+y}{4xy}\iff {(x+y)}^2\ge 4xy\iff x^2+2xy+y^2-4xy\ge 0$

$\iff x^2-2xy+y^2\ge 0\iff {(x-y)}^2\ge 0$ (luôn đúng)

Ta có $a+2b+c\ge 4(1-a)(1-b)(1-c)\Rightarrow a+2b+c\ge 4(b+c)(a+c)(a+b)$

Áp dụng bất đẳng thức cô si ta có

$a+b+b+c\ge 2\sqrt{(a+b)(b+c)}\Rightarrow {(a+2b+c)}^2\ge 4(a+b)(b+c)\Rightarrow {(a+2b+c)}^2(a+c)\ge 4(a+b)(b+c)(a+c)$ 

Áp dụng bất đẳng thức cô si

$\frac{a+2b+c+a+c}{2}\ge \sqrt{(a+2b+c)(a+c)}\Rightarrow \frac{2(a+b+c)}{2}\ge \sqrt{(a+2b+c)(a+c)}\Rightarrow 1\ge \sqrt{(a+2b+c)(a+c)}$ $\Rightarrow 1\ge (a+2b+c)(a+c)\Rightarrow a+2b+c\ge {(a+2b+c)}^2(a+c)$

$\Rightarrow a+2b+c\ge 4(a+b)(a+c)(b+c)$

Ta chứng minh bất đẳng thức $\frac{a^2}{x}+\frac{b^2}{y}+\frac{c^2}{z}\ge \frac{{\left(a+b+c\right)}^2}{x+y+z}$với $a,b,c,x,y,z>0$

Áp dụng bất đẳng thức Bu – nhi – a - cốp – xki cho ba bộ số $\left(\frac{a}{\sqrt{x}};\sqrt{x}\right),\left(\frac{b}{\sqrt{y}};\sqrt{y}\right),\left(\frac{c}{\sqrt{z}};\sqrt{z}\right)$

ta có $\left(\frac{a^2}{x}+\frac{b^2}{y}+\frac{c^2}{z}\right)\left(x+y+z\right)=\left[{\left(\frac{a}{\sqrt{x}}\right)}^2+{\left(\frac{b}{\sqrt{y}}\right)}^2+{\left(\frac{c}{\sqrt{z}}\right)}^2\right]\left[{\left(\sqrt{x}\right)}^2+{\left(\sqrt{y}\right)}^2+{\left(\sqrt{z}\right)}^2\right]$

$\ge {\left(\frac{a}{\sqrt{x}}.\sqrt{x}+\frac{b}{\sqrt{y}}.\sqrt{y}+\frac{c}{\sqrt{z}}.\sqrt{z}\right)}^2={\left(a+b+c\right)}^2$

$\Rightarrow \frac{a^2}{x}+\frac{b^2}{y}+\frac{c^2}{z}\ge \frac{{\left(a+b+c\right)}^2}{x+y+z}$      (*)

Dấu “=” xảy khi khi $\frac{a}{x}=\frac{b}{y}=\frac{c}{z}$

Áp dụng bất đẳng thức Cô si ta có $\sqrt{yz}\le \frac{y+z}{2};\sqrt{zx}\le \frac{z+x}{2};\sqrt{xy}\le \frac{x+y}{2}$

$\Rightarrow T\ge \frac{x^2}{x+\frac{y+z}{2}}+\frac{y^2}{y+\frac{z+x}{2}}+\frac{z^2}{z+\frac{x+y}{2}}$

$=\frac{2x^2}{2x+y+z}+\frac{2y^2}{x+2y+z}+\frac{2z^2}{x+y+2z}$

$=2\left(\frac{x^2}{2x+y+z}+\frac{y^2}{x+2y+z}+\frac{z^2}{x+y+2z}\right)$

Áp dụng bất đẳng thức (*) ta có

$T\ge 2\frac{{\left(x+y+z\right)}^2}{4\left(x+y+z\right)}=\frac{x+y+z}{2}=\frac{2019}{2}$

Dấu “=” xảy ra khi x = y = z = 673

Vậy giá trị nhỏ nhất của biểu thức $T=\frac{2019}{2}$ khi x = y = z = 673

Dấu "=" xảy ra $\iff \left\{\begin{array}{l}x=3\\ y=3\end{array}\right.$

Vậy giá trị nhỏ nhất của T là 80 khi x = 3; y =3.

Ta có $xy+yz+zx\le \frac{{\left(x+y+z\right)}^3}{3}\le \frac{1}{3}$ nên$\frac{2017}{xy+yz+zx}\ge 6051$

Áp dụng BĐT $\left(x+y+z\right)\left(\frac{1}{x}+\frac{1}{y}+\frac{1}{z}\right)\ge 9$ , ta có:

$\begin{array}{l}\left[(x^2+y^2+z^2)+(xy+yz+zx)+(xy+yz+zx)\right]\left(\frac{1}{x^2+y^2+z^2}+\frac{1}{xy+yz+zx}+\frac{1}{xy+yz+zx}\right)\ge 9\\ \iff (x^2+y^2+z^2+2xy+2yz+2zx)\left(\frac{1}{x^2+y^2+z^2}+\frac{1}{xy+yz+zx}+\frac{1}{xy+yz+zx}\right)\ge 9\end{array}$

Hay $\frac{1}{x^2+y^2+z^2}+\frac{2}{xy+yz+zx}\ge 9$

Từ đó ta có: $P=\frac{1}{x^2+y^2+z^2}+\frac{2}{xy+yz+zx}+\frac{2017}{xy+yz+zx}\ge 9+6051=6060$

Ta có $a^3+b^3+4=\left(a^3+b^3+1\right)+3\ge 3ab+3$. Dấu bằng xảy ra khi và chỉ khi a = b = 1.

Vì ab + 1 > 0 nên $M=\frac{a^3+b^3+4}{ab+1}\ge \frac{3\left(ab+1\right)}{ab+1}=3$.

Do đó, giá trị nhỏ nhất của biểu thứcM là 3 đạt được khi a = b = 1.

+) Vì $a^2+b^2=2$ nên $a\le \sqrt{2};b\le \sqrt{2}$. Suy ra $a^3+b^3+4\le \sqrt{2}\left(a^2+b^2\right)+4=2\sqrt{2}+4$.

Mặt khác $\frac{1}{ab+1}\le 1\text{ do }ab+1\ge 1$. Suy ra $M=\frac{a^3+b^3+4}{ab+1}\le 2\sqrt{2}+4$.

Dấu bằng xảy ra khi và chỉ khi

$\left\{\begin{array}{l}{a}^2+b^2=2\\ ab=0\end{array}\right.\iff \left(a;b\right)=\left(0;\sqrt{2}\right)\vee \left(a;b\right)=\left(\sqrt{2};0\right)$.

Giá trị lớn nhất của biểu thức M là $4+2\sqrt{2}$ đạt được khi $\left(a;b\right)=\left(0;\sqrt{2}\right)\vee \left(a;b\right)=\left(\sqrt{2};0\right)$

Ta có: $x+y=1\Rightarrow y=1-x$ thay vào A ta được:

$$\begin{gathered} A=2x^2-y^2+x+\frac{1}{x}+1=2x^2-{(1-x)}^2+x+\frac{1}{x}+1 \\ =2x^2-\left(x^2-2x+1\right)+x+\frac{1}{x}+1=x^2+2x+x+\frac{1}{x} \\ =\left(x^2-x+\frac{1}{4}\right)+\left(4x+\frac{1}{x}\right)-\frac{1}{4}={\left(x-\frac{1}{2}\right)}^2+\left(4x+\frac{1}{x}\right)-\frac{1}{4} \end{gathered}$$

Ta lại có: $\frac{xy+y+8}{20}=\frac{y(x+1)+8}{20}\le \frac{\frac{{\left(x+y+1\right)}^2}{4}+8}{20}\le \frac{3}{5}$

Khi đó:

$\begin{array}{l}P\ge \left(\frac{1}{5xy}+\frac{xy}{20}\right)+\left(\frac{5}{y+8}+\frac{y+8}{20}\right)-\frac{xy+y+8}{20}\\ \iff P\ge \frac{1}{5}+1-\frac{3}{5}\iff P\ge \frac{3}{5}\end{array}$

Vậy $P_{Min}=\frac{3}{5}\iff \left\{\begin{array}{l}x=1\\ y=2\end{array}\right.$

Với $x>y, xy=1$, ta có

$P=\frac{x^2+y^2}{x-y}=\frac{{(x-y)}^2+2xy}{x-y}=x-y+\frac{2}{x-y}$

Vì $x>y\Rightarrow x-y>0; \frac{2}{x-y}>0$ và xy = 1.

Áp dụng bất đẳng thức Cô-si cho hai số dương $x-y; \frac{2}{x-y}$, ta có

$x-y+\frac{2}{x-y}\ge 2\sqrt{\frac{2(x-y)}{x-y}}=2\sqrt{2}=2\sqrt{2}$

Suy ra $\min P=2\sqrt{2}$.

Dấu đẳng thức xảy ra $\iff x-y=\frac{2}{x-y}\iff {(x-y)}^2=2\iff x-y=\sqrt{2}\iff x=y+\sqrt{2}$.

Mà $xy=1\Rightarrow (y+\sqrt{2})y=1\iff y^2+\sqrt{2}y=1\iff y^2+\sqrt{2}y-1=0\iff \left[\begin{array}{l}y=\frac{\sqrt{6}-\sqrt{2}}{2}\\ y=\frac{-\sqrt{6}-\sqrt{2}}{2}\end{array}\right.$

Vậy $\min P=2\sqrt{2}$ tại $\left\{\begin{array}{l}x=\frac{\sqrt{2}+\sqrt{6}}{2}\\ y=\frac{-\sqrt{2}+\sqrt{6}}{2}\end{array}\right.$hoặc $\left\{\begin{array}{l}x=\frac{\sqrt{2}-\sqrt{6}}{2}\\ y=\frac{-\sqrt{2}-\sqrt{6}}{2}.\end{array}\right.$

Từ $x^2+y^2=1$ chỉ ra được${\left(x+y\right)}^2\le 2\Rightarrow -\sqrt{2}\le x+y\le \sqrt{2};$

Suy ra $-\sqrt{2}-3\le x+y-3\le \sqrt{2}-3<0.$

$P=\frac{{\left(x+y-3\right)}^2}{2}+4\ge \frac{{\left(\sqrt{2}-3\right)}^2}{2}+4=\frac{19-6\sqrt{2}}{2}\cdot$

Vậy giá trị nhỏ nhất của P là $\frac{19-6\sqrt{2}}{2}$ khi $x=y=\frac{\sqrt{2}}{2}\cdot$

Ta có $a^3+b^3+4=\left(a^3+b^3+1\right)+3\ge 3ab+3$. Dấu bằng xảy ra khi và chỉ khi a = b = 1.

Vì ab + 1 > 0 nên $M=\frac{a^3+b^3+4}{ab+1}\ge \frac{3\left(ab+1\right)}{ab+1}=3$.

Do đó, giá trị nhỏ nhất của biểu thức M là 3 đạt được khi a = b = 1.

+) Vì $a^2+b^2=2$ nên $a\le \sqrt{2},b\le \sqrt{2}$. Suy ra $a^3+b^3+4\le \sqrt{2}\left(a^2+b^2\right)+4=2\sqrt{2}+4$.

Mặt khác $\frac{1}{ab+1}\le 1\text{ do }ab+1\ge 1$. Suy ra $M=\frac{a^3+b^3+4}{ab+1}\le 2\sqrt{2}+4$.

Dấu bằng xảy ra khi và chỉ khi

$\left\{\begin{array}{l}{a}^2+b^2=2\\ ab=0\end{array}\right.\iff \left(a;b\right)=\left(0;\sqrt{2}\right)\vee \left(a;b\right)=\left(\sqrt{2};0\right)$.

Đặt $a=x;b=2y;c=3z$, ta được: $a,b,c>0;a+b+c=2$.

Khi đó: $S=\sqrt{\frac{ab}{ab+2c}}+\sqrt{\frac{bc}{bc+2a}}+\sqrt{\frac{ac}{ac+2b}}$ .

Xét $\sqrt{\frac{ab}{ab+2c}}=\sqrt{\frac{ab}{ab+\left(a+b+c\right)c}}=\sqrt{\frac{ab}{\left(a+c\right)\left(b+c\right)}}\le \frac{1}{2}\left(\frac{a}{a+c}+\frac{b}{b+c}\right)$

Dấu đẳng thức xảy ra khi và chỉ khi $\frac{a}{a+c}=\frac{b}{b+c}$.

Tương tự ta có: $\sqrt{\frac{bc}{bc+2a}}\le \frac{1}{2}\left(\frac{b}{b+a}+\frac{c}{c+a}\right);\sqrt{\frac{ac}{ac+2b}}\le \frac{1}{2}\left(\frac{a}{a+b}+\frac{c}{c+b}\right)$.

Dấu đẳng thức xảy ra khi và chỉ khi $\frac{b}{b+a}=\frac{c}{c+a}$; $\frac{a}{a+b}=\frac{c}{c+b}$.

Cộng các vế ta được: $S\le \frac{1}{2}\left(\frac{a+b}{a+b}+\frac{b+c}{b+c}+\frac{a+c}{a+c}\right)=\frac{3}{2}$.

Vậy giá trị lớn nhất của S bằng $\frac{3}{2}$ khi và chỉ khi $a=b=c=\frac{2}{3}$ hay giá trị lớn nhất của S bằng $\frac{3}{2}$ khi và chỉ khi $x=\frac{2}{3};y=\frac{1}{3};z=\frac{2}{9}$.

Ta có $a^2+b^2+ab=3\iff a^2+b^2=3-ab$ thay vào P ta được.

$$\begin{gathered} P=a^4+b^4-ab={\left(a^2+b^2\right)}^2-2a^2{b}^2-ab \\ ={\left(3-ab\right)}^2-2a^2{b}^2-ab \\ =9-6ab+a^2{b}^2-2a^2{b}^2-ab \\ =9-7ab-a^2{b}^2 \\ =-\left[{\left(ab\right)}^2+2.ab.\frac{7}{2}+\frac{49}{4}\right]+\frac{49}{4}+9 \\ =-{\left(ab+\frac{7}{2}\right)}^2+\frac{85}{4} \end{gathered}$$

Vì $a^2+b^2=3-ab$, mà ${\left(a+b\right)}^2\ge 0\iff a^2+b^2\ge -2ab\Rightarrow 3-ab\ge -2ab\iff ab\ge -3$. (1)

Và ${\left(a-b\right)}^2\ge 0\iff a^2+b^2\ge 2ab\Rightarrow 3-ab\ge 2ab\iff ab\le 1$. (2)

Từ (1) và (2) suy ra $-3\le ab\le 1\iff -3+\frac{7}{2}\le ab+\frac{7}{2}\le \frac{7}{2}+1\iff \frac{1}{2}\le ab+\frac{7}{2}\le \frac{9}{2}$

$$\begin{gathered} \iff \frac{1}{4}\le {\left(ab+\frac{7}{2}\right)}^2\le \frac{81}{4} \\ \iff -\frac{81}{4}\le -{\left(ab+\frac{7}{2}\right)}^2\le -\frac{1}{4} \\ \iff -\frac{81}{4}+\frac{85}{4}\le -{\left(ab+\frac{7}{2}\right)}^2+\frac{85}{4}\le -\frac{1}{4}+\frac{85}{4} \\ \iff 1\le -{\left(ab+\frac{7}{2}\right)}^2+\frac{85}{4}\le 21 \end{gathered}$$ 

Vậy Max P = 21. Dấu = xảy ra khi $\left\{\begin{array}{l}ab=-3\\ a^2+b^2=6\end{array}\right.$$\iff \left\{\begin{array}{l}a=\sqrt{3}\\ b=-\sqrt{3}\end{array}\right.v\left\{\begin{array}{l}b=\sqrt{3}\\ a=-\sqrt{3}\end{array}\right.$.

Min P = 1. Dấu = xảy ra khi $\left\{\begin{array}{l}ab=1\\ a^2+b^2=2\end{array}\right.\iff \left\{\begin{array}{l}a=1\\ b=1\end{array}\right.$ hoặc $\left\{\begin{array}{l}a=-1\\ b=-1\end{array}\right.$.

Ta có: ${(a-b)}^2\ge 0\iff a^2+b^2\ge 2ab\iff {(a+b)}^2\ge 4ab;$$a^2+b^2\ge \frac{{(a+b)}^2}{2}$

Từ giả thiết $a+b+3ab=1$$\Rightarrow a+b=1-3ab\ge 1-\frac{3}{4}{\left(a+b\right)}^2$

$\iff 3{\left(a+b\right)}^2+4\left(a+b\right)-4\ge 0\iff \left[a+b+2\right]\left[3\left(a+b\right)-2\right]\ge 0\iff a+b\ge \frac{2}{3}$ (vì a, b > 0)

$$\begin{gathered} \frac{3ab}{a+b}=\frac{1-(a+b)}{a+b}=\frac{1}{a+b}-1\le \frac{3}{2}-1=\frac{1}{2} \\ {a}^2+b^2\ge \frac{{\left(a+b\right)}^2}{2}\ge \frac{2}{9}\iff -\left(a^2+b^2\right)\le -\frac{2}{9} \\ P=\frac{6ab}{a+b}-a^2-b^2=2\frac{3ab}{a+b}-\left(a^2+b^2\right)\le 1-\frac{2}{9}=\frac{7}{9} \end{gathered}$$

Ta có: ${(a-b)}^2\ge 0\iff a^2+b^2\ge 2ab\iff {(a+b)}^2\ge 4ab;$$a^2+b^2\ge \frac{{(a+b)}^2}{2}$

Từ giả thiết $a+b+3ab=1\Rightarrow a+b=1-3ab\ge 1-\frac{3}{4}{\left(a+b\right)}^2$

$$\begin{gathered} \iff 3{\left(a+b\right)}^2+4\left(a+b\right)-4\ge 0\iff \left[a+b+2\right]\left[3\left(a+b\right)-2\right]\ge 0\iff a+b\ge \frac{2}{3}. \\ \frac{3ab}{a+b}=\frac{1-(a+b)}{a+b}=\frac{1}{a+b}-1\le \frac{3}{2}-1=\frac{1}{2}. \\ {a}^2+b^2\ge \frac{{\left(a+b\right)}^2}{2}\ge \frac{2}{9}\Rightarrow -\left(a^2+b^2\right)\le -\frac{2}{9}. \\ P=\frac{12ab}{a+b}-a^2-b^2=4.\frac{3ab}{a+b}-\left(a^2+b^2\right)\le 2-\frac{2}{9}=\frac{16}{9}. \end{gathered}$$

Giá trị lớn nhất của P bằng $\frac{16}{9}$ khi $\left\{\begin{array}{l}a=b\\ a+b+3ab=1\end{array}\right.\iff a=b=\frac{1}{3}$.

Áp dụng bất đẳng thức Cô-si cho hai số dương $\frac{x}{yz};\frac{y}{xz}$ ta có: $\frac{x}{yz}+\frac{y}{xz}\ge 2\sqrt{\frac{x}{yz}.\frac{y}{x}}=\frac{2}{z}$

Tương tự ta cũng có: $\frac{y}{xz}+\frac{z}{xy}\ge \frac{2}{x};\frac{z}{xy}+\frac{x}{yz}\ge \frac{2}{y}$

$$\begin{gathered} \Rightarrow \left(\frac{x}{yz}+\frac{y}{xz}\right)+\left(\frac{y}{xz}+\frac{z}{xy}\right)+\left(\frac{z}{xy}+\frac{x}{yz}\right)\ge \frac{2}{z}+\frac{2}{x}+\frac{2}{y} \\ \Rightarrow \frac{x}{yz}+\frac{y}{zx}+\frac{z}{xy}\ge \frac{1}{x}+\frac{1}{y}+\frac{1}{z}\Rightarrow \frac{1}{x}+\frac{1}{y}+\frac{1}{z}\le 3 \end{gathered}$$

Lại có: $x^4+yz\ge 2\sqrt{x^{4}yz}=2x^2\sqrt{yz}\Rightarrow \frac{x^2}{x^4+yz}\le \frac{1}{2\sqrt{yz}}=\frac{1}{4}\mathrm{.2.}\frac{1}{\sqrt{y}}.\frac{1}{\sqrt{z}}\le \frac{1}{4}(\frac{1}{y}+\frac{1}{z})$

Tương tự $\frac{y^2}{y^4+xz}\le \frac{1}{4}(\frac{1}{x}+\frac{1}{z});\frac{z^2}{z^4+xy}\le \frac{1}{4}(\frac{1}{x}+\frac{1}{y})$

Suy ra

$\begin{array}{l}P=\frac{x^2}{x^4+yz}+\frac{y^2}{y^4+xz}+\frac{z^2}{z^4+xy}\le \frac{1}{4}(\frac{2}{x}+\frac{2}{y}+\frac{2}{z})=\frac{1}{2}(\frac{1}{x}+\frac{1}{y}+\frac{1}{z})\le \frac{3}{2}\\ =>P\le \frac{3}{2}\end{array}$

Vậy giá trị nhỏ nhất của P = $\frac{3}{2}$ khi x = y = z = 1.