$P=\dfrac{9\sqrt[3]{(ab)^2}}{a^2+3b^2+c^2+1}+\dfrac{16b\sqrt{c}}{2a^2+4b^2+c^2+1}-\dfrac{6a+6b-8}{18ab-9a-9b+4}.$

Bài toán:
Cho Các số thực $a,b,c\in \left (\dfrac{2}{3};1\right]$. Tìm giá trị lớn nhất của biểu thức:
$$P=\dfrac{9\sqrt[3]{(ab)^2}}{a^2+3b^2+c^2+1}+\dfrac{16b\sqrt{c}}{2a^2+4b^2+c^2+1}-\dfrac{6a+6b-8}{18ab-9a-9b+4}.$$

(Trịnh Đình Triển, 10A6 THPT Đông Thụy Anh, Thái Bình)

Lời giải:
Áp dụng bất đẳng thức AM-GM và Cauchy-Schwart ta có:
$$16b\sqrt{c}\le (2b+c+1)^2.$$
$$9\sqrt[3]{(ab)^2}\le (a+b+1)^2.$$
Do đó
$$P\le \dfrac{(a+b+1)^2}{a^2+3b^2+c^2+1}+\dfrac{(2b+c+1)^2}{2a^2+4b^2+c^2+1}-\dfrac{6a+6b-8}{18ab-9a-9b+4}.$$
Lại có:
$$\dfrac{a^2}{a^2+b^2}+\dfrac{b^2}{b^2+c^2}+\dfrac{1}{b^2+1}\ge \dfrac{(a+b+1)^2}{a^2+3b^2+c^2+1}.$$
$$\dfrac{b^2}{a^2+b^2}+\dfrac{c^2}{b^2+c^2}+\dfrac{b^2}{2b^2}+\dfrac{1}{a^2+1}\ge \dfrac{(2b+c+1)^2}{2a^2+4b^2+c^2+1}.$$
Do đó
$$\begin{equation} \label{a1} P\le \dfrac{5}{2}+\dfrac{1}{a^2+1}+\dfrac{1}{b^2+1}-\dfrac{6a+6b-8}{18ab-9a-9b+4}.\tag{1} \end{equation}$$
Mặt khác, với mọi $a,b>0$ và $ab\le 1$ thì
$$\begin{align} \label{a2} &\dfrac{1}{a^2+1}+\dfrac{1}{b^2+1}\le \dfrac{2}{1+ab}\tag{2} \\ \Leftrightarrow &\dfrac{(ab-1)(a-b)^2}{(ab+1)(a^2+1)(b^2+1)}\le 0 \qquad\text{(Luôn đúng).}\nonumber \end{align}$$
Ngoài ra, để ý rằng
$$18ab-9a-9b+4=2(3a-2)(3b-2)+(3a-2)+(3b-2).$$
Do đó
$$\begin{align}  \label{a3} \dfrac{6a+6b-8}{18ab-9a-9b+4}=&\dfrac{\dfrac{2}{3a-2}+\dfrac{2}{3b-2}}{\dfrac{1}{3a-2}+\dfrac{1}{3b-2}+2}\tag{3}\\ \ge &\dfrac{\dfrac{4}{\sqrt{(3a-2)(3b-2)}}}{\dfrac{2}{\sqrt{(3a-2)(3b-2)}+2}}\nonumber\\ =&\dfrac{2}{\sqrt{(3a-2)(3b-2)}+1}.\nonumber \end{align}$$
Từ $\eqref{a1}$,$\eqref{a2}$,$\eqref{a3}$ suy ra
$$\begin{equation}\label{a4} P\le \dfrac{5}{2}+\dfrac{2}{ab+1}-\dfrac{2}{\sqrt{(3a-2)(3b-2)}+1}.\tag{4} \end{equation}$$
Mà
$$\begin{align} &(a-1)(a-2)\ge 0\nonumber\\ \label{a6} \Leftrightarrow &a^2\ge 3a-2.\tag{5} \end{align}$$
Tương tự thì
$$\begin{equation}\label{a7} b^2\ge 3b-2.\tag{6} \end{equation}$$
Nhân vế với vế của $\eqref{a6}$;$\eqref{a7}$ suy ra
$$\begin{equation}\label{a5} ab\ge \sqrt{(3a-2)(3b-2)}.\tag{7} \end{equation}$$
Từ $\eqref{a4}$,$\eqref{a5}$ suy ra
$$P\le \dfrac{5}{2}.$$
Dấu "=" xảy ra khi $a=b=c=1$.