$P=\dfrac{9\sqrt[3]{(ab)^2}}{a^2+3b^2+c^2+1}+\dfrac{16b\sqrt{c}}{2a^2+4b^2+c^2+1}-\dfrac{6a+6b-8}{18ab-9a-9b+4}.$

Bài toán:
Cho Các số thực $a,b,c\in \left (\dfrac{2}{3};1\right]$. Tìm giá trị lớn nhất của biểu thức:
$$P=\dfrac{9\sqrt[3]{(ab)^2}}{a^2+3b^2+c^2+1}+\dfrac{16b\sqrt{c}}{2a^2+4b^2+c^2+1}-\dfrac{6a+6b-8}{18ab-9a-9b+4}.$$

(Trịnh Đình Triển, 10A6 THPT Đông Thụy Anh, Thái Bình)

Lời giải:
Áp dụng bất đẳng thức AM-GM và Cauchy-Schwart ta có:
$$16b\sqrt{c}\le (2b+c+1)^2.$$
$$9\sqrt[3]{(ab)^2}\le (a+b+1)^2.$$
Do đó
$$P\le \dfrac{(a+b+1)^2}{a^2+3b^2+c^2+1}+\dfrac{(2b+c+1)^2}{2a^2+4b^2+c^2+1}-\dfrac{6a+6b-8}{18ab-9a-9b+4}.$$
Lại có:
$$\dfrac{a^2}{a^2+b^2}+\dfrac{b^2}{b^2+c^2}+\dfrac{1}{b^2+1}\ge \dfrac{(a+b+1)^2}{a^2+3b^2+c^2+1}.$$
$$\dfrac{b^2}{a^2+b^2}+\dfrac{c^2}{b^2+c^2}+\dfrac{b^2}{2b^2}+\dfrac{1}{a^2+1}\ge \dfrac{(2b+c+1)^2}{2a^2+4b^2+c^2+1}.$$
Do đó
\begin{equation} \label{a1}
P\le \dfrac{5}{2}+\dfrac{1}{a^2+1}+\dfrac{1}{b^2+1}-\dfrac{6a+6b-8}{18ab-9a-9b+4}.\tag{1}
\end{equation}
Mặt khác, với mọi $a,b>0$ và $ab\le 1$ thì
\begin{align} \label{a2}
&\dfrac{1}{a^2+1}+\dfrac{1}{b^2+1}\le \dfrac{2}{1+ab}\tag{2} \\
\Leftrightarrow &\dfrac{(ab-1)(a-b)^2}{(ab+1)(a^2+1)(b^2+1)}\le 0 \qquad\text{(Luôn đúng).}\nonumber
\end{align}
Ngoài ra, để ý rằng
$$18ab-9a-9b+4=2(3a-2)(3b-2)+(3a-2)+(3b-2).$$
Do đó
\begin{align}
 \label{a3}
\dfrac{6a+6b-8}{18ab-9a-9b+4}=&\dfrac{\dfrac{2}{3a-2}+\dfrac{2}{3b-2}}{\dfrac{1}{3a-2}+\dfrac{1}{3b-2}+2}\tag{3}\\
\ge &\dfrac{\dfrac{4}{\sqrt{(3a-2)(3b-2)}}}{\dfrac{2}{\sqrt{(3a-2)(3b-2)}+2}}\nonumber\\
=&\dfrac{2}{\sqrt{(3a-2)(3b-2)}+1}.\nonumber
\end{align}
Từ \eqref{a1},\eqref{a2},\eqref{a3} suy ra
\begin{equation}\label{a4}
P\le \dfrac{5}{2}+\dfrac{2}{ab+1}-\dfrac{2}{\sqrt{(3a-2)(3b-2)}+1}.\tag{4}
\end{equation}
Mà
\begin{align}
&(a-1)(a-2)\ge 0\nonumber\\ \label{a6}
\Leftrightarrow &a^2\ge 3a-2.\tag{5}
\end{align}
Tương tự thì
\begin{equation}\label{a7}
b^2\ge 3b-2.\tag{6}
\end{equation}
Nhân vế với vế của \eqref{a6};\eqref{a7} suy ra
\begin{equation}\label{a5}
ab\ge \sqrt{(3a-2)(3b-2)}.\tag{7}
\end{equation}
Từ \eqref{a4},\eqref{a5} suy ra
$$P\le \dfrac{5}{2}.$$
Dấu "=" xảy ra khi $a=b=c=1$.