Let $S_1$ is the complete solution set of the inequality $\mathrm{c}\mathrm{o}{\mathrm{s}}^{-1}\left(x\right)>\mathrm{c}\mathrm{o}{\mathrm{s}}^{-1}\left(x^2\right)$ and $S_2$ is the complete solution set of the inequality ${\left(\mathrm{c}\mathrm{o}{\mathrm{t}}^{-1}x\right)}^2-5\mathrm{c}\mathrm{o}{\mathrm{t}}^{-1}x+6>0$, then $S_1\cap S_2$ is

• A

  $\left[-\mathrm{1,0}\right)$
• B

  $\left[\mathrm{c}\mathrm{o}\mathrm{t}\mathrm{}\mathrm{3,0}\right)$
• Correct answer
  C

  $\left[\mathrm{c}\mathrm{o}\mathrm{t}\mathrm{}2,\mathrm{}0\right)$
• D

  $\left[-1,\mathrm{c}\mathrm{o}\mathrm{t}\mathrm{}2\right]$

Solution

$\mathrm{c}\mathrm{o}{\mathrm{s}}^{-1}x>\mathrm{c}\mathrm{o}{\mathrm{s}}^{-1}{x}^2$ $\Rightarrow \mathrm{}x<x^2$ & $x\in \left[-1,\mathrm{}1\right]$
{ $\because$ $\mathrm{c}\mathrm{o}{\mathrm{s}}^{-1}x$ is a decreasing function}
$\Rightarrow$ $x\left(x–1\right)>0$ & $x\in \left[-\mathrm{1,1}\right]$
$\Rightarrow$ $x\in \left(-\mathrm{\infty },\mathrm{}0\right)\cup \left[1,\mathrm{}\mathrm{\infty }\right)$ & $x\in \left[-1,\mathrm{}1\right]$
$\Rightarrow \mathrm{}x\in \left[-1,\mathrm{}0\right)$ … $\left(1\right)$
Now ${\left(\mathrm{c}\mathrm{o}{\mathrm{t}}^{-1}x\right)}^2-5\mathrm{c}\mathrm{o}{\mathrm{t}}^{-1}x+6>0$
$\Rightarrow \mathrm{}\left(\mathrm{c}\mathrm{o}{\mathrm{t}}^{-1}x-2\right)\mathrm{}\left(\mathrm{c}\mathrm{o}{\mathrm{t}}^{-1}x-3\right)>0$
$\Rightarrow \mathrm{}\mathrm{c}\mathrm{o}{\mathrm{t}}^{-1}x<2$ or $x<\mathrm{c}\mathrm{o}\mathrm{t}\mathrm{}3$ … $\left(2\right)$
{ $\because$ $\mathrm{c}\mathrm{o}{\mathrm{t}}^{-1}x$ is a decreasing function}

$\left(1\right)\cap \left(2\right)\mathrm{}\Rightarrow \mathrm{}\left[\mathrm{c}\mathrm{o}\mathrm{t}2,\mathrm{}0\right)$

Hence, the correct answer is option: 'C'.