1. Si on suppose que l'équation polynomiale admet une racine rationnelle non entière, alors il existe $(p,q)\in \mathbb{Z}^*\times \mathbb{Z}^*$ premiers entre eux tels que : \[ P(r)=0 \qquad \left(\text{avec : } r=\dfrac{p}{q}\right) \qquad (1) \] En multipliant l'équation $(1)$ par $q^3$, on trouve : \[ 4p^3-3p^2q-8pq^2+6q^3=0 \qquad (2) \] Qu'on peut écrire en factorisant par $p$ : \[ p(4p^2-3pq-8q^2)=-6q^3 \] On a donc : \begin{align*} \begin{cases} p \mid (-6q^3) \\ p\land q=1 \end{cases} &\implies p \mid 6 \end{align*} L'équation $(2)$ peut également s'écrire en factorisant par $q$ : \[ 4p^3=q(3p^2+8pq-6q^2) \qquad (3) \] Ce qui implique que : \begin{align*} \begin{cases} q \mid (4p^3) \\ p\land q=1 \end{cases} &\implies q \mid 4 \end{align*}
  2. Il est clair que $q\neq 1$ car sinon $r$ serait un entier.
    On a donc : \[ q \mid 4 \implies q \in \{2, 4\} \] Par conséquent, $q$ est pair.
    Puisque $p$ est premier avec $q$, alors $p$ est nécessairement impair.
    \begin{align*} \begin{cases} p \mid 6 \\ p \text{ est impair} \end{cases} &\implies p \in \{1, 3\} \end{align*} En résumé, on obtient les conditions suivantes : \[ \begin{cases} p \in \{1, 3\} \\ q \in \{2, 4\} \end{cases} \]
    • Il est clair que $q\land 3=1$. En appliquant le petit théorème de Fermat ($3$ étant un nombre premier) on a : \[ \begin{cases} q^2 \equiv 1 \pmod 3 \\ p^3 \equiv p \pmod 3 \end{cases} \] En écrivant l'équation $(2)$ modulo $3$, on trouve : \[ 4p^3-8pq^2 \equiv 0 \pmod 3 \] Or, sachant que $p^3 \equiv p \pmod 3$ et $q^2 \equiv 1 \pmod 3$, et que : \[ \begin{cases} 4 \equiv 1 \pmod 3 \\ 8 \equiv 2 \pmod 3 \end{cases} \] On obtient la simplification suivante : \begin{align*} p-2p &\equiv 0 \pmod 3 \\ -p &\equiv 0 \pmod 3 \\ p &\equiv 0 \pmod 3 \end{align*}

    • D'autre part, $q$ est pair. On a donc : \[ q^2 \equiv 0 \pmod 4, \quad q^3 \equiv 0 \pmod 4, \quad 4 \equiv 0 \pmod 4 \quad \text{et} \quad 8 \equiv 0 \pmod 4 \] En écrivant l'équation $(2)$ modulo $4$, tous les termes s'annulent sauf un, et on trouve : \[ -3p^2q \equiv 0 \pmod 4 \] Ce qui implique que : \[ q \equiv 0 \pmod 4 \qquad (\text{car } 3p^2 \text{ est un nombre impair}) \]
  4. D'après les questions 2 et 3, l'unique combinaison possible est $p=3$ et $q=4$.
    On en déduit la racine rationnelle : \[ r=\dfrac{3}{4} \]
  5. La division euclidienne du polynôme $P(X)$ par $\left(X-\dfrac{3}{4}\right)$ donne la factorisation suivante : \[ P(X)=(4X^2-8)\left(X-\dfrac{3}{4}\right) \] Les deux autres racines sont solutions de l'équation $4X^2-8=0$ : \begin{align*} 4X^2-8 &= 0 \\ 4(X^2-2) &= 0 \\ X^2 &= 2 \end{align*} Les deux autres solutions sont donc $\sqrt{2}$ et $-\sqrt{2}$.

    Conclusion :
    L'ensemble des solutions de l'équation $P(X)=0$ est : \[ S=\left\{\dfrac{3}{4}, \sqrt{2}, -\sqrt{2}\right\} \]