On a:
$$~~e^{i\theta}=\cos \theta+i\sin \theta $$
En utilisant les formules dites de moivre:
$$\cos 5\theta +i\sin 5\theta = e^{i5\theta}=(\cos\theta +i\sin\theta)^5$$
la formule du binome de Newton donne pour $~(a,b)~$ dans $~\mathbb{R}^2$ :
$$~~(a+ib)^5=(a^5-10a^3b^2+5ab^4)+i(5a^4b-10a^2b^3+b^5)$$
Donc: $$\begin{cases} \cos 5\theta =\cos^5 \theta -10\cos^3 \theta\sin^2\theta+5\cos \theta\sin^4\theta\\\\ \sin 5\theta=5\cos^4 \theta\sin\theta -10\cos^2 \theta\sin^3\theta + \sin^5\theta \\
\end{cases}$$
Question supplémentaire:
Exprimez $\cos(5\theta)$ et $\sin(5\theta)$ respectivement en fonction de $\cos(\theta)$ de $\sin(\theta)$
$cos(5\theta)=16\cos^5(\theta)-20\cos^3(\theta)+5\cos(\theta)$
$\sin(5\theta)=16\sin^5(\theta)-20\sin^3(\theta)+5\sin(\theta)$