Por um lado, a equação \[\cos{\left( 2 \theta\right) }=\cos{\left( 3 \theta\right) }\] tem solução \[\theta=\frac{2 k \pi}{5},\;\mbox{para }k\in\mathbb{Z}.\] Para $k=0$, temos $\theta=0$, para $k=1$, temos \(\dfrac{2\pi}{5}\) e para $k=2$, temos \(\dfrac{4\pi}{5}\).
Por outro lado, usando que \[\cos{\left( 2 \theta\right) }=2 {{\cos{(\theta)}}^{2}}-1\] e \[\cos{\left( 3 \theta\right) }={{\cos{(\theta)}}^{3}}-3 \cos{(\theta)} {{\sin{(\theta)}}^{2}}=4 {{\cos{(\theta)}}^{3}}-3 \cos{(\theta)},\] a equação original é equivalente a \[2 {{\cos{(\theta)}}^{2}}-1= 4{{\cos{(\theta)}}^{3}}-3 \cos{(\theta)}.\] Fazendo a mudança de varável \(x=\cos(\theta)\) obtemos a equação polinomial \[4 {{x}^{3}}-2 {{x}^{2}}-3 x+1=0.\] Como $\theta=0$ corresponde a $x=1$, sabemos que $x=1$ é uma solução dessa equação e assim dividindo essa equação por $x-1$ obtemos a equação \[4 {{x}^{2}}+2 x-1=0,\] que tem raízes \[x_{1,2}=\frac{-1\pm\sqrt{5}}{4}.\] O \(\cos\left(\dfrac{2\pi}{5}\right)\) corresponde a raiz positiva e \(\cos\left(\dfrac{4\pi}{5}\right)\) corresponde a raiz negativa. Assim, \[\cos\left(\frac{2\pi}{5}\right)=\frac{\sqrt{5}-1}{4}\quad\mbox{e}\quad \cos\left(\frac{4\pi}{5}\right)=-\frac{\sqrt{5}+1}{4}.\] Como, \(\dfrac{\pi}{5}=\pi-\dfrac{4\pi}{5}\), então \[\cos\left(\frac{\pi}{5}\right)=-\cos\left(\frac{4\pi}{5}\right)=\frac{1+\sqrt{5}}{4}.\]
Como \(\sin{(\theta)}=\sqrt{1-{{\cos{(\theta)}}^{2}}}\), então \[\sin\left(\frac{\pi}{5}\right)=\frac{\sqrt{10-2 \sqrt{5}}}{4} \quad\mbox{e}\quad \sin\left(\frac{2\pi}{5}\right)=\frac{\sqrt{2 \sqrt{5}+10}}{4}.\]
Meus agradecimentos a Igor Moreno Santos pela revisão.