Por um lado, a equação cos(2θ)=cos(3θ) tem solução θ=2kπ5,para k∈Z. Para k=0, temos θ=0, para k=1, temos 2π5 e para k=2, temos 4π5.
Por outro lado, usando que cos(2θ)=2cos(θ)2−1 e cos(3θ)=cos(θ)3−3cos(θ)sin(θ)2=4cos(θ)3−3cos(θ), a equação original é equivalente a 2cos(θ)2−1=4cos(θ)3−3cos(θ). Fazendo a mudança de varável x=cos(θ) obtemos a equação polinomial 4x3−2x2−3x+1=0. Como θ=0 corresponde a x=1, sabemos que x=1 é uma solução dessa equação e assim dividindo essa equação por x−1 obtemos a equação 4x2+2x−1=0, que tem raízes x1,2=−1±√54. O cos(2π5) corresponde a raiz positiva e cos(4π5) corresponde a raiz negativa. Assim, cos(2π5)=√5−14ecos(4π5)=−√5+14. Como, π5=π−4π5, então cos(π5)=−cos(4π5)=1+√54.
Como sin(θ)=√1−cos(θ)2, então sin(π5)=√10−2√54esin(2π5)=√2√5+104.
Meus agradecimentos a Igor Moreno Santos pela revisão.