Это возвратное уравнение, решается делением обеих частей на y^2, группировкой и заменой y^2+1/y^2 и y+1/y на t^2-2 и t соответственно. Получается простое квадратное уравнение отнсительно t. Ну а дальше просто.
Подробнее:
http://matematika.studentu.ru/referats/89170/