回転行列からオイラー角を求める詳細は:http://spphire9.wordpress.com/2012/07/05/%E5%9B%9E%E8%BB%A2%E8%A1%8C%E5%88%97%E3%81%8B%E3%82%89%E3%82%AA%E3%82%A4%E3%83%A9%E3%83%BC%E8%A7%92%E3%82%92%E4%B8%80%E6%84%8F%E3%81%AB%E6%B1%82%E3%82%81%E3%82%8B/様の所にあります。その内容をOpenGL+Cで実装するとこうなります。