>>С какого потолка сняли normalize, cross и др.?
>>Из мана по GLSL? Ну так и пишите на GLSL, а не
>>на C++!
>
>У меня создан новый класс с такими функциями.

Ну и причем здесь ОпенГЛ?
вы создаете собственный класс, ну так вам лучше знать как обращаться с методами вашего класса.
другое дело что потом данные вашего класса нужно будет передать опенгл.ну так это ерунда а не вопрос. передайте указатель ОпенГл функции указатель на внутренний или временный массив где храняться данные вашей матрицы.

ЗЫ: могу показать как это в перле делается :)