Вращение камеры-обскуры в 3D

Похоже, вы не обновляете свою матрицу R после изменения yaw. Это означает, что каждый раз, когда вы делаете camerapos = R * camerapos, вы вращаете вектор camerapos в одном направлении.

Более правильным способом сделать это было бы разделить камеры, каждый раз строить R и использовать другой вектор для результата положения камеры.

Что-то вроде этого:

// Camera position
vec3 cameraPos(0, 0, -19);
vec3 trueCameraPos;
float yaw;

if (keystate[SDLK_LEFT])
{
    //cameraPos.x -= translation;
    if (yaw > 0)
    {   
        yaw = 0.01;
    }
    cout << yaw << endl;
    cout << "LEFT" << endl;
}
if (keystate[SDLK_RIGHT])
{
    //cameraPos.x += translation;
    if (yaw > 0)
    {
        yaw = -0.01;
    }
    cout << yaw << endl;
    cout << "RIGHT" << endl;
}

// Rotate camera
vec3 c1(cos(yaw), 0, sin(yaw));
vec3 c2(0, 1, 0);
vec3 c3(-sin(yaw), 0, cos(yaw));
glm::mat3 R(c1, c2, c3);

trueCameraPos = R * cameraPos;

Что касается определений камеры, то камере нужны три вектора, чтобы определить ее ориентацию. Если вы поворачиваете камеру, ориентация также меняется, иначе вы просто переместите камеру, и она всегда будет смотреть в одном направлении.

Определение, выделенное желтым, неверно, так как должно быть три перпендикулярных вектора, обычно вверх, вправо и вперед. Теперь есть два правых вектора (один из которых вниз, прямо противоположен вектору вверх), поэтому последний должен быть вектором вперед.

Эти векторы определяют направления, используемые в трассировщике лучей. Вперед идут лучи, вверх и вправо определяют направления смещения в плоскости изображения для каждого пикселя изображения. Скорее всего, вы уже используете их в своем коде трассировки.