递归行列式函数返回未定义的行为

Question

我编写了一个用于计算行列式的递归函数。我知道我本可以更有效地完成它，但这不是重点。我有一个名为“det1”的变量，它在递归结束时保存行列式的最终值。奇怪的是当我在det函数中返回这个值时，我得到完全垃圾。但是，当我只是简单地打印“det1”时，我得到了答案。这里有什么猜测吗？

int det1 = 0;
int p = 0; 

int det(vector<vector<int> > (&A)){
    if (A.size() != A[0].size()){
        cout << "Determinant Error: non-square matrix. \n";
        return 0; 
    }
    int cF; 
    vector<vector<int> > temp01;
    if (A.size() == 2){
        det1 += (A[0][0]*A[1][1]-A[0][1]*A[1][0]); 
        //cout << "Determinant : " << det1 << "\n";
        int output = det1;                     ///////////////////////////////////////Problem with final return 
        //cout << "Recursion Count : " << p << "\n";  
        //return(output);                        ///////////////////////////////////////
    }else{//extract until a 2x2 is reached
        for (int i = 0; i < A.size(); i++){
             temp01 = extractNext(A,0, i); 
             //printMatrix(temp01); 
             cF = pow(-1, (0)+(i))*A[0][i]; 
             //cout << "Cofactor : " << cF << "\n"; 
             for (int j = 0; j< temp01.size(); j++){
                 temp01[0][j] = cF*temp01[0][j]; //account for cofactor by multiplying it in
             }
             //printMatrix(temp); cout << "\n";
             p++;  
             det(temp01); 
        }
    } 
}

Answer 1

您没有在所有代码路径上返回值，当您使用从未存在的返回值时，这最终会导致未定义的行为。 （一个相当现代的编译器应该警告你这个。）

你应该从递归中返回行列式而不是改变全局 - 混合可变状态和递归通常只会导致麻烦。 （这也使您的代码更类似于行列式的数学定义，这反过来使得理解和验证更容易。）

通过一些小的改动，我会建议像

int det(const vector<vector<int>> &A)
{
    if (A.size() != A[0].size()){
        cout << "Determinant Error: non-square matrix. \n";
        return 0; 
    }

    if (A.size() == 2)
    {
        return A[0][0] * A[1][1] - A[0][1] * A[1][0]; 
    }
    else
    {
        int determinant = 0;
        int sign = -1;
        for (int i = 0; i < A.size(); i++){
            vector<vector<int>> submatrix = extractNext(A, 0, i);
            sign = -sign;
            int cofactor = sign * A[0][i]; 
            for (int j = 0; j < submatrix.size(); j++){
                submatrix[0][j] = cofactor * submatrix[0][j];
            }
            determinant += det(submatrix);
        }
        return determinant;
    } 
}

Answer 2

您的代码没有返回行列式，因为您没有为它创建返回路径。你也确实依赖副作用。

对于2 * 2矩阵，您的代码应该返回正确的值，前提是您只调用一次，但只是因为它立即采用“if”部分，并在一步中进行最终计算。但是，对于3 * 3矩阵，采用“else”部分。但请注意，该路径上没有返回，因此您可以期望您的函数返回垃圾。

要修复它，您需要重写else分支，以便计算递归调用返回的值的总和，并在堆栈上使用临时变量。最后，您应该返回此值。