Использование совпадений дескриптора OpenCV с findFundamentalMat

Я писал ранее с проблемой, касающейся той же программы, но не получил ответов. С тех пор я исправил проблему, с которой я столкнулся в тот момент, только для того, чтобы столкнуться с новой проблемой.

По сути, я автоматически исправляю пары стереоизображений для поворота и перевода, используя некалиброванный подход. Я использую алгоритмы обнаружения признаков, такие как SURF, чтобы найти точки на двух изображениях, пару левого и правого стереоизображения, а затем, снова используя SURF, я сопоставляю точки между двумя изображениями. Затем мне нужно использовать эти совпадающие точки, чтобы найти фундаментальную матрицу, которую я могу использовать для исправления изображений.

Моя проблема заключается в следующем. Мои точки совпадения хранятся в одном векторе совпадений дескриптора, который затем фильтруется на наличие выбросов. findFundamentalMat принимает в качестве входных данных два отдельных массива совпадающих точек. Я не знаю, как преобразовать мой вектор в два отдельных массива.

cout << "< Matching descriptors..." << endl;
vector<DMatch> filteredMatches;
crossCheckMatching( descriptorMatcher, descriptors1, descriptors2, filteredMatches, 1 );
cout << filteredMatches.size() << " matches" << endl << ">" << endl;

Вектор создан.

void crossCheckMatching( Ptr<DescriptorMatcher>& descriptorMatcher,
                         const Mat& descriptors1, const Mat& descriptors2,
                         vector<DMatch>& filteredMatches12, int knn=1 )
{
    filteredMatches12.clear();
    vector<vector<DMatch> > matches12, matches21;
    descriptorMatcher->knnMatch( descriptors1, descriptors2, matches12, knn );
    descriptorMatcher->knnMatch( descriptors2, descriptors1, matches21, knn );
    for( size_t m = 0; m < matches12.size(); m++ )
    {
        bool findCrossCheck = false;
        for( size_t fk = 0; fk < matches12[m].size(); fk++ )
        {
            DMatch forward = matches12[m][fk];

            for( size_t bk = 0; bk < matches21[forward.trainIdx].size(); bk++ )
            {
                DMatch backward = matches21[forward.trainIdx][bk];
                if( backward.trainIdx == forward.queryIdx )
                {
                    filteredMatches12.push_back(forward);
                    findCrossCheck = true;
                    break;
                }
            }
            if( findCrossCheck ) break;
        }
    }
}

Совпадения проверяются и сохраняются в filteredMatches.

cout << "< Computing homography (RANSAC)..." << endl;
vector<Point2f> points1; KeyPoint::convert(keypoints1, points1, queryIdxs);
vector<Point2f> points2; KeyPoint::convert(keypoints2, points2, trainIdxs);
H12 = findHomography( Mat(points1), Mat(points2), CV_RANSAC, ransacReprojThreshold );
cout << ">" << endl;

Гомография определяется на основе порогового значения, которое устанавливается во время выполнения в командной строке.

//Mat drawImg;
if( !H12.empty() ) // filter outliers
{
    vector<char> matchesMask( filteredMatches.size(), 0 );
    vector<Point2f> points1; KeyPoint::convert(keypoints1, points1, queryIdxs);
    vector<Point2f> points2; KeyPoint::convert(keypoints2, points2, trainIdxs);
    Mat points1t; perspectiveTransform(Mat(points1), points1t, H12);
    for( size_t i1 = 0; i1 < points1.size(); i1++ )
    {
        if( norm(points2[i1] - points1t.at<Point2f>((int)i1,0)) < 4 ) // inlier
            matchesMask[i1] = 1;
    }
    /* draw inliers
    drawMatches( leftImg, keypoints1, rightImg, keypoints2, filteredMatches, drawImg, CV_RGB(0, 255, 0), CV_RGB(0, 0, 255), matchesMask, 2 ); */
}

Совпадения дополнительно фильтруются для удаления выбросов.

...и что потом? Как мне разделить то, что осталось, на два мата совпадающих точек для использования в findFundamentalMat?

РЕДАКТИРОВАТЬ

Теперь я использовал свою маску для создания вектора finalMatches как такового (это заменяет окончательную процедуру фильтрации выше):

Mat drawImg;
if( !H12.empty() ) // filter outliers
{
    size_t i1;
    vector<char> matchesMask( filteredMatches.size(), 0 );
    vector<Point2f> points1; KeyPoint::convert(keypoints1, points1, queryIdxs);
    vector<Point2f> points2; KeyPoint::convert(keypoints2, points2, trainIdxs);
    Mat points1t; perspectiveTransform(Mat(points1), points1t, H12);
    for( i1 = 0; i1 < points1.size(); i1++ )
    {
        if( norm(points2[i1] - points1t.at<Point2f>((int)i1,0)) < 4 ) // inlier
            matchesMask[i1] = 1;
    }
    for( i1 = 0; i1 < filteredMatches.size(); i1++ )
    {
        if ( matchesMask[i1] == 1 )
            finalMatches.push_back(filteredMatches[i1]);
    }
    namedWindow("matches", 1);
    // draw inliers
    drawMatches( leftImg, keypoints1, rightImg, keypoints2, filteredMatches, drawImg, CV_RGB(0, 255, 0), CV_RGB(0, 0, 255), matchesMask, 2 );
    imshow("matches", drawImg);
}

Однако я до сих пор не знаю, как разделить мой вектор finalMatches DMatch на массивы Mat, которые мне нужно передать в findFundamentalMat, пожалуйста, помогите!!!

РЕДАКТИРОВАТЬ

Рабочее (вроде) решение:

Mat drawImg;
vector<Point2f> finalPoints1;
vector<Point2f> finalPoints2;
if( !H12.empty() ) // filter outliers
{
    size_t i, idx;
    vector<char> matchesMask( filteredMatches.size(), 0 );
    vector<Point2f> points1; KeyPoint::convert(keypoints1, points1, queryIdxs);
    vector<Point2f> points2; KeyPoint::convert(keypoints2, points2, trainIdxs);
    Mat points1t; perspectiveTransform(Mat(points1), points1t, H12);

    for( i = 0; i < points1.size(); i++ )
    {
        if( norm(points2[i] - points1t.at<Point2f>((int)i,0)) < 4 ) // inlier
            matchesMask[i] = 1;
    }

    for ( idx = 0; idx < filteredMatches.size(); idx++)
    {
        if ( matchesMask[idx] == 1 ) {
            finalPoints1.push_back(keypoints1[filteredMatches[idx].queryIdx].pt);
            finalPoints2.push_back(keypoints2[filteredMatches[idx].trainIdx].pt);
        }
    }    

    namedWindow("matches", 0);
    // draw inliers
    drawMatches( leftImg, keypoints1, rightImg, keypoints2, filteredMatches, drawImg, CV_RGB(0, 255, 0), CV_RGB(0, 0, 255), matchesMask, 2 );
    imshow("matches", drawImg);
}

Затем я передаю finalPoints1 и finalPoints2 в findFundamentalMat как Mat. Теперь моя единственная проблема в том, что мой вывод удаленно не такой, как ожидалось, все изображения испорчены :-/


person cherryduck    schedule 09.05.2011    source источник


Ответы (1)


Ваш массив соответствия является смещением в массивах дескрипторов. Поскольку у каждого дескриптора есть соответствующая ключевая точка, вы можете просто выполнить итерацию и построить два массива ключевых точек из индексов. Затем эти ключевые точки можно передать в findFundamentalMat.

Редактировать:

Я считаю, что ваша ошибка заключается в создании finalMatches, где вы теряете информацию. Вектор filteredMatches перегружен. Индексы, для которых MatchMask имеет значение 1, показывают индексы в keypoints1, а индексы, хранящиеся в finalMatches, являются индексами в keypoints2. Сжимая finalMatches, вы фактически теряете первый набор индексов.

Попробуйте следующее:

Имейте цикл, который подсчитывает количество фактических совпадений:

int num_matches = 0;
for( int idx = 0; idx < matchesMask.size(); idx++ )
{
    if ( matchesMask[idx] == 1 )
        num_matches++;
}

Теперь объявите CvMats правильного размера:

matched_points1  = cvCreateMat(2,numPoints,CV_32F);
matched_points2  = cvCreateMat(2,numPoints,CV_32F);

Теперь переберите отфильтрованные совпадения и вставьте: (Точный синтаксис может отличаться, вы поняли идею)

offset = 0;
for (int idx = 0; idx < matchesMask.size(); idx++)
{
    if ( matchesMask[idx] == 1 ) {
        matched_points1[2*offset] = keypoints1[idx].pt.x;
        matched_points1[2*offset+1] = keypoints1[idx].pt.y;
        matched_points2[2*offset] = keypoints2[filteredMatches[idx]].pt.x;
        matched_points2[2*offset+1] = keypoints2[filteredMatches[idx]].pt.y;
        offset++;
    }
}    
person peakxu    schedule 10.05.2011
comment
Я пытался сделать именно это, не могли бы вы дать мне более конкретный совет по фактической реализации? - person cherryduck; 10.05.2011
comment
Великолепно, это не сработало как есть, но я преобразовал его в рабочее решение. Опубликовано как редактирование в исходном вопросе, так как я не уверен, как опубликовать код в комментарии. - person cherryduck; 10.05.2011
comment
Рад, что вы нашли что-то работающее. Вы можете проверить основное представление строк и столбцов. Это может быть источником искажения изображения. P.S. принять или проголосовать было бы неплохо. - person peakxu; 10.05.2011
comment
Принятый! Пытался проголосовать, но это не позволило мне... слишком мало репутации. - person cherryduck; 11.05.2011