From 719a19cd7eeb3124b927b9890adeab7c89665661 Mon Sep 17 00:00:00 2001 From: HackAss2002 Date: Wed, 18 Mar 2026 00:17:34 +0300 Subject: [PATCH] =?UTF-8?q?Task02=20=D0=92=D1=8F=D1=87=D0=B5=D1=81=D0=BB?= =?UTF-8?q?=D0=B0=D0=B2=20=D0=93=D1=80=D0=B8=D0=B3=D0=BE=D1=80=D0=BE=D0=B2?= =?UTF-8?q?=D0=B8=D1=87=20ITMO?= MIME-Version: 1.0 Content-Type: text/plain; charset=UTF-8 Content-Transfer-Encoding: 8bit --- src/phg/matching/cl/bruteforce_matcher.cl | 32 ++-- src/phg/matching/descriptor_matcher.cpp | 129 +++++++++---- src/phg/matching/descriptor_matcher.h | 4 + src/phg/matching/flann_matcher.cpp | 21 ++- src/phg/sfm/homography.cpp | 113 ++++++------ src/phg/sfm/panorama_stitcher.cpp | 20 +- src/phg/sift/sift.cpp | 211 ++++++++++++---------- tests/test_matching.cpp | 77 +++++++- tests/test_sift.cpp | 5 +- 9 files changed, 404 insertions(+), 208 deletions(-) diff --git a/src/phg/matching/cl/bruteforce_matcher.cl b/src/phg/matching/cl/bruteforce_matcher.cl index e51a34ac..2f10d99d 100644 --- a/src/phg/matching/cl/bruteforce_matcher.cl +++ b/src/phg/matching/cl/bruteforce_matcher.cl @@ -31,10 +31,14 @@ __kernel void bruteforce_matcher(__global const float* train, } // грузим 4 дескриптора-query (для каждого из четырех дескрипторов каждый поток грузит значение своей размерности dim_id) - // TODO: т.е. надо прогрузить в query_local все KEYPOINTS_PER_WG=4 дескриптора из query (начиная с индекса query_id0) (а если часть из них выходит за пределы n_query_desc - грузить нули) + for (int query_local_i = 0; query_local_i < KEYPOINTS_PER_WG; ++query_local_i) { + int global_query_id = query_local_i + query_id0; + query_local[query_local_i * NDIM + dim_id] = global_query_id < n_query_desc ? query[global_query_id * NDIM + dim_id] : 0.0f; + } barrier(CLK_LOCAL_MEM_FENCE); // дожидаемся прогрузки наших дескрипторов-запросов + __local float dist2_for_reduction[NDIM]; for (int train_idx = 0; train_idx < n_train_desc; ++train_idx) { float train_value_dim = train[train_idx * NDIM + dim_id]; for (int query_local_i = 0; query_local_i < KEYPOINTS_PER_WG; ++query_local_i) { @@ -42,14 +46,14 @@ __kernel void bruteforce_matcher(__global const float* train, // от дескриптора-query в локальной памяти (#query_local_i) // до дескриптора-train в глобальной памяти (#train_idx) - // TODO посчитать квадрат расстояния по нашей размерности (dim_id) и сохранить его в нашу ячейку в dist2_for_reduction + float dist = query_local[query_local_i * NDIM + dim_id] - train_value_dim; + dist2_for_reduction[dim_id] = dist * dist; barrier(CLK_LOCAL_MEM_FENCE); - // TODO суммируем редукцией все что есть в dist2_for_reduction int step = NDIM / 2; while (step > 0) { if (dim_id < step) { - // TODO + dist2_for_reduction[dim_id] += dist2_for_reduction[dim_id + step]; } barrier(CLK_LOCAL_MEM_FENCE); step /= 2; @@ -63,28 +67,32 @@ __kernel void bruteforce_matcher(__global const float* train, #define SECOND_BEST_INDEX 1 // пытаемся улучшить самое лучшее сопоставление для локального дескриптора - if (dist2 <= res_distance2_local[query_local_i * 2 + BEST_INDEX]) { + if (dist2 < res_distance2_local[query_local_i * 2 + BEST_INDEX]) { // не забываем что прошлое лучшее сопоставление теперь стало вторым по лучшевизне (на данный момент) res_distance2_local[query_local_i * 2 + SECOND_BEST_INDEX] = res_distance2_local[query_local_i * 2 + BEST_INDEX]; res_train_idx_local[query_local_i * 2 + SECOND_BEST_INDEX] = res_train_idx_local[query_local_i * 2 + BEST_INDEX]; - // TODO заменяем нашим (dist2, train_idx) самое лучшее сопоставление для локального дескриптора - } else if (dist2 <= res_distance2_local[query_local_i * 2 + SECOND_BEST_INDEX]) { // может мы улучшили хотя бы второе по лучшевизне сопоставление? - // TODO заменяем второе по лучшевизне сопоставление для локального дескриптора + + res_distance2_local[query_local_i * 2 + BEST_INDEX] = dist2; + res_train_idx_local[query_local_i * 2 + BEST_INDEX] = train_idx; + } else if (dist2 < res_distance2_local[query_local_i * 2 + SECOND_BEST_INDEX]) { // может мы улучшили хотя бы второе по лучшевизне сопоставление? + res_distance2_local[query_local_i * 2 + SECOND_BEST_INDEX] = dist2; + res_train_idx_local[query_local_i * 2 + SECOND_BEST_INDEX] = train_idx; } } } } + barrier(CLK_LOCAL_MEM_FENCE); - // итак, мы нашли два лучших сопоставления для наших KEYPOINTS_PER_WG дескрипторов, надо сохрнить эти результаты в глобальную память + // итак, мы нашли два лучших сопоставления для наших KEYPOINTS_PER_WG дескрипторов, надо сохранить эти результаты в глобальную память if (dim_id < KEYPOINTS_PER_WG * 2) { // полагаемся на то что нам надо прогрузить KEYPOINTS_PER_WG*2==4*2 #include +#include #include "flann_factory.h" void phg::DescriptorMatcher::filterMatchesRatioTest(const std::vector> &matches, std::vector &filtered_matches) { filtered_matches.clear(); + + const float ratio = 0.75; - throw std::runtime_error("not implemented yet"); + filtered_matches.reserve(matches.size()); + for (const auto& match: matches) { + if (match.size() > 1 && match[0].distance <= match[1].distance * ratio) { + filtered_matches.push_back(match[0]); + } + } +} + +void phg::DescriptorMatcher::filterMatchesLeftRightTest(const std::vector &left_matches, + const std::vector &right_matches, + std::vector &filtered_matches) +{ + filtered_matches.clear(); + + filtered_matches.reserve(std::min(left_matches.size(), right_matches.size())); + + std::unordered_map left2right; + left2right.reserve(left_matches.size()); + + for (const auto& match: left_matches) { + left2right[match.queryIdx] = match.trainIdx; + } + + for (const auto& match: right_matches) { + if (left2right[match.trainIdx] == match.queryIdx) { + auto res = match; + std::swap(res.queryIdx, res.trainIdx); + filtered_matches.push_back(std::move(res)); + } + } } @@ -35,42 +68,60 @@ void phg::DescriptorMatcher::filterMatchesClusters(const std::vector points_query.at(i) = keypoints_query[matches[i].queryIdx].pt; points_train.at(i) = keypoints_train[matches[i].trainIdx].pt; } -// -// // размерность всего 2, так что точное KD-дерево -// std::shared_ptr index_params = flannKdTreeIndexParams(TODO); -// std::shared_ptr search_params = flannKsTreeSearchParams(TODO); -// -// std::shared_ptr index_query = flannKdTreeIndex(points_query, index_params); -// std::shared_ptr index_train = flannKdTreeIndex(points_train, index_params); -// -// // для каждой точки найти total neighbors ближайших соседей -// cv::Mat indices_query(n_matches, total_neighbours, CV_32SC1); -// cv::Mat distances2_query(n_matches, total_neighbours, CV_32FC1); -// cv::Mat indices_train(n_matches, total_neighbours, CV_32SC1); -// cv::Mat distances2_train(n_matches, total_neighbours, CV_32FC1); -// -// index_query->knnSearch(points_query, indices_query, distances2_query, total_neighbours, *search_params); -// index_train->knnSearch(points_train, indices_train, distances2_train, total_neighbours, *search_params); -// -// // оценить радиус поиска для каждой картинки -// // NB: radius2_query, radius2_train: квадраты радиуса! -// float radius2_query, radius2_train; -// { -// std::vector max_dists2_query(n_matches); -// std::vector max_dists2_train(n_matches); -// for (int i = 0; i < n_matches; ++i) { -// max_dists2_query[i] = distances2_query.at(i, total_neighbours - 1); -// max_dists2_train[i] = distances2_train.at(i, total_neighbours - 1); -// } -// -// int median_pos = n_matches / 2; -// std::nth_element(max_dists2_query.begin(), max_dists2_query.begin() + median_pos, max_dists2_query.end()); -// std::nth_element(max_dists2_train.begin(), max_dists2_train.begin() + median_pos, max_dists2_train.end()); -// -// radius2_query = max_dists2_query[median_pos] * radius_limit_scale * radius_limit_scale; -// radius2_train = max_dists2_train[median_pos] * radius_limit_scale * radius_limit_scale; -// } -// -// метч остается, если левое и правое множества первых total_neighbors соседей в радиусах поиска(radius2_query, radius2_train) имеют как минимум consistent_matches общих элементов -// // TODO заполнить filtered_matches + + // размерность всего 2, так что точное KD-дерево + std::shared_ptr index_params = flannKdTreeIndexParams(1); + std::shared_ptr search_params = flannKsTreeSearchParams(std::numeric_limits::max()); + + std::shared_ptr index_query = flannKdTreeIndex(points_query, index_params); + std::shared_ptr index_train = flannKdTreeIndex(points_train, index_params); + + // для каждой точки найти total neighbors ближайших соседей + cv::Mat indices_query(n_matches, total_neighbours, CV_32SC1); + cv::Mat distances2_query(n_matches, total_neighbours, CV_32FC1); + cv::Mat indices_train(n_matches, total_neighbours, CV_32SC1); + cv::Mat distances2_train(n_matches, total_neighbours, CV_32FC1); + + index_query->knnSearch(points_query, indices_query, distances2_query, total_neighbours, *search_params); + index_train->knnSearch(points_train, indices_train, distances2_train, total_neighbours, *search_params); + + // оценить радиус поиска для каждой картинки + // NB: radius2_query, radius2_train: квадраты радиуса! + float radius2_query, radius2_train; + { + std::vector max_dists2_query(n_matches); + std::vector max_dists2_train(n_matches); + for (int i = 0; i < n_matches; ++i) { + max_dists2_query[i] = distances2_query.at(i, total_neighbours - 1); + max_dists2_train[i] = distances2_train.at(i, total_neighbours - 1); + } + + int median_pos = n_matches / 2; + std::nth_element(max_dists2_query.begin(), max_dists2_query.begin() + median_pos, max_dists2_query.end()); + std::nth_element(max_dists2_train.begin(), max_dists2_train.begin() + median_pos, max_dists2_train.end()); + + radius2_query = max_dists2_query[median_pos] * radius_limit_scale * radius_limit_scale; + radius2_train = max_dists2_train[median_pos] * radius_limit_scale * radius_limit_scale; + } + + // метч остается, если левое и правое множества первых total_neighbors соседей в радиусах поиска(radius2_query, radius2_train) имеют как минимум consistent_matches общих элементов + filtered_matches.reserve(n_matches); + for (size_t i = 0; i < n_matches; ++i) { + std::unordered_set queryNeighbours; + queryNeighbours.reserve(total_neighbours); + for (size_t j = 0; j < total_neighbours && distances2_query.at(i, j) <= radius2_query; ++j) { + queryNeighbours.insert(indices_query.at(i, j)); + } + + size_t intersectionSize = 0; + for (size_t j = 0; j < total_neighbours && distances2_train.at(i, j) <= radius2_train; ++j) { + if (queryNeighbours.count(indices_train.at(i, j))) { + ++intersectionSize; + } + } + + if (intersectionSize >= consistent_matches) { + filtered_matches.push_back(matches[i]); + } + } } diff --git a/src/phg/matching/descriptor_matcher.h b/src/phg/matching/descriptor_matcher.h index d7600bc2..862d7b7f 100644 --- a/src/phg/matching/descriptor_matcher.h +++ b/src/phg/matching/descriptor_matcher.h @@ -11,6 +11,10 @@ namespace phg { static void filterMatchesRatioTest(const std::vector> &matches, std::vector &filtered_matches); + static void filterMatchesLeftRightTest(const std::vector &left_matches, + const std::vector &right_matches, + std::vector &filtered_matches); + static void filterMatchesClusters(const std::vector &matches, const std::vector keypoints_query, const std::vector keypoints_train, diff --git a/src/phg/matching/flann_matcher.cpp b/src/phg/matching/flann_matcher.cpp index 9e9f5180..fd92adbf 100644 --- a/src/phg/matching/flann_matcher.cpp +++ b/src/phg/matching/flann_matcher.cpp @@ -6,8 +6,8 @@ phg::FlannMatcher::FlannMatcher() { // параметры для приближенного поиска -// index_params = flannKdTreeIndexParams(TODO); -// search_params = flannKsTreeSearchParams(TODO); + index_params = flannKdTreeIndexParams(4); + search_params = flannKsTreeSearchParams(32); } void phg::FlannMatcher::train(const cv::Mat &train_desc) @@ -17,5 +17,20 @@ void phg::FlannMatcher::train(const cv::Mat &train_desc) void phg::FlannMatcher::knnMatch(const cv::Mat &query_desc, std::vector> &matches, int k) const { - throw std::runtime_error("not implemented yet"); + cv::Mat indices; + cv::Mat dists; + flann_index->knnSearch(query_desc, indices, dists, k, *search_params); + + matches.resize(query_desc.rows); + for (size_t i = 0; i != indices.rows; ++i) { + auto &row = matches[i]; + row.reserve(k); + for (size_t j = 0; j != indices.cols; ++j) { + cv::DMatch match; + match.queryIdx = i; + match.trainIdx = indices.at(i, j); + match.distance = std::sqrt(dists.at(i, j)); + row.push_back(match); + } + } } diff --git a/src/phg/sfm/homography.cpp b/src/phg/sfm/homography.cpp index 5cbc780c..1f9b8fd7 100644 --- a/src/phg/sfm/homography.cpp +++ b/src/phg/sfm/homography.cpp @@ -84,8 +84,8 @@ namespace { double w1 = ws1[i]; // 8 elements of matrix + free term as needed by gauss routine -// A.push_back({TODO}); -// A.push_back({TODO}); + A.push_back({x0, y0, w0, 0.0, 0.0, 0.0, -x1 * x0, -x1 * y0, x1 * w0}); + A.push_back({0.0, 0.0, 0.0, x0, y0, w0, -y1 * x0, -y1 * y0, y1 * w0}); } int res = gauss(A, H); @@ -168,57 +168,59 @@ namespace { // * (простое описание для понимания) // * [3] http://ikrisoft.blogspot.com/2015/01/ransac-with-contrario-approach.html -// const int n_matches = points_lhs.size(); -// -// // https://en.wikipedia.org/wiki/Random_sample_consensus#Parameters -// const int n_trials = TODO; -// -// const int n_samples = TODO; -// uint64_t seed = 1; -// const double reprojection_error_threshold_px = 2; -// -// int best_support = 0; -// cv::Mat best_H; -// -// std::vector sample; -// for (int i_trial = 0; i_trial < n_trials; ++i_trial) { -// randomSample(sample, n_matches, n_samples, &seed); -// -// cv::Mat H = estimateHomography4Points(points_lhs[sample[0]], points_lhs[sample[1]], points_lhs[sample[2]], points_lhs[sample[3]], -// points_rhs[sample[0]], points_rhs[sample[1]], points_rhs[sample[2]], points_rhs[sample[3]]); -// -// int support = 0; -// for (int i_point = 0; i_point < n_matches; ++i_point) { -// try { -// cv::Point2d proj = phg::transformPoint(points_lhs[i_point], H); -// if (cv::norm(proj - cv::Point2d(points_rhs[i_point])) < reprojection_error_threshold_px) { -// ++support; -// } -// } catch (const std::exception &e) -// { -// std::cerr << e.what() << std::endl; -// } -// } -// -// if (support > best_support) { -// best_support = support; -// best_H = H; -// -// std::cout << "estimateHomographyRANSAC : support: " << best_support << "/" << n_matches << std::endl; -// -// if (best_support == n_matches) { -// break; -// } -// } -// } -// -// std::cout << "estimateHomographyRANSAC : best support: " << best_support << "/" << n_matches << std::endl; -// -// if (best_support == 0) { -// throw std::runtime_error("estimateHomographyRANSAC : failed to estimate homography"); -// } -// -// return best_H; + const int n_matches = points_lhs.size(); + + // https://en.wikipedia.org/wiki/Random_sample_consensus#Parameters + const int n_samples = 4; + const double w = 0.5; + const double p = 0.999; + const int n_trials = std::ceil(std::log(1 - p) / std::log(1 - std::pow(w, n_samples))); + + uint64_t seed = 1; + const double reprojection_error_threshold_px = 2; + + int best_support = 0; + cv::Mat best_H; + + std::vector sample; + for (int i_trial = 0; i_trial < n_trials; ++i_trial) { + randomSample(sample, n_matches, n_samples, &seed); + + cv::Mat H = estimateHomography4Points(points_lhs[sample[0]], points_lhs[sample[1]], points_lhs[sample[2]], points_lhs[sample[3]], + points_rhs[sample[0]], points_rhs[sample[1]], points_rhs[sample[2]], points_rhs[sample[3]]); + + int support = 0; + for (int i_point = 0; i_point < n_matches; ++i_point) { + try { + cv::Point2d proj = phg::transformPoint(points_lhs[i_point], H); + if (cv::norm(proj - cv::Point2d(points_rhs[i_point])) < reprojection_error_threshold_px) { + ++support; + } + } catch (const std::exception &e) + { + std::cerr << e.what() << std::endl; + } + } + + if (support > best_support) { + best_support = support; + best_H = H; + + std::cout << "estimateHomographyRANSAC : support: " << best_support << "/" << n_matches << std::endl; + + if (best_support == n_matches) { + break; + } + } + } + + std::cout << "estimateHomographyRANSAC : best support: " << best_support << "/" << n_matches << std::endl; + + if (best_support == 0) { + throw std::runtime_error("estimateHomographyRANSAC : failed to estimate homography"); + } + + return best_H; } } @@ -238,7 +240,10 @@ cv::Mat phg::findHomographyCV(const std::vector &points_lhs, const // таким преобразованием внутри занимается функции cv::perspectiveTransform и cv::warpPerspective cv::Point2d phg::transformPoint(const cv::Point2d &pt, const cv::Mat &T) { - throw std::runtime_error("not implemented yet"); + double x = T.at(0, 0) * pt.x + T.at(0, 1) * pt.y + T.at(0, 2); + double y = T.at(1, 0) * pt.x + T.at(1, 1) * pt.y + T.at(1, 2); + double w = T.at(2, 0) * pt.x + T.at(2, 1) * pt.y + T.at(2, 2); + return {x / w, y / w}; } cv::Point2d phg::transformPointCV(const cv::Point2d &pt, const cv::Mat &T) { diff --git a/src/phg/sfm/panorama_stitcher.cpp b/src/phg/sfm/panorama_stitcher.cpp index 8d76939b..e284c541 100644 --- a/src/phg/sfm/panorama_stitcher.cpp +++ b/src/phg/sfm/panorama_stitcher.cpp @@ -23,7 +23,25 @@ cv::Mat phg::stitchPanorama(const std::vector &imgs, { // здесь надо посчитать вектор Hs // при этом можно обойтись n_images - 1 вызовами функтора homography_builder - throw std::runtime_error("not implemented yet"); + std::vector visited(n_images, false); + const auto func = [&](const auto& func, size_t idx){ + if (visited[idx]) { + return Hs[idx]; + } + visited[idx] = true; + + if (parent[idx] == -1) { + Hs[idx] = cv::Mat::eye(3, 3, CV_64FC1); + return Hs[idx]; + } + + Hs[idx] = homography_builder(imgs[idx], imgs[parent[idx]]) * func(func, parent[idx]); + return Hs[idx]; + }; + + for (size_t i = 0; i < n_images; ++i) { + func(func, i); + } } bbox2 bbox; diff --git a/src/phg/sift/sift.cpp b/src/phg/sift/sift.cpp index 72047711..ccfe3bd0 100755 --- a/src/phg/sift/sift.cpp +++ b/src/phg/sift/sift.cpp @@ -108,16 +108,16 @@ std::vector phg::buildOctaves(const cv::Mat& img, const phg:: // можно подумать, как сделать эффективнее - для построения n+1 слоя доблюревать уже поблюренный n-ый слой, так чтобы в итоге получилась такая же сигма // это будет немного быстрее, тк нужно более маленькое ядро свертки на каждый шаг for (int i = 1; i < n_layers; i++) { - // TODO double sigma_layer = sigma0 * корень из двух нужной степени, чтобы при i==s получали удвоение базового блюра; + double sigma_layer = sigma0 * std::pow(2.0, static_cast(i) / s); // // вычтем sigma0 чтобы размыть ровно до нужной суммарной сигмы - // TODO sigma_layer = ... (вычитаем как в sigma base); - // cv::GaussianBlur(oct.layers[0], oct.layers[i], cv::Size(), sigma_layer, sigma_layer); + sigma_layer = std::sqrt(sigma_layer * sigma_layer - sigma0 * sigma0); + cv::GaussianBlur(oct.layers[0], oct.layers[i], cv::Size(), sigma_layer, sigma_layer); } // подготавливаем базовый слой для следующей октавы if (o + 1 < n_octaves) { // используется в opencv, формула для пересчета ключевых точек: pt_upscaled = 2^o * pt_downscaled - // TODO cv::resize(даунскейлим текущий слой в два раза, без интерполяции, просто сабсепмлинг); + base = downsample2x(oct.layers[s]); // можно использовать и downsample2x_avg(oct.layers[s]), это позволяет потом заапскейлить слои обратно до оригинального разрешения без сдвига // но потребуется везде изменить формулу для пересчета ключевых точек: pt_upscaled = (pt_downscaled + 0.5) * 2^o - 0.5 @@ -138,7 +138,9 @@ std::vector phg::buildDoG(const std::vector phg::findScaleSpaceExtrema(const std::vector phg::findScaleSpaceExtrema(const std::vector(yi, xi) - pL.at(yi, xi)) * 0.5f; // гессиан - float dxx, dxy, dyy, dxs, dys, dss; -// float dxx = cL.at(yi, xi + 1) + cL.at(yi, xi - 1) - 2.f * resp_center; -// float dyy = TODO; -// float dss = TODO; -// -// float dxy = (cL.at(yi + 1, xi + 1) - cL.at(yi + 1, xi - 1) - cL.at(yi - 1, xi + 1) + cL.at(yi - 1, xi - 1)) * 0.25f; -// float dxs = TODO; -// float dys = TODO; + float dxx = cL.at(yi, xi + 1) + cL.at(yi, xi - 1) - 2.f * resp_center; + float dyy = cL.at(yi + 1, xi) + cL.at(yi - 1, xi) - 2.f * resp_center; + float dss = nL.at(yi, xi) + pL.at(yi, xi) - 2.f * resp_center; + + float dxy = (cL.at(yi + 1, xi + 1) - cL.at(yi + 1, xi - 1) - cL.at(yi - 1, xi + 1) + cL.at(yi - 1, xi - 1)) * 0.25f; + float dxs = (nL.at(yi, xi + 1) - nL.at(yi, xi - 1) - pL.at(yi, xi + 1) + pL.at(yi, xi - 1)) * 0.25f; + float dys = (nL.at(yi + 1, xi) - nL.at(yi + 1, xi) - pL.at(yi - 1, xi) + pL.at(yi - 1, xi)) * 0.25f; cv::Matx33f H(dxx, dxy, dxs, dxy, dyy, dys, dxs, dys, dss); @@ -273,21 +306,21 @@ std::vector phg::findScaleSpaceExtrema(const std::vector (r + 1) * (r + 1) / r) + break; } // скейлим координаты точек обратно до родных размеров картинки @@ -379,39 +412,39 @@ std::vector phg::computeOrientations(const std::vector(py, px + 1) - img.at(py, px - 1); -// float gy = img.at(py + 1, px) - img.at(py - 1, px); -// -// float mag = TODO; -// float angle = std::atan2(TODO); // [-pi, pi] -// -// float angle_deg = angle * 180.f / (float) CV_PI; -// if (angle_deg < 0.f) angle_deg += 360.f; -// -// // гауссово взвешивание голоса точки с затуханием к краям -// float weight = std::exp(-(TODO) / (2.f * sigma_win * sigma_win)); -// if (!params.enable_orientation_gaussian_weighting) { -// weight = 1.f; -// } -// -// // голосуем в гистограмме направлений. находим два ближайших бина и гладко распределяем голос между ними -// // в таком случае, голос попавший близко к границе между бинами, проголосует поровну за оба бина -// float bin = TODO; -// if (bin >= n_bins) bin -= n_bins; -// int bin0 = (int) bin; -// int bin1 = (bin0 + 1) % n_bins; -// -// float frac = bin - bin0; -// if (!params.enable_orientation_bin_interpolation) { -// frac = 0.f; -// } -// -// histogram[bin0] += TODO; -// histogram[bin1] += TODO; + int px = xi + dx; + int py = yi + dy; + + // градиент + float gx = img.at(py, px + 1) - img.at(py, px - 1); + float gy = img.at(py + 1, px) - img.at(py - 1, px); + + float mag = std::sqrt(gx * gx + gy * gy); + float angle = std::atan2(gy, gx); // [-pi, pi] + + float angle_deg = angle * 180.f / (float) CV_PI; + if (angle_deg < 0.f) angle_deg += 360.f; + + // гауссово взвешивание голоса точки с затуханием к краям + float weight = std::exp(-(dx * dx + dy * dy) / (2.f * sigma_win * sigma_win)); + if (!params.enable_orientation_gaussian_weighting) { + weight = 1.f; + } + + // голосуем в гистограмме направлений. находим два ближайших бина и гладко распределяем голос между ними + // в таком случае, голос попавший близко к границе между бинами, проголосует поровну за оба бина + float bin = n_bins * angle_deg / 360.0; + if (bin >= n_bins) bin -= n_bins; + int bin0 = (int) bin; + int bin1 = (bin0 + 1) % n_bins; + + float frac = bin - bin0; + if (!params.enable_orientation_bin_interpolation) { + frac = 0.f; + } + + histogram[bin0] += (1.0 - frac) * mag * weight; + histogram[bin1] += frac * mag * weight; } } @@ -450,20 +483,20 @@ std::vector phg::computeOrientations(const std::vector a = (left + right - 2 * center) / 2 // f(1) - f(-1) = 2b -> b = (right - left) / 2 -// float offset = TODO; -// if (!params.enable_orientation_subpixel_localization) { -// offset = 0.f; -// } -// -// float bin_real = i + offset; -// if (bin_real < 0.f) bin_real += n_bins; -// if (bin_real >= n_bins) bin_real -= n_bins; -// -// float angle = bin_real * 360.f / n_bins; -// -// cv::KeyPoint new_kp = kp; -// new_kp.angle = angle; -// oriented_kpts.push_back(new_kp); + float offset = -(right - left) / (2 * (left + right - 2 * center)); + if (!params.enable_orientation_subpixel_localization) { + offset = 0.f; + } + + float bin_real = i + offset; + if (bin_real < 0.f) bin_real += n_bins; + if (bin_real >= n_bins) bin_real -= n_bins; + + float angle = bin_real * 360.f / n_bins; + + cv::KeyPoint new_kp = kp; + new_kp.angle = angle; + oriented_kpts.push_back(new_kp); } } } @@ -574,11 +607,11 @@ std::pair> phg::computeDescriptors(const std: bin_o -= n_orient_bins; // семплы вблизи края патча взвешиваем с меньшим весом -// float weight = std::exp(-(TODO) / (2.f * sigma_desc * sigma_desc)); -// if (!params.enable_descriptor_gaussian_weighting) { -// weight = 1.f; -// } -// float weighted_mag = mag * weight; + float weight = std::exp(-(rot_x * rot_x + rot_y * rot_y) / (2.f * sigma_desc * sigma_desc)); + if (!params.enable_descriptor_gaussian_weighting) { + weight = 1.f; + } + float weighted_mag = mag * weight; if (params.enable_descriptor_bin_interpolation) { // размажем вклад weighted_mag по пространственным бинам и по бинам гистограммок трилинейной интерполяцией @@ -609,8 +642,8 @@ std::pair> phg::computeDescriptors(const std: io += n_orient_bins; float wo = (dio == 0) ? (1.f - fo) : fo; -// int idx = TODO; -// desc[idx] += TODO; + int idx = (iy * n_spatial_bins + ix) * n_orient_bins + io; + desc[idx] += weighted_mag * wx * wy * wo; } } } @@ -620,9 +653,8 @@ std::pair> phg::computeDescriptors(const std: int io_nearest = (int)std::round(bin_o) % n_orient_bins; if (ix_nearest >= 0 && ix_nearest < n_spatial_bins && iy_nearest >= 0 && iy_nearest < n_spatial_bins) { - // TODO uncomment -// int idx = (iy_nearest * n_spatial_bins + ix_nearest) * n_orient_bins + io_nearest; -// desc[idx] += weighted_mag; + int idx = (iy_nearest * n_spatial_bins + ix_nearest) * n_orient_bins + io_nearest; + desc[idx] += weighted_mag; } } } @@ -729,9 +761,6 @@ void phg::SIFT::detectAndCompute(const cv::Mat& img, const cv::Mat& mask, std::v } std::tie(desc, kpts) = computeDescriptors(kpts, octaves, p, verbose_level); - - // TODO всегда ли мы получаем ровно столько точек сколько запросили в параметре nfeatures? в каких случаях это не так и в какую сторону? - // как подкрутить алгоритм, чтобы всегда выдавать ровно запрошенное количество точек (когда это в принципе возможно) но не сильно просесть в производительности? } void phg::SIFT::saveImg(const std::string& name, const cv::Mat& img) const diff --git a/tests/test_matching.cpp b/tests/test_matching.cpp index adaac65e..4758ee01 100644 --- a/tests/test_matching.cpp +++ b/tests/test_matching.cpp @@ -19,9 +19,9 @@ // TODO enable both toggles for testing custom detector & matcher -#define ENABLE_MY_DESCRIPTOR 0 -#define ENABLE_MY_MATCHING 0 -#define ENABLE_GPU_BRUTEFORCE_MATCHER 0 +#define ENABLE_MY_DESCRIPTOR 1 +#define ENABLE_MY_MATCHING 1 +#define ENABLE_GPU_BRUTEFORCE_MATCHER 1 // TODO disable for local testing but do not commit #define SERVER_TESTING 1 @@ -86,6 +86,22 @@ namespace { #if ENABLE_MY_MATCHING phg::DescriptorMatcher::filterMatchesRatioTest(knn_matches, good_matches); + std::vector> right_knn_matches; + { + phg::FlannMatcher rightMatcher; + rightMatcher.train(descriptors1); + rightMatcher.knnMatch(descriptors2, right_knn_matches, 2); + + std::vector right_good_matches(right_knn_matches.size()); + for (int i = 0; i < (int) right_knn_matches.size(); ++i) { + right_good_matches[i] = right_knn_matches[i][0]; + } + phg::DescriptorMatcher::filterMatchesRatioTest(right_knn_matches, right_good_matches); + + std::vector tmp; + phg::DescriptorMatcher::filterMatchesLeftRightTest(good_matches, right_good_matches, tmp); + std::swap(tmp, good_matches); + } { std::vector tmp; phg::DescriptorMatcher::filterMatchesClusters(good_matches, keypoints1, keypoints2, tmp); @@ -138,6 +154,22 @@ namespace { #if ENABLE_MY_MATCHING phg::DescriptorMatcher::filterMatchesRatioTest(knn_matches, good_matches); + std::vector> right_knn_matches; + { + phg::FlannMatcher rightMatcher; + rightMatcher.train(descriptors1); + rightMatcher.knnMatch(descriptors2, right_knn_matches, 2); + + std::vector right_good_matches(right_knn_matches.size()); + for (int i = 0; i < (int) right_knn_matches.size(); ++i) { + right_good_matches[i] = right_knn_matches[i][0]; + } + phg::DescriptorMatcher::filterMatchesRatioTest(right_knn_matches, right_good_matches); + + std::vector tmp; + phg::DescriptorMatcher::filterMatchesLeftRightTest(good_matches, right_good_matches, tmp); + std::swap(tmp, good_matches); + } { std::vector tmp; phg::DescriptorMatcher::filterMatchesClusters(good_matches, keypoints1, keypoints2, tmp); @@ -388,6 +420,27 @@ namespace { phg::DescriptorMatcher::filterMatchesRatioTest(knn_matches_flann, good_matches_ratio); drawMatches(img1, img2, keypoints1, keypoints2, good_matches_ratio, "data/debug/test_matching/" + getTestSuiteName() + "_" + getTestName() + "_" + "01_matches_ratio.png"); + std::cout << "filtering matches by left right..." << std::endl; + std::vector good_matches_left_right; + std::vector> right_knn_matches; + { + phg::FlannMatcher rightMatcher; + rightMatcher.train(descriptors1); + rightMatcher.knnMatch(descriptors2, right_knn_matches, 2); + + std::vector right_good_matches(right_knn_matches.size()); + for (int i = 0; i < (int) right_knn_matches.size(); ++i) { + right_good_matches[i] = right_knn_matches[i][0]; + } + phg::DescriptorMatcher::filterMatchesRatioTest(right_knn_matches, right_good_matches); + + std::vector tmp; + phg::DescriptorMatcher::filterMatchesLeftRightTest(good_matches_ratio, right_good_matches, tmp); + std::swap(tmp, good_matches_left_right); + } + drawMatches(img1, img2, keypoints1, keypoints2, good_matches_left_right, "data/debug/test_matching/" + getTestSuiteName() + "_" + getTestName() + "_" + "02_matches_left_right.png"); + + std::cout << "filtering matches by clusters..." << std::endl; std::vector good_matches_clusters_only; phg::DescriptorMatcher::filterMatchesClusters(good_matches_nn, keypoints1, keypoints2, good_matches_clusters_only); @@ -395,7 +448,7 @@ namespace { std::cout << "filtering matches by ratio & clusters" << std::endl; std::vector good_matches_clusters_and_ratio; - phg::DescriptorMatcher::filterMatchesClusters(good_matches_ratio, keypoints1, keypoints2, good_matches_clusters_and_ratio); + phg::DescriptorMatcher::filterMatchesClusters(good_matches_left_right, keypoints1, keypoints2, good_matches_clusters_and_ratio); drawMatches(img1, img2, keypoints1, keypoints2, good_matches_clusters_and_ratio, "data/debug/test_matching/" + getTestSuiteName() + "_" + getTestName() + "_" + "04_matches_clusters_and_ratio.png"); #else std::vector good_matches_clusters_and_ratio; @@ -786,6 +839,22 @@ namespace { } phg::DescriptorMatcher::filterMatchesRatioTest(knn_matches, good_matches); + std::vector> right_knn_matches; + { + phg::FlannMatcher rightMatcher; + rightMatcher.train(descriptors1); + rightMatcher.knnMatch(descriptors2, right_knn_matches, 2); + + std::vector right_good_matches(right_knn_matches.size()); + for (int i = 0; i < (int) right_knn_matches.size(); ++i) { + right_good_matches[i] = right_knn_matches[i][0]; + } + phg::DescriptorMatcher::filterMatchesRatioTest(right_knn_matches, right_good_matches); + + std::vector tmp; + phg::DescriptorMatcher::filterMatchesLeftRightTest(good_matches, right_good_matches, tmp); + std::swap(tmp, good_matches); + } { std::vector tmp; diff --git a/tests/test_sift.cpp b/tests/test_sift.cpp index cf3bd7df..f2a5904e 100755 --- a/tests/test_sift.cpp +++ b/tests/test_sift.cpp @@ -25,10 +25,7 @@ #define GAUSSIAN_NOISE_STDDEV 1.0 -// TODO ENABLE ME -// TODO ENABLE ME -// TODO ENABLE ME -#define ENABLE_MY_SIFT_TESTING 0 +#define ENABLE_MY_SIFT_TESTING 1 #define DENY_CREATE_REF_DATA 1