Нет вычислений в процессе применения фильтра нижних частот (AxB) к изображению размером NxM.

Для этого существует множество методов, начиная от свертки и заканчивая анализом Фурье.

Если вы хотите выполнить свертку, вам нужно пройтись по изображению I(mn) с маской M(AB). учитывая, что вы работаете только с внутренними частями изображения, вы примерно будете выполнять операцию (N-A)(MB)(A*B*2).

Фильтрация Фурье, которую я должен посмотреть лучше, но на больших изображениях намного эффективнее.