Как эффективно хранить треугольную матрицу в памяти?

mat1 = calloc(dim,sizeof(int*));

mat1 - это двойной указатель. Вам нужно выделить память для вашего массива указателей, а позже вам нужно выделить память для каждого из ваших указателей по отдельности. Нет необходимости приводить calloc()

Если вы хотите сэкономить место и накладные расходы на выделение каждой строки матрицы, вы можете реализовать треугольную матрицу, используя умную индексацию одного массива.

Нижняя треугольная матрица (включая диагонали) обладает следующими свойствами:

Dimension   Matrix    Elements/row   Total elements
1           x . . .   1              1
2           x x . .   2              3
3           x x x .   3              6
4           x x x x   4              10
...

Общее количество элементов для данного измерения равно:

size(d) = 1 + 2 + 3 + ... + d  =  (d+1)(d/2)

Если вы расположите строки последовательно в одном массиве, вы можете использовать приведенную выше формулу для вычисления смещения заданной строки и столбца (оба отсчитываются от нуля) внутри матрицы:

index(r,c) = size(r-1) + c

Приведенные выше формулы относятся к нижней треугольной матрице. Вы можете получить доступ к верхней матрице, как если бы это была нижняя матрица, просто поменяв местами индексы:

index((d-1)-r, (d-1)-c)

Если у вас есть опасения по поводу изменения ориентации массива, вы можете разработать другой расчет смещения для верхнего массива, например:

uindex(r,c) = size(d)-size(d-r) + c-r

Образец кода:

#include <time.h>
#include <stdio.h>
#include <stdlib.h>

#define TRM_SIZE(dim) (((dim)*(dim+1))/2)
#define TRM_OFFSET(r,c) (TRM_SIZE((r)-1)+(c))
#define TRM_INDEX(m,r,c) ((r)<(c) ? 0 : (m)[TRM_OFFSET((r),(c))])
#define TRM_UINDEX(m,r,c,d) ((r)>(c)?0:(m)[TRM_SIZE(d)-TRM_SIZE((d)-(r))+(c)-(r)])
#define UMACRO 0


int main (void)
{
  int i, j, k, dimension;
  int *ml, *mu, *mr;

  printf ("Enter dimension: ");
  if (!scanf ("%2d", &dimension)) {
    return 1;
  }

  ml = calloc (TRM_SIZE(dimension), sizeof *ml);
  mu = calloc (TRM_SIZE(dimension), sizeof *mu);
  mr = calloc (dimension*dimension, sizeof *mr);
  if (!ml || !mu || !mr) {
    free (ml);
    free (mu);
    free (mr);
    return 2;
  }

  /* Initialization */

  srand (time (0));
  for (i = 0; i < TRM_SIZE(dimension); i++) {
    ml[i] = 100.0*rand() / RAND_MAX;
    mu[i] = 100.0*rand() / RAND_MAX;
  }

  /* Multiplication */

  for (i = 0; i < dimension; i++) {
    for (j = 0; j < dimension; j++) {
      for (k = 0; k < dimension; k++) {
        mr[i*dimension + j] +=
#if UMACRO
          TRM_INDEX(ml, i, k) *
          TRM_UINDEX(mu, k, j, dimension);
#else
          TRM_INDEX(ml, i, k) *
          TRM_INDEX(mu, dimension-1-k, dimension-1-j);
#endif
      }
    }
  }

  /* Output */

  puts ("Lower array");
  for (i = 0; i < dimension; i++) {
    for (j = 0; j < dimension; j++) {
      printf (" %2d", TRM_INDEX(ml, i, j));
    }
    putchar ('\n');
  }
  puts ("Upper array");
  for (i = 0; i < dimension; i++) {
    for (j = 0; j < dimension; j++) {
#if UMACRO
      printf (" %2d", TRM_UINDEX(mu, i, j, dimension));
#else
      printf (" %2d", TRM_INDEX(mu, dimension-1-i, dimension-1-j));
#endif
    }
    putchar ('\n');
  }
  puts ("Result");
  for (i = 0; i < dimension; i++) {
    for (j = 0; j < dimension; j++) {
      printf (" %5d", mr[i*dimension + j]);
    }
    putchar ('\n');
  }

  free (mu);
  free (ml);
  free (mr);

  return 0;
}

Обратите внимание, что это тривиальный пример. Вы можете расширить его, чтобы обернуть указатель матрицы внутри структуры, которая также хранит тип матрицы (верхняя или нижняя треугольная или квадратная) и размеры, и написать функции доступа, которые работают соответствующим образом в зависимости от типа матрицы.

Для любого нетривиального использования матриц вам, вероятно, следует использовать стороннюю библиотеку, которая специализируется на матрицах.

Вы разыменовываете mat1 в строке 8 еще до того, как он будет установлен в любом месте. Вы выделяете массив указателей на int, но вы назначаете его не mat1, а разыменованию mat1, который не инициализирован, и мы не знаем, на что он указывает.

Итак, эта строка:

// ERROR: You are saying an unknown memory location should have the value of calloc.
*mat1 = (int**)calloc(dim,sizeof(int*));

Следует изменить на:

// OK: Now you are assigning the allocation to the pointer variable.
mat1 = (int**)calloc(dim,sizeof(int*));