Lo que me complica es al momento de transformar la Matriz A a identidad y a su vez ir haciendo los mismos cálculos en la matriz B para calcular la inversa.
Les dejo lo que llevo de codigo
Código
#include <stdio.h> int main(){ int n,m,i,j,b=1,c1=0,det,a; int A[n][m]; for(i=0;i<n;i++){ for(j=0;j<m;j++){ } } for(j=0;j<m;j++){ for(i=0;i<n;i++){ a=i+j; if(a>=m){ a=a-m; } b=b*A[i][a]; } c1=c1+b; } int b1=1,c2=0; for(j=0;j<m;j++){ for(i=0;i<n;i++){ a=i-1; if(a<0){ a=a+m; } b1=b1*A[i][a]; } c2=c2+b1; } det=c1-c2; if(det==0){ } else{ int B[n][m]; for(j=0;j<m;j++){ for(i=0;i<n;i++){ if(i==j){ B[i][j]=1; } else{ B[i][j]=0;} } } } return 0; }