Noel,

Cuando decis "me responden bien a la matriz Hx=b" ¿que tan bien responden? ¿Como lo mediste?

Hay que tener en cuenta que la matriz H esta muy mal condicionada. ¿Probaste de resolverlo por algún método iterativo?