Hola! Creo que tenes un problema en la demostración. No entiendo por qué usas dos variables distintas para la frecuencia. Además como las antitransformadas son cero sólo en una region $A$ no veo porque las antitransformadas tienen que ser cero. Ademas en las mismas tenes que integrar con respecto a la frecuencia y no al tiempo.

La resolución es muy conceptual. Te tiro el razonamiento general y vos después cubris los detalles y podes pensar en algún ejemplo. Suponete que tenes un sistema $H(j\omega)$ que es exactamente cero para $\omega\in[\omega_1,\omega_2]$. En el resto de las frecuencias es arbitrario. Ahora supone dos señales con transformadas $X_1(j\omega)$ y $X_2(j\omega)$. Estas señales tienen una particularidad: para  $\omega\notin[\omega_1,\omega_2]$ son iguales, o sea $X_1(\omega)=X_2(\omega)$, pero para   $\omega\in[\omega_1,\omega_2]$ son distintas, o sea $X_1(\omega)\neq X_2(\omega)$. Esto nos dice que entonces $X_1(\omega)\neq X_2(\omega)$. Las correspondientes salidas $Y_1(\omega)$ y $Y_2(\omega)$ deberían ser iguales. Entonces acá ya ves algo raro: entradas distintas dan lugar a la misma salida. Qué te dice esto con respecto a la invertibilidad del sistema?

Saludos