Selepas dari penjara Banjarmasin Sangadji menyeberang ke Pulau Jawa.  Ia kemudian memimpin Laskar Hisbullah yang berpusat Jogyakarta, dan pernah menugaskan R Soedirman  untuk membentuk Laskar Hisbullah di daerah Martapura dan Pelaihari, serta Tamtomo  sebagai Tamtomo  sebagai penghubung Markas Besar  Hisbullah Yogyakarta untuk Kalimantan.

Dalam giat politiknya untuk republik di Jogyakarta, ia meninggal ditembak mati militer ketika Agresi Militer Belanda II di Jogyakarta, pada 8 Mei 1949. Sangadji dimakamkan di pemakaman Blunyah Gede, Sinduadi, Mlati, Slema Jogyakarta.

Sebagai pejuang kemerdekaan namanya pernah dijadikan salah satu ruas jalan di Kota Jogyakarta yang membentang dari arah tugu Jogya ke arah utara sampai tahun 2016.

Sedangkan untuk mengenang jasanya di Samarindan, terutama di  Tenggarong, Kutai Kertanegara,  sebuah moumen berupa patung A M Sangadji dibangun dan berdiri kokoh di Tenggarong, Kutai (*)