SME Bank ditubuhkan pada tahun 2005 sebagai sebuah Institusi Kewangan Pembangunan (DFI) dan memulakan operasinya pada 3 Oktober 2005. Dimiliki sepenuhnya oleh  Kementerian Kewangan (MOF), SME Bank komited untuk memberi bantuan kewangan dan kepakaran kepada perusahaan kecil dan sederhana.

SME Bank memainkan peranan penting dalam menyokong inisiatif ekonomi dan pembangunan Kerajaan Malaysia seperti Bidang Ekonomi Utama Negara (NKEAs) (2010-2020) dan Pelan Sektor Kewangan (2011-2020).

Sejak sedekad yang lalu, SME Bank telah berkembang pesat menerusi Program Transformasi Lima Tahun (2010) dan beroperasi berlandaskan prinsip Syariah sejak tahun 2015.

SME Bank beraspirasi untuk menguatkan posisinya sebagai pilihan utama bagi pembiayaan kewangan kepada usahawan.