Очень подвижная птица, часто кормится, подобно синицам, подвешиваясь вниз спиной на тонких концевых веточках деревьев. Нередко в поисках пищи обследует крупные травянистые растения, при этом ведёт себя очень доверчиво, подпуская человека на 1-2 м. В гнездовой и предгнездовой периоды криклив. Весной очень активно барабанит, располагаясь для этого обычно на стволах деревьев. Дробь у малого пёстрого дятла более продолжительная и ровная по сравнению с большим пёстрым дятлом. По общему характеру она ближе всего к барабанной дроби белоспинного дятла. В центральных областях европейской части России охотно поселяется в лиственных и смешанных лесах, растущих в поймах рек, лесных ручьёв и озёр. Более всего предпочитает заболоченные ольховые и влажные ольхово-берёзовые леса, богатые сухостоем. Столь же часто гнездится в пойменных дубравах и отдельных куртинах дубового леса в поймах рек и по берегам водохранилищ.