Обучался в Курской духовной семинарии. В Елецкой гимназии он состоял с 31 июля 1871 года. В 1875 году получил чин коллежского асессора, с 1888 года он уже статский советник. Это пятый класс по «Табелю о рангах». К нему нужно было обращаться «Ваше Высокородие». Работал он инспектором и преподавал русскую словесность. Член Педагогического Совета гимназии.
Был очень строг, но справедлив. Гимназисты его любили. Кличка его «Степик» или «Степочка», но называли его так изредка. Его предмет любили. Он старался, чтобы гимназисты полюбили русскую словесность, и читал им много, что было сверх программы, доставляя гимназистам большое удовольствие.
Был учителем, интересующимся всем и вся. Управлял церковным гимназическим хором при Покровской церкви. Была легенда, что он удачно выигрывал в карты и много пил, но на службе был всегда трезв. Он купил небольшой и красивый лес в нескольких километрах от села Телегино и хорошо за ним присматривал.
Степану Павловичу поручили на первом педсовете после постройки нового здания гимназии 24 сентября 1875 г. выступить с благодарственной речью к строителям и спонсорам. Свой доклад он закончил так: «Педагогический совет с чувством глубочайшей благодарности заносит в свою летопись имена благородных пожертвователей и ревнителей отечественного просвещения, воздвигнувших себе памятник в сердцах отдаленнейшего потомства, имеющего получить образование в стенах этого учебного заведения». При нем совершили побег в Азию в сентябре 1885 г. елецкие гимназисты. Среди них был и будущий писатель Михаил Пришвин.
Степан Павлович на заседании педсовета гимназии 4 марта 1886 г. доложил, что ученик 4-го класса Иван Бунин до сих пор не явился в гимназию и не вносил денег за обучение. Решением педсовета Бунин в тот же день был отчислен из гимназии. Бунин отмечал его среди других своих учителей, о нем вспоминал тепло и встречался с ним в Москве. По инициативе Федюшина были введены списки учащихся по успеваемости в каждом классе по окончании каждой четверти. В них указывалось, какое место по успеваемости занимает каждый учащийся.
При подведении итогов этого зачина Степан Павлович сказал: «Нельзя сказать, чтобы мера эта не принесла пользу учащимся: возбуждая соревнование и поддерживая энергию в воспитанниках, мера эта имела своим последствием то, что к концу года слабо успевающих воспитанников было гораздо меньше и процент переведенных в высшие классы можно было бы считать удовлетворительным». Из отчета педсовета видно, что учителя гимназии не боролись за пресловутый процент успеваемости.
В 1874-75 учебном году из 252 учеников переведено в следующие классы всего 201. В 1875 г. он также преподавал в женской гимназии. В этой же гимназии работала его жена Федюшина Мария Николаевна классной надзирательницей.
Когда его хоронили, будущий философ, ученик 7-го класса Сергей Николаевич Булгаков произнес речь, в которой сравнивал смерть человека с осенним умиранием природы.