У 1963 році в Харківському інституті гірського машинобудування, автоматики та обчислювальної техніки (ХІГМАОТ) був організований факультет Обчислювальної техніки (ОТ) з двома спеціальностями – прикладна математика та електронно-обчислювальні машини і створена кафедра математичної фізики. Кафедра була задумана як загальноосвітня, з метою поліпшення математичної підготовки студентів факультету ОТ.
Завідувачем кафедри стає професор Шестопалов Віктор Петрович – радіофізик за освітою, майбутній академік Академії наук УРСР і директор Інституту радіофізики та електроніки Академії наук УРСР. До основного складу кафедри відразу прийшли Колосова Світлана Василівна і Дикарев Вадим Анатолійович, які пройшли шлях від асистентів до професорів.
У тому ж 1963 році створюється кафедра обчислювальної техніки. Завідувачем кафедри стає Рвачов Володимир Логвинович, який в майбутньому стане ректором Харківського інституту радіоелектроніки (ХІРЕ), академіком Академії наук УРСР, завідувачем відділу в Інституті проблем машинобудування ім. А. Н. Підгорного Національної академії наук України і співпрацює з кафедрою до кінця життя.
Рвачев В.Л. переїхав до Харкова з Бердянська, де очолював кафедру вищої математики в педагогічному інституті. Разом з ним працювати на кафедру приходять його аспіранти: Шкляров Леонід Йосипович, Литвин Олександра Григоріївна і Литвин Олег Миколайович.
Кафедра здійснювала підготовку інженерів за фахом Математичні і лічильно-вирішальні прилади та пристрої. У науковому плані кафедра займалася розробкою засобів обчислювальної техніки, нових методів обчислень, математичним моделюванням властивостей зору людини.
У 1964 кафедра ВТ реорганізується в дві кафедри: кафедра математичних машин і кафедра математичного програмування і моделювання, а з 1966 року стає кафедрою обчислювальної математики і математичної фізики.
У 1966 році ХІГМАОТ перейменований в Харківський інститут радіоелектроніки (ХІРЕ). У 1969 на кафедрі був перший набір в групи за фахом – прикладна математика (ПМ). Перший студент ПМ, що став викладачем кафедри ПМ – Наумейко Ігор Володимирович. Також склад кафедри поповнили Головко Ніна Олександрівна та Манько Валентина Семенівна.
У 1970 році завідувачем кафедри стає Стоян Юрій Григорович, в майбутньому завідувач відділом Інституті проблем машинобудування ім. А. Н. Підгорного Національної академії наук України, член-кореспондент АН України, до сих пір працює на кафедрі. Йому на зміну в 1971 році приходить Шкляров Леонід Йосипович, який очолював кафедру до 1978 року. У 1975 р кафедра перейменовується в кафедру прикладної математики і в якості аспірантів Дикарєва В. А. на кафедру прийшли Наумейко Ігор Володимирович і Мельников Олександр Федорович.
З 1981 по 1985 рр. кафедру очолює Бондаренко Микола Андрійович, який одночасно є деканом факультету ОТ. На кафедру прийшли: Кривошеєва Галина Миколаївна, Яковлєв Сергій Всеволодович, Онищенко Г.І. та ін.
З 1986 року до 30 вересня 2022 р. завідував кафедрою професор, доктор технічних наук Тевяшев Андрій Дмитрович. Разом з ним на кафедру прийшли Єсілевський Валентин Семенович, Гусарова Ірина Григорівна, Артюх Любов Юріївна, Козиренко Світлана Іванівна.
З 1 жовтня 2022 р. кафедру очолює професор Сидоров Максим Вікторович.