Wiskundige systeemtheorie is de leer van de wiskundige beschrijving van systemen. Dit vak wordt ook wel genoemd; mathematische systeemtheorie, lineaire systeemtheorie of dynamische systeemtheorie. Een belangrijk type van wiskundig systeem is het LTC-systeem, (Lineair Tijdinvariant Continu systeem), dat toepassingen heeft in de mechanica (complexe massaveersystemen), de elektronica (analoge filters) en de meet- en regeltechniek (PID-regelaars).