De chaostheorie is de populaire benaming voor het gebied binnen de wiskunde dat het gedrag van niet-lineaire dynamische systemen (Engels: Dynamical systems of systeemtheorie) onderzoekt. De officiële naam binnen de wiskunde is dynamische systemen. Het onderzoekt omstandigheden waarbij deterministische chaos optreedt en welke eigenschappen die heeft. Het begrip chaos heeft hierbij een technische betekenis, te onderscheiden van het losse alledaagse woordgebruik. Deterministische chaos betekent dat de schijnbare wanorde toch exact bepaald is en geordend tot stand komt volgens een algoritme of rekenregel. Bijvoorbeeld een differentiaalvergelijking of recursie. Het gebied is bijzonder praktisch want de stabiliteit en betrouwbaarheid van systemen wordt ermee onderzocht.