Exercice 08-03
Soient \(f,g\colon \mathbb{R}\to\mathbb{R}\). Déterminer la monotonie de \(g\circ f\colon \mathbb{R}\to\mathbb{R}\) si
  1. \(f\) et \(g\) sont croissantes,
  2. \(f\) et \(g\) sont décroissantes,
  3. \(f\) est croissante et \(g\) est décroissante.
Qu'en est-il de la monotonie de \(f\circ g\) dans le troisième cas?
Rappelons que \(g\circ f:\mathbb{R}\to\mathbb{R}\) est définie par \[ (g\circ f)(x):= g(f(x))\,. \] Les propriétés de monotonicité de cette fonction se déduisent directement des définitions de fonction croissante/décroissante données ici, appliquées à \(f\) et \(g\).

Prendre \(x_1\lt x_2\), puis partir de \(g(f(x_1))\).

on sait que \(f(x_1)\leqslant f(x_2)\).

Ci-dessous, ''\(f\uparrow\)'' (resp. ''\(f\downarrow\)'') signifie que l'on utilise la croissance (resp. décroissance) de \(f\).
  1. Comme \(f\) et \(g\) sont croissantes, on a \[\begin{aligned} x_1\leqslant x_2 &\stackrel{f\uparrow}{\Rightarrow} f(x_1)\leqslant f(x_2)\\ &\stackrel{g\uparrow}{\Rightarrow} g(f(x_1))\leqslant g(f(x_2)), \end{aligned}\] c'est-à-dire \(g\circ f\) est aussi croissante.
  2. Comme \(f\) et \(g\) sont décroissantes, on a \[\begin{aligned} x_1\leqslant x_2 & \stackrel{f\downarrow}{\Rightarrow} f(x_1)\geqslant f(x_2)\\ & \stackrel{g\downarrow}{\Rightarrow} g(f(x_1))\leqslant g(f(x_2)), \end{aligned}\] c'est-à-dire \(g\circ f\) est croissante.
  3. Pour \(f\) croissante et \(g\) décroissante on a \[\begin{aligned} x_1\leqslant x_2 & \stackrel{f\uparrow}{\Rightarrow} f(x_1)\leqslant f(x_2)\\ & \stackrel{g\downarrow}{\Rightarrow} g(f(x_1))\geqslant g(f(x_2)), \end{aligned}\] c'est-à-dire \(g\circ f\) est décroissante. Pour la composée \(f\circ g\) on a \[\begin{aligned} x_1\leqslant x_2 & \stackrel{g\downarrow}{\Rightarrow} g(x_1)\geqslant g(x_2)\\ & \stackrel{f\uparrow}{\Rightarrow} f(g(x_1))\geqslant f(g(x_2)), \end{aligned}\] c'est-à-dire \(f\circ g\) est aussi décroissante. La composée de deux fonctions avec monotonies opposées est donc toujours décroissante.