On peut effectivement définir les fonctions trigonométriques avec la fonction $\arcsin$ définie par cette intégrale. Cependant, à mon avis, le choix de l'arc sinus n'est pas judicieux. On devra définir le sinus par morceaux, puis on devra s'assurer que les raccords sont lisses, etc... c'est pénible à rédiger.
On peut plutôt partir de la fonction arc tangente, qui est plus sympa :
$$ \arctan(x) = \int_0^x \frac{\mathrm dt}{1+t^2} $$ Par construction, cette fonction est de classe $\mathcal C^\infty$, strictement croissante et impaire. Elle est même bornée, car pour tout réel $x\ge 1$, nous avons :
$$ \arctan(x) = \arctan(1) + \int_1^x \frac{\mathrm dt}{1+t^2} $$ Le changement de variable $t = \frac{1}{u}$ donne ensuite
$$ \arctan(x) = \arctan(1) + \int_{1/x}^1 \frac{\mathrm du}{1+u^2} \xrightarrow[x\to\infty]{} 2 \arctan(1) $$
Définition. Le nombre $\pi$ est défini de sorte que $\arctan(1) = \frac{\pi}{4}$.
On en déduit que la fonction $\arctan$ réalise un $\mathcal C^\infty$-difféomorphisme entre $\mathbb R$ et $]\hspace{-1pt}-\hspace{-1pt}\frac{\pi}{2}, \frac{\pi}{2}[$. On notera $\tan$ la bijection réciproque de $\arctan$ (elle est donc $\mathcal C^\infty$, strictement croissante et impaire). De plus, on a :
$$ \tan'(x) = 1+\tan(x)^2 $$
Comment récupérer les fonctions trigonométriques $\cos$ et $\sin$ à partir de la tangente ? Dans les formulaires de trigonométrie, on trouve les formules de l'angle moitié :
$$ \cos(x) = \frac{1-\tan(\frac{x}{2})^2}{1+\tan(\frac{x}{2})^2} ~~\text{ et }~~ \sin(x) = \frac{2\tan(\frac{x}{2})}{1+\tan(\frac{x}{2})^2}$$ Cette paramétrisation rationnelle du cercle par la tangente de l'angle moitié est très utile en calcul intégral notamment (cette paramétrisation provient de la projection stéréographique du cercle sur l'axe réel).
On prend ces définitions pour les fonctions $\cos$ et $\sin$, qui pour le moment sont définies sur $]-\pi,\pi[$. On remarque qu'elles sont de classe $\mathcal C^\infty$, respectivement paire et impaire. En dérivant ces bestioles, on a
$$ \cos'(x) = -\sin(x) ~~~\text{ et }~~~ \sin'(x)=\cos(x) $$ Puis, en utilisant le fait que $\tan(\frac{x}{2}) \xrightarrow[x\to \pi]{} +\infty$ on obtient les limites suivantes :
$$ \lim_{x\to \pi} \cos(x) = -1 ~~\text{ et }~~ \lim_{x\to \pi} \sin(x) = 0 $$ Le théorème de prolongement de la dérivée nous dit ensuite que $\cos,\sin$ se prolongent au segment $[-\pi,\pi]$ de manière $\mathcal C^1$. De plus, nous avons
$$ \cos(\pi) = \cos(-\pi)=-1 ~,~\cos'(\pi) = \cos'(-\pi) = 0 $$ $$ \sin(\pi) = \sin(-\pi)=0 ~,~\sin'(\pi) = \sin'(-\pi) = -1 $$ Ainsi, nous pouvons prolonger les fonctions $\cos,\sin$ de façon $2\pi$-périodique et $\mathcal C^\infty$. On peut ensuite dresser le tableau des variations de $\cos, \sin$ sur le segment $[-\pi,\pi]$ en utilisant le fait que $\tan(\frac{\pi}{4}) = 1$.
Pour boucler la boucle, on doit vérifier que $\tan(x) = \frac{\sin(x)}{\cos(x)}$ sur l'intervalle $]\hspace{-1pt}-\hspace{-1pt}\frac{\pi}{2}, \frac{\pi}{2}[$. On dérive le membre de droite, et on observe qu'il satisfait le même problème de Cauchy que $\tan$, d'où l'égalité.
Ensuite, on peut définir les autres fonctions trigonométriques réciproques $\arccos, \arcsin$...
