Tenseur

Les tenseurs sont des outils employés à représenter des quantités qui ont une direction, et un ordre supérieur à 1. Ils sont largement utilisés en physique pour exprimer des lois universelles indépendantes du système de coordonnées choisi, et en intelligence artificielle pour manipuler des ensembles de données complexes comme des images, des textes ou des signaux audio. L'ordre d'un tenseur indique combien de directions ou de degrés de liberté sont nécessaires pour le décrire. 

Les tenseurs se transforment de manière spécifique sous les rotations, les translations et d'autres opérations géométriques. Les composantes d'un tenseur changent en fonction de la manière dont l'objet auquel il est associé est orienté ou déplacé dans l'espace. Cela permet de prendre en compte les propriétés de symétrie et d'isotropie des phénomènes étudiés. Les tenseurs sont ordinairement représentés à l'aide de la notation tensorielle, qui utilise des indices pour indiquer les composantes du tenseur et les règles de transformation. Par exemple, un tenseur d'ordre 2 est souvent noté T{ij}, où i et j sont des indices qui varient en fonction des dimensions de l'espace.

Définition intuitive.
Un tenseur sert à organiser et manipuler des données dans plusieurs dimensions. On peut le voir comme une généralisation des nombres (scalaires), des vecteurs et des matrices. 

Par exemple, un scalaire ( = nombre) seul est un tenseur de rang 0, une liste de nombres est un vecteur, donc un tenseur de rang 1, une grille de nombres est une matrice, soit un tenseur de rang 2. Un tenseur de rang 3 peut être imaginé comme une pile de matrices, et un tenseur de rang 4 comme une collection de ces piles (par exemple une vidéo qui contient plusieurs images couleur organisées dans le temps : hauteur × largeur × canaux × temps), etc.

Origine mathématique.
Dans un cadre plus formel (algèbre linéaire et géométrie différentielle), un tenseur est une fonction multilinéaire qui prend plusieurs vecteurs et covecteur en entrée et retourne un scalaire. En algèbre linéaire comme en géométrie différentielle, les tenseurs sont des outils permettant de formuler des lois ou des structures indépendamment du choix de coordonnées, en garantissant une transformation cohérente sous changement de base. Ils deviennent indispensables dès que l'on veut décrire des phénomènes géométriques ou physiques dans des contextes où les repères varient.

Algèbre linéaire.
La notion de tenseur prend racine dans l'algèbre linéaire, où elle est introduite pour étendre les concepts de vecteurs et de formes linéaires à des objets capables de représenter des relations plus complexes entre des espaces vectoriels. En algèbre linéaire, un tenseur est défini comme une application multilinéaire, c'est-à-dire une fonction qui prend plusieurs vecteurs et covecteurs (formes linéaires) comme arguments, et qui est linéaire séparément par rapport à chacun de ces arguments. Formellement, si V est un espace vectoriel de dimension finie sur un corps , alors un tenseur de type (r,s) est une application linéaire :
-

Cela signifie qu'un tenseur peut prendre r covecteurs (éléments de l'espace dual V*) et s vecteurs comme entrées, pour donner un scalaire en sortie. Ces tenseurs forment un espace vectoriel appelé espace des tenseurs de type (r,s), noté , et peuvent être vus comme des éléments du produit tensoriel d'espaces vectoriels :
-

Dans ce cadre, les tenseurs apparaissent comme des objets construits à partir de produits tensoriels de vecteurs et de covecteurs.

Géométrie différentielle.
En géométrie différentielle, les tenseurs deviennent des champs, c'est-à-dire qu'ils sont définis en chaque point d'une variété différentielle. Par exemple, un tenseur de type (1,1) à chaque point peut représenter une transformation linéaire du plan tangent en lui-même. Un cas fondamental est le tenseur métrique, qui est un tenseur symétrique de type (0,2) et qui permet de définir des longueurs et des angles sur une variété. Les tenseurs sont aussi utilisés pour formaliser des notions de courbure, comme dans le cas du tenseur de Riemann en relativité générale, qui encode comment l'espace-temps est courbé.

Tenseurs en physique.
En physique, les tenseurs sont utilisés pour représenter des grandeurs de manière indépendante du système de coordonnées, ce qui permet de formuler des lois universelles valables dans tous les repères. Un des exemples les plus fondamentaux est le tenseur des contraintes en mécanique des milieux continus, qui permet de décrire les forces internes agissant dans un matériau. Ce tenseur de type (2,0), ordinairement représenté par une matrice symétrique, associe à chaque direction normale une force surfacique. Il permet d'exprimer comment la matière résiste à des déformations ou transmet des efforts internes.

En électromagnétisme relativiste, le champ électromagnétique est représenté par un tenseur antisymétrique de rang 2 appelé tenseur de Faraday, qui combine les champs électrique et magnétique en une seule entité cohérente sous transformation de Lorentz. Cela permet de formuler les équations de Maxwell de manière compacte et compatible avec la relativité restreinte.

En relativité générale, les tenseurs sont au coeur de la description de la gravitation. Le tenseur métrique décrit la géométrie de l'espace-temps et permet de calculer les distances, les durées propres, et les angles entre vecteurs. Le tenseur d'Einstein, dérivé du tenseur de courbure de Riemann et du tenseur de Ricci, encode comment la matière et l'énergie courbent l'espace-temps selon les équations de champ d'Einstein. Grâce à ces objets tensoriels, la relativité exprime la gravitation non comme une force, mais comme une déformation géométrique de l'espace-temps induite par l'énergie.

Les tenseurs sont également utilisés dans la dynamique des fluides, la thermodynamique des milieux continus, l'élasticité, la physique des plasmas, et la théorie des champs. Leur usage garantit que les lois physiques ne dépendent pas du système d'observation, ce qui respecte le principe fondamental de covariance générale. 

Tenseurs en deep learning.
En deep learning (apprentissage profond), les tenseurs sont la structure de données de base pour représenter et manipuler toutes les informations : entrées, sorties, poids des réseaux, activations intermédiaires, etc. Un tenseur est simplement un tableau multidimensionnel de nombres (comme un tableau NumPy), ce qui en fait une généralisation des scalaires (0D), vecteurs (1D) et matrices (2D). Dans les frameworks comme PyTorch ou TensorFlow, tout est implémenté à travers des tenseurs car ils permettent d'effectuer efficacement des opérations mathématiques sur du matériel parallèle comme les GPU.

Par exemple, une image couleur est représentée par un tenseur 3D : hauteur × largeur × canaux (ex. 224 × 224 × 3 pour une image RGB). Lorsqu'on traite plusieurs images à la fois dans un mini-batch, on utilise un tenseur 4D : batch_size × hauteur × largeur × canaux. De même, les poids d'une couche dense (fully connected) dans un réseau de neurones sont stockés dans une matrice (tenseur 2D), tandis que les poids d'un filtre convolutif sont souvent représentés comme des tenseurs 4D (nombre de filtres × canaux × hauteur × largeur).

Les calculs dans un réseau neuronal – propagation avant, rétropropagation du gradient, mise à jour des poids – s'effectuent essentiellement via des opérations tensorielles comme les multiplications matricielles, convolutions, produits scalaires, ou encore normalisations. Ces opérations sont hautement optimisées dans les bibliothèques modernes, ce qui rend possible l'entraînement de réseaux profonds sur des volumes massifs de données. Ainsi, dans le contexte du deep learning, les tenseurs sont à la fois le format de représentation des données et le support des calculs, et leur gestion efficace est essentielle à la performance des modèles d'apprentissage profond.