Pour les articles homonymes, voir Fonction négligeable.
Cet article est une ébauche concernant l’informatique théorique.
Une fonction négligeable en informatique fondamentale, surtout en cryptographie et en complexité algorithmique, est une notion qui permet de caractériser (souvent pour en ignorer les effets) une fonction mathématique dont la contribution est faible par rapport à une référence. Il s'agit d'une notion asymptotique, qui ne prend son sens que lorsqu'on s'intéresse au comportement des fonctions sur de très grandes entrées. Enfin, une fonction n'est négligeable que vis-à-vis d'une classe de complexité donnée ; dans l'extrême majorité des cas, la classe implicitement considérée est polynomiale[1].
Une fonction est négligeable si elle décroît plus rapidement que l'inverse de tout polynôme. Mathématiquement, ϵ : N → [ 0 , 1 ] {\displaystyle \epsilon :\mathbb {N} \to [0,1]} est dite négligeable si ϵ ( n ) = n − ω ( 1 ) {\displaystyle \epsilon (n)=n^{-\omega (1)}} pour tout n à partir d'un certain rang où ω {\displaystyle \omega } représente la domination asymptotique en notation de Landau[2].
Définie ainsi, la notion est relative à la classe de problèmes résolubles en temps polynomial, puisque n − ω ( 1 ) {\displaystyle n^{-\omega (1)}} représente toute fonction négligeable devant n’importe quelle fonction de la forme 1 p o l y ( n ) {\displaystyle {\tfrac {1}{\mathrm {poly} (n)}}} quand n tend vers l'infini et pour p o l y {\displaystyle \mathrm {poly} } un polynôme à une variable. C'est presque toujours par rapport à cette classe qu'on se réfère en pratique, considérant qu'il s'agit d'un bon modèle des capacités des calculateurs réels.
La collection des fonctions négligeables pour un paramètre n {\displaystyle n} est notée negl ( n ) {\displaystyle \operatorname {negl} (n)} . C'est une collection stable par les opérations arithmétiques (addition, multiplication) et par composition. En d'autres termes, aucun algorithme terminant en un temps polynomial ne permet de construire une fonction non négligeable à partir seulement d'appels à une fonction négligeable[3].
Cette propriété, à rapprocher des infinitésimaux, permet de construire des arguments hybrides : une succession de jeux dans lesquels l'avantage de l'adversaire est une fonction négligeable (d'un paramètre de sécurité), et qui trace un pont progressif entre une situation idéale et une situation réelle. L'accumulation de ces avantages négligeables, par compositionnalité, reste négligeable.
La sécurité sémantique d'un cryptosystème à clef publique (GenClefs, Chiffrer, Déchiffrer) se définit par le jeu suivant[4] entre un adversaire A {\displaystyle {\mathcal {A}}} et un challenger B {\displaystyle {\mathcal {B}}} :
L'avantage de l'adversaire A {\displaystyle {\mathcal {A}}} capture l'idée que A {\displaystyle {\mathcal {A}}} est meilleur que le hasard. On pose ainsi A d v t A = | Pr [ b ′ = 1 ∣ b = 1 ] − Pr [ b ′ = 1 ∣ b = 0 ] | {\displaystyle \mathrm {Advt} _{\mathcal {A}}={\bigl |}\Pr[b'=1\mid b=1]-\Pr[b'=1\mid b=0]{\bigr |}} .
Supposons que A d v t A {\displaystyle \mathrm {Advt} _{\mathcal {A}}} est une fonction négligeable de λ {\displaystyle \lambda } pour tout A {\displaystyle {\mathcal {A}}} . En d'autres termes, si λ {\displaystyle \lambda } est assez grand, aucun algorithme terminant en temps polynomial ne peut (en participant à ce jeu) distinguer un chiffré d'un message aléatoire. A fortiori, identifier le contenu d'un message chiffré est hors de portée de tout algorithme réel, et on parle donc de sécurité « sémantique » calculatoire.
Notons toutefois que prouver A d v t A ∈ negl ( λ ) {\displaystyle \mathrm {Advt} _{\mathcal {A}}\in \operatorname {negl} (\lambda )} n'est en général démontrable que sous des hypothèses (peut-être optimistes) de difficulté calculatoire, et que l'utilisation de cryptosystèmes d'autre manières (par exemple en autorisant un adversaire à faire des requêtes de déchiffrement) n'est pas garantie sûre par la seule sécurité sémantique.
De manière symétrique, s'il existe un adversaire possédant un avantage non négligeable dans ce jeu, alors le cryptosystème n'est pas sûr.