Little d, Big trouble : pourquoi un petit exposant privé fragilise RSA

Cette note propose une lecture théorique du challenge Little d - Big trouble (Revenge), classé en cryptographie sur Hackropole. Ce n’est pas une solution officielle ni une copie de write-up : l’objectif est de comprendre le mécanisme intellectuel que ce type d’épreuve cherche à faire manipuler.

L’idée en une image

RSA lie e et d par une égalité presque rationnelle. Quand d est trop petit, la fraction e/n donne une approximation anormalement précise d’un rapport secret.

Le niveau « hardcore » ne vient généralement pas d’une formule isolée. Il vient de la nécessité de reconnaître quelle structure est exposée, puis d’écarter tout ce qui n’influence pas réellement le secret.

Le modèle mathématique

De ed−1=k·φ(n), on tire e/φ(n)≈k/d. Les convergents de la fraction continue de e/n énumèrent les meilleures approximations ; certains candidats donnent φ(n), puis p et q via une équation du second degré.

La première discipline consiste à écrire les objets avec leur domaine : entiers, classes modulo un nombre, vecteurs sur un corps fini ou octets. Une grande partie des bugs de raisonnement vient d’une opération effectuée dans le mauvais espace.

Ce qu’il faut repérer

• Un exposant public e très grand face à n
• Un d choisi pour accélérer le déchiffrement
• Des indices suggérant une proximité ou une fuite partielle

Ces indices ne prouvent pas encore une attaque. Ils servent à former une hypothèse testable : « si ce modèle est le bon, quelle valeur intermédiaire devrais-je pouvoir prédire ? »

Démarche d’analyse

1. Développer e/n en fraction continue.
2. Tester les convergents k/d sans division flottante.
3. Reconstruire un candidat φ(n) lorsque k divise ed−1.
4. Valider par le discriminant et par p·q=n.

À chaque étape, conserver un petit test connu. Un script qui produit un résultat plausible mais non vérifié est plus dangereux qu’une équation incomplète : il donne l’impression d’avancer.

Pourquoi le challenge devient difficile

Une épreuve avancée superpose souvent plusieurs couches : parsing, encodage, protocole et primitive. La bonne stratégie consiste à construire des invariants. Une taille doit rester constante, un point doit satisfaire son équation, une signature doit se vérifier, un état prédit doit reproduire plusieurs sorties jamais utilisées pendant l’analyse.

On peut formaliser ce réflexe ainsi :

1. Observer une relation stable.
2. Modéliser cette relation avec le moins d’hypothèses possible.
3. Prédire une nouvelle valeur.
4. Valider la prédiction sur des données indépendantes.

Fausses pistes classiques

• Confondre petit e et petit d.
• Accepter un discriminant non carré.
• S’arrêter lorsque Wiener échoue alors qu’une extension par réseau est visée.

La difficulté utile d’un challenge n’est pas de lancer tous les outils disponibles. Elle est de savoir quelle propriété chaque outil teste et ce qu’un échec permet réellement de conclure.

Ce que l’architecte sécurité doit en retenir

RSA ne doit pas optimiser les performances en choisissant un d court ; utiliser des bibliothèques et paramètres standard.

La crypto échoue rarement parce que l’algorithme central est totalement inconnu. Elle échoue aux frontières : génération d’aléa, réutilisation d’état, encodage, validation, gestion des erreurs et composition avec le protocole.

Pour aller plus loin

Reprendre le challenge en construisant d’abord un modèle miniature avec de petits paramètres. Une fois l’intuition vérifiée, remplacer progressivement les jouets par les vraies tailles. C’est plus lent pendant dix minutes et beaucoup plus rapide pendant les trois heures suivantes.