Fonctionnement d'un ordinateur/La hiérarchie mémoire

Sur la plupart des systèmes embarqués ou des tous premiers ordinateurs, on n'a que deux mémoires : une mémoire RAM et une mémoire ROM, comme indiqué dans le chapitre précédent. Mais ces systèmes sont très simples et peuvent se permettre d'implémenter l'architecture de base sans devoir y ajouter quoi que ce soit. Ce n'est pas le cas sur les ordinateurs plus puissants.

Un ordinateur moderne ne contient pas qu'une seule mémoire, mais plusieurs. Entre le disque dur, la mémoire RAM, les différentes mémoires cache, et autres, il y a de quoi se perdre. Et de plus, toutes ces mémoires ont des caractéristiques, voire des fonctionnements totalement différents. Certaines mémoires seront très rapides, d'autres auront une grande capacité mémoire (elles pourront conserver beaucoup de données), certaines s'effacent quand on coupe le courant et d'autres non.

La raison à cela est que plus une mémoire peut contenir de données, plus elle est lente. On doit faire le choix entre une mémoire de faible capacité et très performante, ou une mémoire très performante mais très petite. Les cas intermédiaires, avec une capacité et des performances intermédiaires, existent aussi. Le fait est que si l'on souhaitait utiliser une seule grosse mémoire dans notre ordinateur, celle-ci serait trop lente et l'ordinateur serait inutilisable. Pour résoudre ce problème, il suffit d'utiliser plusieurs mémoires de taille et de vitesse différentes, qu'on utilise suivant les besoins. Des mémoires très rapides de faible capacité seconderont des mémoires lentes de capacité importante.

Finalement, l'architecture d'un ordinateur moderne diffère de l'architecture de base par la présence d'une grande quantité de mémoires, organisées sous la forme d'une hiérarchie qui va des mémoires très rapides mais très petites à des mémoires de forte capacité très lentes. Le reste de l’architecture ne change pas trop par rapport à l'architecture de base : on a toujours un processeur, des entrées-sorties, un bus de communication, et tout ce qui s'en suit. Les mémoires d'un ordinateur moderne sont les suivantes :

Type de mémoire	Temps d'accès	Capacité	Relation avec la mémoire primaire/secondaire
Registres	1 nanosecondes	Entre 1 et 512 bits	Mémoire incorporée dans le processeur
Caches	10 - 100 nanosecondes	Kibi- ou mébi-octets	Mémoire incorporée dans le processeur, sauf pour d'anciens processeurs
Mémoire RAM	1 microsecondes	Gibioctets	Mémoire primaire
Mémoires de masse (Disque dur, disque SSD, autres)	1 millisecondes	Dizaines à centaines de gibioctets	Mémoire secondaire

Précisons cependant que le compromis capacité-performance n'est pertinent que quand on compare des mémoires avec des capacités très différentes, avec au moins un ordre de grandeur de différence. Entre un ordinateur avec 16 gibioctets de RAM et un autre avec 64 gibioctets, les différences de performances sont marginales. Par contre, la différence entre un cache de quelques mébioctets et une RAM de plusieurs gibioctets, la différence est très importante. Ce qui fait que l'ensemble des mémoires de l'ordinateur est organisé en plusieurs niveaux, avec des registres ultra-rapides, des caches intermédiaires, une mémoire RAM un peu lente, et des mémoires de masse très lentes.

La distinction entre mémoire primaire et secondaire

La première amélioration de l'architecture de base consiste à rajouter un niveau de mémoire. Il n'y a alors que deux niveaux de mémoire : les mémoires primaires directement accessibles par le processeur, et la mémoire secondaire accessible comme les autres périphériques. La mémoire primaire, correspond aux mémoire RAM et ROM de l'ordinateur, dans laquelle se trouvent les programmes en cours d’exécution et les données qu'ils manipulent. Les mémoires secondaires correspondent aux disques durs, disques SSD, clés USB et autres. Ce sont des périphériques connectés sur la carte mère ou via un connecteur externe.

Distinction entre mémoire primaire et mémoire secondaire.

Les mémoires secondaires sont généralement confondues avec les mémoires de masse, des mémoires de grande capacité qui servent à stocker de grosses quantités de données. De plus, elles conservent des données qui ne doivent pas être effacés et sont donc des mémoire de stockage permanent (on dit qu'il s'agit de mémoires non-volatiles). Concrètement, elles conservent leurs données mêmes quand l'ordinateur est éteint et ce pendant plusieurs années, voir décennies. Les disques durs, mais aussi les CD/DVD et autres clés USB sont des mémoires de masse.

Du fait de leur grande capacité, les mémoires de masse sont très lentes. Leur lenteur pachydermique fait qu'elles n'ont pas besoin de communiquer directement avec le processeur, ce qui fait qu'il est plus pratique d'en faire de véritables périphériques, plutôt que de les souder/connecter sur la carte mère. C'est la raison pour laquelle mémoires de masse et mémoires secondaires sont souvent confondues.

Les mémoires de masse se classent en plusieurs types : les mémoires secondaires proprement dit, les mémoires tertiaires et les mémoires quaternaires. Toutes sont traitées comme des périphériques par le processeur, la différence étant dans l’accessibilité.

• Une mémoire secondaire a beau être un périphérique, elle est située dans l'ordinateur, connectée à la carte mère. Elle s'allume et s'éteint en même temps que l'ordinateur et est accessible tant que l'ordinateur est allumé. Les disques durs et disques SSD sont dans ce cas.
• Une mémoire tertiaire est un véritable périphérique, dans le sens où on peut l'enlever ou l'insérer dans un connecteur externe à loisir. Par exemple, les clés USB, les CD/DVD ou les disquettes sont dans ce cas. Une mémoire tertiaire est donc rendue accessible par une manipulation humaine, qui connecte la mémoire à l'ordinateur. Le système d'exploitation doit alors effectuer une opération de montage (connexion du périphérique à l’ordinateur) ou de démontage (retrait du périphérique).
• Quant aux mémoires quaternaires, elles sont accessibles via le réseau, comme les disques durs montés en cloud.

Les technologies de fabrication des mémoires secondaires sont à part

Les mémoires de masse sont par nature des mémoires non-volatiles, à savoir qui ne s'effacent pas quand on coupe l'alimentation électrique, à l'opposé des mémoires RAM qui elles s'effacent quand on coupe le courant. Et ce fait nous dit quelque chose de très important : les mémoires de masse ne sont pas fabriquées de la même manière que les mémoires volatiles.

Les mémoires volatiles sont presque toutes électroniques, à quelques exceptions qui appartiennent à l'histoire de l'informatique. Elles sont fabriquées avec des transistors, que ce soit des transistors CMOS ou bipolaire. Et quand on cesse de l'alimenter en courant, les transistors repasse en état inactif, de repos, qui est soit fermé ou ouvert. Ils ne mémorisent pas l'état qu'ils avaient avant qu'on coupe le courant. On ne peut donc pas fabriquer de mémoire non-volatile avec des transistors ! Et ce genre de chose vaut pour les ancêtres du transistors, comme les thrysistors, les triodes, les tubes à vide et autres : ils permettaient de fabriquer des mémoires volatiles, mais rien d'autres.

Les mémoires ROM ne sont pas concernées par ce problème vu que ce sont de simples circuits combinatoires, qui n'ont pas besoin d'avoir de capacité de mémorisation proprement dit. Elles sont donc non-volatiles, mais le fait qu'on ne puisse pas modifier leur contenu rend la solution aisée.

Aussi, pour fabriquer des mémoires de masse, on doit utiliser des technologies différentes, on ne peut pas utiliser de transistors CMOS ou bipolaire normaux. Et le moins qu'on puisse dire est que les technologies des mémoires de masse sont très nombreuses, absolument tous les supports de mémorisation possibles ont été essayés et commercialisés. L'évolution des technologies de fabrication est difficile à résumer pour les mémoires de masse. Mais dans les grandes lignes, on peut distinguer quatre grandes technologies.

La solution la plus ancienne était d'utiliser un support papier, avec les cartes perforées. Mais cette solution a rapidement été remplacée par l'usage de d'un support de mémorisation magnétique, à savoir que chaque bit était attribué à un petit morceau de matériau magnétique. Le matériau magnétique peut être magnétisé dans deux sens N-S ou S-N, ce qui permet d'encoder un bit. C'est ainsi que sont nées les toutes premières mémoire de masse magnétique : les bandes magnétiques (similaires à celles utilisées dans les cassettes audio), les tambours magnétiques, les mémoires à tore de ferrite, et quelques autres. Par la suite, sont apparues les disquettes et les disques durs.

Par la suite, les CD-ROM, puis les DVD sont apparus sur le marchés. Ils sont regroupés sous le terme de mémoires optiques, car leur fonctionnement utilise les propriétés optiques du support de mémorisation, on les lit en faisant passer un laser très fin dessus. Ils n'ont cependant pas remplacé les disques durs, leur usage était tout autre. En effet, les mémoires optiques ne peuvent pas être effacées et réécrites. Sauf dans le cas des CD/DVD réincriptibles, mais on ne peut les effacer qu'un nombre limité de fois, mettons une dizaine. De plus, il faut les effacer intégralement avant de réécrire complétement leur contenu. Cette limitation fait qu'ils n'étaient pas utilisés pour mémoriser le système d'exploitation ou les programmes installés.

Toutes ces mémoires sont totalement obsolètes de nos jours, à l'exception des disques durs magnétiques. Et encore ces derniers tendent à disparaitre. Les mémoires de masse actuelles sont toutes... électroniques ! J'ai dit plus haut qu'il n'était pas possible de fabriquer des mémoires de masse/secondaires avec des transistors CMOS, je n'ai pas mentit. Les mémoires électronique actuelle sont des mémoires FLASH, qui sont fabriquées avec des transistors CMOS à grille flottante. Leur fonctionnement est différent des transistors CMOS normaux, ils ont une capacité de mémorisation que les transistors CMOS normaux n'ont pas. Par contre, leur procédé de fabrication est différent, ils ne sont pas fabriqués dans les mêmes usines que les transistors CMOS normaux.

Le démarrage de l'ordinateur à partir d'une mémoire secondaire

L'ajout de deux niveaux de mémoire pose quelques problèmes pour le démarrage de l'ordinateur : comment charger les programmes depuis un périphérique ?

Les tout premiers ordinateurs pouvaient démarrer directement depuis un périphérique. Ils étaient conçus pour cela, directement au niveau de leurs circuits. Ils pouvaient automatiquement lire un programme depuis une carte perforée ou une mémoire magnétique, et le copier en mémoire RAM. Par exemple, l'IBM 1401 lisait les 80 premiers caractères d'une carte perforée et les copiait en mémoire, avant de démarrer le programme copié. Si un programme faisait plus de 80 caractères, les 80 premiers caractères contenaient un programme spécialisé, appelé le chargeur d’amorçage, qui s'occupait de charger le reste. Sur l'ordinateur Burroughs B1700, le démarrage exécutait automatiquement le programme stocké sur une cassette audio, instruction par instruction.

Les processeurs "récents" ne savent pas démarrer directement depuis un périphérique. À la place, ils contiennent une mémoire ROM utilisée pour le démarrage, qui contient un programme qui charge les programmes depuis le disque dur. Rappelons que la mémoire ROM est accessible directement par le processeur.

Sur les premiers ordinateurs avec une mémoire secondaire, le programme à exécuter était en mémoire ROM et la mémoire secondaire ne servait que de stockage pour les données. Le système d'exploitation était dans la mémoire ROM, ce qui fait que l'ordinateur pouvait démarrer même sans mémoire secondaire. La mémoire secondaire était utilisée pour stocker données comme programmes à exécuter. Les programmes à utiliser étaient placés sur des disquettes, des cassettes audio, ou tout autre support de stockage. Les premiers ordinateurs personnels, comme les Amiga, Atari et Commodore, étaient de ce type.

Par la suite, le système d'exploitation aussi a été déporté sur la mémoire secondaire, à savoir qu'il est installé sur le disque dur, voire un SSD. Un cas d'utilisation familier est celui de votre ordinateur personnel. Le système d'exploitation et les logiciels que vous utilisez au quotidien sont mémorisés sur le disque dur. Mais vu qu'aucun ordinateur ne démarre directement depuis le disque dur ou une clé USB, il y a forcément une mémoire ROM dans un ordinateur moderne, qui n'est autre que le BIOS sur les ordinateurs anciens, l'UEFI sur les ordinateurs récents. Elle est utilisée lors du démarrage de l'ordinateur pour le configurer à l'allumage et démarrer son système d'exploitation. La ROM en question ne sert donc qu'au démarrage de l'ordinateur, avant que le système d'exploitation prenne la relève. L'avantage, c'est qu'on peut modifier le contenu du disque dû assez facilement, tandis que ce n'est pas vraiment facile de modifier le contenu d'une ROM (et encore, quand c'est possible). On peut ainsi facilement installer ou supprimer des programmes, en rajouter, en modifier, les mettre à jour sans que cela ne pose problème.

Le fait de mettre les programmes et le système d'exploitation sur des mémoires secondaire a quelques conséquences. La principale est que le système d'exploitation et les autres logiciels sont copiés en mémoire RAM à chaque fois que vous les lancez. Impossible de faire autrement pour les exécuter. Les systèmes de ce genre sont donc des architectures de type Von Neumann ou de type Harvard modifiée, qui permettent au processeur d’exécuter du code depuis la RAM. Vu que le programme s’exécute en mémoire RAM, l'ordinateur n'a aucun moyen de séparer données et instructions, ce qui amène son lot de problèmes, comme nous l'avons dit au chapitre précédent.

Ce schéma illustre l'organisation mémoire d'un ordinateur moderne, en très simplifié. On voit qu'il y a un disque dur (mémoire secondaire), qui contient le système d'exploitation. La RAM et la ROM sont toutes deux reliées au processeur par un bus unique. La ROM contient le firmware/BIOS, ainsi qu'un chargeur d'amorcage qui permet de charger l'OS dans la RAM. Le processeur, quant à lui, contient divers circuits que vous ne connaissez pas encore. Contentons-nous de dire qu'il contient plusieurs mémoires caches, ainsi que des registres (en violet).

L'ajout des mémoires caches et des local stores

Illustration des mémoires caches et des local stores. Le cache est une mémoire spécialisée, de type SRAM, intercalée entre la RAM et le processeur. Les local stores sont dans le même cas, mais ils sont composés du même type de mémoire que la mémoire principale (ce qui fait qu'ils sont abusivement mis au même niveau sur ce schéma).

La hiérarchie mémoire d'un ordinateur moderne est une variante de la hiérarchie à deux niveaux de la section précédente (primaire et secondaire) à laquelle on a rajouté une ou plusieurs mémoires intermédiaires. Le niveau intermédiaire entre les registres et la mémoire principale regroupe deux types distincts de mémoires : les mémoires caches et les local stores. Les premiers sont des mémoires qui ne sont pas adressables et fonctionnent très différemment des mémoires RAM et ROM normales. Leur fonctionnement sera expliqué rapidement dans la section suivante, et détaillé dans un chapitre à part. À l'opposé, les local store sont des mémoires RAM adressables, très semblables à la mémoire principale, mais avec une plus fiable capacité et une vitesse plus importante.

Le rajout de ces niveaux supplémentaires est une question de performance. Les processeurs anciens pouvaient se passer de mémoires caches. Mais au fil du temps, les processeurs ont gagné en performances plus rapidement que la mémoire RAM et les processeurs ont incorporé des mémoires caches pour compenser la différence de vitesse entre processeur et mémoire RAM. Les caches sont beaucoup plus utilisés que les local store, ces derniers étant absent des processeurs commerciaux modernes, sauf peut-être dans quelques CPU dédiés aux applications embarquées. Ils sont présents dans les cartes graphiques modernes, l'ont été dans le CPU de la console Playstation 3, mais guère plus. À l'inverse, tous les processeurs disposent d'une ou plusieurs mémoires cache depuis au moins les années 90.

Hiérarchie mémoire

Les mémoires caches

Dans la majorité des cas, la mémoire intercalée entre les registres et la mémoire RAM/ROM est ce qu'on appelle une mémoire cache. Aussi bizarre que cela puisse paraître, elle n'est jamais adressable ! Le contenu du cache est géré par un circuit spécialisé et le programmeur ne peut pas gérer directement le cache. Le cache contient une copie de certaines données présentes en RAM et cette copie est accessible bien plus rapidement, le cache étant beaucoup plus rapide que la RAM. Tout accès mémoire provenant du processeur est intercepté par le cache, qui vérifie si une copie de la donnée demandée est présente ou non dans le cache. Si c'est le cas, on accède à la copie le cache : on a un succès de cache (cache hit). Sinon, c'est un défaut de cache (cache miss) : on est obligé d’accéder à la RAM et/ou de charger la donnée de la RAM dans le cache.

Le fonctionnement interne d'un cache sera expliqué dans le chapitre dédié aux mémoires caches. Pour le moment, tout ce qu'on peut dire est que la majorité des processeurs utilise des caches dit partiellement associatifs. Ils contiennent en leur sein une ou plusieurs mémoire RAM de petite taille, qui sont entourées par des circuits qui font fonctionner le tout comme un cache. Un cache est donc plus complexe qu'une RAM normale, du fait des circuit en plus. Il est plus gourmand en transistors, en consommation énergétique, etc.

Plus haut, on a vu que les mémoires secondaires ne sont pas fabriqués avec les mêmes technologies que les mémoires volatiles/RAM. Il en est de même avec les mémoires caches, ce qui explique la différence de performance entre RAM et cache. Les caches sont plus rapides, non seulement car ils sont plus petits, mais aussi car ils ne sont pas fabriqués comme des mémoires RAM. Les mémoires RAM actuelles sont des mémoires dites DRAM, alors que les caches sont fabriqués avec des mémoires dites SRAM. La différence sera expliquée dans quelques chapitres, retenez simplement que les procédés de fabrication sont différents. La SRAM est rapide, mais a une faible capacité, la DRAM est lente et de forte capacité. La raison est que 1 bit de SRAM prend beaucoup de place et utilise beaucoup de circuits, alors que les DRAM sont plus économes en circuits et en espace.

Les caches peuvent ou non être intégrés au processeur. Il a existé des caches séparés du processeur, connectés sur la carte mère. Un exemple était le cache du processeur Pentium 2, qui avait son propre "socket". Mais de nos jours, les caches sont incorporés au processeur, pour des raisons de performance. Les caches devant être très rapides, avec des temps d'accès proches de la nanoseconde, il fallait réduire drastiquement la distance entre le processeur et ces mémoires. Cela n'a l'air de rien, mais l'électricité met quelques dizaines ou centaines de nanosecondes pour parcourir les connexions entre le processeur et le cache, si le cache est en dehors du processeur. En intégrant les caches dans le processeur, on s'assure que le temps d'accès est minimal, la mémoire étant la plus proche possible des circuits de calcul.

Les local store et les caches RAM-configurables

Sur certains processeurs, les mémoires caches sont remplacées par des mémoires RAM appelées des local stores. Ce sont des mémoires RAM, identiques à la mémoire RAM principale, mais qui sont plus petites et plus rapides. Contrairement aux mémoires caches, il s'agit de mémoires adressables, ce qui fait qu'elles ne sont plus gérées automatiquement par le processeur : c'est le programme en cours d'exécution qui prend en charge les transferts de données entre local store et mémoire RAM.

Les local stores sont plus économes en circuits et consomment moins d'énergie que les caches à taille équivalente. En effet, ils n'ont pas besoin de circuits compliqués pour gérer automatiquement les échanges avec la RAM, contrairement aux caches. Ils sont adressables, ce qui est assez simple à implémenter avec un décodeur et des registres. Côté inconvénients, ces local stores peuvent entraîner des problèmes de compatibilité : un programme conçu pour fonctionner avec des local stores ne fonctionnera pas sur un ordinateur qui en est dépourvu.

Il faut noter que certains caches peuvent être configurés pour fonctionner comme des local store. En effet, une mémoire cache est souvent fabriquée en prenant une ou plusieurs mémoires SRAM adressables et en ajoutant des circuits autour. Mais il est possible d'utiliser les mémoires SRAM adressables telles quelles, en les adressant directement. Il s'agit de la technique du 'cache RAM-configurable.

L'usage de cache RAM-configurable est fréquent sur les cartes graphiques récentes. Elles incorporent un ou plusieurs processeurs multicœurs, dont le cache L1 de données est un cache RAM-configurable. Les CPU commerciaux incorporent aussi des caches de ce type, bien que cela ne soit utilisé que lors du démarrage de l'ordinateur. Au démarrage, le BIOS n'a pas immédiatement accès à la mémoire RAM principale, qui demande d'être configurée du fait de technicalités des mémoires DDR. Aussi, le BIOS utilise alors le cache du processeur comme une mémoire RAM. Les registres de configuration du CPU sont configurés de manière à ce que le cache soit utilisé comme local store. Du code s'exécute, vérifie la présence de mémoire RAM, configure le contrôleur DDR, fait quelques manipulations, puis met le cache à l'état normal.

Les principes de localité spatiale et temporelle

Utiliser au mieux la hiérarchie mémoire demande placer les données accédées souvent, ou qui ont de bonnes chances d'être accédées dans le futur, dans la mémoire la plus rapide possible. Le tout est de faire en sorte de placer les données intelligemment, et les répartir correctement dans cette hiérarchie des mémoires. Ce placement se base sur deux principes qu'on appelle les principes de localité spatiale et temporelle :

• un programme a tendance à réutiliser les instructions et données accédées dans le passé : c'est la localité temporelle ;
• et un programme qui s'exécute sur un processeur a tendance à utiliser des instructions et des données consécutives, qui sont proches, c'est la localité spatiale.

Pour donner un exemple, les instructions d'un programme sont placées en mémoire dans l’ordre dans lequel on les exécute : la prochaine instruction à exécuter est souvent placée juste après l'instruction en cours (sauf avec les branchements). La localité spatiale est donc respectée tant qu'on a pas de branchements qui renvoient assez loin dans la mémoire (appels de sous-programmes). De même, les boucles (des fonctionnalités des langages de programmation qui permettent d’exécuter en boucle un morceau de code tant qu'une condition est remplie) sont un bon exemple de localité temporelle. Les instructions de la boucle sont exécutées plusieurs fois de suite et doivent être lues depuis la mémoire à chaque fois.

On peut exploiter ces deux principes pour placer les données dans la bonne mémoire. Par exemple, si on a accédé à une donnée récemment, il vaut mieux la copier dans une mémoire plus rapide, histoire d'y accéder rapidement les prochaines fois : on profite de la localité temporelle. On peut aussi profiter de la localité spatiale : si on accède à une donnée, autant précharger aussi les données juste à côté, au cas où elles seraient accédées. Ce placement des données dans la bonne mémoire peut être géré par le matériel de notre ordinateur, mais aussi par le programmeur.

De nos jours, le temps que passe le processeur à attendre la mémoire principale devient de plus en plus un problème au fil du temps, et gérer correctement la hiérarchie mémoire est une nécessité, particulièrement sur les processeurs multi-cœurs. Il faut dire que la différence de vitesse entre processeur et mémoire est très importante : alors qu'une simple addition ou multiplication va prendre entre 1 et 5 cycles d'horloge, une lecture en mémoire RAM fera plus dans les 400-1000 cycles d'horloge. Les processeurs modernes utilisent des techniques avancées pour masquer ce temps de latence, qui reviennent à exécuter des instructions pendant ce temps d'attente, mais elles ont leurs limites.

Bien évidement, optimiser au maximum la conception de la mémoire et de ses circuits dédiés améliorera légèrement la situation, mais n'en attendez pas des miracles. Il faut dire qu'il n'y a pas vraiment de solution facile à implémenter. Par exemple, changer la taille d'une mémoire pour contenir plus de données aura un effet désastreux sur son temps d'accès qui peut se traduire par une baisse de performance. Par exemple, les processeurs Nehalem d'Intel ont vus leurs performances dans les jeux vidéos baisser de 2 à 3 % malgré de nombreuses améliorations architecturales très évoluées : la latence du cache L1 avait augmentée de 2 cycles d'horloge, réduisant à néant de nombreux efforts d'optimisations architecturales.

Une bonne utilisation de la hiérarchie mémoire repose en réalité sur le programmeur qui doit prendre en compte les principes de localités vus plus haut dès la conception de ses programmes. La façon dont est conçue un programme joue énormément sur sa localité spatiale et temporelle. Un programmeur peut parfaitement tenir compte du cache lorsqu'il programme, et ce aussi bien au niveau :

• de son algorithme : on peut citer l'existence des algorithmes cache oblivious ;
• du choix de ses structures de données : un tableau est une structure de donnée respectant le principe de localité spatiale, tandis qu'une liste chaînée ou un arbre n'en sont pas (bien qu'on puisse les implémenter de façon à limiter la casse);
• ou de son code source : par exemple, le sens de parcours d'un tableau multidimensionnel peut faire une grosse différence.

Cela permet des gains très intéressants pouvant se mesurer avec des nombres à deux ou trois chiffres. Je vous recommande, si vous êtes programmeur, de vous renseigner le plus possible sur les optimisations de code ou algorithmiques qui concernent le cache : il vous suffira de chercher sur Google. Quoi qu’il en soit, il est quasiment impossible de prétendre concevoir des programmes optimisés sans tenir compte de la hiérarchie mémoire. Et cette contrainte va se faire de plus en plus forte quand on devra passer aux architectures multicœurs.

Les registres du processeur

Pour finir ce chapitre, nous allons voir le sommet de la hiérarchie mémoire : les registres du processeur. Il peut paraitre étranger que l'on mette les registres du processeur au sommet. En effet, nous avons vu que le processeur a besoin de registres pour faire son travail. Il a besoin d'un program counter, d'un registre d'instruction, ainsi que d'autres de registres de contrôle. Sans cela, impossible d’exécuter des instructions. Mais il ne s'agit pas des registres dont nous allons parler ici. La hiérarchie mémoire ne se préoccupe des registres qui mémorisent les données. Il pour le coup, voyons voir ce qu'il en est.

Introduction historique : les processeurs à accumulateur

Intuitivement, on se dit que si les registres de données font partie de la hiérarchie mémoire, c'est que certains processeurs peuvent faire sans. Reste à voir si c'est possible. Rappelons que la RAM et les registres sont surtout utilisés par les instructions de calcul. Elles mémorisent les opérandes et les résultats des instructions de calcul. Pour se passer de registres, rien de bien sorcier : il suffit de lire les opérandes dans la mémoire RAM, puis d'enregistrer le résultat là aussi en RAM. Cependant, bien qu'intuitive, cette solution a un gros problème.

La majorité des opérations, comme l'addition ou la multiplication ont deux opérandes. Elles sont dites dyadiques. Pour les exécuter, le processeur doit lire deux opérandes en même temps, puis écrire le résultat. Mais les mémoires RAM ne peuvent faire qu'un seul accès à la fois, ce qui implique qu'elles ne peuvent pas lire deux opérandes à la fois.

Du moins, les mémoires RAM utilisées comme mémoire principale ne peuvent pas le faire. Il existe des mémoires dites multiports, qui peuvent faire plusieurs accès mémoire à la fois. Il existe des mémoires capables de faire deux lectures et une écriture, ce qui collerait parfaitement pour les instructions dyadiques. Le problème, c'est que les mémoires de ce genre sont presque toutes des mémoires SRAM. En clair, elles servent pour la mémoire cache ou pour les registres du processeur, mais pas comme mémoire principale. Le problème est donc entier : la mémoire principale ne permet de lire qu'une seule opérande à la fois.

Processeur avec un accumulateur.

Il y a donc un problème qu'il faut résoudre. Et il n'a pas 36 solutions, le seul moyen de le résoudre est de lire les deux opérandes l'une après l'autre, quitte à mémoriser un opérande dans le processeur. Pour mémoriser l'opérande, les tout premiers processeurs utilisaient un registre unique appelé l'accumulateur. La seconde opérande était lue depuis la mémoire RAM, la première était lue depuis l'accumulateur, et le résultat était mémorisé dans le registre accumulateur. Les instructions de calcul ne faisaient ainsi qu'un seul accès à la mémoire RAM, par opération.

En plus des instructions de calcul, le processeur a des instructions mémoire pour échanger des données entre la mémoire RAM et l'accumulateur. Les échanges de données peuvent se faire dans les deux sens : lecture comme écriture. Le processeur a une instruction pour la lecture et une autre instruction pour l'écriture. L'instruction de lecture s'appelle LOAD, elle copie une donnée de la RAM dans l'accumulateur, elle lit une adresse mémoire. L'instruction d'écriture s'appelle STORE, elle copie le contenu de l'accumulateur en mémoire RAM, à une adresse mémoire précisée par l'instruction.

Il est maintenant temps de répondre à une question qui s'était posée dans la section sur l'adressage : d'où viennent les adresses envoyées à la mémoire ? Sur les architectures à accumulateur, il n'y a qu'une seule possibilité : l'adressage direct. L'idée est que l'adresse est une constante, qui est intégrée dans l’instruction elle-même. Les instructions LOAD/STORE précisent donc l'adresse à lire ou écrire. Mais il y a la même chose pour les instructions arithmétiques : chaque instruction arithmétique précise où se trouve la seconde opérande en mémoire RAM. Les instructions sont donc du genre :

• LOAD 56 - lit l'adresse numéro 56 et copie son contenu dans l'accumulateur ;
• STORE adress 99, copie l'accumulateur dans l'adresse 99 ;
• ADD adress 209 : additionne l'accumulateur avec le contenu de l'adresse 209.

Dans les trois cas précédents, l'adresse est connue avant d’exécuter le programme, le programme a été codé pour utiliser cette adresse pour telle donnée, on a réservé une adresse pour la donnée voulue. C'est la seule possibilité possible sur les architectures à accumulateur, si on omet des capacités de calcul d'adresse très limitée qu'on détaillera dans le chapitre sur les accumulateurs.

L'intérieur d'un processeur à accumulateur est relativement simple. Il y a une unité de calcul, le registre accumulateur, et l'unité de contrôle qui commande tout le reste. Le tout est relié comme indiqué ci-dessous. L'accumulateur est relié à l'unité de calcul, mais aussi à la mémoire RAM pour les instructions mémoire LOAD et STORE. L'unité de contrôle reçoit une instruction, lue depuis la mémoire ROM, et configure le reste processeur pour qu'il exécute cette instruction. Elle envoie aussi l'adresse à lire/écrire sur le bus d'adresse, adresse qui est extraite de l'instruction lue.

Architecture à accumulateur, microarchitecture

Il faut noter que l'accumulateur n'est pas présent pour une raison d'optimisation. Il est là car le processeur n'a pas le choix. S'il veut s'interfacer avec une mémoire RAM normale, il doit utiliser un registre accumulateur. Dans ces conditions, difficile de dire si l'accumulateur fait partie de la hiérarchie mémoire. Personnelement, je vais dire que non, l'accumulateur ne fait pas partie de la hiérarchie mémoire. Avec un accumulateur, le processeur effectue toujours un accès mémoire par instruction, sauf en de rares exceptions. La performance du processeur est donc dépendante de celle de la mémoire RAM. La mémoire RAM doit être capable d'alimenter le processeur au rythme d'une lecture/écriture par cycle d'horloge. Par contre, avec les processeurs disposant de plus de registres, il y a une économie niveau accès mémoire.

Les processeurs modernes : les processeurs à registres généraux

Les architectures à accumulateur étaient très simples, faciles à concevoir, et marchaient bien à une époque où la mémoire était rapide, ce qui permettait de se passer de hiérarchie mémoire. Mais elles sont devenues plus confidentielles, de nos jours. La raison est que les processeur sont devenus plus rapides que la mémoire RAM. Et pour s'adapter, ils ont évolués pour accueillir plus de registres. Et l'ajout de registres a eu des conséquences assez importante sur la manière dont le processeur fonctionne. Notamment, les programmeurs et compilateur ont du s'adapter à la présence de plusieurs registres, à savoir qu'ils doivent utiliser les registres de données explicitement, comme ils le feraient pour la RAM.

La mémoire RAM étant devenue plus lente, les processeur doivent éviter de faire des accès mémoire à chaque instruction. Par exemple, prenons une mémoire 5 fois plus lente que le processeur. Concrètement, imaginons que la mémoire RAM mette 5 cycles d'horloge pour lire une donnée, alors que le processeur met un cycle d'horloge pour exécuter une instruction (lecture des opérande exclue). Dans ce cas, le seul moyen pour gagner en performance est que seule une instruction sur 5 accède à la mémoire.

Mais les processeurs à accumulateur ne permettent pas cela, il y a un accès mémoire par instruction, pour lire une opérande. Ils sont sous-optimaux, dans le sens où de nombreux accès mémoires pourraient être évités si on disposait de plus de registres. Par exemple, prenons le calcul suivant : A * B + C * D. Le processeur doit faire les deux multiplications, et additionner leurs résultats. Le problème est que le résultat de la première multiplication doit être enregistré en mémoire RAM, pour être relu lors de l'addition finale. Si on avait un second registre accumulateur, on aurait pu éviter cela, en mémorisant les deux résultats dans un accumulateur chacun.

Comme autre exemple, si un opérande est utilisé par deux ou trois instructions, les architectures à accumulateur imposent de la lire plusieurs fois, une fois par instruction. Si on disposait d'un second ou troisième accumulateur, voire d'un troisième, on pourrait éviter ça. Et les exemples de ce type sont vraiment nombreux. En soi, rien de bien grave, mais les performances ne sont pas terribles. Le processeur est alors très dépendant de la performance de la mémoire RAM. Et autant cela passait au tout début de l'informatique, où processeur et RAM avaient une vitesse comparable, autant ce n'est plus le cas de nos jours.

Processeur avec des registres généraux.

Pour éviter ces problèmes, les processeurs modernes disposent de plusieurs registres généraux, chacun mémorisant un opérande. Les opérations lisent leurs opérandes depuis les registres et enregistrent leur résultat dans les registres. Notons qu'il est parfaitement possible de lire deux opérandes depuis les registres, ce n'est pas un problème. Les registres sont même l'idéal pour ça.

L'avantage est que cela réduit beaucoup les lectures en mémoire RAM. Si je reprends l'exemple de l'opération A * B + C * D, on élimine totalement les accès mémoire. Les deux multiplications enregistrent leurs résultats dans des registres généraux, la troisième lit ces deux registres. Pas besoin d'enregistrer un résultat en RAM pour le relire ensuite. Et il en est de même pour l'exemple où un opérande utilisé par plusieurs opérations : l'opérande est copéié dans les registres une seule fois, les opérations utiliseront la copie dans les registres.

La capacité des registres généraux détermine la taille des données manipulée par le processeur. Quand on parle de processeur 8, 16, 32 ou 64 bits, on parle de la taille des registres généraux. Idem quand on parle d'ordinateur ou de console de jeu 8, 16, 32 bits. Au tout début de l'informatique, il n'était pas rare de voir des registres généraux de 3, 4, voire 8 bits. Par la suite, la taille de ces registres a augmenté, passant rapidement de 16 à 32 bits, voire 48 bits sur certains processeurs spécialisés. De nos jours, les processeurs des PC utilisent des registres de 64 bits, même s'il existe toujours des processeurs de faible performance avec des registres relativement petits, de 8 à 16 bits.

Cependant, la présence de plusieurs registres est une source de complication assez importante. En effet, avec un accumulateur unique, la première opérande est lue directement depuis l'accumulateur, la seconde est lue depuis la RAM. Il y a juste à préciser l'adresse de la seconde opérande. Mais avec des registres généraux, il faut préciser où se trouvent les deux opérandes ! Il y a alors deux solutions :

• soit les deux opérandes sont dans des registres ;
• soit la première est dans un registre et la seconde est en mémoire RAM.

Les processeurs CISC autorisent les deux possibilités, alors que les processeurs RISC n'autorisent que la première. Les processeurs RISC sont donc plus simples, dans le sens où toutes les instructions de calcul savent que leurs opérandes sont dans les registres. Les processeurs CISC, par contre, doivent préciser dans quel cas ils sont. La solution la plus simple utilise un bit, intégré dans l'instruction, qui dit dans quel cas l'instruction est. Une autre solution assez similaire utilise deux instructions différentes, selon la position de l'opérande dans l'ordinateur.

Mais ce n'est pas le seul problème que les processeurs doivent résoudre. Prenons l'exemple d'un processeur RISC, qui lit les deux opérandes sont lues depuis les registres. Il faut alors préciser dans quel registre se trouve la première opérande, et dans quel registre se trouve la seconde. De plus, il faut aussi préciser dans quel registre écrire le résultat. Pour cela, la solution est de numéroter les registres. Les instructions précisent les numéros des registres qu'elles utilisent. Les numéros de registre sont un équivalent pour les registres des adresses mémoire, mais les deux sont séparés.

L'intérieur du processeur est aussi modifié de manière à tenir compte de la présence de plusieurs registres. Les registres sont regroupés dans un circuit unique, appelé le banc de registres. Nous avons déjà vu comment créer un banc de registre, dans le chapitre nommé "Les registres et mémoires adressables". Rien de bien compliqué : il suffit de relier les registres à un multiplexeur et un démultiplexeur. Le multiplexeur permet de sélectionner quel registre lire, le démultiplexeur sélectionne le registre à écrire. Si on souhaite lire deux registres à la fois, il suffit de rajouter un second multiplexeur. Les multiplexeurs/démultiplexeur sont commandés en utilisant les numéros de registres mentionnés plus haut. Les numéros de registre sont extraits des instructions par l'unité de contrôle, qui envoie les numéros de registre sur l'entrée des multiplexeurs/démultiplexeurs.

Intérieur d'une RAM fabriquée avec des registres et des multiplexeurs.

Autre problème : les registres ne serviraient pas à grand-chose si on ne pouvait pas échanger des données entre registres et mémoire RAM. Pour cela, un processeur incorpore souvent des instructions pour copier des données provenant de la mémoire RAM dans un registre, et des instructions qui font l'inverse (d'un registre vers la mémoire). Les instructions en question sont appelées LOAD (copie RAM vers registre) et STORE (copie registre vers RAM). Les échanges de données entre RAM et registres sont fréquents, les instructions LOAD et STORE sont tout aussi importantes que les instructions de calcul.

Les instructions arithmétiques accèdent aux registres, elles peuvent aussi accéder à la mémoire RAM, mais nous omettons cette possibilité pour le moment. Par contre, les instructions LOAD et STORE ne font qu'accéder à la mémoire, ce qui demande de préciser l'adresse à lire/écrire. Encore une fois, on peut se demander d'où viennent les adresses ? Et cette fois-ci, il y a deux possibilités, une de plus que pour les architectures à accumulateur, qui s'appellent des modes d'adressage.

• Avec l'adressage direct, où l'adresse est une constante intégrée dans l’instruction LOAD/STORE elle-même. Il était déjà présent sur les architectures à accumulateur, je ne reviendrais pas dessus.
• Avec l'adressage indirect, l'adresse est déterminée lors de l'exécution du programme et est ensuite placée dans un registre général. L'adressage indirect permet d'envoyer ce registre sur le bus d'adresse.

Pour résumer, soit l'adresse est constante et est intégrée dans l'instruction, soit elle est variable et est une donnée comme une autre. Dans le second cas, elle se retrouve dans un registre général, ou est calculée à partir d'opérandes dans les registres, les deux cas sont très similaires. Et cela explique pourquoi on parle de registres généraux : ils servent aussi bien pour les opérandes que pour les adresses mémoire.