Pipelining inštrukcií: definícia, princíp a vplyv na výkon CPU

Výhody pipeliningu:

1. Skracuje sa čas cyklu procesora, čím sa zvyšuje priepustnosť inštrukcií. Pipelining neskracuje čas potrebný na dokončenie inštrukcie; namiesto toho zvyšuje počet inštrukcií, ktoré možno spracovať súčasne ("naraz"), a znižuje oneskorenie medzi dokončenými inštrukciami (tzv. "priepustnosť").
   Čím viac stupňov pipeline procesor má, tým viac inštrukcií môže spracovať "naraz" a tým menšie je oneskorenie medzi dokončenými inštrukciami. Každý dnes vyrábaný
   mikroprocesor na všeobecné účely používa aspoň 2 stupne pipeline až do 30 alebo 40 stupňov.
2. Ak sa použije pipelining, aritmetická logická jednotka CPU môže byť navrhnutá rýchlejšie, ale bude zložitejšia.
3. Pipelining teoreticky zvyšuje výkon oproti nepipeliningovému jadru o násobok počtu stupňov (za predpokladu, že sa rovnakým násobkom zvýši aj taktovacia frekvencia) a kód je ideálny na vykonávanie v pipeline.
4. Pipelined CPU vo všeobecnosti pracujú s vyššou taktovacou frekvenciou ako taktovacia frekvencia RAM (od roku 2008 technológie RAM pracujú s nízkou frekvenciou v porovnaní s frekvenciou CPU), čo zvyšuje celkový výkon počítačov.

Nevýhody pipeliningu:

Pipelining má mnoho nevýhod, hoci existuje veľa techník, ktoré používajú návrhári procesorov a kompilátorov na prekonanie väčšiny z nich; nižšie je uvedený zoznam bežných nevýhod:

1. Konštrukcia nepipelínového procesora je jednoduchšia a lacnejšia na výrobu, nepipelínový procesor vykonáva v danom čase len jednu inštrukciu. Tým sa zabráni oneskoreniu vetvenia (v pipeliningu sa každé vetvenie oneskorí), ako aj problémom pri súbežnom vykonávaní sériových inštrukcií.
2. V pipeliningovom procesore vloženie flip flopov medzi moduly zvyšuje latenciu inštrukcií v porovnaní s nepipeliningovým procesorom.
3. Procesor bez pipelínovania bude mať definovanú priepustnosť inštrukcií. Výkonnosť pipelínového procesora je oveľa ťažšie predpovedať a môže sa výrazne líšiť pre rôzne programy.
4. Mnohé návrhy obsahujú pipeline dlhé 7, 10, 20, 31 a dokonca viac stupňov; nevýhodou dlhých pipeline je, že keď sa program vetví, musí sa celá pipeline prepláchnuť (vyčistiť). Vyššia priepustnosť pipelín sa nedosahuje, keď vykonávaný kód obsahuje veľa vetiev: procesor nemôže vopred vedieť, kde má prečítať ďalšiu inštrukciu, a musí čakať na dokončenie inštrukcie vetvenia, pričom pipeline za ňou zostáva prázdna. Túto nevýhodu možno znížiť predpovedaním, či sa podmienená vetviaca inštrukcia bude vetviť na základe predchádzajúcej činnosti. Po vyriešení vetvenia musí ďalšia inštrukcia prejsť celú cestu cez pipeline, kým sa jej výsledok stane dostupným a procesor opäť pokračuje v "práci". V takýchto extrémnych prípadoch môže byť výkonnosť pipelínového procesora horšia ako nepipelínového procesora.
5. Bohužiaľ, nie všetky pokyny sú nezávislé. V jednoduchej pipeline môže dokončenie inštrukcie vyžadovať 5 etáp. Aby táto pipeline pracovala s plným výkonom, bude musieť počas dokončovania prvej inštrukcie spustiť 4 nasledujúce nezávislé inštrukcie. Ktorákoľvek z týchto 4 inštrukcií môže závisieť od výstupu prvej inštrukcie, čo spôsobí, že logika riadenia pipeline bude čakať a vloží do pipeline zdržanie alebo zbytočný takt, kým sa závislosť nevyrieši. Našťastie techniky, ako je forwarding, môžu výrazne znížiť počet prípadov, keď je potrebné zdržanie.
6. Programy, ktoré sa samy modifikujú, sa na pipelínovej architektúre nemusia vykonávať správne, ak sa modifikované inštrukcie nachádzajú v blízkosti vykonávaných inštrukcií. Môže to byť spôsobené tým, že inštrukcie sa už môžu nachádzať vo vstupnej fronte Prefetch, takže modifikácia sa nemusí pre nadchádzajúce vykonávanie inštrukcií prejaviť. Inštrukčné vyrovnávacie pamäte tento problém ešte zhoršujú.
7. Nebezpečenstvá: Keď programátor (alebo kompilátor) píše kód v assembleri, spravidla predpokladá, že každá inštrukcia sa vykoná skôr, ako sa vykoná ďalšia inštrukcia. Keď tento predpoklad nie je potvrdený pipeliningom, spôsobuje nesprávne správanie programu, situácia sa nazýva nebezpečenstvo. Existujú
   rôzne techniky na riešenie nebezpečenstiev alebo ich obchádzanie, ako napríklad presmerovanie a oneskorenie (vložením zdržania alebo premárneného hodinového cyklu).

Všeobecné potrubie

Vpravo je generické potrubie so štyrmi stupňami:

1. Získať
2. Dekódovanie
3. Vykonajte
4. Spätný zápis

Horný sivý rámček je zoznam inštrukcií čakajúcich na vykonanie, dolný sivý rámček je zoznam inštrukcií, ktoré boli dokončené, a stredný biely rámček je pipeline.

Vykonávanie je nasledovné:

Bublina

Keď dôjde k "zádrhnutiu" (prerušeniu) vykonávania, v potrubí sa vytvorí "bublina", v ktorej sa nič užitočné nedeje. V cykle 2 sa načítanie fialovej inštrukcie oneskorí a dekódovacia fáza v cykle 3 teraz obsahuje bublinu. Všetko za fialovou inštrukciou je tiež oneskorené, ale všetko pred fialovou inštrukciou pokračuje vo vykonávaní.

Je zrejmé, že v porovnaní s vyššie uvedeným vykonávaním bublina poskytuje celkový čas vykonávania 8 hodinových taktov namiesto 7.

Bubliny sú ako stall (oneskorenie), v ktorom sa pri načítaní, dekódovaní, vykonávaní a spätnom zápise nič užitočné nestane. Je to ako kód NOP (skratka pre No OPeration).

Príklad 1

Typickou inštrukciou na sčítanie dvoch čísel môže byť ADD A, B, C, ktorá sčíta hodnoty nachádzajúce sa v pamäťových miestach A a B a potom umiestni výsledok do pamäťového miesta C. V pipelínovom procesore by to pipeline kontrolér rozdelil na sériu úloh podobne ako:

Miesta "R1" a "R2" sú registre v CPU. Hodnoty uložené v pamäťových miestach označených "A" a "B" sa načítajú (kopírujú) do týchto registrov, potom sa sčítajú a výsledok sa uloží do pamäťového miesta označeného "C".

V tomto príklade je pipeline trojstupňová - načítanie, vykonávanie a ukladanie. Každý z týchto krokov sa nazýva etapa pipeline.

V nepipelínových procesoroch môže naraz pracovať len jedna fáza, takže celá inštrukcia sa musí dokončiť skôr, ako sa začne ďalšia inštrukcia. V pipelined procesore môžu všetky fázy pracovať naraz na rôznych inštrukciách. Takže keď je táto inštrukcia vo fáze vykonávania, druhá inštrukcia bude vo fáze dekódovania a tretia inštrukcia bude vo fáze načítania.

Príklad 2

Aby sme lepšie pochopili tento koncept, môžeme sa pozrieť na teoretický trojstupňový plynovod:

a výpis pseudokódu zostavy, ktorý sa má vykonať:

Takto by sa to vykonalo:

Inštrukcia LOAD sa načíta z pamäte.

Vykoná sa inštrukcia LOAD, zatiaľ čo inštrukcia MOVE sa načíta z pamäte.

Inštrukcia LOAD je vo fáze Store, kde sa jej výsledok (číslo 40) uloží do registra A. Medzitým sa vykonáva inštrukcia MOVE. Keďže musí presunúť obsah A do B, musí počkať na ukončenie inštrukcie LOAD.

Inštrukcia STORE sa načíta, zatiaľ čo inštrukcia MOVE sa dokončuje a inštrukcia ADD sa počíta.

A tak ďalej. Všimnite si, že niekedy bude inštrukcia závisieť od výsledku inej inštrukcie (ako napríklad náš príklad MOVE). Ak sa na určité miesto operandu odvoláva viac ako jedna inštrukcia, a to buď na čítanie (ako vstup), alebo na zápis (ako výstup), vykonanie týchto inštrukcií v inom poradí, ako je pôvodné poradie programu, môže viesť k nebezpečnej situácii (uvedenej vyššie).

• Potrubie (výpočtová technika)
• Paralelné výpočty
• Paralelizmus na úrovni inštrukcií