Eksplorator protokołu MESI weryfikacji pamięci podręcznej

Cztery Stały, Jeden Po Drugim

Każdy wiersz pamięci podręcznej uczestniczący w protokole MESI znajduje się w dokładnie jednym z czterech stanów w dowolny moment. Stan Modyfikowany (M) oznacza, że ten jądro ma jedyną aktualnie zaktualizowaną kopię wiersza pamięci podręcznej, została ona zmodyfikowana od chwili załadowania i jej wartość różni się od pamięci glownej, co oznacza, że teraz jest odpowiedzialne za zapisanie jej do pamięci glownej. Stan Ekskluzywny (E) oznacza, że jądro ma ponownie jedyną aktualnie zaktualizowaną kopię wiersza pamięci podręcznej, ale nie została ona zmodyfikowana, nadal dokładnie odpowiada pamięci glownej, co oznacza, że jądro może bezpiecznie przekształcić ją na stan Modyfikowany, jeśli zapisze ją, bez żadnych komunikacji przez system busowy. Stan Podzielony (S) oznacza, że potencjalnie kilka jąder ma aktualne i niezmodyfikowane kopie tego wiersza jednocześnie, co jest bezpieczne dla czytelnych operacji, ale oznacza, że jądro musi poinformować wszystkie inne jądra przed tym, jak będzie mogło zapisywać. Stan Nieprawidłowy (I) oznacza, że pamięć podręczna albo nigdy nie miała tego wiersza, lub jego kopię niewłaściwie wycofała inny jądro po zapisie, co oznacza, że dowolne dostęp do tej pamięci musi wrócić i pobrać nowe dane. Cudowna parte projektu polega na tym, że Ekskluzywny i Podzielony reprezentują czyste, niezmodyfikowane dane, ale Ekskluzywny informuje sprzęt, że żaden inny jądro nie ma kopii, co pozwala na drogę dość tańsze przekształcenie w Modyfikowany bez żadnych komunikacji przez system busowy. Natomiast Podzielony wymusza na początku wyraźne powiadomienie o niewłaściwym stanie, co pozwala uniknąć znaczącej ilości niepotrzebnej komunikacji przez system busowy dla danych czytanych przez jedno jądro i natychmiast zapisywane przez to samo jądro, co jest bardzo często spotykany wzór w rzeczywistych programach.

Snooping nad kanałem: Jak jądra dowiadują się o sobie

Protokół MESI jest protokołem snopingowym, co oznacza, że każda pamięć podręczna obserwuje, czyli snoopuje, wspólny kanał na wyszukiwanie transakcji wydanej przez inne jądra, zamiast polegać na centralnej rejestrze do śledzenia własności. Gdy jądro A chce odczytać adres, który nie ma w pamięci podręcznej, emituje żądanie Odczytu nad kanał. Każde inne jądro snoopuje to żądanie i sprawdza, czy ma linię; jeśli tak, a jest ona Modyfikowana, ta pamięć podręczna musi dostarczyć dane bezpośrednio, zapisz je do pamięci i spuści status na Podzielne, podczas gdy nowa kopia jądra A staje się również Podzielna. Jeśli żadna inna pamięć podręczna nie ma tej lini, jądro A może załadować ją jako Właściciele, ponieważ teraz jest jedynym właścicielem. Gdy natomiast jądro A chce napisać, emituje żądanie Odczytu-Do-Napisań (zwane czasem Uaktualnieniem, jeśli już posiada kopię Podzielną), które snoopuje każda inna pamięć podręczna i odpowiada na nie wycofując swoją własną kopię tej lini, przenosząc ją do statusu Nieprawidłowy. Po tym, jak każda inna pamięć podręczna potwierdzi wycofanie, linia jądra A staje się Modyfikowana, gwarantując, że teraz jest jedynym i autorytetnym właścicielem. To stałe rozmowy, wysyłanie żądań i sprawdzanie oraz reagowanie przez każdy kontroler pamięci podręcznej, to co oznacza słowo snooping, a to jest mekanizm, który pozwala stworzyć iluzję jednolitej wspólnej pamięci na faktycznie oddzielnych pamięciach podręcznych.

Dlaczego coherentność kosztuje wydajność: fałszywe współdzielenie i burze anulowania

Traficja coherentna nie jest darmowa, a dwie wzorce ilustrują jej koszty bardzo jasno. Pierwszym z nich jest sytuacja, gdy wielu rdzeni powtarzająco pisze do tego samego adresu, co wymusza anulowanie każdej innej skopiowanej w pamięci podręcznej kopii, co prowadzi do ping-pongowania linii między rdzeniami. Każdy zapis wymaga pełnego cyklu anulowania przez bus przed tym, jak może kontynuować się dalej, a ten wzorzec nazywany jest czasem ping-pongiem linii pamięci podręcznej lub burzą anulowania. Drugim, bardziej zagubionym wzorcem, jest fałszywe współdzielanie, które występuje w momencie, gdy dwie niezależne zmienne, które nigdy nie są logicznie powiązane, przypadkowo leżą na tej samej linii pamięci podręcznej, co zwykle wynosi 64 bajtów na większości współczesnych procesorów. Dwa rdzenia A i B mogą tylko modyfikować zmienne X i Y odpowiednio, ale ponieważ X i Y dzielą wspólną linię, każda zapisana przez jedno z tych rdzeni linia, wraz z innymi zmiennymi tego rdzenia, musi być anulowana i ponownie pobrana, co powoduje traficję coherentną niezwiązującą się z żadnym rzeczywistym zależnością danych w programie. Może to cichym sposobem spuścić wydajność wielowątkową o rzędy bez żadnych błędnego zachowania, co sprawia, że jest ono szczególnie trudne do zdiagnozowania bez pomiarów wydajności sprzętowych specyficznie śledzących zdarzenia anulowania pamięci podręcznej. Dodawanie wypełniających danych tak, aby per-ścieżkowe liczniki lub zasady blokady leżały na osobnych liniach pamięci podręcznej, jest standardowym, choć kosztownym rozwiązaniem dla exact tego problemu i to jedno z najpopularniejszych rzeczywistych lekcji, które mecanizmy MESI nauczają bezpośrednio.

Przykład Praktyczny: Dwa Jeziora, Jedna Liczba

Załóżmy, że mamy dwa jeziora, które obydwa chcą zwiększyć wspólną liczbę o adresie X, podczas gdy X jest zerem w pamięci i wszędzie jest nieprawidłowy. Jezierko 1 czyta X: nie ma ono tej linii w buforze, więc pobiera ją ze pamięci i ładowało ją jako Exkluzywna. Następnie jezierko 1 zwiększa wartość i zapisuje; ponieważ już posiada linię jako Exkluzywną, nie jest potrzebna żadna transakcja busowa, a linia bezgłośnie przechodzi do Stanu Modyfikowalnego z nową wartością. To szybki ścieżka, której istnienie pozwala na zwiększenie efektywności Exkluzywnych. Teraz jezierko 2 czyta X: wysyła ono żądanie odczytu busowego, a jezierko 1 dostrzega to i sprawdza, że linia jest Modyfikowana, dostarczając jej aktualną wartość bezpośrednio do jeziorka 2 podczas zapisu tej wartości do pamięci; oba bufora teraz mają linię jako Wspólne. Jezierko 2 chce następnie zwiększyć i zapisać: ponieważ jego kopie jest tylko Wspólna, musi wysłać żądanie odczytu dla własności lub zwiększenia, które jeziorko 1 dostrzega i odpowiada na to przez niewalidację swojej kopii, przechodząc do Stanu Nieprawidłowego; dopiero wtedy linia jeziorka 2 staje się Modyfikowana z nową wartością. Jeśli jezierko 1 natychmiast spróbuje ponownie odczytać X, wraca ono do Stanu Nieprawidłowego, co spowoduje kolejną transakcję busową i przekazanie. Zauważmy, że naiwny wzorzec zwiększania się na alternatywne jeziora zmienia to, co wygląda na proste arytmetyczne, w ciąg nieustannych transakcji busowych, każda z nich przesyła rzeczywistą opóźnienie, co dokładnie jest powodem dokładnej konstrukcji liczników bez blokady i operacji atomicznych, a także powodu tego, że profilerzy wydajności sprzętu raportują kaskady braków jako oddzielne, często dominujące kategorie opóźnienia w kodzie wielowątkowym.

Pochodne MESI i Znaczenie W Praktyce

MESI opisane jest jako podstawa, ale produkcyjne procesory rozszerzają go. MESIF używany przez Intel dodaje stan Forward, który wskazuje dokładnie jedno z wielu współdzielonych kopii, które jest odpowiedzialne za przekazywanie danych do przyszłego odbiorcy, unikając sytuacji, gdy każda kachla odpowiadająca na żądanie odczytu powtarza się. MOESI używany przez AMD dodaje stan Owned, który pozwala kachlemu dostarczać dane bezpośrednio innym z modyfikowanej linii bez potrzeby zapisywania ich do pamięci, wymieniając bit komplikacji protokołu na zmniejszenie ruchu po pamięci. Gdy liczba rdzeni wzrosła do dziesiątek, obserwacja przez każdą kachelę każdego transakcji stała się brzegiem skalowalności, co zmotywowało przejście w stronę koherencji opartej na rejestracji, gdzie struktura centralizowana lub rozproszona rejestracji śledzi dokładnie, które kachle zawierają dane konkretnych linii, a wiadomości o niewłaściwości mogą być wysyłane tylko do rzeczywistych współdzielonych, a nie do wszystkich. Niestety te różnice pozostawiają podstawową logikę maszyny stanowej, którą widzisz w tej symulacji, linie przechodzące między podobnymi stanami wyłączonymi, współdzielonymi, zmodyfikowanymi i nieprawidłowymi w odpowiedzi na zdarzenia obserwacji busa, jako konceptualną ramą koherencji w prawie każdej chipie wielokorek generycznego dostarczanej dzisiaj, od SoC telefonów komórkowych do procesorów serwerów o ponad sto rdzeniach.

Często zadawane pytania

Wypróbuj na żywo

Wszystko powyżej działa bezpośrednio w Twojej przeglądarce — otwórz MESI Cache Coherence Protocol Explorer i zmieniaj parametry podczas działania. Nic nie jest instalowane ani przesyłane na serwer, cały model działa w jednej karcie.