HPE DL6 G8 - Awaria dysku, klient usunął RAID 0 - jak odzyskać same dane?

Witam.

W serwerze dwa Arraye - RAID 0 [którego dotyczy problem] i RAID 1 [mirror z samymi danymi].

Na RAID 0 znajdował się ProxMox, działała na nim cała szkoła [poza e-dziennikiem, który jest w chmurze] więc aktualnie jest kapucyn i szukam rozwiązania, zaś żadne mi nie chce zakręcić.

Na wstępie zaznaczę, że moja znajomość z Linuxem to absolutne podstawy, głównie od strony katalogowania FTP, bawienia się stronami, aliasami, proste skrypty czy w przypadku Raspberry - zarządzanie GPIO (aczkolwiek to już bardziej python).

Nie interesuje mnie odzysk całej tablicy RAID 0, interesuje mnie jedynie odczyt danych, abym mógł zgrać *.VHD, które na nim były, potem z poziomu ProxMox już sobie poradzę.

"LSPCI" oraz "LSSCSI" wyświetlają poszukiwany przeze mnie dysk, acz bez ścieżki dostępu "/dev/sd*".
Próbując dokonać mounta, dostaję komunikat, że format LVM jest nieobsługiwany i kropka.

Pomoże ktoś? Rzucam 100 punktów ^^

Co oznacza "usunął RAID0"?
Na tym RAID0 było oprogramowanie PROXMOX?
RAID był sprzętowy czy programowy? Wiesz jak to było zrealizowane? Wiesz czy jest w serwerze sprzętowy kontroler RAID? Teoretycznie powinien być, ale że to szkolnictwo to mnie nie zdziwi jakby nie było a RAIDy były programowe.
Jeżli jest to RAID sprzętowy i masz wszystkie dyski (nikt nie usunął fizycznie dysku z RAID0) to wystarczy złożyć raz jeszcze macierz w oprogramowaniu kontrolera (dane do złożenia macierzy są na dyskach).

No grzebał tam gdzie nie powinien i skasował dysk wirtualny RAID 0 (bay 1, bay 2).
Tak, na RAID 0 był proxmox.

Wyedytowałem wyżej post, ale wszystko wskazuje na to (o ile masz sprzętowy kontroler), że wystarczy raz jeszcze złożyć macierze, o ile ich nie próbował formatować itd.

EDIT:
Przy okazji...nie mieli kopii? RAID0 + brak kopii?

Skoro VHD były na RAID 1 (a tylko Proxmox na usuniętym RAID0) to jaki problem wystartować serwer z płyty live i skopiować dane?
Będzie wymagane jedynie podmontowanie dysku z danymi....
Chyba że coś źle zrozumiałem autora i VHD też były na RAID0 ale to by oznaczało kompletną głupotę autora takiego rozwiązania...


A później ponowna instalacja Proxmox i odpalenie skopiowanych wirtualek


Ale po opisie sytuacji to bym zaczął od zrobienia kompletych kopii posektorowych całości aby jeszcze więcej nie namieszać. No i opisz sobie odpowiednio te kopie. Później można bezpiecznie działać na kopiach a oryginały zostawić na wszelki wypadek...

OPservator napisał:

Nie interesuje mnie odzysk całej tablicy RAID 0, interesuje mnie jedynie odczyt danych

- I jak chcesz to zrobić bez odbudowania macierzy? I jeszcze na tym VHD = co najmniej kilka, jeśli nie więcej różnych systemów plików. Możesz spróbować automatycznej odbudowy macierzy w DMDE, jak to nie pomoże, trzeba będzie ustalać parametry macierzy manualnie bazując na analizie zawartości dysków.

Najpierw dobrze będzie ustalić:
- czy macierz jest sprzętowa czy programowa (w tej serii serwerów może być różnie);
- czy usunięto macierz i koniec, czy też usunięto i ingerowano w nią (np. próba nadpisania dysków);

Jeżeli tylko usunięto macierz w oprogramowaniu HP do obsługi kontrolera RAID (jeżeli był kontroler sprzętowy), to wystarczy złożyć ją raz jeszcze. Jedyne co musisz wiedzieć, to które dyski dodać i jaki był level RAIDa. Resztę kontroler sam ogarnie.
Jeżeli ktoś cokolwiek nadpisał na dyskach to raczej nie wróżę nic dobrego, przy czym za nadpisanie można uznać złożenie nowej macierzy w innym levelu.
W HP kontrolery sprzętowe zawsze trzymają konfig na temat macierzy na dyskach. Podczas startu jest to odczytywane i składane tak jak powinno być (to co ustawiliśmy). W Dellach jest różnie, choć przeważnie działa jak w HP. Tyle, że tutaj mamy możliwości wgrania alternatywnych firmware do kontrolera - wtedy może być inaczej, ale za to można np. zmusić kontroler do pracy takiej, gdzie każdy dysk jest widoczny osobno, bez RAID co jest przydatne np. przy TrueNAS.

Z ciekawości jeszcze dopytam na jakich dyskach był ten RAID0 i co zadziało się poza "usunięciem" macierzy.

tacman napisał:

- czy macierz jest sprzętowa czy programowa (w tej serii serwerów może być różnie);

Programowa

tacman napisał:

- czy usunięto macierz i koniec, czy też usunięto i ingerowano w nią (np. próba nadpisania dysków);

Jeden dysk można uznać za nadpisany - zwyczajnie uległ awarii i klient samodzielnie postanowił podmienić dyski, macierz niby się odbudowała, ale system nie wstawał, na moją logikę RAID1 który działa powinien być kopią RAID0 który leży i wszystko powinno działać, no ale stety niestety tak nie jest, ktoś tu solidnie skopał u samej podstawy. Dlatego interesuje mnie wyciągnięcie tych VHD i postawienie wszystkiego od nowa, zgodnie ze sztuką.

Łukasz_W napisał:

Z ciekawości jeszcze dopytam na jakich dyskach był ten RAID0 i co zadziało się poza "usunięciem" macierzy.

Dyski oryginalne HP, kupione w serwisie na G razem z serwerem, reszta jak wyżej. Serwer w tej konfiguracji latał ostatnie 5 lat, konfigurowała to poprzednia firma IT która z nimi współpracowała.

Fajnie, że są tam dyski HP... Chodziło mi bardziej, czy są to dyski HDD czy SSD.
Jak koledzy już radzili zacząć jakąkolwiek pracę powinieneś od zabezpieczenia stanu wyjściowego wykonaniem kopii posektorowych.
Później, tak jak Kaleron wspomniał, żeby odzyskać VHD i wszystko inne należy przeprowadzić rekonstrukcję macierzy.

OPservator napisał:

Jeden dysk można uznać za nadpisany - zwyczajnie uległ awarii i klient samodzielnie postanowił podmienić dyski, macierz niby się odbudowała, ale system nie wstawał

RAID0 odbudował się po wymianie jednego dysku? Jak? Z czego?

OPservator napisał:

Jeden dysk można uznać za nadpisany - zwyczajnie uległ awarii i klient samodzielnie postanowił podmienić dyski, macierz niby się odbudowała, ale system nie wstawał

Jeśli jeden dysk z macierzy RAID0 został nadpisany, to powyższe kroki do niczego ci się nie przydadzą - nie ma możliwości odzyskania danych w takiej sytuacji.

OPservator napisał:

na moją logikę RAID1 który działa powinien być kopią RAID0 który leży i wszystko powinno działać, no ale stety niestety tak nie jest, ktoś tu solidnie skopał u samej podstawy.

A dlaczego skoro są to dwie osobne macierze pełniące zupełnie inne role?

Ogólnie opis uszkodzenia i przeprowadzonych czynności wyklucza się nawzajem.

OPservator napisał:

zwyczajnie uległ awarii i klient samodzielnie postanowił podmienić dyski, macierz niby się odbudowała,

Przy RAID0 po takim wyczynie możesz śmiało poddać temat. Z winy klienta. Co się stało temu dyskowi, który uległ awarii?

OPservator napisał:

interesuje mnie wyciągnięcie tych VHD i postawienie wszystkiego od nowa,

- jw. Nie jest to możliwe bez odbudowania macierzy, a jeśli jest prawdą, że klient zrobił to, o czym napisałeś, to nie ma do czego siadać. VHD, to za duże pliki, by można było liczyć na odzyskanie sensownych fragmentów po takich zabawach.

OPservator napisał:

Dyski oryginalne HP

- nie ma czegoś takiego, jak "dyski HP", zwłaszcza "oryginalne". HP klei naklejki zwykle na Seagatach w przypadku dysków twardych i na różnych urządzeniach w przypadku SSD. Ale swoich dysków nie produkuje. Kiedyś, bardzo dawno temu, coś próbowali, ale im nie poszło. W każdym razie nie spodziewam się, byś miał tam dyski z zamierzchłych lat '90.

Łukasz_W napisał:

Fajnie, że są tam dyski HP... Chodziło mi bardziej, czy są to dyski HDD czy SSD.

Klasyczne talerzówki SAS. Jakie to ma znaczenie względem odczytu z nich danych?...

kaleron napisał:

Co się stało temu dyskowi, który uległ awarii?

Przestał kręcić, zakładam winę elektroniki. Znaczy... czasem zakręcił, jak już złapał to działał, ale serwer sypał, że przewiduje jego śmierć i zaleca wymianę tak czy inaczej, więc w SMART pewnie też nie było za ciekawie.

Temat zamykam, serwer wraca dziś do klienta, dyski mam już nowe zamówione, przyszły jakąś chwilę temu, także zrobimy to tak jak być powinno - na RAID 10.

OPservator napisał:

Klasyczne talerzówki SAS. Jakie to ma znaczenie względem odczytu z nich danych?...

Bo gdyby chodziło o SSD doszedłby TRIM.

OPservator napisał:

Przestał kręcić, zakładam winę elektroniki. Znaczy... czasem zakręcił, jak już złapał to działał, ale serwer sypał, że przewiduje jego śmierć i zaleca wymianę tak czy inaczej, więc w SMART pewnie też nie było za ciekawie.

Czyli nikt nie przeprowadził prawidłowej diagnozy.

Przypomina mi to ostatnią historię z dwiema macierzami z Qnap'a, RAID5 na dyskach twardych i RAID5 na SSD w roli Cache'u.
Qnap stwierdził, ze uszkodzony jest SSD z zatoki 0, po czym po jego wymianie uznał, że to jednak nie on, a numer 2 się wysypał...

OPservator napisał:

Temat zamykam, serwer wraca dziś do klienta, dyski mam już nowe zamówione, przyszły jakąś chwilę temu, także zrobimy to tak jak być powinno - na RAID 10.

I myślisz, że RAID10 w jakikolwiek sposób rozwiąże potencjalne problemy przy możliwym spektrum awarii?

Łukasz_W napisał:

I myślisz, że RAID10 w jakikolwiek sposób rozwiąże potencjalne problemy przy możliwym spektrum awarii?

Chętnie bym się dowiedział jak powinno zostać to zrobione.

zigipl napisał:

Chętnie bym się dowiedział jak powinno zostać to zrobione.

Macierz RAID, jakakolwiek by nie była, ma zapewniać określone parametry pracy i nie jest tożsama z kopią zapasową, a często z nią mylona.
RAID0 w powyższym temacie wcale nie musiał być złym rozwiązaniem, problemem był brak odpowiedniego zabezpieczenia i procedur w przypadku jego uszkodzenia.

Ale czysto technicznie można to skrócić do:
Serwer ze skonfigurowanym odpowiednim typem macierzy.
Dwie kopie zapasowe, lokalna i zdalna (typ kopii również zależny od rodzaju i wielkości danych).
Kopia jak nazwa wskazuje ma być kopią, zaś lokalizacja zewnętrzna ma zapewnić ochronę od zdarzeń takich jak pożary, zalanie, kradzież itp.

OPservator napisał:

Przestał kręcić, zakładam winę elektroniki. Znaczy... czasem zakręcił, jak już złapał to działał,

- czyli prawdopodobnie to nie elektronika. Ale takie bywają skutki pochopnych i chaotycznych działań bez dostatecznej analizy problemu. Mam nadzieję, że klient nie ma do Ciebie pretensji o konsekwencje swoich własnych błędów, bo z tym niestety różnie bywa.

Łukasz_W napisał:

Kopia jak nazwa wskazuje ma być kopią, zaś lokalizacja zewnętrzna ma zapewnić ochronę od zdarzeń takich jak pożary, zalanie, kradzież itp.

- a i tak poruszamy się w kategoriach ograniczenia ryzyka, bo w 100 % nigdy nie da się go wyeliminować.

zigipl napisał:

Chętnie bym się dowiedział jak powinno zostać to zrobione.

Natomiast RAID1 (i 10) z założenia ma zapewnić płynność pracy serwera w przypadku awarii dysku, niektórzy traktują to jako backup a bynajmniej tak nie jest.

kaleron napisał:

Mam nadzieję, że klient nie ma do Ciebie pretensji o konsekwencje swoich własnych błędów, bo z tym niestety różnie bywa.

Nawet nie ma prawa mieć do mnie problemu - jak pisałem, ja tu sprzątam po poprzedniej firmie, a miałem nadzieję, że na masakrze w szafie serwerowej się to skończy
@chomicki nie jako backup, a jako możliwość odbudowy macierzy przy awarii dysku, czego przy zwykłym RAID0 bez backupu - nie masz.
Finalnie ze względu na wymagania klienta wszedł RAID1 + RAID1, ale pojawił się problem z dystrybutorem, dysk który do mnie dotarł nie kręci w żadnym bay'u, ani innym serwerze, drugi (bo przyszły dwa, razem, jedyną paczką, jednym kurierem) działa bez problemu, tego bym raczej oczekiwał od nowych części... Takie uroki tego allegro

Dyski talerzowe niestety już nowe często przychodzą wadliwe.
Przykład z poprzedniego miesiąca ode mnie z pracy... Na 10 nowych dysków SAS (jeden model bo korzystamy z kilku), jakie leżały na magazynie jako zapas 4 nawet nie startują.
Po wymianie przez producenta tych 4 na nowe 2 znowu nie startują.
Nie podam producenta, ale coś takiego nie powinno się zdarzyć.....
Dlatego zawsze staramy się każdych dysków mieć spory zapas i pomimo sprzętowego RAID zawsze mamy 2 kopie bezpieczeństwa tworzone harmonogramowo i przechowywane w 2 różnych lokalizacjach + dodatkowe offlinowe kopie najważniejszych danych umożliwiających odtworzenie systemów....

Z ciągle zwiększaną pojemnością lawinowo rośnie awaryjność. Tam gdzie to możliwe korzystamy z mniejszych nośników i w tych systemach awaryjność jest przynajmniej o 50% niższa...

lukaszd82 napisał:

Z ciągle zwiększaną pojemnością lawinowo rośnie awaryjność. Tam gdzie to możliwe korzystamy z mniejszych nośników i w tych systemach awaryjność jest przynajmniej o 50% niższa...

Konkretnie zależy to od liczby talerzy. Osobiście zawsze kupuję dyski o 2 lub 3 talerzach, a omijam te z 4 czy 5-ma. Dzisiaj duże dyski mają po 10 talerzy. Przy takich konstrukcjach, macierz + dobry backup to podstawa.

soltyk napisał:

Konkretnie zależy to od liczby talerzy.

- nie. Od gęstości zapisu. W tym od rozwiązań takich, jak SMR. Zwróć uwagę na Rosewoody (fakt, że to budżetowy segment konsumencki), które są obecnie najbardziej awaryjną rodziną dysków, a mają 1-2 talerze. Kiedyś faktycznie była trochę większa korelacja awaryjności z liczbą talerzy, ale dopracowanie łożyskowania silników spowodowało, że w tej chwili trudno zauważyć taki związek. Ale też faktem jest, że w przypadku dysków o największej pojemności mamy do czynienia zarówno z dużą liczbą talerzy, jak i z agresywnymi technikami zwiększania gęstości zapisu, więc bez trudu możesz spotkać uszkodzone dyski o wielu talerzach.