The OpenNET Project / Index page

[ новости /+++ | форум | теги | ]

форумы  помощь  поиск  регистрация  майллист  вход/выход  слежка  RSS
"восстановление raid 5 средствами mdadm из 4-х дисков на DS411+"
Вариант для распечатки  
Пред. тема | След. тема 
Форум Открытые системы на сервере (Файловые системы, диски / Linux)
Изначальное сообщение [ Отслеживать ]

"восстановление raid 5 средствами mdadm из 4-х дисков на DS411+"  +/
Сообщение от netc email(??) on 28-Мрт-11, 21:44 
Здравствуйте!

Имеем:
Synology DS411+
4 диска WD 1000EARS объединенных в raid5
1 диск верхний
2 диск
3 диск
4 диск нижний

устройство работало отлично.

1. в процессе эксплуатации я заметил, что устройство подает звуковой сигнал.

2. зашел в веб интерфейс и увидел что один из жестких дисков (№4)-  не работает, т.е. с ним что то произошло и он больше не используется

3. я открыл крышку устройства и извлек самый верхний жесткий диск. я подумал что именно он четвертый.

4. включив устройство я обнаружил, что вытащил работающий жесткий диск № 1, т.е. верхний.

так как система показала мне следующую раскладку:
1 диск - отсутствует
2 диск - присутствует и работает
3 диск - присутствует и работает
3 диск - не исправен

доступ к информации на raid 5 - отсутствовал, т.е. в проводнике (веб-интерфейса) ни чего нельзя было увидеть - там ни чего не было и проводник ругался.

5. я выключил устройство вернул 1-й (верхний) и вытащил не работающий 4-й (нижний)


6. включив устройство

система показала мне следующую раскладку:
1 диск - не про инициализирован
2 диск - присутствует и работает
3 диск - присутствует и работает
4 диск - отсутствует

доступ к информации на raid 5 - отсутствовал, т.е. в проводнике (веб-интерфейса) ни чего нельзя было увидеть - там ни чего не было и проводник ругался.

7. я подумал, что если я про инициализирую 1-й диск то у меня все заработает

я сделал это и получил:

1 диск - про инициализирован, том данных не задействован (пишу по памяти)
2 диск - присутствует и работает
3 диск - присутствует и работает
4 диск - отсутствует

При этом я все равно не могу получить доступ к своим данным через проводник, т.е. скорее всего массив raid 5 расспался и не собирается стандартными скрипами synology.

Уважаемые гуру! Помогите пожалуйста восстановить данные.

И еще у меня в связи с этим возникло несколько вопросов:

1. В техподдержке synology (питер) мне сказали, что они восстановлением не занимаются. Это Правда ? Просто я где то читал, что как раз наоборот, они могут с этим помочь, если выслать им устройство и накопители.

2. Все данные безвозвратно утеряны ?

3. Часть данных безвозвратно утеряна а часть может быть восстановлена ?

4. Как известно synology разбивает все накопители на два раздела. Первый - это системный раздел размером около 250Мб, остальное - раздел mdadm
    После инициализации диска системный раздел пере создается и скоре всего занимает столько же места сколько и занимал. А размер сданными как мне сказали в техподдержке устройство не трогает

5. Я хочу попробовать сам восстановить данный массив. Для этого я собираюсь использовать mdadm в linux. Какие советы вы можете дать мне ?
    При сборке массива на моей машине с linux команда mdadm -A --scan   не приведет к порче данных на разделах с данными все трех дисков ?

6. Как вы считаете определит ли mdadm мой "битый" массив ?

Заранее спасибо!

Ответить | Правка | Cообщить модератору

Оглавление

Сообщения по теме [Сортировка по времени | RSS]


1. "восстановление raid 5 средствами mdadm из 4-х дисков на DS411+"  +/
Сообщение от PavelR (??) on 28-Мрт-11, 23:25 
Админы делятся на тех кто еще пока не делает бекапы и на тех, кто уже делает бекапы.
А еще, на тех, кто сначала делает, а потом думает, и тех, кто уже думает прежде чем что-то "проинициализировать".
Еще можно разделить на тех, кто знает где на жестком диске серийный номер, и тех, кто не знает.


>И еще у меня в связи с этим возникло несколько вопросов:
>2. Все данные безвозвратно утеряны ?
>3. Часть данных безвозвратно утеряна а часть может быть восстановлена ?

Какие-то взаимоисключающие у вас вопросы.

Лично мне не понятно, почему:

>1 диск - не про инициализирован
>После инициализации диска системный раздел пере создается и скоре всего занимает столько же места сколько и занимал.

Возможно, что и так.

>А размер сданными как мне сказали в техподдержке устройство не трогает

Раздел с данными - если он остался на своем месте - то да, данные "под раздачу" не подпадут.

>При сборке массива на моей машине с linux команда mdadm -A --scan   не приведет к

порче данных на разделах с данными все трех дисков ?

Может лучше все остальные винты переинициализировать?

6. Как вы считаете определит ли mdadm мой "битый" массив ?

Есть такой ключик: --force. С ним можно всё. Почти.

3Тб файлопомойки? да не заморачивайся %)


Ответить | Правка | ^ к родителю #0 | Наверх | Cообщить модератору

2. "восстановление raid 5 средствами mdadm из 4-х дисков на DS411+"  +/
Сообщение от netc email(ok) on 29-Мрт-11, 09:38 
> Админы делятся на тех кто еще пока не делает бекапы и на
> тех, кто уже делает бекапы.
> А еще, на тех, кто сначала делает, а потом думает, и тех,
> кто уже думает прежде чем что-то "проинициализировать".
> Еще можно разделить на тех, кто знает где на жестком диске серийный
> номер, и тех, кто не знает.

скажу сразу - это не мой девайс, а девайс моего шефа.
я получил его на восстановление.

>>И еще у меня в связи с этим возникло несколько вопросов:
>>2. Все данные безвозвратно утеряны ?
>>3. Часть данных безвозвратно утеряна а часть может быть восстановлена ?
> Какие-то взаимоисключающие у вас вопросы.
> Лично мне не понятно, почему:
>>1 диск - не про инициализирован
>>После инициализации диска системный раздел пере создается и скоре всего занимает столько же места сколько и занимал.
> Возможно, что и так.

Я тоже надеюсь

>>А размер сданными как мне сказали в техподдержке устройство не трогает
> Раздел с данными - если он остался на своем месте - то
> да, данные "под раздачу" не подпадут.

Да но ведь девайс уже не хочет собирать массив.


>>При сборке массива на моей машине с linux команда mdadm -A --scan   не приведет к
> порче данных на разделах с данными все трех дисков ?

да. и так как я написал и с флагом --force

> Может лучше все остальные винты переинициализировать?

вот тут думаю спешить не стоит, так как неизвестно пока что увидить mdadm.

> 6. Как вы считаете определит ли mdadm мой "битый" массив ?
> Есть такой ключик: --force. С ним можно всё. Почти.
> 3Тб файлопомойки? да не заморачивайся %)

да может 2.8 Тб там и файлопомойка, при этом пару гиг очень нужной и полезной инфы собранной годами. ну как всегда короче.


Ответить | Правка | ^ к родителю #1 | Наверх | Cообщить модератору

3. "восстановление raid 5 средствами mdadm из 4-х дисков на DS411+"  +/
Сообщение от Дядя_Федор on 29-Мрт-11, 10:44 
Лично я бы, чисто для проверки "прогнал" бы диск через smartctl (в дженте входит в состав smartmontools). Да и вообще (теперь уже на будущее, судя по всему) - запустите службу smartd (настроив предварительно /etc/smartd.conf под свои диски, разумеется). Если бы Вы это сделали раньше - возможно, алерты о том, что диск сыпется получили бы заранее. Ну а по поводу восстановления.... Был бы обычный диск (не в Рейде) - посоветовал бы прогнать диск через Spinrite. Он, правда, под винду. Но почитайте - http://www.grc.com/spinrite.htm вдруг удастся что-то спасти (вытащить).
Ответить | Правка | ^ к родителю #2 | Наверх | Cообщить модератору

4. "восстановление raid 5 средствами mdadm из 4-х дисков на DS411+"  +/
Сообщение от netc (??) on 29-Мрт-11, 11:17 
> Лично я бы, чисто для проверки "прогнал" бы диск через smartctl (в
> дженте входит в состав smartmontools). Да и вообще (теперь уже на
> будущее, судя по всему) - запустите службу smartd (настроив предварительно /etc/smartd.conf
> под свои диски, разумеется). Если бы Вы это сделали раньше -
> возможно, алерты о том, что диск сыпется получили бы заранее. Ну
> а по поводу восстановления.... Был бы обычный диск (не в Рейде)
> - посоветовал бы прогнать диск через Spinrite. Он, правда, под винду.
> Но почитайте - http://www.grc.com/spinrite.htm вдруг удастся что-то спасти (вытащить).

спасибо диск битый тест на smart не проходит я его уже отложил в сторону
поидее мне даолжно хватить живых для восстановления.

сейчас написал в англ. суппорт. жду ответа

интересно было бы узнать про чей то конкретный опыт восстановления mdadm-ого raid5

Ответить | Правка | ^ к родителю #3 | Наверх | Cообщить модератору

5. "восстановление raid 5 средствами mdadm из 4-х дисков на DS411+"  +/
Сообщение от Дядя_Федор on 29-Мрт-11, 12:06 
> интересно было бы узнать про чей то конкретный опыт восстановления mdadm-ого raid5

У меня, к сожалению, опят отрицательный. Но он касается аппаратного RAID5 (на 3ware). Да и восстановить что-то после команды (tw_cli deleteunit u0) было практически невозможно. Это я с бодуна перепутал номера юнитов (вместо u1 дал u0 - на рабочий). От человесеской глупости Рейд-контроллер, к сожалению, не спасает. :) Пришлось с нолй систему переустанавливать - что, должен заметить, заняло наверняка меньше времени, чем попытки восстановить убитый массив я данном случае. Ну и бэкапы, конечно. :)


Ответить | Правка | ^ к родителю #4 | Наверх | Cообщить модератору

6. "восстановление raid 5 средствами mdadm из 4-х дисков на DS411+"  +/
Сообщение от a2l on 29-Мрт-11, 12:49 
> Здравствуйте!
> 7. я подумал, что если я про инициализирую 1-й диск то у
> меня все заработает

> я сделал это и получил:

До этого, ненулевые шансы восстановить том были, после, imho, - нет

Ответить | Правка | ^ к родителю #0 | Наверх | Cообщить модератору

7. "получил новые подробности. подключив 3 винта к нормальной linux"  +/
Сообщение от netc (??) on 29-Мрт-11, 13:09 
>> Здравствуйте!
>> 7. я подумал, что если я про инициализирую 1-й диск то у
>> меня все заработает

>> я сделал это и получил:
> До этого, ненулевые шансы восстановить том были, после, imho, - нет


admin sysadmin # mdadm -As
mdadm: /dev/md/2 assembled from 2 drives - not enough to start the array.

admin sysadmin # mdadm -Asv
mdadm: looking for devices for /dev/md/2
mdadm: no RAID superblock on /dev/sde2
mdadm: /dev/sde2 has wrong uuid.
mdadm: no RAID superblock on /dev/sde1
mdadm: /dev/sde1 has wrong uuid.
mdadm: no RAID superblock on /dev/sde
mdadm: /dev/sde has wrong uuid.
mdadm: no RAID superblock on /dev/sdd2
mdadm: /dev/sdd2 has wrong uuid.
mdadm: no RAID superblock on /dev/sdd1
mdadm: /dev/sdd1 has wrong uuid.
mdadm: no RAID superblock on /dev/sdd
mdadm: /dev/sdd has wrong uuid.
mdadm: no RAID superblock on /dev/sdc2
mdadm: /dev/sdc2 has wrong uuid.
mdadm: no RAID superblock on /dev/sdc1
mdadm: /dev/sdc1 has wrong uuid.
mdadm: no RAID superblock on /dev/sdc
mdadm: /dev/sdc has wrong uuid.
mdadm: cannot open device /dev/sdb1: Device or resource busy
mdadm: /dev/sdb1 has wrong uuid.
mdadm: cannot open device /dev/sdb: Device or resource busy
mdadm: /dev/sdb has wrong uuid.
mdadm: cannot open device /dev/sda6: Device or resource busy
mdadm: /dev/sda6 has wrong uuid.
mdadm: cannot open device /dev/sda5: Device or resource busy
mdadm: /dev/sda5 has wrong uuid.
mdadm: no RAID superblock on /dev/sda4
mdadm: /dev/sda4 has wrong uuid.
mdadm: no RAID superblock on /dev/sda3
mdadm: /dev/sda3 has wrong uuid.
mdadm: cannot open device /dev/sda2: Device or resource busy
mdadm: /dev/sda2 has wrong uuid.
mdadm: cannot open device /dev/sda1: Device or resource busy
mdadm: /dev/sda1 has wrong uuid.
mdadm: cannot open device /dev/sda: Device or resource busy
mdadm: /dev/sda has wrong uuid.
mdadm: /dev/sde3 is identified as a member of /dev/md/2, slot 2.
mdadm: /dev/sdd3 is identified as a member of /dev/md/2, slot 1.
mdadm: /dev/sdc3 is identified as a member of /dev/md/2, slot 0.
mdadm: added /dev/sdc3 to /dev/md/2 as 0
mdadm: added /dev/sde3 to /dev/md/2 as 2
mdadm: no uptodate device for slot 3 of /dev/md/2
mdadm: added /dev/sdd3 to /dev/md/2 as 1
mdadm: /dev/md/2 assembled from 2 drives - not enough to start the array.
mdadm: looking for devices for further assembly
mdadm: cannot open device /dev/sde3: Device or resource busy
mdadm: no recogniseable superblock on /dev/sde2
mdadm: no recogniseable superblock on /dev/sde1
mdadm: cannot open device /dev/sde: Device or resource busy
mdadm: cannot open device /dev/sdd3: Device or resource busy
mdadm: no recogniseable superblock on /dev/sdd2
mdadm: no recogniseable superblock on /dev/sdd1
mdadm: cannot open device /dev/sdd: Device or resource busy
mdadm: cannot open device /dev/sdc3: Device or resource busy
mdadm: no recogniseable superblock on /dev/sdc2
mdadm: no recogniseable superblock on /dev/sdc1
mdadm: cannot open device /dev/sdc: Device or resource busy
mdadm: cannot open device /dev/sdb1: Device or resource busy
mdadm: cannot open device /dev/sdb: Device or resource busy
mdadm: cannot open device /dev/sda6: Device or resource busy
mdadm: cannot open device /dev/sda5: Device or resource busy
mdadm: no recogniseable superblock on /dev/sda4
mdadm: no recogniseable superblock on /dev/sda3
mdadm: cannot open device /dev/sda2: Device or resource busy
mdadm: cannot open device /dev/sda1: Device or resource busy
mdadm: cannot open device /dev/sda: Device or resource busy

admin sysadmin # mdadm -E /dev/sdc3
/dev/sdc3:
          Magic : a92b4efc
        Version : 1.1
    Feature Map : 0x0
     Array UUID : 5e1c228d:8bd9783c:3011384d:96858fe1
           Name : DiskStation:2
  Creation Time : Wed Jan 12 22:28:23 2011
     Raid Level : raid5
   Raid Devices : 4

Avail Dev Size : 3897586617 (1858.51 GiB 1995.56 GB)
     Array Size : 11692759680 (5575.54 GiB 5986.69 GB)
  Used Dev Size : 3897586560 (1858.51 GiB 1995.56 GB)
    Data Offset : 264 sectors
   Super Offset : 0 sectors
          State : clean
    Device UUID : 503c512b:3b1379e6:10f4d266:c5d5f523

    Update Time : Sun Mar 27 22:03:26 2011
       Checksum : c3cda9ab - correct
         Events : 786515

         Layout : left-symmetric
     Chunk Size : 64K

    Array Slot : 0 (0, 1, 2, failed, failed)
   Array State : Uuu_ 2 failed


admin sysadmin # mdadm -E /dev/sdd3
/dev/sdd3:
          Magic : a92b4efc
        Version : 1.1
    Feature Map : 0x0
     Array UUID : 5e1c228d:8bd9783c:3011384d:96858fe1
           Name : DiskStation:2
  Creation Time : Wed Jan 12 22:28:23 2011
     Raid Level : raid5
   Raid Devices : 4

Avail Dev Size : 3897586617 (1858.51 GiB 1995.56 GB)
     Array Size : 11692759680 (5575.54 GiB 5986.69 GB)
  Used Dev Size : 3897586560 (1858.51 GiB 1995.56 GB)
    Data Offset : 264 sectors
   Super Offset : 0 sectors
          State : clean
    Device UUID : d3557932:e55a619e:46cffdcb:8b98e976

    Update Time : Mon Mar 28 15:59:29 2011
       Checksum : 3afea515 - correct
         Events : 786529

         Layout : left-symmetric
     Chunk Size : 64K

    Array Slot : 1 (failed, 1, 2, failed, failed)
   Array State : _Uu_ 3 failed


admin sysadmin # mdadm -E /dev/sde3
/dev/sde3:
          Magic : a92b4efc
        Version : 1.1
    Feature Map : 0x0
     Array UUID : 5e1c228d:8bd9783c:3011384d:96858fe1
           Name : DiskStation:2
  Creation Time : Wed Jan 12 22:28:23 2011
     Raid Level : raid5
   Raid Devices : 4

Avail Dev Size : 3897586617 (1858.51 GiB 1995.56 GB)
     Array Size : 11692759680 (5575.54 GiB 5986.69 GB)
  Used Dev Size : 3897586560 (1858.51 GiB 1995.56 GB)
    Data Offset : 264 sectors
   Super Offset : 0 sectors
          State : clean
    Device UUID : bc37e6f4:9ffa9bee:a8924b32:92ae9ba5

    Update Time : Mon Mar 28 15:59:29 2011
       Checksum : e2a60022 - correct
         Events : 786529

         Layout : left-symmetric
     Chunk Size : 64K

    Array Slot : 2 (failed, 1, 2, failed, failed)
   Array State : _uU_ 3 failed


Ответить | Правка | ^ к родителю #6 | Наверх | Cообщить модератору

8. "получил новые подробности. подключив 3 винта к нормальной linux"  +/
Сообщение от netc (??) on 29-Мрт-11, 13:19 
как быть дальше ? пока ума не приложу ....

может кто подскажет ?

Первым делом сделаю следующее: освобождаю место на 4-х винтах из другого сервера.

и буду пробывать повторить на них ту же историю.
т.е. установлю винты в device по имени synology, создам raid 5, запишу туда какие-нибудь данные

а потом попробую сделать с ним то, что сделал хозяин

ну а дальше пока только

mdadm -Asv --force

ни чего другого пока не знаю

так сказать сделаю полигон, убрав в сторонку оригиналы.


А вот по поводу оригиналов у меня вопрос:

Надежно ли делать бэкап моих винтов с несобирающимся массивом средствами dd ?

примерно так :


dd if=/dev/sdc of=sdc.backup.bin
dd if=/dev/sde of=sde.backup.bin
dd if=/dev/sdd of=sdd.backup.bin

1. у кого какое мнение по поводу эксперимента ?

2. насколько такой backup и restore средствами dd надежен ?

Ответить | Правка | ^ к родителю #7 | Наверх | Cообщить модератору

9. "получил новые подробности. подключив 3 винта к нормальной linux"  +/
Сообщение от netc (??) on 05-Апр-11, 11:32 
вообщем написал в support производителя на англ. т.е. в synology

они ответили возмите три живых диска, даже на смотря на разные eventid вставте их назад в устройво


Thank you for the feedback.

First, data is still there and "mdadm -A" is not dangerous as it means that mdadm use the disks' original configuration to rebuild the volume. ( -C is the danerous parameter)
I will suggest this:

1. Please put all disks back to your DS411+
2. You could enable the telnet function of DS, then telnet to it with the user "root" and its password is same with admin's. Then run the following command:

mdadm -Sf /dev/md2
mdadm -Af /dev/md2 /dev/sd[abcd]3
reboot

Afterwards, your volume should be shown again in DSM3.1. If not, we will need your permission to get into your system via telnet access and have a closer look at this problem for solving it. Please help to provide us with the information below so we can access your system.

т.е. первая команда останавливает mdadm т.е работу всех массивов, чтобы к ним ни кто не обращался.
вторая собирает несмотря на то что разные eventid (у двух дисков одинаковые и одного немного отличается)

после перезапуска я восстанавлюваю системные разделы средствами веб-интерфейса и также ввожу в массив новый рабочий (4-й) диск. долгий ребилд и все ОТЛИЧНО РАБОТАЕТ.

Всем спасибо за помощь.

Теперь Буду знать!

mdadm - наше все.

Ответить | Правка | ^ к родителю #8 | Наверх | Cообщить модератору

10. "получил новые подробности. подключив 3 винта к нормальной linux"  +/
Сообщение от Shf on 27-Апр-11, 20:51 
>[оверквотинг удален]
> т.е. первая команда останавливает mdadm т.е работу всех массивов, чтобы к ним
> ни кто не обращался.
> вторая собирает несмотря на то что разные eventid (у двух дисков одинаковые
> и одного немного отличается)
> после перезапуска я восстанавлюваю системные разделы средствами веб-интерфейса и также
> ввожу в массив новый рабочий (4-й) диск. долгий ребилд и все
> ОТЛИЧНО РАБОТАЕТ.
> Всем спасибо за помощь.
> Теперь Буду знать!
> mdadm - наше все.

+1 была похожая проблема.

Умер 1 из 4 ЖД. И ещё 1 потерялся со статусом "Не инициализирован", при чём ошибок в журнале по нему не было.
Указанные команды помогли вернуть мозги потерявшемуся винту на место.
Сейчас ребилдиться )))
mdadm & *nix наше всё! :)

Ответить | Правка | ^ к родителю #9 | Наверх | Cообщить модератору

11. "получил новые подробности. подключив 3 винта к нормальной linux"  +/
Сообщение от netc email(ok) on 28-Апр-11, 15:59 
>[оверквотинг удален]
>> ОТЛИЧНО РАБОТАЕТ.
>> Всем спасибо за помощь.
>> Теперь Буду знать!
>> mdadm - наше все.
> +1 была похожая проблема.
> Умер 1 из 4 ЖД. И ещё 1 потерялся со статусом "Не
> инициализирован", при чём ошибок в журнале по нему не было.
> Указанные команды помогли вернуть мозги потерявшемуся винту на место.
> Сейчас ребилдиться )))
> mdadm & *nix наше всё! :)

спс, за отзыв

на счет mdadm & *nix наше всё! :) - согласен на все 100

Ответить | Правка | ^ к родителю #10 | Наверх | Cообщить модератору

Архив | Удалить

Рекомендовать для помещения в FAQ | Индекс форумов | Темы | Пред. тема | След. тема




Партнёры:
PostgresPro
Inferno Solutions
Hosting by Hoster.ru
Хостинг:

Закладки на сайте
Проследить за страницей
Created 1996-2024 by Maxim Chirkov
Добавить, Поддержать, Вебмастеру