Несколько вопросов по IBM DS3512.
Модераторы: Trinity admin`s, Free-lance moderator`s
-
- Junior member
- Сообщения: 4
- Зарегистрирован: 31 мар 2016, 09:42
- Откуда: Благовещенск-на-Амуре
Несколько вопросов по IBM DS3512.
Здравствуйте. Настало время разгрести авгиевы конюшни одного предприятия.
Конфигурация следующая: СХД IBM DS3512, три полки расширения IBM EXP3512 и 46 жёстких дисков. Из этих дисков собраны несколько RAID10-массивов (из 12-14 жёстких дисков)
Проблема первая. Вижу, что пары дисков зачастую назначены в пределах одной полки, а хотелось бы реализовать стратегию enclosure loss protection. Достаточно ли выключить массив переставить диски, так как я хочу? А хочу - пары массива в одноименные слоты соседних полок, например диск слота 5 "головы" СХД зазеркален на слот 5 полки 1, диск слота 9 полки 2 на диск слота 9 полки 3 и т.д. Также здравый смысл подсказывает, что массив выгодно растянуть по всем полкам СХД. Тема "Реконфигурирование массива в DS3400"(http://3nity.ru/viewtopic.php?f=5&t=14488) глаголит, что так делать (диски тасовать) можно и данные потеряться не должны.
Проблема вторая. Полки скоммутированы FC-кабелями с ошибкой. В пределах контроллера А - всё верно: out-port "головы" к in-port 1-ой полки расширения, out-port этой полки к in-port следующей, а от неё от out-port к in-port последней полки. А вот для контроллера Б коммутация сделана, так же как и для контроллера А, что неверно, так как согласно красной книги должно быть: out-port "головы" к in-port последней полки, out-port к in-port соседней, а её out-port к in-port первой полки расширения и на этом всё. Естественно, из-за кривой коммутации на последней полке горит статус "Enclosure path redundancy". Вопрос: на работающей системе перекабелировать порты можно? Или лучше глушить СХД, а потом тасовать кабели.
Проблема третья. СХД НЕзапаролена и DS Storage Manager Client "ругается" на это, каждый раз при запуске предлагая в целях секретности ввести пароль (который, конечно же, не стоит забывать). Стоит ли паролить СХД?
Проблема четвертая. СХД "безымянная". Насколько критично оставается ей unnamed, если на предприятии она (СХД) одна такая?
Спасибо.
Конфигурация следующая: СХД IBM DS3512, три полки расширения IBM EXP3512 и 46 жёстких дисков. Из этих дисков собраны несколько RAID10-массивов (из 12-14 жёстких дисков)
Проблема первая. Вижу, что пары дисков зачастую назначены в пределах одной полки, а хотелось бы реализовать стратегию enclosure loss protection. Достаточно ли выключить массив переставить диски, так как я хочу? А хочу - пары массива в одноименные слоты соседних полок, например диск слота 5 "головы" СХД зазеркален на слот 5 полки 1, диск слота 9 полки 2 на диск слота 9 полки 3 и т.д. Также здравый смысл подсказывает, что массив выгодно растянуть по всем полкам СХД. Тема "Реконфигурирование массива в DS3400"(http://3nity.ru/viewtopic.php?f=5&t=14488) глаголит, что так делать (диски тасовать) можно и данные потеряться не должны.
Проблема вторая. Полки скоммутированы FC-кабелями с ошибкой. В пределах контроллера А - всё верно: out-port "головы" к in-port 1-ой полки расширения, out-port этой полки к in-port следующей, а от неё от out-port к in-port последней полки. А вот для контроллера Б коммутация сделана, так же как и для контроллера А, что неверно, так как согласно красной книги должно быть: out-port "головы" к in-port последней полки, out-port к in-port соседней, а её out-port к in-port первой полки расширения и на этом всё. Естественно, из-за кривой коммутации на последней полке горит статус "Enclosure path redundancy". Вопрос: на работающей системе перекабелировать порты можно? Или лучше глушить СХД, а потом тасовать кабели.
Проблема третья. СХД НЕзапаролена и DS Storage Manager Client "ругается" на это, каждый раз при запуске предлагая в целях секретности ввести пароль (который, конечно же, не стоит забывать). Стоит ли паролить СХД?
Проблема четвертая. СХД "безымянная". Насколько критично оставается ей unnamed, если на предприятии она (СХД) одна такая?
Спасибо.
- Tert
- Advanced member
- Сообщения: 4233
- Зарегистрирован: 19 янв 2003, 08:09
- Откуда: Москва
- Контактная информация:
Re: Несколько вопросов по IBM DS3512.
Alexanderrr
1. Должно заработать. Но вначале обязательно проверьте целостность массивов.
2. Лучше выключить систему и перекоммутировать все на выключенной системе.
3. С точки зрения безопастности пароль надо задать. Главное, не забыть его потом.
4. Если глаз не режет, то и не стоит заморачиваться.
1. Должно заработать. Но вначале обязательно проверьте целостность массивов.
2. Лучше выключить систему и перекоммутировать все на выключенной системе.
3. С точки зрения безопастности пароль надо задать. Главное, не забыть его потом.
4. Если глаз не режет, то и не стоит заморачиваться.
- Stranger03
- Сотрудник Тринити
- Сообщения: 12979
- Зарегистрирован: 14 ноя 2003, 16:25
- Откуда: СПб, Екатеринбург
- Контактная информация:
Re: Несколько вопросов по IBM DS3512.
Приклейте пароль на саму СХД, а то если забудете, то вам никто не поможет,Alexanderrr писал(а):Проблема третья. СХД НЕзапаролена и DS Storage Manager Client "ругается" на это, каждый раз при запуске предлагая в целях секретности ввести пароль (который, конечно же, не стоит забывать). Стоит ли паролить СХД?


-
- Junior member
- Сообщения: 4
- Зарегистрирован: 31 мар 2016, 09:42
- Откуда: Благовещенск-на-Амуре
Re: Несколько вопросов по IBM DS3512.
Ещё раз спасибо всем ответившим и...
День добрый, уважаемые участники форума.
Новые вопросы по системе DS3512.
0. Если сама "голова" СХД и полка к ней приобретались в 2011-ом году, а ещё 2 полки в декабре 2013-го, то бесплатная тех.поддержка IBM уже закончилась?
1. Итак, суть проблемы. "22 июня, ровно в 4 часа..." и 36 минут случилась неприятность.
В СХД есть массив RAID5 из 10 дисков объёмом по 2ТБ. Изначально массив был настроен так, что 8 дисков являлись "боевыми", а 2 диска по 2 ТБ были назначены "горячим резервом" для этого массива. Также в СХД, пока ещё, есть 2 диска 4ТБ назначенными глобальным горячим резервом для всех массивов СХД и 1 незначенный 4ТБ. С течением времени (год-два назад) произошли два отказа (в разное время) боевых дисков в RAID5 и они были "подхвачены" дисками горячего резерва. Как минимум, для одного отказавшего диска был выполнен "prepare for removal", а для второго он не выполнялся. Сами отказавшие диски физически до сегодняшнего дня не извлекались из слотов-корзин, т.к. на стр.274 "Красной книги" указано, что физически извлекать - чревато, да и заменить эти двухтерабайтники было не чем, новых пустых дисков не было. Сегодня, в связи с пропажей шаренных папок на сервере, обнаружилось, что логический диск созданный на этом RAID5-массиве имеет статус failed, это что касается логического представления. А физически - два жёстких диска из этого массива получили статус drive missing с характерным чёрно-желтым ромбиком на значке диска. Что было сделано. Каждый из этих дисков был извлечён из корзины и помещён обратно. После этого на физическом уровне чёрно-желтые ромбики пропали и диски получили статус optimal. Ну а с логической точки зрения, массив, естественно, остался failed. Также, из корзины извлекал один из давноотказавших 2ТБ дисков, который успешно подменяла hotspare, но и он был возвращён на место. Вопрос, восстановить это массив ещё реально? И ещё, логика работы hotspare какая? Можно ли указать СХД считать её теперь обычным диском для этого массива? Или она так и останется hotspare и лишь когда в слот с давноумершим диском будет вставлен новый чистый диск, то hotspare восстановит данные на него? Диски большего размера можно использовать?
День добрый, уважаемые участники форума.
Новые вопросы по системе DS3512.
0. Если сама "голова" СХД и полка к ней приобретались в 2011-ом году, а ещё 2 полки в декабре 2013-го, то бесплатная тех.поддержка IBM уже закончилась?
1. Итак, суть проблемы. "22 июня, ровно в 4 часа..." и 36 минут случилась неприятность.
В СХД есть массив RAID5 из 10 дисков объёмом по 2ТБ. Изначально массив был настроен так, что 8 дисков являлись "боевыми", а 2 диска по 2 ТБ были назначены "горячим резервом" для этого массива. Также в СХД, пока ещё, есть 2 диска 4ТБ назначенными глобальным горячим резервом для всех массивов СХД и 1 незначенный 4ТБ. С течением времени (год-два назад) произошли два отказа (в разное время) боевых дисков в RAID5 и они были "подхвачены" дисками горячего резерва. Как минимум, для одного отказавшего диска был выполнен "prepare for removal", а для второго он не выполнялся. Сами отказавшие диски физически до сегодняшнего дня не извлекались из слотов-корзин, т.к. на стр.274 "Красной книги" указано, что физически извлекать - чревато, да и заменить эти двухтерабайтники было не чем, новых пустых дисков не было. Сегодня, в связи с пропажей шаренных папок на сервере, обнаружилось, что логический диск созданный на этом RAID5-массиве имеет статус failed, это что касается логического представления. А физически - два жёстких диска из этого массива получили статус drive missing с характерным чёрно-желтым ромбиком на значке диска. Что было сделано. Каждый из этих дисков был извлечён из корзины и помещён обратно. После этого на физическом уровне чёрно-желтые ромбики пропали и диски получили статус optimal. Ну а с логической точки зрения, массив, естественно, остался failed. Также, из корзины извлекал один из давноотказавших 2ТБ дисков, который успешно подменяла hotspare, но и он был возвращён на место. Вопрос, восстановить это массив ещё реально? И ещё, логика работы hotspare какая? Можно ли указать СХД считать её теперь обычным диском для этого массива? Или она так и останется hotspare и лишь когда в слот с давноумершим диском будет вставлен новый чистый диск, то hotspare восстановит данные на него? Диски большего размера можно использовать?
- Stranger03
- Сотрудник Тринити
- Сообщения: 12979
- Зарегистрирован: 14 ноя 2003, 16:25
- Откуда: СПб, Екатеринбург
- Контактная информация:
Re: Несколько вопросов по IBM DS3512.
Если не приобретались сервис-паки, а если мне не изменяет память, то сервиспаки на голову и на экспаншены отдельные, но на голову что называется must have, то техподдержки у вас нет. Высылать серийник головы бесполезно, а по серийнику експаншена вам скорей всего откажут. Да и еще момент, описываемый вами случай не подпадает под сервисный случай, если это только не физическая замена диска. Ни один вендор не отвечает за целостность данных внутри железки.Alexanderrr писал(а):0. Если сама "голова" СХД и полка к ней приобретались в 2011-ом году, а ещё 2 полки в декабре 2013-го, то бесплатная тех.поддержка IBM уже закончилась?
Теперь по сути.
С вероятностью 90% вынув и вставив два сбойных диска, вы нарушили целостность рейд группы. Есть небольшой шанс, но совсем невелик. Попробуйте один из этих дисков убрать из корзины и в SM попытайтесь поднять рейд-группу в онлайн. Вот только за давностью лет я не помню, есть ли там такая опция. Если это не поможет, то остается один шанс:
- хотите получить доступ к данным - обращайтесь к дата-рекаверам. Контакты есть на нашем форуме.
П.С. укажите город в профиле.
-
- Junior member
- Сообщения: 4
- Зарегистрирован: 31 мар 2016, 09:42
- Откуда: Благовещенск-на-Амуре
Re: Несколько вопросов по IBM DS3512.
Спасибо за оперативный ответ.
Вы полагаете, что целостность RAID-группы нарушилась именно в момент поочерёдного извлечения свежеотказавших дисков? "Ромбики" на них выскочили, вероятно, единовременно. Отказ логического диска, судя по логу событий, произошёл в 4 утра местного времени. До моего вмешательства. А одновременный отказ двух физических дисков для RAID5, очевидно, плачевен. Ваш совет принят к сведению.
Сразу уточню для московских датарестореров, город, в котором я нахожусь - это 8 часов лёту и, конечно же, немалые транспортные и прочие расходы, помимо интеллектуальных. Конечечно, есть волшебный "бакуп", его актуальность и целостность сейчас проверяются, всё-таки 14 миллионов файлов - это не фунт изюму. Ещё раз, спасибо.
Вы полагаете, что целостность RAID-группы нарушилась именно в момент поочерёдного извлечения свежеотказавших дисков? "Ромбики" на них выскочили, вероятно, единовременно. Отказ логического диска, судя по логу событий, произошёл в 4 утра местного времени. До моего вмешательства. А одновременный отказ двух физических дисков для RAID5, очевидно, плачевен. Ваш совет принят к сведению.
Сразу уточню для московских датарестореров, город, в котором я нахожусь - это 8 часов лёту и, конечно же, немалые транспортные и прочие расходы, помимо интеллектуальных. Конечечно, есть волшебный "бакуп", его актуальность и целостность сейчас проверяются, всё-таки 14 миллионов файлов - это не фунт изюму. Ещё раз, спасибо.
- Stranger03
- Сотрудник Тринити
- Сообщения: 12979
- Зарегистрирован: 14 ноя 2003, 16:25
- Откуда: СПб, Екатеринбург
- Контактная информация:
Re: Несколько вопросов по IBM DS3512.
Я практически уверен. Надо было их ставить поочереди, пытаться перевести группу в онлайн. Тогда шанс спасти был. Сейчас попробуйте, вдруг получится.Alexanderrr писал(а):Вы полагаете, что целостность RAID-группы нарушилась именно в момент поочерёдного извлечения свежеотказавших дисков?
- gs
- Сотрудник Тринити
- Сообщения: 16650
- Зарегистрирован: 23 авг 2002, 17:34
- Откуда: Москва
- Контактная информация:
Re: Несколько вопросов по IBM DS3512.
В логах есть точное время отвала дисков? Если да, то отлетевший первым лучше убрать.
- Fader
- Data Recovery Expert
- Сообщения: 115
- Зарегистрирован: 21 мар 2005, 02:13
- Откуда: Москва
- Контактная информация:
Re: Несколько вопросов по IBM DS3512.
Добрый день. Московские "датарестореры" на столько суровы, что без проблем могут работать удаленно.Alexanderrr писал(а):Спасибо за оперативный ответ.
Вы полагаете, что целостность RAID-группы нарушилась именно в момент поочерёдного извлечения свежеотказавших дисков? "Ромбики" на них выскочили, вероятно, единовременно. Отказ логического диска, судя по логу событий, произошёл в 4 утра местного времени. До моего вмешательства. А одновременный отказ двух физических дисков для RAID5, очевидно, плачевен. Ваш совет принят к сведению.
Сразу уточню для московских датарестореров, город, в котором я нахожусь - это 8 часов лёту и, конечно же, немалые транспортные и прочие расходы, помимо интеллектуальных. Конечечно, есть волшебный "бакуп", его актуальность и целостность сейчас проверяются, всё-таки 14 миллионов файлов - это не фунт изюму. Ещё раз, спасибо.
Вопрос только в том, что винты нужно будет повесить на любой не RAID-контроллер, а на HBA-контроллер или канал на матери, который позволит увидеть каждый винчестер по отдельности.
Нужна будет помощь - обращайтесь, контакты в подписи.
_______________
С уважением, Валерий Пьянков.
+7 495 514-88-85
http://rlab.ru
v@rlab.ru
skype: valer.lab
-
- Junior member
- Сообщения: 4
- Зарегистрирован: 31 мар 2016, 09:42
- Откуда: Благовещенск-на-Амуре
Re: Несколько вопросов по IBM DS3512.
Да. Время есть. Могу процитировать события попавшие в лог касающиеся этого проблемного массива:gs писал(а):В логах есть точное время отвала дисков? Если да, то отлетевший первым лучше убрать.
4:35:35 / Enclosure 0, Slot 4 / Drive failed - no response at start of day (это ругательства на давно отказавший диск массива, который давно успешно подхватился диском горячего резерва находящимся в Enclosure 0, Slot 7)
4:35:40 / Enclosure 0, Slot 1 / Drive path redundancy lost (что интересно, на значке этого диска никаких алармов не было и нет)
4:35:40 / Enclosure 0, Slot 3 / Drive by-passed
4:35:40 / Enclosure 0, Slot 7 / Drive by-passed
4:36:40 / Logical Drive RAID5 / Logical Drive failure
4:36:40 / Logical Drive RAID5 / Logical Drive failure
4:36:40 / Logical Drive RAID5 / Logical Drive failure
Вероятно, уже в это время массив перестал быть доступным в хостовой ОС, а диски в слотах 3 и 7 получили злополучные ромбики на своих иконках
10:02:05 Enclosure 0, Slot 3 / Drive in array or hot spare in use removed (диск через несколько секунд был возвращён в слот и даже получил статус optimal на закладке физических компонентов, а страшный ромб исчез)
10:03:36 Enclosure 0, Slot 7 / Drive in array or hot spare in use removed (аналогично)
Вопрос о предоставлении доступа упрётся даже не в каналы в связи, а в регламент доступа к СХД. Но предложение доведу до руководства. А там как уж решат. Спасибо.fader писал(а):Добрый день. Московские "датарестореры" на столько суровы, что без проблем могут работать удаленно..
А с какого лучше начать? С того, что в слоте 3 или 7? Это делается через графический интерфейс или консоль? В "графике" строка меню неактивна.Stranger03 писал(а):Я практически уверен. Надо было их ставить поочереди, пытаться перевести группу в онлайн.
- Fader
- Data Recovery Expert
- Сообщения: 115
- Зарегистрирован: 21 мар 2005, 02:13
- Откуда: Москва
- Контактная информация:
Re: Несколько вопросов по IBM DS3512.
Alexanderrr писал(а):Вопрос о предоставлении доступа упрётся даже не в каналы в связи, а в регламент доступа к СХД. Но предложение доведу до руководства. А там как уж решат. Спасибо.fader писал(а):Добрый день. Московские "датарестореры" на столько суровы, что без проблем могут работать удаленно..
Это можно решить на уровне подписания NDA.
_______________
С уважением, Валерий Пьянков.
+7 495 514-88-85
http://rlab.ru
v@rlab.ru
skype: valer.lab
- Stranger03
- Сотрудник Тринити
- Сообщения: 12979
- Зарегистрирован: 14 ноя 2003, 16:25
- Откуда: СПб, Екатеринбург
- Контактная информация:
Re: Несколько вопросов по IBM DS3512.
"Fader"
Валерий, только это не обычный контроллер, а дисковый массив. Тут немного своя специфика. Впрочем, вы лучше меня знаете, как вытаскивать данные с СХД.
Валерий, только это не обычный контроллер, а дисковый массив. Тут немного своя специфика. Впрочем, вы лучше меня знаете, как вытаскивать данные с СХД.
- gs
- Сотрудник Тринити
- Сообщения: 16650
- Зарегистрирован: 23 авг 2002, 17:34
- Откуда: Москва
- Контактная информация:
Re: Несколько вопросов по IBM DS3512.
Ген, рэйд5 на энженио принципиально не отличается от мегарэйда. Это ж не DDP. Рекаверам на два пальца - просто джибод к ХБАшке подключить и доступ по RDP дать...
Насчет восстановления вручную... у многих контроллеров есть функция принудительного "оживления" массива невзирая на повреждения (адаптек force online, LSI make online etc). На ДСках я не могу точно сказать. Коллеги сказали команду renew...
Насчет восстановления вручную... у многих контроллеров есть функция принудительного "оживления" массива невзирая на повреждения (адаптек force online, LSI make online etc). На ДСках я не могу точно сказать. Коллеги сказали команду renew...
- Stranger03
- Сотрудник Тринити
- Сообщения: 12979
- Зарегистрирован: 14 ноя 2003, 16:25
- Откуда: СПб, Екатеринбург
- Контактная информация:
Re: Несколько вопросов по IBM DS3512.
Не знал, ясно,gs писал(а):Ген, рэйд5 на энженио принципиально не отличается от мегарэйда.

- Fader
- Data Recovery Expert
- Сообщения: 115
- Зарегистрирован: 21 мар 2005, 02:13
- Откуда: Москва
- Контактная информация:
Re: Несколько вопросов по IBM DS3512.
Stranger03 писал(а):Не знал, ясно,gs писал(а):Ген, рэйд5 на энженио принципиально не отличается от мегарэйда.
Да, Игорь абсолютно прав.
_______________
С уважением, Валерий Пьянков.
+7 495 514-88-85
http://rlab.ru
v@rlab.ru
skype: valer.lab
Кто сейчас на конференции
Сейчас этот форум просматривают: нет зарегистрированных пользователей и 4 гостя