Партнёры:
Хостинг:
Для описания старого уровня RAID, который стандартен для 2.0 и 2.2 ядер, смотрите великолепный HOWTO от Linas Vepstas ( [email protected]), доступный из Linux Documentation Project на linuxdoc.org.
Домашний сайт для этого HOWTO - http://ostenfeld.dk/~jakob/Software-RAID.HOWTO/, где изначально появляются обновленные версии. HOWTO написан Jakob Østergaard на основе большой переписки с Ingo Molnar ([email protected]), одним из разработчиков RAID, почтового списка рассылки linux-raid ([email protected]) и другими людьми.
Домашняя страница перевода - http://dmv.webjump.com/HOWTOs/. Обновленные версии, в первую очередь, появляются тут.
Причиной написания этого HOWTO, несмотря на существование Software-RAID-HOWTO, является то, что старый HOWTO описывает программный RAID старого стиля, в стандартных 2.0 и 2.2 ядрах. Этот HOWTO описывает использование RAID нового поколения, разработанного недавно. RAID нового поколения содержит много свойств, не представленных в старом RAID.
Если Вы хотите использовать новый RAID с 2.0 или 2.2 ядрами, Вы должны взять патч к вашему ядру, либо с ftp://ftp.[your-country-code].kernel.org/pub/linux/daemons/raid/alpha, либо, с недавних пор, с http://people.redhat.com/mingo/. Стандартные ядра 2.2 не содержат прямой поддержки нового RAID, описываемого в этом HOWTO. Для этого необходимы эти патчи. Старый RAID код в 2.0 и 2.2 ядрах содержит ошибки и не реализует некоторых важных функций, реализованных в новом программном RAID.
На момент написания, поддержка нового RAID объединена с ядрами серии 2.3, и, таким образом, будет (вполне вероятно) представлена в ядре Linux 2.4, как только оно выйдет. Но пока, стабильные ядра должны быть пропатчены вручную.
Вы можете использовать -ac выпуски ядра, сделанные Alan
Cox -ом, для поддержки RAID в 2.2. Часть из них
содержат RAID нового стиля, и это должно избавить Вас от необходимости патчить
ядро.
Если Вы хорошо знакомы с RAID, часть информации в этом HOWTO покажется банальной. Просто пропустите ее.
Обязательное отречение:
Хотя RAID кажется мне стабильным, и стабильным для многих других людей, у Вас он может не сработать. Если Вы потеряете все ваши данные, вашу работу, или это ударит по Вам - это не моя вина, и не вина разработчиков. Знайте, что вы используете программный RAID и эту информацию на свой риск! Никто не гарантирует, что либо программа, либо эта информация, сколько-нибудь корректна, либо пригодна вобще для использования. Сархивируйте все Ваши данные перед этими экспериментами. Лучше предостеречься, чем сожалеть.
Сказав это, я также должен сказать, что у меня не было проблем со стабильность программного RAID, я действительно без каких-либо проблем использую его на нескольких машинах, и я не видел, чтобы у других людей были проблемы с внезапными падениями или нестабильностью вызванной RAID-ом.
Этот HOWTO предполагает, что Вы используете последние 2.2.x или 2.0.x ядра с соответствующим raid0145 патчем и raidtools версии 0.90, или Вы используете последнее ядро серии 2.3 (версию > 2.3.46) или, со временем, 2.4. Оба патча и утилиты можно найти на ftp://ftp.fi.kernel.org/pub/linux/daemons/raid/alpha, и в некоторых случаях на http://people.redhat.com/mingo/. Патч RAID, пакет raidtools и ядро должны, по мере возможности, соответствовать друг другу. Иногда необходимо использовать более старые ядра, если патчи raid не доступны для последнего ядра.
Есть много преимуществ в использовании RAID. Некоторые из них: возможность комбинировать несколько физических дисков в один большой ``виртуальный'' диск, увеличение производительности и надежности.
Linux RAID может работать на большинстве устройств. Не имеет значения используете Вы IDE или SCSI диски, или и те и другие. Некоторые люди также более или менее успешно использовали Сетевое блочное Устройство (Network Block Device (NBD)).
Удостоверьтесь, что шины к дискам достаточно быстры. Вы не должны вешать 14 UW-SCSI дисков на одну UW шину, если каждое устройство может дать 10 Мб/с, а шина может только 40 Мб/с. Также, вы должны держать только одно устройство на IDE шине. Работа дисков master/slave ужасна по производительности. IDE очень плох при подключении более одного диска на шину. Конечно, все новые материнские платы содержат две IDE шины, так что Вы можете установить два диска в RAID без покупки дополнительных контроллеров.
Уровень RAID не имеет абсолютно ничего общего с уровнем файловой системы. Вы можете держать любую файловую систему на устройстве RAID, как и на любом другом блочном устройстве.
Слово ``RAID'' означает ``Программный Linux RAID''. Этот HOWTO не рассматривает аспекты аппаратных RAID.
При описании установки, полезно сверить число дисков и их размеры. Каждый раз буква N используется для указания количества активных дисков в массиве (не считая резервных дисков). Буква S, если не указано обратное, - размер наименьшего устройства в массиве. Буква P используется как производительность одного диска в массиве в Мб/с. Мы предполагаем, что диски одинаково быстрые, что может быть не всегда справедливо.
Заметьте, что слова ``устройство'' и ``диск'' означают одно и то же. Обычно устройства, используемые для построения RAID, являются разделами диска, не обязательно целыми дисками. Но объединение нескольких разделов на одном диске обычно бессмысленно, таким образом устройства и диски обозначают просто ``разделы на различных дисках''.
Здесь приводится короткое описание того, что поддерживается патчами Linux RAID. Часть из этой информации - чисто базовая информация о RAID, но я добавил несколько замечаний о особенностях реализации уровней в Linux. Если Вы знакомы с RAID, просто пропустите эту секцию. Позже, если возникнут проблемы, можете вернуться к ней :)
Текущие RAID патчи для Linux поддерживают следующие уровни:
Резервные диски - диски, которые не являются частью RAID тома, пока один из активных дисков откажет. Когда обнаруживается отказ диска, он маркируется как ``плохой'' и, если имеются резервные диски, немедлено начинается реконструкция.
Таким образом, резервные диски добавляют дополнительную безопасность, особенно к RAID-5 системам, где, возможно, тяжело достичь этого (физически). Это позволяет работать системе некоторое время, с отказавшим диском, так как вся избыточность полагается на наличие резервных дисков.
Вы не можете быть уверены, что Ваша система переживет отказ диска. Драйвер RAID уровня должен обрабатывать дисковые отказы очень хорошо, но SCSI драйвера могут не правильно обрабатывать ошибки, или IDE чипсет может заблокироваться, или может случиться много всякого другого.
Нет причин использовать RAID для увеличения производительности виртуальной памяти. Ядро само может распределять подкачку на несколько дисков, если Вы укажете одинаковый приоритет им в fstab файле.
Правильный fstab выглядит так:
/dev/sda2 swap swap defaults,pri=1 0 0 /dev/sdb2 swap swap defaults,pri=1 0 0 /dev/sdc2 swap swap defaults,pri=1 0 0 /dev/sdd2 swap swap defaults,pri=1 0 0 /dev/sde2 swap swap defaults,pri=1 0 0 /dev/sdf2 swap swap defaults,pri=1 0 0 /dev/sdg2 swap swap defaults,pri=1 0 0Такая конфигурация позволяет делать подкачку параллельно на несколько SCSI дисков. RAID не нужен, так как это было свойством ядра уже давно.
Другая причина использовать RAID для подкачки - высокая готовность. Если Вы установили загрузку системы и т.д. с RAID-1 устройства, система должна пережить отказ диска. Но если система выполняет подкачку с уже отказавшего устройства, будьте уверены - она рухнет. Подкачка на RAID-1 устройстве решит эту проблему.
Было много дискуссий о стабильности подкачки на RAID устройстве. Дебаты продолжаются, так как это сильно зависит от других аспектов ядра. Что касается этого документа, кажется подкачка на RAID должна быть вполне стабильна, исключая время реконструкции массива (т.е. поле того, как вставлен новый диск в деградировавший массив). Когда выйдет 2.4 это решение будет одним из наиболее более быстрых, но тогда, Вы должны жестко протестировать систему, пока сами не будете удовлетворены стабильностью или решите, что Вы не будете использовать подкачку на RAID.
В можете установить подкачку в файл на файловой системе RAID устройства, или Вы можете установить RAID устройство как swap раздел, на Ваше усмотрение. Как обычно, RAID устройство - просто блочное устройство.
Эта секция имеет отношение к некоторым аппаратным особенностям запуска программного RAID.
В самом деле возможно запустить RAID на IDE дисках. Также может быть достигнута превосходная производительность. Фактически, сегодняшние цены на IDE устройства и контроллеры делают IDE заслуживающим раздумий, при создании новой RAID системы.
Очень важно, чтобы Вы использовали один IDE диск на IDE шине. Два диска не только разрушают производительность, но отказ диска - часто гарантирует отказ шины, и, таким образом, отказывают все устройства на этой шине. При отказоустойчивом RAID (RAID уровней 1,4,5), отказ одного может быть обработан, но отказ двух дисков (два диска на одной шине отказывают из-за отказа одного диска) приведут массив в неиспользуемое состояние. Также, при отказе master диска на шине, slave или IDE контроллер может быть сбит с толку. Одна шина - один диск, это правило.
Существуют дешевые PCI IDE контроллеры. Вы часто можете получить две или четыре шины за $80. Учитывая значительно более низкую цену IDE по сравнению со SCSI дисками, я бы сказал, что IDE дисковые массивы могут быть в самом деле хорошим решением, если оно реализуется относительно небольшим (возможно около 8) количеством дисков, которые можно подключить к типичной системе (если, конечно, у Вас достаточно PCI слотов для этих IDE контроллеров).
У IDE есть небольшая проблема с кабелями при применении в больших массивах. Даже если У вас достаточно PCI слотов, маловероятно, что Вы сможете поставить более 8 дисков в систему и запустить ее без искажений данных при передаче (из-за слишком длинных IDE кабелей).
Некоторое время это была горячая тема списка рассылки linux-kernel. Хотя горячая замена дисков поддерживается в некоторой степени, она все еще нечто не очень простое.
Не делайте ! IDE совсем не работает с горячей заменой. Конечно, у вас может работать, если ваш IDE драйвер скомпилирован как модуль (возможно только в 2.2 серии ядер), и вы пере-загружаете его после замены диска. Но Вы можете запросто сжечь IDE контроллер, и Вы будете блокированы на значительно большее время, чем, если бы Вы заменили диск на выключенной машине.
Главная проблема, исключая выбросы электричества, которые могут разрушить вашу аппаратуру, - шина IDE должны быть пересканирована после замены дисков. Текущий IDE драйвер так не умеет. Если новый диск на 100% идентичен старому (геометрией и т.п.), он может работать без пере-сканирования шины, но на самом деле, Вы ходите по краю обрыва.
Обычная SCSI аппаратура не позволяет горячей замены. Однако, это может работать. Если Ваш SCSI драйвер поддерживает пере-сканирование шины, и удаление и добавление устройств, Вы можете делать горячую замену. Однако, на обычной SCSI шине Вы не должны отключать устройства, пока система включена. Но опять же, это может сработать (и вы можете закончить сгоревшей аппаратурой).
Уровень SCSI должен пережить смерть диска, но пока не все драйвера SCSI могут так делать. Если Ваш SCSI драйвер падает при отказе диска, ваша система упадет с ним, и горячая замена реально не возможна.
Со SCA, возможна горячая замена устройств. Однако, у меня нет аппаратуры на которой можно это попробовать, и я не слышал, чтобы кто-то пробовал, так что реально я не могу дать никаких рекомендаций, как это сделать.
Если Вы хотите поиграть с этим, Вы, в любом случае, должны знать о внутренностях SCSI и RAID. Таким образом я не собираюсь писать здесь что-либо, что я не проверил, вместо этого я могу дать несколько нитей к размышлению:
Не все SCSI драйвера поддерживают добавление и удаление устройств. В серии 2.2 ядер, по крайней мере Adaptec 2940 и Symbios NCR53c8xx драйвера, кажется, поддерживаю это, другие - не известно. Я буду благодарен, если кто-то даст сюда дополнительные факты ...
Вот что Вам нужно для любых уровней RAID:
Все программы могут быть найдены на ftp://ftp.fi.kernel.org/pub/linux RAID
утилиты и патчи в daemons/raid/alpha подкаталоге.
Ядра - в kernel подкаталоге.
Пропатчите ядро, сконфигурируйте его для включения поддержки желаемого уровня RAID. Скомпилируйте его и установите.
Затем распакуйте, сконфигурируйте, скомпилируйте и установите утилиты RAID.
Так, все хорошо. Если Вы сейчас перезагрузитесь, Вы должны получить файл
называемый /proc/mdstat. Запомните его, этот файл - Ваш друг. Сделав
cat /proc/mdstat посмотрите его содержимое. Это должно Вам сказать, что
у Вас зарегистрированы правильные свойства RAID (RAID режим), и
устройства RAID уже активны.
Создайте разделы, которые хотите включить в RAID набор.
Сейчас, рассмотрим специфику режимов.
Итак, у вас есть два или более раздела, не обязательно одного размера (но конечно могут быть), которые Вы хотите объединить вместе.
Установите /etc/raidtab файл для описания вашей конфигурации.
Я устанавливаю raidtab для двух дисков в линейный режим, и файл выглядит так:
raiddev /dev/md0
raid-level linear
nr-raid-disks 2
chunk-size 32
persistent-superblock 1
device /dev/sdb6
raid-disk 0
device /dev/sdc5
raid-disk 1
Резервные диски тут не поддерживаются. Если диск умрет, массив умрет вместе с
ним. Не существует информации для помещения на резервный диск.
Вы, возможно удивлены тем, что мы указали здесь chunk-size (размер куска),
при том, что линейный режим просто объединяет два диска в один большой без
параллелизма. Да, Вы полностью правы, это - лишнее. Просто поставьте какой-то
размер куска и не беспокойтесь об этом.
Итак, создадим массив. Запускаем команду
mkraid /dev/md0
Это должно инициализировать ваш массив, записать отдельные суперблоки, и запустить массив.
Загляните в /proc/mdstat. Вы должны заметить, что массив уже запущен.
Теперь, ВЫ можете создать файловую систему, просто как и на любом другом устройстве, смонтируйте ее, включите ее в Ваш fstab и тому подобное.
У вас должно быть два или более устройств, приблизительно одного размера, и Вы хотите объединить их емкость и также производительность путем параллельного доступа.
Установите файл /etc/raidtab для описания Вашей конфигурации. Пример raidtab
выглядит таким образом:
raiddev /dev/md0
raid-level 0
nr-raid-disks 2
persistent-superblock 1
chunk-size 4
device /dev/sdb6
raid-disk 0
device /dev/sdc5
raid-disk 1
В линейном режиме, резервные дики не поддерживаются. RAID-0
не имеет избыточности, так что если диск умрет, массив умрет вместе с ним.
Еще раз, просто запустите
mkraid /dev/md0для инициализации массива. Это должно инициализировать суперблок и запустить устройство. Загляните в
/proc/mdstat чтобы посмотреть, что произошло.
Вы должны увидеть, что Ваше устройство запущено.
/dev/md0 теперь готов к форматированию, монтированию, использованию и издевательствам.
У вас есть два устройства приблизительно одного размера, и Вы хотите из зеркализировать. В конце концов, Вы можете использовать больше устройств, которые Вы можете держать как резервные диски, и которые автоматически станут частью зеркала, если одно из из активных устройств сломается.
Установите /etc/raidtab файл подобно этому:
raiddev /dev/md0
raid-level 1
nr-raid-disks 2
nr-spare-disks 0
chunk-size 4
persistent-superblock 1
device /dev/sdb6
raid-disk 0
device /dev/sdc5
raid-disk 1
Если у Вас есть резервные диски, Вы можете добавить их в конец спецификации
устройства
device /dev/sdd5
spare-disk 0
Не забудьте установить соответственно nr-spare-disks запись (количество
резервных дисков).
Итак, мы все установили для запуска инициализации RAID. Зеркало должно быть сконструировано, содержимое ( сейчас это, однако, не важно, так как устройство все еще не форматировано) двух дисков должно быть синхронизировано.
Подаем команду
mkraid /dev/md0для начала инициализации зеркала.
Проверьте /proc/mdstat файл. Он должен сказать вам, что устройство /dev/md0
было запущено, зеркало начало реконструироваться, а
также оценочное время завершения реконструкции.
Реконструкция делается в периоды отсутствия ввода-вывода. Так что, ваша система должна быть еще достаточно отзывчива, хотя Ваш индикатор дисковой активности должен хорошо светиться.
Процесс реконструкции прозрачен, так что Вы можете, фактически, использовать зеркало несмотря на реконструкцию.
Попробуйте форматировать устройство, при запущенной реконструкции. Это должно работать. Также Вы можете смонтировать его и использовать в процессе реконструкции. Конечно, если неисправный диск разрушается при реконструкции, Вам не повезло.
Заметьте! Я сам не тестировал эту конфигурацию. Конфигурация ниже - моя догадка, а не что-то, фактически запущенное мною.
У вас есть три или более приблизительно одного размера диска, один значительно быстрее других, и Вы хотите скомбинировать их все в одно большое устройство, которое все еще содержит немного избыточной информации. В конце концов у вас есть несколько устройств, которые Вы хотите использовать как резервные диски.
Установите файл /etc/raidtab подобно этому:
raiddev /dev/md0
raid-level 4
nr-raid-disks 4
nr-spare-disks 0
persistent-superblock 1
chunk-size 32
device /dev/sdb1
raid-disk 0
device /dev/sdc1
raid-disk 1
device /dev/sdd1
raid-disk 2
device /dev/sde1
raid-disk 3
Если у Вас резервные диски, они должны быть вставлены аналогичным образом,
следуя спецификациям raid-disk;
device /dev/sdf1
spare-disk 0
Как обычно, ваш массив может быть инициализирован командой
mkraid /dev/md0
Перед форматированием, Вы должны просмотреть секцию специальных опций mke2fs.
У Вас есть три или более дисков приблизительно одного размера, Вы хотите скомбинировать их в большое устройство, но еще содержащее некоторую степень избыточности. В конце концов у Вас есть несколько дисков для использования как резервных, которые не будут частью массива до отказа другого устройства.
Если Вы используете N дисков, где S - размер наименьшего, размер всего массива будет (N-1)*S. Это ``не включает'' пространство используемое для информации о четности (избыточности). Итак, если любой диск отказывает, все данные остаются целыми. Но, если два диска отказывают, все данные потеряны.
Установите файл /etc/raidtab так:
raiddev /dev/md0
raid-level 5
nr-raid-disks 7
nr-spare-disks 0
persistent-superblock 1
parity-algorithm left-symmetric
chunk-size 32
device /dev/sda3
raid-disk 0
device /dev/sdb1
raid-disk 1
device /dev/sdc1
raid-disk 2
device /dev/sdd1
raid-disk 3
device /dev/sde1
raid-disk 4
device /dev/sdf1
raid-disk 5
device /dev/sdg1
raid-disk 6
Если у Вас есть резервные диски, они должны быть вставлены подобным образом,
следуя спецификациям raid-disk;
device /dev/sdh1
spare-disk 0
И так далее.
Размер куска в 32 KB хорошее начальное значение для многих общих применений файловой системы. Массив, на котором используется вышеуказанный raidtab, - устройство размером 7 раз по 6 GB = 36 GB (запомните (n-1)*s = (7-1)*6 = 36) Оно содержит файловую систему ext2 с размером блока 4 Кб. Если Ваша файловая система намного больше или Вы храните очнь большие фалы, Вы должны установить больший размер куска и размер блока файловой системы.
Итак, хватит разговоров. Вы установили raidtab, так что посмотрим, работает ли он. Подаем команду
mkraid /dev/md0и смотрим, что получилось. Надеюсь Ваши диски заработали как сумасшедшие, так как начался процесс реконструкции Вашего массива. Загляните в
/proc/mdstat чтобы посмотреть что происходит.
Если устройство успешно создано, начался процесс реконструкции. Ваш массив не устойчив, пока фаза реконструкции не завершена. Однако, массив полностью функционален (кроме, конечно, обработки дисковых отказов), и Вы можете его форматировать и использовать, пока он реконструируется.
Перед форматированием массива, посмотрите секцию специальных опций mke2fs.
Итак, сейчас вы запустили свое RAID устройство, Вы можете всегда остановить его или снова запустить используя
raidstop /dev/md0или
raidstart /dev/md0команды.
Вместо помещения этого в init-файлы и многократных перезагрузок чтобы заставить это работать, читайте далее, и запустите авто-детектирование.
Вернемся в ``Старые Добрые Времена'' (TM), raidtools читали Ваш read /etc/raidtab
файл и затем инициализировали массив. Однако, это требовало
наличия файловой системы та том, на чем был смонтирован /etc/raidtab.
Это не подходило для загрузки с RAID.
Также, старый подход приводил к сложностям при монтировании файловой системы
на RAID устройствах. Они не должны были, как обычно, вставляться в /etc/fstab
файл, но должны были монтироваться из скриптов инициализации.
Отдельный суперблок решил эти проблемы. Когда массив инициализируется
с опцией persistent-superblock в файле /etc/raidtab, в начале всех
дисков массива записывается специальный суперблок. Это позволяет ядру читать
конфигурацию устройств RAID прямо с затрагиваемых дисков, вместо чтения
конфигурационного файла, который может не всегда доступен.
Однако Вы должны поддерживать целостность файла /etc/raidtab, так как Вам он может
понадобиться позже при реконструкции массива.
Если вы хотите автоматического детектирования RAID устройств при загрузке - отдельный суперблок обязателен. Это описано в секции Автоматическое детектирование.
Размер куска заслуживает обьяснения. Вы можете никогда не писать полностью параллельно на дисковый набор. Если у Вас два диска и Вы хотите записать байт, Вы должны, фактически, записать четыре бита на каждый диск, каждый второй бит должен пойти на диск 0 а другие на диск 1. Аппаратно это не поддерживается. Вместо этого, мы выбираем некоторый размер куска, который мы определяем как наименьшую ``атомарную'' порцию данных, которые могут быть записаны на диски. Запись 16 Кб с размером куска в 4 Кб, приведет к записи первого и третьего 4 Кбайтных кусочков на первый диск, а второго и четвертого на второй, в случае RAID-0 из двух дисков. Таким образом, для длинных записей, вы можете увидеть меньшие накладные расходы при довольно больших размерах кусков, в то время как массивы, которые в основном содержит небольшие файлы, имеют преимущество при небольших размерах куска.
Размеры куска должны быть указаны для всех уровней RAID, включая линейный режим. Однако, размер куска безразличен для линейного режима.
Для оптимальной производительности, Вы должны поэкспериментировать с этим значением, также как и с размером блока файловой системы, которую вы создаете в массиве.
Аргумент опции chunk-size в /etc/raidtab указывает размер кусочка в килобайтах.
Так ``4'' означает ``4 Кб''.
Данные записываются ``почти'' в параллельном режиме на диски массива.
Фактически, chunk-size байт записываются на каждый диск
последовательно.
Если Вы указываете размер куска в 4 Кб, и пишете 16 Кб на массив из трех дисков, RAID система будет писать 4 Кб на диски 0, 1 и 2, параллельно, а оставшиеся 4 Кб на диск 0.
Размер куска в 32 KB - разумное начальное значение для большинства массивов. Но оптимальное занчение сильно зависит от количества в дисков, содержимого файловой системы на массиве, и многих других факторов. Поэкспериментируйте с этим, для получения производительности.
Для записи, размер куска не влияет, так как все данные, в любом случае, должны быть записаны на все диски. Однако для чтения, размер куска указывает сколько данных читаются последовательно с участвующих дисков. Так как все диски массива содержат одинаковую информацию, чтение может быть сделано параллельно, подобным RAID-0 образом.
Когда сделана запись на массив RAID-4, также должна быть обновлена информация о
паритете на паритетном диске. Размер куска - размер паритетных блоков.
Если байт записывается на массив RAID-4, потом chunk-size
байт считываются с N-1 дисков, вычисляется информация о паритете, и
chunk-size байт записываются на паритетный диск.
Размер куска также влияет на производительность чтения также как и в RAID-0, так как считывания с RAID-4 делаются аналогично.
На RAID-5 размер куска имеет такое же занчение как и в RAID-4.
Разумный размер куска для RAID-5 массива - 128 KB, но как обычно, Вы можете поэкспериментировать с ним.
Посмотрите далее секцию специальных опций mke2fs. Это влияет на производительность RAID-5.
Существует специальная опция форматирования RAID-4 ил -5 устройств с mke2fs.
Опция -R stride=nn позволяет mke2fs лучше размещать различные ext2
специфичные структуры данных разумным способом на устройство RAID.
Если размер куска 32 Кб, это значит, что 32 Кб последовательных данных будут лежать на одном диске. Если Вы хотите создать ext2 файловую систему с размером блока в 4 Кб, Вы сделаете так, что будет восемь блоков файловой системы в одном куске. Мы можем указать эту информацию для утилиты mke2fs, при создании файловой системы:
mke2fs -b 4096 -R stride=8 /dev/md0
Производительность RAID-{4,5} строго зависит от этой опции. Я не уверен как опция stride будет воздействовать на другие уровни RAID. Если у кого-то есть эта информация, пожалуйста пошлите ее мне.
Размер блока ext2fs строго определяет производительность файловой системы. Вы всегда должны использовать размер блока 4Кб на любой файловой системе более чем нескольких сот мегабайт, если Вы не помещаете очень большое число маленьких файлов на нее.
Авто-детектирование позволяет ядру автоматически распознавать устройства RAID при загрузке, сразу после завершения обычного детектирования разделов.
Для этого требуется несколько вещей:
ЗАМЕТКА: Удостоверьтесь, что Ваш RAID НЕ ЗАПУЩЕН перед сменой типа раздела.
Используйте raidstop /dev/md0 для остановки устройства.
Если Вы сделаете 1, 2 и 3 как указано выше, авто-детектирование должно
быть установлено. Попробуйте перезагрузиться. После загрузки системы,
сделайте cat /proc/mdstat и это должно показать, что Ваш RAID запущен.
При загрузке, Вы должны увидеть сообщения подобные этим:
Oct 22 00:51:59 malthe kernel: SCSI device sdg: hdwr sector= 512 bytes. Sectors= 12657717 [6180 MB] [6.2 GB] Oct 22 00:51:59 malthe kernel: Partition check: Oct 22 00:51:59 malthe kernel: sda: sda1 sda2 sda3 sda4 Oct 22 00:51:59 malthe kernel: sdb: sdb1 sdb2 Oct 22 00:51:59 malthe kernel: sdc: sdc1 sdc2 Oct 22 00:51:59 malthe kernel: sdd: sdd1 sdd2 Oct 22 00:51:59 malthe kernel: sde: sde1 sde2 Oct 22 00:51:59 malthe kernel: sdf: sdf1 sdf2 Oct 22 00:51:59 malthe kernel: sdg: sdg1 sdg2 Oct 22 00:51:59 malthe kernel: autodetecting RAID arrays Oct 22 00:51:59 malthe kernel: (read) sdb1's sb offset: 6199872 Oct 22 00:51:59 malthe kernel: bind<sdb1,1> Oct 22 00:51:59 malthe kernel: (read) sdc1's sb offset: 6199872 Oct 22 00:51:59 malthe kernel: bind<sdc1,2> Oct 22 00:51:59 malthe kernel: (read) sdd1's sb offset: 6199872 Oct 22 00:51:59 malthe kernel: bind<sdd1,3> Oct 22 00:51:59 malthe kernel: (read) sde1's sb offset: 6199872 Oct 22 00:51:59 malthe kernel: bind<sde1,4> Oct 22 00:51:59 malthe kernel: (read) sdf1's sb offset: 6205376 Oct 22 00:51:59 malthe kernel: bind<sdf1,5> Oct 22 00:51:59 malthe kernel: (read) sdg1's sb offset: 6205376 Oct 22 00:51:59 malthe kernel: bind<sdg1,6> Oct 22 00:51:59 malthe kernel: autorunning md0 Oct 22 00:51:59 malthe kernel: running: <sdg1><sdf1><sde1><sdd1><sdc1><sdb1> Oct 22 00:51:59 malthe kernel: now! Oct 22 00:51:59 malthe kernel: md: md0: raid array is not clean -- starting background reconstructionЭто отрывок при авто-детектировании массива RAID-5, который не был чисто остановлен (например при крахе машины). Была автоматически инициирована реконструкция. Монтирование этого устройства вполне безопасно, так как реконструкция прозрачна и все данные целы ( только паритетная информация противоречива - но она не нужна, пока диск не откажет).
Автоматически стартующие устройства также автоматически останавливаются при выключении. Не беспокойтесь о init скриптах. Просто используйте устройства /dev/md как любые другие /dev/sd или /dev/hd устройства.
Да, это в самом деле очень просто.
Вы можете взглянуть в Ваш init-scripts для любых raidstart/raidstop комманд. Они часто есть в стандартных RedHat init скриптах. Они используются для RAID старого стиля, и не используются в RAID нового стиля с авто-детектированием. Посто удалите строки, и все будет очень просто.
Существует несколько путей для установки системы, которая монтирует свою корневую файловую систему на устройство RAID. На текущий момент, только графический инсталлятор RedHat Linux 6.1 позволяет прямую установку на устройство RAID. Так что вполне вероятно Вам прийдется немного повозиться, если это Вам нужно, но это вполне возможно.
Последний официальный дистрибутив lilo (версия 21) не работает с устройствами
RAID, и, таким образом, ядро не может быть загружено с устройства RAID. Если Вы
используете эту версию, Ваша файловая система /boot должна быть
расположена на не-RAID устройстве. Чтобы быть уверенным, что Ваша система
загрузится в любом случае, создайте подобные /boot разделы на всех
дисках вашего RAID, таким образом BIOS всегда загрузит данные с первого
попавшегося диска. Это требует, чтобы Вы не загружались с отказавшего диска.
Для redhat 6.1 стал доступен патч к lilo 21, который способен найти
/boot на RAID-1. Заметьте, что это не работает для любого другого
уровня, RAID-1 (mirroring) - единственный поддерживаемый уровень RAID. Этот патч
(lilo.raid1) может быть найден в dist/redhat-6.1/SRPMS/SRPMS/lilo-0.21-10.src.rpm на любом зеркале redhat.
Пропатченая версия LILO позволит boot=/dev/md0 в lilo.conf и
сделает каждый диск зеркала загрузочным.
Другой путь быть уверенным, что Ваша система сможет всегда загрузится - создать
загрузочную дискету после завершения всех установок. Если диск, на котором,
расположена файловая система /boot умирает, Вы сможете всегда
загрузиться с дискеты.
В случае загрузки системы с RAID, корневая файловая система (/) должна монтироваться на устройство RAID. Ниже предлагается два метода для достижения этого. Так как ни один из текущих дистрибутивов (по крайней мере которые я знаю) не поддерживает инсталляцию на RAID устройство, методы предполагают, что Вы устанавливаете на обычный раздел, и затем, когда установка завершена, перемещаете содержимое Вашей не-RAID корневой файловой системы на новое RAID устройство.
Этот метод предполагает, что У вас есть резервный диск, который не входит в конфигурируемый RAID, и на который Вы можете инсталлировать систему.
mke2fs), и смонтируйте его в /mnt/newrootcd / find . -xdev | cpio -pm /mnt/newroot
/mnt/newroot/etc/fstab для
использования правильного устройства (корневого устройства /dev/md?)
для корневой файловой системы./boot файловую систему, и смонтируйте вместо нее загрузочное устройство указанное в /mnt/newroot/boot.
Это требуется для LILO для успешного запуска на следующем шаге./mnt/newroot/etc/lilo.conf для указания на правильные
устройства. Загрузочное устройство должно все еще быть обычным диском (не-RAID
устройством), но root устройство должно указывать на Ваш новый RAID. Когда
сделано, запустите
lilo -r /mnt/newrootЭтот запуск LILO дожен завершиться без ошибок.
Если Вы делаете это с IDE дисками, удостоверьтесь что установили в BIOS, что все диски ``auto-detect'' типа, таким образом BIOS позволит Вашей машине загружаться даже если диск отсутствует.
Этот метод требует, чтобы Вы использовали raidtools/патч, которые включают директиву failed-disk. Это должны быть утилиты/патч для всех ядер от 2.2.10 и выше.
Вы можете использовать этот метод только на RAID уровня 1 и выше. Идея состоит в использовании установки системы на диск специально отмеченный как отказавший в RAID, тогда скопировав систему на RAID, запущенный в деградированном режиме, и затем сделав доступным для RAID уже не нужный ``инсталляционный диск'', уничтожаете старую установку, но запускаете RAID в не деградированном режиме.
отказавшим диском в фале raidtab. Не помещайте
отказавший диск как первый диск в raidtab, это создаст
проблемы с запуском. Создайте RAID, и поместите файловую систему на него.raidtab для включения предыдущего отказавшего диска как
обычного raid-диска. Сейчас, raidhotadd диск ваш RAID.
Чтобы ядро смогло смонтировать корневую файловую систему, вся поддержка для устройства, на котором расположена корневая файловая система, должна быть в ядре. Таким образом, в случае монтирования файловой системы на RAID устройстве, ядро должно содержать поддержку RAID.
Обычный способ удостовериться, что ядро может видеть RAID устройство - просто скомпилировать ядро с вкомпилированой поддержкой RAID. Убедитесь, что компилируете поддержку RAID в ядро, а не как модули. Ядро не может загружать модули (с корневой файловой системы) перед монтированием файловой системы.
Однако, с RedHat-6.0 поставляется с ядром, которое содержит поддержку RAID нового стиля в виде модулей, я здесь опишу как можно использовать стандартное ядро RedHat-6.0 и все еще загружать систему с RAID.
Для достижения этого, Вы должны указать LILO использовать RAM-диск.
Используйте команду mkinitrd для создания ramdisk, содержащего
все модули ядра необходимые для загрузки корневого раздела. Это можно сделать
так:
mkinitrd --with=<module> <ramdisk name> <kernel>Например:
mkinitrd --with=raid5 raid-ramdisk 2.2.5-22
Это должно гарантировать, что ядро найдет указанный RAID модуль при монтировании устройства во время загрузки.
Никогда, НИКОГДА, никогда не пере-размечайте разделы дисков, которые являются частью рабочего RAID. Если Вы должны изменить таблицу разделов на диске, который - часть RAID, сначала остановите массив, затем пере-размечайте.
Поместить много дисков на одну шину очень просто. Обычная шина Fast-Wide SCSI может выдерживать до 10 Мб/с, что меньше, чем могут дать многие современные диски. Размещение шести таких дисков на одной шине, конечно, не даст ожидаемого прироста производительности.
Многие SCSI контроллеры дадут Вам наивысшую производительность, если SCSI шины почти маскимально забиты дисками на них. Вы не увидите увеличения производительности от использования двух 2940s с двумя старыми SCSI дисками, вместо простого подключения двух дисков к одному контролеру.
Если Вы забудете опцию persistent-superblock, Ваш массив может сразу не запуститься после остановки. Просто пере-создайте массив с установленной опцией в raidtab.
Если RAID-5 отказывается реконструироваться после удаления и повторного добавления диска, это может быть из-за порядка устройств в raidtab. Попытайтесь переместить первую ``device ...'' и ``raid-disk ...'' пару в низ описания массива в фале raidtab.
Большинство ``сообщений об ошибках'' , которые мы видим в linux-kernel, от людей, у которых как-то не работает правильный патч RAID с правильной версией raidtools. Если Вы используете 0.90 RAID, убедитесь, что используете raidtools для этой версии.
Если Вы планируете использовать RAID для получения отказоустойчивости, Вы также должны проверить Вашу конфигурацию, чтобы увидеть, что она действительно рабочая. Итак, как кожно имитировать отказ диска ?
Коротко - Вы не можете, исключая, возможно, ``горячее'' выдергивание шнура из жесткого диска, отказ которого Вы хотите имитировать. Вы никогда знаете, что может случиться при отказе диска. Возможна электрическая блокировка шины к которой он подсоединен, что приведет к недоступности всех устройств на шине. Хотя я никогда о таком не слышал. Диск может также просто выдавать ошибки чтения/записи на уровне SCSI/IDE, что в свою очередь даст уровню RAID корректно обработать эту ситуацию. Это, к счастью, происходит чаще всего.
Если Вы хотите имитировать отказ диска - отсоедините устройство. Вы должны делать это при выключенном питании. Если Вы заинтересованы в тестировании выживут ли Ваши данные без одного диска, по сравнению с обычным количеством, нет иного выхода, как отключение. Завершите систему, отсоедините диск и загрузитесь снова.
Посмотрите в syslog, и загляните в /proc/mdstat, чтобы посмотреть как действует
RAID. Сработало?
Запомните, что Вы должны запускать массив RAID-{1,4,5} для возможности пережить отказ диска. Линейный или RAID-0 откажут полностью при отсутствии диска.
Когда Вы подключили диск снова (при выключенном питании, конечно), Вы
можете опять добавить ``новое'' устройство в RAID, командой
raidhotadd.
RAID (будь то программный или аппаратный), предполагает, что если запись на диск не вернула ошибку, то запись была успешной. Следовательно, если Ваш диск повреждает данные без возврата ошибки, Ваши данные будут повреждены. Это конечно очень не желательно, но возможно, и это приведет к повреждению файловой системы.
RAID не может и не должен защищать от повреждения данных на носителе.
Следовательно, нет никакого смысла намеренно повреждать данные (используя
dd например) на диске, чтобы посмотреть как RAID система это
обработает. Наиболее вероятно (если Вы не повредите суперблок RAID), что RAID
уровень никогда не догадается о повреждении,
но файловая система на Вашем RAID устройстве будет повреждена.
Это путь вещей предполагаемых для работы. RAID не гарантирует целостности данных, он просто позволяет Вам сохранить данные при отказе диска (это, конечно, справедливо для RAID уровня 1 или выше).
Если Вы читали другие части этого HOWTO, Вы должны уже хорошо представлять как вызывается реконструкция деградировавшего RAID. Я обобщаю:
raidhotadd /dev/mdX /dev/sdX для добавления диска
в массивИтак, обычно это так, пока Вам не повезет и Ваш RAID станет нерабочим из-за отказа более одного диска. Это может фактически случиться, если у Вас несколько дисков на одной шине, и один диск захватит шину при отказе. Другие диски, в порядке, но будут недоступны для RAID уровня, так как шина блокирована, и они будут помечены как отказавшие. На RAID-5, где у Вас может быть резервный диск, потеря двух или более дисков может быть фатальной.
Следующая секция - объяснение, которое прислал мне Martin Bene,
и описал возможность восстановления при жутком сценарии описанном выше.
Это использует директиву failed-disk в Вашем /etc/raidtab, таким образом
это будет работать с ядрами 2.2.10 и выше.
Сценарий таков:
Остается одно: перезаписать суперблоки RAID подав mkraid --force
Чтобы это сделать, Вам нужно иметь свежий /etc/raidtab - если
он НЕ ТОЧНО соответствует устройствам и исходному порядку
дисков, это не сработает.
Посмотрите в sylog на результат попытки запуска массива, Вы увидите отсчет событий для каждого суперблока; обычно лучше оставить диск с наименьшим отсчетом события, т.е. с самым старым.
Если Вы делаете mkraid без failed-disk, нить восстановления
немедленно выругается и начнет перестроение блоков паритета
- не то, что Вам сейчас нужно.
С failed-disk, В можете точно указать какие диски Вы хотите
активировать и, возможно, попробовать различные комбинации для лучшего
результата. Подсказка, при этих экспериментах монтируете систему в режиме
только для чтения... Это было успешно использовано, по крайней мере, двумя
парнями, с которыми я контактировал.
Эта секция содержит несколько бенчмарков из реальных систем, использующих программный RAID.
Бенчмарки производились программой bonnie, и всегда с файлами
в два или более раза большими объема физической памяти (RAM) в машине.
В приведенных бенчмарках измерялась только пропускная способность
записи и чтения одного большого файла.
Это полезная информация, если интересует максимальная пропускная способность
ввода/вывода для длинных блоков данных.
Однако, эти цифры мало говорят нам о производительности, при использовании
массива для спула новостей, web-сервера, и т.д.
Всегда помните, эти цифры - результат запуска ``синтетического'' теста.
Несколько реальных программ делают то же, что и
bonnie, и хотя хорошо смотреть на эти цифры, они не являются
основными индикаторами реальной производительности.
Сейчас, у меня есть результаты с моей собственной машины. Конфигурация такова:
Три U2W диска повешены на U2W контроллер, и UW диск на UW контроллер.
Представляется невозможным передавать более 30 Мб/с по шинам SCSI на этой системе, используя RAID или нет. Как я думаю, это из-за слишком старой системы, скорости памяти и ограничений того, что можно послать через SCSI контроллеры.
Чтение это - Последовательный блочный ввод, и Запись это - Последовательный блочный вывод. Размер файла во всех тестах - 1Гб. Тести были проведены в однопользовательском режиме. Драйвер SCSI был сконфигурирован для не использования очереди помеченных комманд.
|
Размер куска | Размер блока | Чтение Кб/с | Запись Кб/с |
| 4k | 1k | 19712 | 18035 |
| 4k | 4k | 34048 | 27061 |
| 8k | 1k | 19301 | 18091 |
| 8k | 4k | 33920 | 27118 |
| 16k | 1k | 19330 | 18179 |
| 16k | 2k | 28161 | 23682 |
| 16k | 4k | 33990 | 27229 |
| 32k | 1k | 19251 | 18194 |
| 32k | 4k | 34071 | 26976 |
Отсюда видно, что размер куска в RAID не имеет значения. Однако, размер блока ext2fs должен быть как можно более большим, как 4KB (т.е. размер страницы) на IA-32.
Тут, драйвер SCSI был сконфигурирован для использования очереди помеченных комманд (TCQ), с глубиной очереди - 8. Все остальное как и в предыдущем случае.
|
Размер куска | Размер блока | Чтение Кб/с | Запись Кб/с |
| 32k | 4k | 33617 | 27215 |
Сдесь больше не производилось тестов. Как видно TCQ немного увеличивает производительность записи, но на самом деле здесь совсем не большая разница.
Массив был сконфигурирован в режим RAID-5, и были сделаны подобные тесты.
|
Размер куска | Размер блока | Чтение Кб/с | Запись Кб/с |
| 8k | 1k | 11090 | 6874 |
| 8k | 4k | 13474 | 12229 |
| 32k | 1k | 11442 | 8291 |
| 32k | 2k | 16089 | 10926 |
| 32k | 4k | 18724 | 12627 |
Сейчас, и размер куска и размер блока действительно дают различие.
RAID-10 это- ``зеркало stripes'', или, массив RAID-1 двух массивов RAID-0. Размер куска - размер кусков в обоих, и в RAID-1 и в двух RAID-0 массивах. Я не проводил тестов с различающимися этими размерами кусков, хотя это должна быть вполне правильная установка.
|
Размер куска | Размер блока | Чтение Кб/с | Запись Кб/с |
| 32k | 1k | 13753 | 11580 |
| 32k | 4k | 23432 | 22249 |
Больше тестов не производилось. Размер файла был 900Мб, так как четыре раздела заняли по 500 Мб, так что не осталось места для 1Гб файла в этой конфигурации (RAID-1 на двух 1000Мб массивах).
Следующие люди участвовали в создании этой документации:
Пожалуйста, присылайте автору коррективы, предложения и т.п. Это единственный путь совершенствования HOWTO.
|
Закладки на сайте Проследить за страницей |
Created 1996-2024 by Maxim Chirkov Добавить, Поддержать, Вебмастеру |