RAID0 для обработки видео в Ubuntu
Модераторы: Trinity admin`s, Free-lance moderator`s
RAID0 для обработки видео в Ubuntu
Требуется существенно ускорить дисковые операции записи-чтения при обработке видеофайлов.
Для этого собираюсь докупить 2 - 4 скоростных SATAII диска и дополнительный не очень дорогой контроллер,
поддерживающий RAID0 и имеющий драйвер под Ubuntu8.10 или 9.04.
Поиском пока не нашел.
Может что нибудь посоветуют профессионалы?
P.S. Есть инфа по Promise FastTrack TX2650, но драйвера только под RHEL5
Для этого собираюсь докупить 2 - 4 скоростных SATAII диска и дополнительный не очень дорогой контроллер,
поддерживающий RAID0 и имеющий драйвер под Ubuntu8.10 или 9.04.
Поиском пока не нашел.
Может что нибудь посоветуют профессионалы?
P.S. Есть инфа по Promise FastTrack TX2650, но драйвера только под RHEL5
- Stranger03
- Сотрудник Тринити
- Сообщения: 12979
- Зарегистрирован: 14 ноя 2003, 16:25
- Откуда: СПб, Екатеринбург
- Контактная информация:
Re: RAID0 для обработки видео в Ubuntu
А данные на этом массиве совсем не важны?GeoL писал(а):не очень дорогой контроллер,
поддерживающий RAID0 и имеющий драйвер под Ubuntu8.10 или 9.04.
- Stranger03
- Сотрудник Тринити
- Сообщения: 12979
- Зарегистрирован: 14 ноя 2003, 16:25
- Откуда: СПб, Екатеринбург
- Контактная информация:
Re: RAID0 для обработки видео в Ubuntu
"GeoL"
Мне так кажется выбирать стоит из этого списка: http://www.ubuntuhcl.org/browse/search+ ... ategory=34
Мне так кажется выбирать стоит из этого списка: http://www.ubuntuhcl.org/browse/search+ ... ategory=34
- gs
- Сотрудник Тринити
- Сообщения: 16650
- Зарегистрирован: 23 авг 2002, 17:34
- Откуда: Москва
- Контактная информация:
Re: RAID0 для обработки видео в Ubuntu
Контроллеры дешевле 300долл принципиально не отличаются от софтового страйпа. Вернее отличаются не в лучшую сторону...
-
- Advanced member
- Сообщения: 138
- Зарегистрирован: 19 ноя 2003, 15:49
- Откуда: Санкт-Петербург
- Контактная информация:
Re: RAID0 для обработки видео в Ubuntu
IMHO, для Вашей задачи оптимален софтовый raid0 средствами mdadm. По скорости выиграете даже у серьезных контроллеров. А надежность, как я понял, Вам не нужна
.

- Stranger03
- Сотрудник Тринити
- Сообщения: 12979
- Зарегистрирован: 14 ноя 2003, 16:25
- Откуда: СПб, Екатеринбург
- Контактная информация:
Re: RAID0 для обработки видео в Ubuntu
Не стоит давать вредных советов. РАИД0 можно применять только для тестовых целей, когда просто хочется поиграться. Если же хочется просто секса, то лучше обратиться в спец.дома, где предоставляют такого рода услуги.Serge10 писал(а):IMHO, для Вашей задачи оптимален софтовый raid0 средствами mdadm. По скорости выиграете даже у серьезных контроллеров. А надежность, как я понял, Вам не нужна.
-
- Advanced member
- Сообщения: 138
- Зарегистрирован: 19 ноя 2003, 15:49
- Откуда: Санкт-Петербург
- Контактная информация:
Re: RAID0 для обработки видео в Ubuntu
Хм, и в чем же мой совет вреден? По-моему, это не я предложил raid0 использовать, это было уже в исходной постановке задачиНе стоит давать вредных советов.

Не стоит так категоричноРАИД0 можно применять только для тестовых целей, когда просто хочется поиграться.

- gs
- Сотрудник Тринити
- Сообщения: 16650
- Зарегистрирован: 23 авг 2002, 17:34
- Откуда: Москва
- Контактная информация:
Re: RAID0 для обработки видео в Ubuntu
Для кодирования видео производительность дисков, вопреки распространенному заблуждению, весьма редко имеет значение 
Не путать с видеоредактированием, которое на сервере затруднительно
Но в общем да - если человек ищет приключений, туда ему и дорога

Не путать с видеоредактированием, которое на сервере затруднительно

Но в общем да - если человек ищет приключений, туда ему и дорога

-
- Advanced member
- Сообщения: 138
- Зарегистрирован: 19 ноя 2003, 15:49
- Откуда: Санкт-Петербург
- Контактная информация:
Re: RAID0 для обработки видео в Ubuntu
Ну да, ошибся. Сам видео не занимаюсь, так что для меня разницы практически никакой
.
Я, например, raid0 использую под временные файлы при бэкапе виртуальных машин в Vmware ESX (там с помощью vcbBackup на raid0 скидываются бэкапы, а затем забираются оттуда по сети bacula). Получается, что мне этот массив нужен пару часов в месяц. Вполне уместное применение для raid0, на мой взгляд.

Я, например, raid0 использую под временные файлы при бэкапе виртуальных машин в Vmware ESX (там с помощью vcbBackup на raid0 скидываются бэкапы, а затем забираются оттуда по сети bacula). Получается, что мне этот массив нужен пару часов в месяц. Вполне уместное применение для raid0, на мой взгляд.
Re: RAID0 для обработки видео в Ubuntu
RAID0 используется под swap (~40 - 60 Gb) и временное хранилище файлов на период обработки, после чего информация сбрасывается в архив. Видеообработка - один из видов редактирования с параллельным анализом.
Необходимо максимально разгрузить процессор.
Софтовый рэйд опробован, но так, как не использует аппаратные возможности контроллеров, существенно нагружает четырехядерник.
А приключений не больше, чем от обычных сбоев и зависаний, так как потери информации приводят только к необходимости повторной обработки.
Проблема найти подходящий контроллер с работающим драйвером под Ubuntu.
P.S. 1. Stranger03, спасибо за наводку, но вот с драйверами....
2. Идеально было бы нарастить RAM до 60 Gb, но.....
Необходимо максимально разгрузить процессор.
Софтовый рэйд опробован, но так, как не использует аппаратные возможности контроллеров, существенно нагружает четырехядерник.
А приключений не больше, чем от обычных сбоев и зависаний, так как потери информации приводят только к необходимости повторной обработки.
Проблема найти подходящий контроллер с работающим драйвером под Ubuntu.
P.S. 1. Stranger03, спасибо за наводку, но вот с драйверами....
2. Идеально было бы нарастить RAM до 60 Gb, но.....
Re: RAID0 для обработки видео в Ubuntu
Какая скорость доступа к данным Вам требуется ?
могу как это не странно звучит порекомендовать сетевое хранилище по iscsi
при правильно организованной общей железки там на сервере, на клиенте получите 100МБ/с (мегабайт в секунду) на 1Gbps
интерфейсе и 800МБ/с на 10Gbps интерфейсе при минимальной (0.4 - 4 % ) загрузки одного ядра процессора.
Разумеется удаленная железка должна уметь работать с такой скоростью
Как раз сейчас веду эту разработку - Trinity NAS
могу как это не странно звучит порекомендовать сетевое хранилище по iscsi
при правильно организованной общей железки там на сервере, на клиенте получите 100МБ/с (мегабайт в секунду) на 1Gbps
интерфейсе и 800МБ/с на 10Gbps интерфейсе при минимальной (0.4 - 4 % ) загрузки одного ядра процессора.
Разумеется удаленная железка должна уметь работать с такой скоростью

Как раз сейчас веду эту разработку - Trinity NAS
- gs
- Сотрудник Тринити
- Сообщения: 16650
- Зарегистрирован: 23 авг 2002, 17:34
- Откуда: Москва
- Контактная информация:
Re: RAID0 для обработки видео в Ubuntu
Серега, мне кажется это немного мимо кассы, в свете фасттраха 
Тут можно посмотреть адаптек 3000/5000, 3ware или Areca. Но разумеется все они значительно дороже промисов.
Но вообще-то странно у Вас с софтстрайпом. Это ж как же ж его ж надо ж грузить, чтобы современный процессор нагружался выше уровня фоновых шумов...

Тут можно посмотреть адаптек 3000/5000, 3ware или Areca. Но разумеется все они значительно дороже промисов.
Но вообще-то странно у Вас с софтстрайпом. Это ж как же ж его ж надо ж грузить, чтобы современный процессор нагружался выше уровня фоновых шумов...
- Stranger03
- Сотрудник Тринити
- Сообщения: 12979
- Зарегистрирован: 14 ноя 2003, 16:25
- Откуда: СПб, Екатеринбург
- Контактная информация:
Re: RAID0 для обработки видео в Ubuntu
Ну тогда возьмите пару SSD дисков, дорого конечно, но иопсов получите выше крыши, и проц не будет загружаться.GeoL писал(а):RAID0 используется под swap (~40 - 60 Gb) и временное хранилище файлов на период обработки, после чего информация сбрасывается в архив.
-
- Advanced member
- Сообщения: 138
- Зарегистрирован: 19 ноя 2003, 15:49
- Откуда: Санкт-Петербург
- Контактная информация:
Re: RAID0 для обработки видео в Ubuntu
Может, конечно, я снова не так понял задачу, но вроде речь идет о последовательных потоках. IOPs не очень актуальныНу тогда возьмите пару SSD дисков, дорого конечно, но иопсов получите выше крыши, и проц не будет загружаться.

Re: RAID0 для обработки видео в Ubuntu
По поводу софтового RAID-0 еще раз. Большую нагрузку на проц могли создать нетюненые контроллеры жестких дисков. Например не был включен DMA. hdparm вам должен помочь решить эту проблему.
Вряд ли вам чем-то поможет по скорости внешний контроллер для RAID-0. Разве что если ваши имеющиеся контроллеры жестких дисков ну уж совсем плохи.
Скажите что у вас за материнка на сервере, какая файловая система и модели жестких дисков. Чем тестировали, что большая нагрузка на проц была?
Вряд ли вам чем-то поможет по скорости внешний контроллер для RAID-0. Разве что если ваши имеющиеся контроллеры жестких дисков ну уж совсем плохи.
Скажите что у вас за материнка на сервере, какая файловая система и модели жестких дисков. Чем тестировали, что большая нагрузка на проц была?
Кто сейчас на конференции
Сейчас этот форум просматривают: нет зарегистрированных пользователей и 6 гостей