На конференции LinuxCon представлен (http://www.linuxfoundation.org/news-media/announcements/2015... новый совместный проект Kinetic Open Storage Project (http://www.openkinetic.org/) (KOSP), в рамках которого под эгидой организации Linux Foundation будет развиваться новый интерфейс доступа к устройствам хранения, существенно упрощающий создание хранилищ и избавляющий от необходимости запуска отдельных серверов хранения. Среди учредителей проекта выступили такие компании, как Seagate, Toshiba и Western Digital, Cisco, Dell, Huawei, NetApp и Red Hat.
Основной особенностью Kinetic является возможность прямого доступа к накопителю, подключенному через сеть Ethernet (доступ к API производится по TCP), без привлечения промежуточных серверов хранения. Содержимое дисков доступно в форме БД, предоставляющей средства для работы в формате ключ/значение. Кроме того, предусмотрена возможность использования Kinetic-дисков в составе SNS-хранилищ (Software-defined storage (https://ru.wikipedia.org/wiki/Software-defined_storage)). Таким образом, Kinetic определяет самодостаточные накопители, пригодные для обособленного использования в качестве минисерверов хранения, к которым приложения могут обращаться напрямую по сети.
<a href="http://www.openkinetic.org/images/a/a9/Kinetic_System_Archit... src="http://www.opennet.me/opennews/pics_base/0_1440415846.png" style="border-style: solid; border-color: #606060; border-width: 1px;max-width:100%;" title="" border=0 align=right></a>Кроме протокола (http://www.openkinetic.org/index.php?title=Kinetic_Protocol), проект предоставляет набор открытых библиотек (https://github.com/Seagate) с реализацией API (http://www.openkinetic.org/index.php?title=Kinetic_API) (С, С++, Java, Python, OCaml), плагин (https://github.com/swiftstack/kinetic-swift) для интеграции с хранилищем объектов OpenStack Swift, утилиты (https://github.com/Seagate/kinetic-java-tools) для управления Kinetic-накопителями и симулятор (https://github.com/Seagate/kinetic-java), позволяющий протестировать работу системы до появления совместимых с Kinetic дисков.
Связывание с диском производится при помощи специального ключа аутентификации, привязанного к пользователю. Для управление доступом предусмотрен механизм ACL, описывающий привилегии каждого пользователя. При начальном подключении накопителя для настройки применяется пользователь по умолчанию, который в процессе настройки заменяется.Для обнаружения и управления дисками может использоваться как специальный набор утилит (https://github.com/Seagate/kinetic-java-tools), так и REST API, предоставляющие такие функции как поиск, проверка доступности, тестирование накопителя, управление доступом, контролем целостности, миграции данных между дисками в кластере, управления кластером из нескольких дисков и т.п. Обмен данными с диском может производиться с использованием защищённого канала связи.
Из достоинств представленного в Kinetic подхода отмечается снижение затрат на инфраструктуру и экономия энергопотребления за счёт исключения необходимости создания отдельных серверов хранения; разделение компонентов хранения и вычисления в центрах обработки данных; улучшение масштабируемости хранилищ (при необходимости расширения хранилища достаточно подключать через Ethernet новые стойки с накопителями).
URL: http://www.linuxfoundation.org/news-media/announcements/2015...
Новость: http://www.opennet.me/opennews/art.shtml?num=42846
Неплохо, неплохо. Как же раньше до такого не додумались?
не нужно было, сети были медленными, процессоры большими.
Что-то изменилось? Скорость обычных дисков уже уперлась в гигабитный эзернет.
Упрощение за счет чего они предполагают достигать? Если питание будет по poe, тогда будет всего 1 шнурок - хорошо. Свич с таким мощным пое питанием будет дорог. В каждом диске свои мозги, цены бешенные - плохо. Диски могут видеть друг груга напрямую и не требовать крутого ПО для реализации некоторых фич - хорошо. Совместимость дисков и их ПО между собой под вопросом.
По сути, вставили nas в диск.
железо уже давно есть. В статье речь о програмном решенииhttp://www.seagate.com/ru/ru/products/enterprise-servers-sto.../
даже называется почему-то так же.http://www.seagate.com/gb/en/products/enterprise-servers-sto.../
> По сути, вставили nas в диск.Это называется SAN :)
Теперь у NASов будет не 3 чипа (Ethernet-котроллер/процессор/контроллер диска) а 1, совмещающий все функции.
Если не ошибаюсь, у Seagate уже существуют диски с Ethernet-подключением
> Диски могут видеть друг груга напрямую и не требовать крутого ПО для реализации некоторых фич - хорошоЭто наоборот, плохо. Ещё одна ниша DDoS в сети, пусть даже и специальной. Сделать настолько умной железку чтобы она могла как-то кооперироваться с другими крайне трудно. А для дисков и не нужно.
> Что-то изменилось? Скорость обычных дисков уже уперлась в гигабитный эзернет.Ну во-первых, можно взять 10ГБ. Во-вторых, это для доступа через swift или хранилищ типа hadoop, там пропускная способность конкретного модуля не так важна, данные размазываются по многим и считываются по кусочкам - суммарно получается быстро. А с конкретного диска гигабита хватает.
> В каждом диске свои мозги, цены бешенные - плохо
Хмм (смотря на цены современных IoT модулей) - да по-моему примерно одна фигня, что ethernet, что sata-контроллер на диск поставить.
> Хмм (смотря на цены современных IoT модулей) - да по-моему примерно одна фигня, что ethernet, что sata-контроллер на диск поставить.И упереться в PCi-e bus speed.
Где именно?
Нет никакого общего места, через которое текут данные. В том же hadoop: много нодов, в каждой по несколько дисков, десятки Гб ОЗУ и сетевой интерфейс (в новой концепции Kinetic диски отдельно). Несколько служб, принимающих решения о том, где что находится и откуда читать/куда писать конкретный кусок данных. Дальше зависит от использования, напр. map запускается прямо на нодах, где данные локально. Для hbase приложения постоянно узнают, с каким сервером им работать для данного конкретно куска данных и делают запросы к конечному серверу, а он берет данные локально. Диски, сеть, шины загружены как возможно равномерно. Ну не совсем, конечно, но явных узких мест нет, если только руками не делать что-нибудь странное.Аналогично в других технологиях, для которых применим Kinetic. Я так понимаю, он призван решать задачу, когда новые ноды ставить не хочется (дорого, большее тепловыделение, некуда и т.д.), а больше ввода-вывода нужно, а дисков в ноды больше не вставить (скажем, по 4 диска на ноду и они уже стоят). И это способ добавить большую пачку дисков к нодам и раздать каждой еще по 2 диска, скажем. Другого способа нет: нельзя поставить мега-ноду о 40 дисках (она загнется и вообще будет работать сильно хуже, чем более дешевые 5 нод по 4 диска на каждой), нельзя поставить SAN о 40 дисках и раздать с него диски на разные ноды (все упрется в его шины или интерфейс подключения). А с Kinetic - без проблем, общая пропускная способность даже гигабитных свитчей огромная, а лишний ethernet-порт в каждой ноде вполне может найтись.
> И это способ добавить большую пачку дисков к нодам и раздать каждой еще по 2 диска, скажем.Вы бы пресс релиз почитали бы что ли? Нет там диска в привычном виде.. НЕТУ. есть key<>value таблица.
> Другого способа нет: нельзя поставить мега-ноду о 40 дисках (она загнется и вообще будет работать сильно хуже, чем более дешевые 5 нод по 4 диска на каждой),Бред. 82 диска живут и не жужат. 9Gbyte/s с дисковой полки. И занимают места меньше чем ваши дешевые 5 нод по 4 диска. А за место в датацентрах тоже платить надо.. И электричества жрут в разы меньше чем ваши "дешевые" ноды. Видимо наши клиенты не на столько богаты, что бы покупать дешевые вещи.
> А с Kinetic - без проблем, общая пропускная способность даже гигабитных свитчей огромная, а лишний ethernet-порт в каждой ноде вполне может найтись.
Да да. Щааас. Не разу не видели перегруженый свич? а я не раз. Кроме того стоит учитывать латентность Eth 1G.
PS. оригинальный комент был о втыкании доп. SATA контролеров в ноду - где легко упереться в PCI-e speed.
ATAOE уже было....
Здесь более высокий уровень абстракции
..который уже есть больше десятка лет и называется iSCSI.
>..который уже есть больше десятка лет и называется iSCSIНу скоро JavaScript припаяют, чтоб в тренде, так сказать... и Гугло-Хромо-зонду удобней было добираться.
Больше обёрток, красивых и разных! На скорость дисков нам плевать! Все ж уж на SSD давно!
> A famous aphorism of David Wheeler goes: "All problems in computer science can be solved by another level of indirection", this is often deliberately mis-quoted with "abstraction layer" substituted for "level of indirection". Kevlin Henney's corollary to this is, "except for the problem of too many layers of indirection."
Золотые слова!
А ещё есть такое высказывание, что "лазер - решение проблем, которые ещё не существуют". Так может, того, лазером поправить криволинейность рук тем, кто много сущностей плодит, да и всё ))
>>..который уже есть больше десятка лет и называется iSCSI
> Ну скоро JavaScript припаяют, чтоб в тренде, так сказать... и Гугло-Хромо-зонду удобней
> было добираться.
> Больше обёрток, красивых и разных! На скорость дисков нам плевать! Все ж
> уж на SSD давно!да кстати, как только ЭТО массово начнет продаваться, то обязательно запилят поверх ЭТОГО сетевую фс. вот увидите ;)
еще более высокий ...
> Связывание с диском производится при помощи специального ключа аутентификации, привязанного к пользователю. Для управление доступом предусмотрен механизм ACL, описывающий привилегии каждого пользователя.Совсем головой тронулись. Мастдай спешит на помощь с цифромыми подписями так, что только авторизованные им производители смогут генерировать такие ключи.
>> Связывание с диском производится при помощи специального ключа аутентификации, привязанного к пользователю. Для управление доступом предусмотрен механизм ACL, описывающий привилегии каждого пользователя.
> Совсем головой тронулись. Мастдай спешит на помощь с цифромыми подписями так, что
> только авторизованные им производители смогут генерировать такие ключи.совсем не в тему приплёл
Гугл прочитал мои мысли и на запрос https://encrypted.google.com/search?q=kinetic нашел: "ВЕЛОСИПЕДЫ KINETIC".
Это какой-то аналог S3 и хранилища selectel. Жутко неудобные штуки для хранения файлов.
а на устройствах будет ddrwrt или corebios ? кто баги в прошивке то править будет ?
баги в фирмвари винчестера можно хотяб как-то править каким-нить линуксом, а много вы обновлений прошивок для винтов видели ? а в течении 5 лет ?
> а на устройствах будет ddrwrt или corebios ? кто баги в прошивке
> то править будет ?
> баги в фирмвари винчестера можно хотяб как-то править каким-нить линуксом, а много
> вы обновлений прошивок для винтов видели ? а в течении 5
> лет ?В отдельный влан их и молиться ))
я в смятении( kinetic это что типа iSCSI или как?
> я в смятении( kinetic это что типа iSCSI или как?Нет это ни разу не iSCSI - низкоуровневый проокол (Механизм инкапсуляции SCSI команд в IP сети.)
Kinetic - высокоуровневый протокол. Не нужно никаких драйверов для носителей, медиа провайдеров, драйверов файловых систем для доступа к данным.
По сути это работа с неряляционными базами данных типа 1:1 (ключ:значение) с функцией поддержки NS ключей и ACL.Т.е. с точки зрения User Space:
1. не будет кучи накладных расходов из-за VFS/FS/DRIVERS.
2. очень легко масштабировать, дублировать, вируализировать.
3. нет привязки системы хранения к OS.
4. нет привязки системы хранения к носителю.Судя по текущему описанию протокола есть маленькое неудобство в связи с ограничением размера атомарной единицы пересылки, но это наверняка скрыто в API (т.е. в реализации библиотек для User Space).
Из недостатков можно перечислить:
1. Отсутствие MMAP доступа.
2. Невозможность низкоуровневой оптимизации.
3. latency доступа к данным зависит от внешних условий.
4. Скорость доступа к данным зависит от внешних условий.
5. Уязвимость к DOS/DDOS, и хороший источник DOS/DDOS.
Всё шикарно, только одно но: kv и есть вариант реляционного отношения двух множеств k и v - та же 1NF с уникальными значениями в первом столбце. Т.е. я бы похерил слово "нереляционными" из вашего поста.
что-то я совсем уже отстал от всех новинок(
Слава Western Digital! Их HDD работают по 10 лет и они помогают Linux Foundation! Не зря я всю жизнь поддерживаю их замечательные и надежные HDD.
> Слава Western Digital!Героям сала! )) А мне как-то больше сигейты и самсунг по душе. Сигейты где нужно побыстрее, самсунги - где потише.
небось каждый год меняешь старый драндулет на последний Q7, сдавая корпуса от трупов сигейтов в цветмет
Кстати, бывают ли системы ключ/значение с зеркалированием блоков в стиле btrfs/zfs? Поверх такой штуки можно бы было сделать отказоустойчивую ФС.
Ну, как появится на рынке - посмотрим на цену. И как с этим работать я пока не представляю. Нельзя же просто сказать mount 192.168.1.21 ))
Нельзя. Можно согласно API отправлять запросы "запиши такой-то блок по адресу (ключу) такому-то" и "верни блок по адресу (ключу)".
> Нельзя. Можно согласно API отправлять запросы "запиши такой-то блок по адресу (ключу)
> такому-то" и "верни блок по адресу (ключу)".Может поэтому у них в спецификации на сайте указана максимальная скорость записи 60 МБ/c. Печаль... Какова минимальная даже и думать не хочется. У меня по сети с 2Тб на 1Тб ноутбучный выдаёт до 700-800 Мбит/c на длинке и встроенных сетевухах, а тут Максимум 480 заявили.
Это что же, будет реинкарнация диска C:\?
На них Зюхель в суд не подаст из-за использования слова "Kinetic" ? ;)
ты зухелевое название вообще в глаза видел?
Аппаратная Cassandra получается) а кластеризация присутствует?
> Аппаратная Cassandra получается) а кластеризация присутствуетА диски и сейчас работают с базой в виде пары <номер блока> <его данные>. Теперь предлагается считать хеш входной строки и выдавать блок переменной длинны (строку). Так что Так что просим новые диски поработать с нынешней парой число-блок и считаем потери в производительности и ёмкости.
PS: там в новости нет оценки указанных потерь?
