<?xml version="1.0" encoding="koi8-r"?>
<rss version="0.91">
<channel>
    <title>OpenForum RSS: Кеширование большого объема данных</title>
    <link>https://www.opennet.ru/openforum/vsluhforumID1/94315.html</link>
    <description>Возникла необходимость в кэшировании psd файлов из амазон хранилища. Объем 150-200 Гб (с учетом что нужно хранить файлы в кеше 2-3 месяца). Сейчас используется прозрачный squid. Хотелось бы, чтобы основной squid перенаправлял все запросы на amazone на parent.&lt;br&gt;&lt;br&gt;Собственно вопрос, можно ли настроить squid так, чтобы он кэшировал файлы только с определенного сайта, например, storage.amazon.com. В кеш должны попадать все файлы с этого сайта, в не зависимости от размера. Есть psd файлы размером 1-2 Гб. Но большая часть (80-90&#037;) конечно до 100 Мб. В идеале иметь возможность в ручную удалять необходимый файл из кэша.&lt;br&gt;&lt;br&gt;Основная задача, как можно с большой скоростью раздавать psd файлы в локальной сети, так как один и тот же файл в производственном процессе используется как минимум 5ю разными людьми.&lt;br&gt;&lt;br&gt;Возможно данную задачу можно организовать проще не используя squid?&lt;br&gt;</description>

<item>
    <title>Кеширование большого объема данных (ALex_hha)</title>
    <link>https://www.opennet.ru/openforum/vsluhforumID1/94315.html#29</link>
    <pubDate>Wed, 20 Mar 2013 17:16:14 GMT</pubDate>
    <description>Столкнулся с интересной особенностью наверное, мб кто прольет свет на ситуацию.&lt;br&gt;&lt;br&gt;Итак есть&lt;br&gt;&lt;br&gt;192.168.210.223 - основной squid, он же шлюз по умолчанию&lt;br&gt;192.168.210.221 - parent squid через которого происходит закачка psd&lt;br&gt;&lt;br&gt;На клиенте ставлю на закачку psd и смотрю на внутр инт-се на шлюзе&lt;br&gt;&#091;code&#093;&lt;br&gt;18:39:12.699466 IP 192.168.210.130.1771 &amp;gt; 72.21.215.165.80: Flags &#091;.&#093;, ack 39070569, win 65535, length 0&lt;br&gt;18:39:12.699475 IP 72.21.215.165.80 &amp;gt; 192.168.210.130.1771: Flags &#091;.&#093;, seq 39079329:39102689, ack 0, win 15544, length 23360&lt;br&gt;18:39:12.699505 IP 72.21.215.165.80 &amp;gt; 192.168.210.130.1771: Flags &#091;.&#093;, seq 39102689:39134809, ack 0, win 15544, length 32120&lt;br&gt;18:39:12.699794 IP 192.168.210.130.1771 &amp;gt; 72.21.215.165.80: Flags &#091;.&#093;, ack 39079329, win 56775, length 0&lt;br&gt;18:39:12.700198 IP 192.168.210.130.1771 &amp;gt; 72.21.215.165.80: Flags &#091;.&#093;, ack 39134809, win 1295, length 0&lt;br&gt;18:39:12.701523 IP 192.168.210.130.1771 &amp;gt; 72.21.215.165.80: Flags &#091;.&#093;, ack 39134809, win 5055, length 0&lt;br&gt;18:39:12.701545 IP 72.21.215.165.80 &amp;gt; 192.168.2</description>
</item>

<item>
    <title>Кеширование большого объема данных (ALex_hha)</title>
    <link>https://www.opennet.ru/openforum/vsluhforumID1/94315.html#28</link>
    <pubDate>Wed, 06 Feb 2013 21:51:11 GMT</pubDate>
    <description>&amp;gt;&amp;gt; Собственно остался последний вопрос - какое железо необходимо для такой задачи?&lt;br&gt;&amp;gt; На Pentium II 667, 128Mb, 16Gb HDD и реалтек 8139 всё чудно &lt;br&gt;&amp;gt; работает. :) &lt;br&gt;&amp;gt; Хотя, если в отделе продаж 1000 менеджеров, то придётся весь вконтакт и &lt;br&gt;&amp;gt; ютуб кэшировать &lt;br&gt;&amp;gt; Какой дневной трафик, народу сколько, &lt;br&gt;&amp;gt; скорость сети внутренняя, до провайдера, после провайдера?&lt;br&gt;&lt;br&gt;Внутри гигабит, от провайдера до амазона 100 Мбит.&lt;br&gt;</description>
</item>

<item>
    <title>Кеширование большого объема данных (pavlinux)</title>
    <link>https://www.opennet.ru/openforum/vsluhforumID1/94315.html#27</link>
    <pubDate>Wed, 06 Feb 2013 14:17:20 GMT</pubDate>
    <description>&amp;gt; Собственно остался последний вопрос - какое железо необходимо для такой задачи?&lt;br&gt;&lt;br&gt;На Pentium II 667, 128Mb, 16Gb HDD и реалтек 8139 всё чудно работает. :)&lt;br&gt;Хотя, если в отделе продаж 1000 менеджеров, то придётся весь вконтакт и ютуб кэшировать &lt;br&gt;&lt;br&gt;Какой дневной трафик, народу сколько, &lt;br&gt;скорость сети внутренняя, до провайдера, после провайдера?&lt;br&gt;</description>
</item>

<item>
    <title>Кеширование большого объема данных (ALex_hha)</title>
    <link>https://www.opennet.ru/openforum/vsluhforumID1/94315.html#26</link>
    <pubDate>Wed, 06 Feb 2013 11:15:29 GMT</pubDate>
    <description>Собственно остался последний вопрос - какое железо необходимо для такой задачи?&lt;br&gt;&lt;br&gt;Сейчас вот смотрю в сторону такой машины&lt;br&gt;&lt;br&gt;Kingston HyperX (KHX1600C10D3B1K2/16G) 2x8Gb x 2(кита) 32 Гб&lt;br&gt;Материнская плата s-1155 B75 Asus P8B75-V&lt;br&gt;Процессор Intel Dual-Core G870&lt;br&gt;Винт 500 Gb под систему&lt;br&gt;&lt;br&gt;Под кеш сквида&lt;br&gt;&lt;br&gt;SSD OCZ RVD3-FHPX4-480G или 2 ssd в raid0 что то типа Crucial m4 Slim 256Gb&lt;br&gt;&lt;br&gt;Большой объем ОЗУ позволит хранить в памяти наиболее часто используемые файлы и уменьшить обращения к ssd (с учетом что память сейчас относительно дешевая).&lt;br&gt;&lt;br&gt;Единственное есть вопрос насчет процессора, но как я понимаю с учетом, что будет raid0 (а значит никаких контрольных сумм и т.п.) или вообще отдельная плата со своим контроллером, то нагрузка на проц должна быть минимальной? &lt;br&gt;&lt;br&gt;И второй вопрос, что все таки лучше, два ssd в raid0 (получаем прирост как в скорости так и в стоимости) или все таки отдельную плату типа OCZ Revodrive?&lt;br&gt;&lt;br&gt;P.S.&lt;br&gt;потеря кеша не критична.&lt;br&gt;</description>
</item>

<item>
    <title>Кеширование большого объема данных (ALex_hha)</title>
    <link>https://www.opennet.ru/openforum/vsluhforumID1/94315.html#25</link>
    <pubDate>Wed, 06 Feb 2013 08:14:33 GMT</pubDate>
    <description>&amp;gt;&#091;оверквотинг удален&#093;&lt;br&gt;&amp;gt; Параметр reload_into_ims разрешает игнорировать nocache или reload и выдавать объект из &lt;br&gt;&amp;gt; кэша.&lt;br&gt;&amp;gt; Без этой феньки, параметры ignore-reload и ignore-no-cache в refresh_pattern не работают. &lt;br&gt;&amp;gt; Хотя, по-моему уже сделали эти параметры независимыми. То есть, ignore-reload и ignore-no-cache &lt;br&gt;&amp;gt; будут работать ТОЛЬКО для объектов в строке refresh_pattern, в твоём случае для &lt;br&gt;&amp;gt; *.psd и *.zip &lt;br&gt;&amp;gt; Раньше, reload_into_ims, точно был как глобальный выключатель!&lt;br&gt;&amp;gt;&amp;gt; Какая будет выгода?&lt;br&gt;&amp;gt; Например сервак Амазона может прислать &quot;no-cache&quot; или &quot;reload&quot; независимо от того, &lt;br&gt;&amp;gt; обновлялись ли файлы или нет. И сквид опять ломанётся их скачивать.&lt;br&gt;&lt;br&gt;понял, спасибо за помощь&lt;br&gt;&lt;br&gt;</description>
</item>

<item>
    <title>Кеширование большого объема данных (pavlinux)</title>
    <link>https://www.opennet.ru/openforum/vsluhforumID1/94315.html#24</link>
    <pubDate>Wed, 06 Feb 2013 01:17:01 GMT</pubDate>
    <description>&amp;gt; Только не совсем понял, что именно она дает конкретно в моем случае? &lt;br&gt;&lt;br&gt;Параметр reload_into_ims разрешает игнорировать nocache или reload и выдавать объект из кэша. &lt;br&gt;Без этой феньки, параметры ignore-reload и ignore-no-cache в refresh_pattern не работают.&lt;br&gt;&lt;br&gt;Хотя, по-моему уже сделали эти параметры независимыми. То есть, ignore-reload и ignore-no-cache &lt;br&gt;будут работать ТОЛЬКО для объектов в строке refresh_pattern, в твоём случае для *.psd и *.zip&lt;br&gt;Раньше, reload_into_ims, точно был как глобальный выключатель! &lt;br&gt;&lt;br&gt;&amp;gt; Какая будет выгода?&lt;br&gt;&lt;br&gt;Например сервак Амазона может прислать &quot;no-cache&quot; или &quot;reload&quot; независимо от того, &lt;br&gt;обновлялись ли файлы или нет. И сквид опять ломанётся их скачивать. &lt;br&gt;</description>
</item>

<item>
    <title>Кеширование большого объема данных (ALex_hha)</title>
    <link>https://www.opennet.ru/openforum/vsluhforumID1/94315.html#23</link>
    <pubDate>Tue, 05 Feb 2013 12:26:28 GMT</pubDate>
    <description>&amp;gt;&amp;gt; В общем получилось как то так &lt;br&gt;&amp;gt; reload_into_ims on &lt;br&gt;&lt;br&gt;на 192.168.210.221 (вспомогательный squid) эта опция включена на основном выключена. Только не совсем понял, что именно она дает конкретно в моем случае? Какая будет выгода?&lt;br&gt;</description>
</item>

<item>
    <title>Кеширование большого объема данных (pavlinux)</title>
    <link>https://www.opennet.ru/openforum/vsluhforumID1/94315.html#22</link>
    <pubDate>Tue, 05 Feb 2013 11:45:42 GMT</pubDate>
    <description>&amp;gt; В общем получилось как то так &lt;br&gt;&lt;br&gt;reload_into_ims on&lt;br&gt;</description>
</item>

<item>
    <title>Кеширование большого объема данных (pavlinux)</title>
    <link>https://www.opennet.ru/openforum/vsluhforumID1/94315.html#21</link>
    <pubDate>Tue, 05 Feb 2013 11:43:46 GMT</pubDate>
    <description>&amp;gt;&amp;gt;&amp;gt;&amp;gt;&#091;оверквотинг удален&#093; &lt;br&gt;&amp;gt;&amp;gt;&amp;gt; не совсем понял идею &lt;br&gt;&amp;gt;&amp;gt; Заменить ссылки в CRM, чтоб указывали на локальный вебсервак.&lt;br&gt;&amp;gt; И потом отлавливать кто работает в офисе, тому меняем, а кто из дома не меняем.&lt;br&gt;&lt;br&gt;1. Если CRM доступна из инета, то файлы будут скачиваться с локального сервака.  &lt;br&gt;2. Для работы из дома через прокси не нужен, напрямую быстрее. &lt;br&gt;&lt;br&gt;&lt;br&gt;&lt;br&gt;</description>
</item>

</channel>
</rss>
