Что показывает Яндекс?

Яндекс – найдется все! Такой слоган избрали в компании, выйдя с рекламой на экраны телевизоров в далеком 2000 году. Тогда, когда интернет для многих еще был этакой «terra incognita». Сейчас, когда Яндекс обрабатывает более 100 млн. запросов в день, любые проблемы в доступности поискового сервиса для пользователей сразу приобретают известность и попадают в ТОП событий дня. Последняя крупная авария, несмотря на то, что произошла под вечер пятницы 19 августа, быстро привлекла внимание СМИ и заполнила новостные ленты: РБК, Лента и другие. «Телеком блог» предположил аварию на «одном из дата-центров», а Маркер так и вообще поспешил разразиться бредом, иначе и не назвать, про «основной канал доступа в интернет». В любом случае нельзя отрицать, что перед выходными Яндексу «везет» уже не в первый раз. По версии самой компании авария связана «из-за проблемы с маршрутизацией в сети», что вероятно соответствует правде:

В Яндексе используются протоколы маршрутизации – внутренний протокол OSPF и внешний протокол BGP. Из-за ошибки информация обо всех внешних маршрутах оказалась во внутренних таблицах маршрутизации. Это примерно на три порядка больше маршрутов, чем обычно. Протокол OSPF не рассчитан на такое количество. В результате у всех маршрутизаторов кончилась память, и они перестали работать.

Естественно, влияние Яндекса на Рунет бесспорно. У многих начальная страница браузера установлена на этот сайт. Поэтому когда пользователям выдается ошибка, многие обращаются к своим провайдерам с проблемой, «почему у меня не работает интернет». Впрочем, это не единственное, что показывает авария. Как крупный генератор контента, «падение» сервиса оказывает сильное влияние на профиль трафика в сети. Давайте поглядим на аварию с этого ракурса. На момент начала аварии, примерно в 17.00 или немногим ранее, утилизируемая полоса на основной точке обмена трафиком (Internet Exchange, IX), в Москве, на MSK-IX, составляла порядка 430G (Gbps). С момента аварии потеря в объеме данных составила примерно 20G. Получается, что доля трафика Яндекса в общем объеме составляла 4.65%. На второй крупной точке обмена трафиком, в Санкт-Петербурге, SPB-IX, потеря трафика составляла 5.36% (~1.5G) в общем объеме от 28G.

Статистика MSK-IX по данным на 20.08.2011 17:10

Но гораздо увлекательнее посмотреть на региональные точки обмена трафиком. В свое время, с декабря 2007 года Яндекс (AS13238) активно развивался, выходя за пределы МКАД и второй столицы, северной. Компания присутствует на IX в крупных городах России. К примеру, в Новосибирске (NSK-IX), Екатеринбурге (EKT-IX) и Самаре (SMR-IX) потери в объеме трафика по результатам аварии составили 28.57%, 25.93% и 41.18% соответственно. А вот в Ростове-на-Дону объем трафика снизился на 700M (Mbps), что при общей полосе на начало аварии в 850M говорит о заметной доле Яндекса на RND-IX в 82.35%. То есть, фактически без Яндекса этой точки обмена нет. По текущим ценам на IP-транзит в Ростове-на-Дону затраты в месяц на порт емкостью 700М оцениваются в 210-245 тыс. рублей.

Статистика RND-IX по данным на 20.08.2011 17:05

Естественно, объем трафика, «гуляющий» сейчас на RND-IX, небольшой. Что такое полоса 1G для взаимодействия между сетями операторов по меркам области? Копейки. Тем не менее, нам важен факт, который показывает значительное влияние Яндекса на точки обмена трафиком, особенно в регионах. И есть предположение, что это влияние, имея в виду не один Яндекс, а контент в сумме, и не только на IX, а интернет вообще, — в дальнейшем будет увеличиваться.

Тенденция, когда пользователь «выбрал из каталога, нажал и смотрит», ведет к увеличению доли видео трафика, который по природе своей статичен и ассиметричен. Сидя за экраном телевизора больше смотрят, чем создают, даже несмотря на то, что YouTube в свое время показал такое чрезвычайно удивительное явление, как пользователей–производителей контента. Сейчас большинство контент-провайдеров сделали выбор в пользу прямого распределения видео, от сервера к клиенту. Вероятность появления симметрии при дистрибуции видео-онлайн мала. Однако глядя на такие приложения как PPLive и PPStream, не говоря уже о Adobe Flash Cirrus, где тоже задействованы элементы peer-to-peer (P2P), исключать полностью этот сценарий нельзя. И все-таки пока, в ближайшие годы, асимметрия предполагается явная. Все дело в защите и монетизации контента, а также доверии «бонз» от индустрии развлечений.

 

Понятно, что «тяжелый» трафик формируется не только видео. Обновления программного обеспечения, графика, музыка, игры, социальные сети – все это, и еще много другое представлено в интернете. Но, несмотря на «безграничность» и глобальность интернет, ключевая роль в различных сегментах будет принадлежать ограниченному ряду игроков. Сколько «выдержит» Рунет социальных сетей? Основная масса пользователей сразу назовет Вконтакте и Одноклассники. Кто-то добавит в список LiveJournal, Facebook, Twitter и LinkedIn, а еще где-то с трудом вспомнят о профессионалах и «бюрократах», то есть Регионалочку.

Какая часть контента будет отвечать за наиболее крупную долю трафика? В исследовании Cisco VNI Usage Study приведен пример, когда в Северной Америке в 2010 году доля в 29% от общего объема трафика 100 крупнейших сайтов приходилось на первые десять. В Азии это значение составляло порядка 42%, а в Латинской Америке 36%. По данным Arbor Networks, тенденция к укрупнению контента стала ярко заметна уже в 2009 году. Если в 2007 году 50% трафика приходилось на более чем тысячу ASN, то к 2009 году уже на 150 ASN.

Презентация ATLAS Internet Observatory: 2009 Annual Report на NANOG47

Бурный рост трафика, в виду нарастающих объемов, особо заметный в последние годы: требует расширения емкости портов на магистрали. При этом если предполагать увеличение доли видео, суточный профиль потребления трафика будет меняться в сторону значительного роста объема в часы пик, то есть говоря привычным для телевидения термином — в прайм-тайм. Когда основная масса пользователей приходит с работы и смотрит фильмы у телевизора в гостиной, играет в игры, общается с друзьями, — и все это через интернет. Растущий разрыв между пиковой и средней загрузкой будет уменьшать утилизацию портов, а значит играть на увеличение доли затрат на магистраль в общей структуре расходов. Впрочем, дело здесь не только в деньгах. Иногда, а лучше сказать зачастую, магистраль просто «не поспевает» за ростом трафиком.

Итак, мы имеем четыре составляющие для развития региональных точек обмена трафиком: кто и что будет отдавать, кто будет потреблять и причинно-следственную связь. Как видно по Красноярску, где на один город размещаются сразу две (!) точки обмена трафиком, KRS-IX и Sibir-IX (бывшая KR-IX), сумма пиков значений по которым уже сегодня превышает 22G – потребность в точке обмена есть, и время, увеличивая эти нужды, пока работает на развитие модели IX. Правда, нельзя забывать, что ценность Internet Exchange, завися от количества участников, маршрутов, их уникальности и объемов, растет до определенного значения по экспоненте. Самый трудный этап – это пройти вначале критическую точку, или как говорит Питер Нортон на DrPeering, — «запустить горб». Как вы думаете, что мешает это сделать по другим городам России?

Егор Дробышев  NAG.RU