Разбор примеров
На конференции SECON’14 в Пензе после доклада на эту тему был баркемп:
На нем мы разобрали несколько примеров с проблемными архитектурами. Любой мог подойти, нарисовать свою архитектуру и спросить куда идти дальше. Все участники давали очень ценные советы. Да и сами спрашивающие находили решения, пока рисовали, такой «эффект желтой уточки».
Кроме того, вы можете заказать у меня анализ архитектуры вашей системы.
Ссылки
Eventually Consistent – Revisited, Werner Vogels
If You Have Too Much Data, then ‘Good Enough’ Is Good Enough, Pat Helland
Ошибки в системах баз данных, согласованность «в конечном счете» и теорема CAP, Майкл Стоунбрейкер
BASE: An Acid Alternative, Dan Pritchett
Micro-services архитектуры — избавляемся от монолитного кода, Ринат Абдуллин
Функции PCRF
Policy and Charging Resource Function (PCRF) по сути представляет собой управляющий сервер, обеспечивающий централизованное управление ресурсами сети, учет и тарификацию предоставляемых услуг. Как только появляется запрос на новое активное соединение, эта информация поступает на PCRF. Он оценивает имеющиеся в его распоряжении ресурсы сети и направляет в PCEF шлюза P-GW команды, устанавливающие требования к качеству услуг и к их тарификации.
Подробнее о технических аспектах функционирования сетей мобильной связи, тарификации, качестве обслуживания и многом другом читайте в книге «Мобильная связь на пути к 6G».
Интервью первого генерального директора Северо-Западного GSM (Мегафон)
Канал о технологиях и известных людях в телекоме и ИТ «ТНД». Подписывайтесь!
Новости о мобильной и беспроводной связи, прямые трансляции с профильных мероприятий в официальной группе портала 1234G.ru вконтакте.
Масштабируемость.
Масштабируемость увеличивается при добавлении приложений и серверов представления информации. Это происходит благодаря значительному количеству параллельных соединений с клиентами и за счет того, что нагрузка может распределяться между несколькими физическими серверами.
Модификация бизнес-логики. При использовании многоуровневой архитектуры бизнес-логику можно концентрировать на втором уровне и при необходимости проводить ее модификацию.
Возможность многократного использования сервисов. Благодаря этой возможности существенно удешевляется разработка системы и ее администрирование.
Сохранение инвестиций. На начальных этапах можно работать на серверах класса «рабочих групп». Но со временем по мере возрастания рабочих нагрузок возникнет необходимость увеличить мощность ресурсных серверов. Тогда можно установить более мощные ресурсные серверы, а старые серверы переместить в группу серверов приложений. Таким образом, инвестиции, сделанные на начальных этапах, полностью сохраняться.
Управление умным городом
Это пример основанной на AggreGate многоуровневой архитектуры для комплексной автоматизации большой группы зданий:
-
Уровень 1
: физическое оборудование (сетевые маршрутизаторы, контроллеры, промышленное оборудование и т.д.) -
Уровень 2
: серверы управления (серверы мониторинга сети, серверы контроля доступа, серверы автоматизации зданий и другие) -
Уровень 3
: центры управления серверами зданий (один сервер на здание, который собирает информацию со всех серверов второго уровня) -
Уровень 4
: серверы районов города (конечный пункт назначения для эскалации оповещений более низкого уровня, мониторинг в реальном времени, интеграция с Service Desk-системами) -
Уровень 5
: серверы головного офиса (контроль серверов района, сбор и обобщение отчетов, оповещений)
Любой из вышеуказанных серверов может представлять собой отказоустойчивый кластер, состоящий из нескольких узлов.
Как определить базовую станцию на карте
Иногда возникают ситуации, когда связь пропадает, а данные невозможно передать. Такие случаи бывают из-за удаленности или маломощности базовых антенн или множества препятствий для сигнала. Хочется найти место для устойчивого приёма и комфортного разговора. Это достаточно легко сделать, если в руках есть смартфон или находитесь рядом с компьютером. С помощью приложений для телефонов и сайтов в интернете, определить местоположение базовых станций на карте и уровень сигнала не представляет труда.
Для телефонов разработаны множество программ, которые можно скачать с сайтов или в магазинах приложений. Приложение найдет базовую антенну на карте, определит уровень сигнала и координаты. Например, для андроид, будут полезными следующие приложения:
- GSM Monitor
- Gsm Signal Monitor
- Antennas
- Network Signal Strength
- Cell Phone Coverage Map
- Network Signal
И много других.
Для устройств под руководством iOS выбор меньше, это:
- Signal 2
- Find Tower — Locate 4G antenna
Но с iPhone, так же как и с компьютера всегда можно выйти в интернет, и определить окружающие станции. Это можно сделать на сайтах операторов и популярных сторонних сервисах. Таких как англоязычный — opensignal.com или сайт на русском — netmonitor.ru или xinit.ru. Недостатком информации на сайтах является отсутствие сведений о силе сигнала ближайших базовых антенн.
Аппаратное обеспечение
Итак, выше мы выяснили, что для того, чтобы создать базовую станцию, мало знать и уметь в стандарт и участвовать в активностях хотя бы основных рабочих групп. Нужно еще иметь компетенции по как минимум двум направлениям – разработка аппаратного обеспечения (цифровые и радио-модули) и разработка программного обеспечения, которые взаимосвязаны между собой. Начнем с первого, базиса, так сказать.
Основные компоненты аппаратного обеспечения вообще и базовых станций в частности включают:
- интегральные схемы специального назначения (ASIC), включая системы на кристалле (SOC) и специализированные процессоры цифровой обработки сигналов (DSP)
- логические интегральные схемы (ПЛИС – FPGA)
- обширная «рассыпуха» в виде центральных процессоров общего назначения (GPP или CPU), контроллеры, карты памяти, коннекторы, фильтры, малошумящие усилители (LNA), фильтры, резисторы, транзисторы, усилители мощности (PA) и многое другое
Постараемся сделать максимально общий анализ (SIA, 2020) для каждого из блоков базовой станции.
Цифровой Модуль
Данное устройство может быть реализовано как монолитный блок, либо разделено на два модуля (что обычно делается для виртуализированного исполнения). Какие тренды в отрасли на данный момент мы можем выделить: все крупнейшие производители (Nokia, Samsung, Ericsson, Huawei) дабы улучшить свои конкурентные преимущества в части производительности радио подсистемы активно вкладываются, вместе с технологическими партнерами, в разработку специализированных Систем-на-Кристалле / Специализированные Интегральные Схемы (ASIC-ов) и Ускорителей для наиболее эффективной работы самых требовательных и прожорливых операций 1 и 2 уровня ОСИ, в то время как Layer 3 очень часто отдается на откуп GPP процессорам:
Попробуем просуммировать основные компании, занятые в создании соответствующих радиоэлектронных компонентов, обозначенных выше (EU Operators, 2021):
Безусловно, существует большое число других компонентов, без которых работа цифрового модуля невозможна. Но, мы же с вами фокусируемся на ключевых интеллектуальных составляющих, правда? Основной вывод – в части полупроводников для цифровых модулей задают тон те компании, которые инвестируют средства и растят компетенции в разработке интегральных схем, высокопроизводительных процессоров и ускорителей.
Обратите внимание: Часть 2. У кого власть?
Приемопередающий радио модуль
Приемопередающий радио блок можно разделить на две основные части:
- RF Front End, который в свою очередь состоит из:
- Аналоговой предобработки: усилители, фильтры, ЦАП-ы и т.д.
- Цифровой предобработки, которая также часто реализуют на базе интегральных схем или ПЛИСов
2. Цифровая обработка сигналов, относящаяся к низкоуровневым функциям Layer 1
RF Front End — Аналоговая часть (Analogue Front End) отвечает за первичную обработку принимаемого и передаваемого сигнала от- и к- антеннам. Сюда входит приемопередатчик, АЦП-ЦАП блоки высокого разрешения и усилители мощности аналогового сигнала. Обычно данные элементы реализуются в форме и составе Интегральных Схем.
Тракт Цифровой Предобработки (Digital Front End) отвечает уже за обработку сигнала, трансформированного в цифровую форму дабы отфильтровать, линеаризировать, в том числе с применений эффективной широкополосной цифровой коррекцией предыскажений (Digital Pre-Distortion, DPD) (Рентюк, 2020). Обычно данный тракт также реализуется в виде интегральных схем с последовательной логикой обработки, в том числе с использованием ПЛИС/FPGA.
Layer 1 PHY low, включая Beamforming. В направлении к антенне, пользовательская информация, упакованная в пакеты данных, защищается от ошибок передачи в том числе за счет стандартизированных алгоритмов канального кодирования (Forward Error Correction), далее сигнал модулируется и трансформируется в радио форму. Для такой трансформации используется прямое и обратное Быстрое Преобразование Фурье (Fast Fourier Transforms), и инженеры знают из курса цифровой обработки сигналов в университете, что это достаточно сложная математическая задача, которая эффективно решается опять же с помощью специальных аппаратных ускорителей. Когда мы имеем дело с «массивными» MIMO системам, огромное количество передающихся параллельно массивов данных к большому числу антенн обрабатываются с помощью специализированных ускорителей функций бимформинга. Вся цепочка реализуется на программируемых цифровых процессорах (FPGA – ПЛИС) либо интегральных схемах.
Посмотрим какие основные игроки представлены в каждом из сегментов:
Сеть хранения данных (Storage Area Network – SAN)
Сеть хранения данных представляет собой транспортную сеть, связывающую серверы с устройствами хранения данных и обеспечивающую передачу огромных массивов информации. SAN предоставляет серверам отказоустойчивый и максимально быстрый доступ к ресурсам хранения, обеспечивая тем самым бесперебойную работу СХД. Постоянное развитие и совершенствование SAN обеспечивается бурным ростом деловой информации, которую необходимо сохранять, и к которой необходимо обеспечивать удобный и оперативный доступ. При помощи сети, обеспечивающей высокую скорость передачи данных можно эффективно объединять все информационные кластеры, которые накапливаются в разных отделах предприятия. Согласно концепции своего построения SAN должна позволять каждому серверу получить соединение с каждым из устройств хранения данных, которое работает по протоколу Fibre Channel.
Оптическая коммутация Fabric по сравнению с интерфейсом SCSI, объединяющем по одной шине несколько различных устройств, позволяет получить более высокую производительность и обеспечивается при этом более высокий уровень надежности. С технической стороны сеть хранения данных основывается на использовании волоконно-оптических соединений и коммутаторов FC-HBA и FC. Современных сети хранения данных в состоянии обеспечивать скорость передачи до 200 МБайт/сек и работать с объектами, расстояние до которых составляет 10 км (а при использовании специальных решений это расстояние может увеличиваться и до 120 км).
При использовании SAN как транспортную основу можно получить целый ряд заметных преимуществ, к которым относятся:
- Гибкость при создании конфигураций. Теперь добавлять к системе новые устройства и менять конфигурацию тех устройств, которые уже имеются, можно прямо «на ходу» (то есть, без остановки работы системы хранения). Эта особенность существенно увеличивает доступность данных, хранящихся в системе, и сокращает время вынужденных простоев. Устройства, работающие в такой сети, можно перегруппировывать, как только в этом возникает необходимость. Это значить, что управление всей системой становится куда более гибким. Следует заметить, что топология SAN имеет значительно меньше ограничений, чем топология топологии Direct Attached Storage (DAS), при которой устройства для хранения данных подключены непосредственно либо к серверу, либо к рабочей станции.
- Более высокий уровень надежности и более высокая производительность. SAN обеспечивает очень хорошую скорость передачи данных (до 200 МБайт/сек), что дает возможность осуществлять резервное копирование данных в Резервный Центр прямо в реальном времени. Это существенно повышает надежность сохранения информации, так как резервное копирование в таких условиях можно гораздо чаще.
- Повышение управляемости системы и облегчение администрирования. Программные средства управления SAN характеризуются большой степенью наглядности, что значительно упрощает весь процесс администрирования системы и повышает эффективность использования всех ее возможностей. SAN располагает удобными средствами для осуществления администрирования, для работы с которыми не требуется большого количества персонала. Это одновременно и удешевляет обслуживанием системы хранения данных, и сокращает количество ошибок, которые могут быть допущены при администрировании системы.
SAN представляет собой инфраструктурное решение и может быть внедрена в качестве отдельной подсистемы, Либо в составе системы хранения данных. С точки зрения компании IBS второй вариант является более предпочтительным, так как в этом случае более эффективно раскрываются все возможности дисковых массивов, а технологии «LAN-free backup» и «Serverless backup» работают с наибольшей отдачей.
Работа сети хранения данных должна быть в обязательном порядке согласована с работой Резервного Центра. Например, при организации распределенных кластеров нужно обеспечить серверам ЦОД прямой доступ к устройствам хранение Резервного Центра. В этом случае технология SAN предлагает оптимальные средства решения.
Архитектурные особенности базовой станции
Если, выйдя на улицу, обратить внимание на типичную «вышку связи» в виду башни или столба, обвязанного кабелями и оснащенного различными подозрительными коробками, то оборудование радио-доступа можно распознать обычно по двум основным физическим сущностям, которые с т.з. аппаратного обеспечения и являются тем, что принято называть базовой станцией:
На этой площадке расположены еще системы питания, климатический шкаф (куда устанавливают, например блок цифровой обработки), панельные антенны, коммутаторы и/или маршрутизаторы для передачи уже обработанных пакетов далее в сторону опорной сети, множество оптических, медных и коаксиальных кабелей и т.д. Но все это – сопутствующая инфраструктура, не выполняющая основную интеллектуальную работу, которую мы расписали выше.
Также стоит отметить, что с развитием 5G в качестве радио-модуля + антенн все активнее начинают использовать Антенно-Интегрированные решения с большим количеством антенных элементов, что позволяет реализовывать сложные механизмы передачи Massive MIMO. Что в свою очередь существенно увеличивает интенсивность обработки сигналов именно в части Layer 1 / PHY:
Вообще, то каким образом распределить L1-L2-L3 операции между цифровым модулем и радио-модулем – это целое искусство, которое напрямую будет влиять на схемотехнику, учитывая, что основная и самая интенсивная нагрузка во всей отрасли связи это именно Layer 1 в сетях радиодоступа:
Если мы вернемся к нашим «коробочкам», то команды конструкторов-разработчиков решают, как распределять операции между ними, исходя из следующих практических соображений и компромиссов. Причем каждый производитель решает данную задачу по-своему, стандарт позволяет подходить творчески:
Крупномасштабная облачная IoT-платформа
Поставщики телекоммуникационных и облачных услуг предлагают IoT-сервисы по моделям IaaS/PaaS/SaaS. В этих случаях речь идёт о миллионах устройств, принадлежащих тысячам пользователей. Обслуживание такой огромной инфраструктуры требует сотни серверов AggreGate, большинство из которых можно объединить в две группы:
- Серверы, хранящие реестр пользователей и их устройств, перенаправляющие подключения операторов и устройств на серверы нижнего уровня, а также агрегирующие данные для последующего анализа информации с участием серверов нижнего уровня
- Серверы, осуществляющие мониторинг и управление устройствами, а также получение, хранение и обработку данных
Серверы управления пользователями и устройствами также отвечают за взаимодействие с облачной системой управления, которая занимается развертыванием новых серверов хранения данных и аналитики, а также контролирует их работу.
Серверы хранения и обработки данных используют ресурсы (тревоги, модели, рабочие процессы, инструментальные панели и т.д.), полученные от серверов шаблонов, которые в свою очередь хранят мастер-копии данных ресурсов.
Функции eNodeB (Evolved NodeB)
eNodeB объединяет в себе функции базовых станций и контроллеров сетей 3-го поколения:
— обеспечивает передачу трафика и сигнализации по радиоканалу,
— управляет распределением радиоресурсов,
— обеспечивает сквозной канал трафика к S-GW,
— поддерживает синхронизацию передач и контролирует уровень помех в соте,
— обеспечивает шифрацию и целостность передачи по радиоканалу,
— выбирает MME и организует сигнальный обмен с ним,
— производит сжатие заголовков IP-пакетов,
— поддерживает услуги мультимедийного вещания,
— при использовании структуры с усилителями мощности на антенной мачте организует управление антеннами по специальному интерфейсу Iuant.
Интерфейс S1, как показано на рис.2, поддерживает передачу данных с S-GW и сигнализации через ММЕ. Отметим, что eNB может иметь соединения с несколькими S-GW.
Интерфейсы X2 используют для организации хэндоверов между соседними базовыми станциями, в том числе и при балансировке нагрузки между ними. При этом интерфейсы Х2 могут быть логическими, т.е. для их организации не обязательно реальное физическое соединение между eNB.
Коммутационная архитектура с распределенными процессорами
Рис. 2. Базовая распределенная коммутационная архитектура (функциональная диаграмма) |
Как видно, повышению быстродействия препятствуют три основных фактора: недостаточные вычислительная мощность, пропускные способности подсистемы памяти и внутренних шин. Для преодоления этих проблем была предложена распределенная архитектура на базе коммутатора с надлежащим образом спроектированными сетевыми интерфейсами. Идея состояла в том, чтобы перенести на них часть работы по продвижению пакетов, разгрузив тем самым ЦП и шину памяти. Ниже описана архитектура, в которой каждый сетевой интерфейс оборудован вычислительным блоком и буферной памятью. Базовая схема маршрутизатора с коммутационной распределенной архитектурой представлена на рис. 2.
Функциональные компоненты (входные, выходные и локальные блоки) обрабатывают входной и выходной трафики. Они реализуют все функции протоколов (плюс QoS). Для того чтобы обеспечить гарантированный уровень QoS, порт может нуждаться в классификации пакетов по предопределенным классам обслуживания. В зависимости от конкретной конструкции маршрутизатора порт может обрабатывать и протоколы канального и сетевого уровней. Конкретные особенности блоков обработки зависят от функциональной декомпозиции и деталей реализации. Сетевые интерфейсы соединяются посредством высокопроизводительного коммутатора, с помощью которого они обмениваются данными и управляющими сообщениями. Для выполнения ряда общих задач может использоваться также ЦП.
Интерфейс, обусловленный средой (Media-Specific Interface – MCI), выполняет все функции физического уровня и в случае протокола IEEE 802 – подуровня управления доступом к среде (MAC). Интерфейс с коммутационной фабрикой отвечает за подготовку пакетов для их передачи через коммутационное поле. Он может присоединить к пакету префикс, содержащий внутреннюю маршрутную метку с адресом порта выхода, приоритетом QoS и удаления.
Рис. 3. Пример функционального разделения в распределенной архитектуре |
Рис. 4. Функциональная диаграмма распределенной архитектуры |
Процесс обработки протокола IP – наиболее ресурсоемкий в маршрутизации пакетов, и в типичном случае именно он определяет производительность. Распределенная архитектура позволяет выполнить декомпозицию протокола с целью его дальнейшей параллельной обработки, а также отделить задачи, связанные с определением маршрутов в сети, от критических по времени задач обработки IP-заголовков. Пример функционального разделения в распределенной архитектуре приведен на рис. 3.
Высокоуровневая диаграмма маршрутизатора с распределенной архитектурой представлена на рис. 4. Для проведения вычислений интерфейсная карта может содержать либо процессор общего назначения, либо специализированную микросхему (ASIC). Выбор между этими двумя возможностями не столь однозначен – одни разработчики маршрутизаторов говорят, что поскольку спецификация IPv4 не изменяется, то применение ASIC выгоднее для реализации машины продвижения. Они упрощают создание системных плат и способствуют повышению производительности. Другие отмечают, что поскольку Интернет постоянно эволюционирует, это требует модификации программного обеспечения, так что более подходящим будет все же процессор общего назначения.
Так или иначе, но одним из основных компонентов, определяющих производительность маршрутизатора, является коммутационная фабрика, к рассмотрению которой мы и перейдем.
Промежуточные итоги
Итак, мы рассмотрели, что есть базовая станция 4G/5G и кто есть основные поставщики компонентов на этом рынке. Какие выводы мы можем сделать из описанной ситуации?
Во-первых, видим, что рынок полупроводников и ПО для базовых станций в настоящий момент занят небольшим количеством компаний в основном западного происхождения. Именно их ASICи, ПЛИСы и Процессоры общего назначения составляют львиную долю интеллектуальной аппаратной начинки базовых станций. Рынок насыщен и происходит его дальнейшая консолидация, особенно можно выделить поглощение Xilinx американской AMD (AMD, 2020) , а ARM американской Nvidia (Financial Times, 2021).
Во-вторых, если возвращаться к исходной цели цикла, то неплохо бы понять, как данная ситуация влияет на задачи локализации. Если судить по заявлениям в открытых источниках от представителей государства, то цели следующие:
- Технологическая независимость в случае возможных жестких западных санкций и ограничений, которые приведут к «отключению» рубильника на поставки зарубежного оборудования.
- Наращивание технологических компетенций: разработка, проектирование и производство как отдельной ЭКБ, так и комплексных технических решений.
- Расширение бизнеса отечественных компаний (куда без этого).
Если речь действительно идет про технологическую независимость, то резонный вопрос – как ее собираются добиваться, учитывая информацию выше? Пока известно только о запретительных мерах в части использования «локализованных» базовых станций LTE с 2023 года и в будущем 5G (2024 в дорожной карте).
Вроде бы, если я ничего не пропустил, десятки миллиардов долларов на проектирование и/или производство электронной компонентной базы не выделяли? Зарубежные компании не пытаются скупать? Тысячи программистов, радиоинженеров и конструкторов не начинали срочно нанимать, а зарубежных специалистов массово не переманивают? Внятных реалистичных планов на следующие 5-10 лет (а раньше ничего путного получиться вряд ли сможет, учитывая исходные позиции) не озвучивали?
Даже на фоне благоприятной ситуации с макроэкономикой, профицитом госбюджета в кризисный ковидный год и беспрецедентного уровня золотовалютных резервов (Россия, напомню на 5-м месте) – мы не видим никаких существенных движений, которые могли бы быть сравнимы с теми серьезными усилиями, которые предпринимаются в США, Китае, Южной Корее или ЕС в части развития своей полупроводниковой промышленности.
Тогда что вообще происходит? Что можно сделать к 2023 и 2024 годам, отмеченным как обязательные для перехода на отечественные системы связи на сетях операторов, если «технологическая независимость» при этом главный критерий и драйвер всей затеи?
На этот почти риторический вопрос предлагаю ответить читателям.
Пока позволю себе сделать осторожное предположение, что в данном вопросе может победить формализм. Реалистичный максимум, что можно будет сделать к 2023-2024 году лишь на базе регуляторных запретов – это инициировать локальную сборку (или производство, кому как нравится) оборудования уже работающих на рынке поставщиков (Nokia, Ericsson, Huawei) из 100% зарубежных компонентов на 100% зарубежных станках и 100% зарубежным ПО с возможно какими-то обещаниями подтянуть отечественных разработчиков на более поздних этапах
Отечественные корпорации из третьей части цикла получат возможность участвовать в создании 1% добавленной стоимости конечного продукта и зарабатывать себе дополнительную маржу.
В следующий раз попробуем проанализировать, что было сделано со стороны государства и участников рынка на ниве создания отечественных базовых станций 4G/5G, дабы иметь полноценную картину и ничего не упустить.
П.С. Все вышеописанное ни в коем случае не означает, что не стоит развивать и разрабатывать отечественные решения, речь не об этом. Наша задача — попробовать оценить реалистичность сроков и адекватность выделяемых средств. Пока эти два ключевых показателя никак не бьются с государственной регуляторикой и громкими заявлениями.
На связи!
Список использованных источников цикла (пополняется).
#5g #5g в россии #экономика россии #телекоммуникации #разработка электроники #радиоэлектроника #отечественные разработки #беспроводная связь #мобильная связь #сотовая связь
Больше интересных статей здесь: Экономика.
Источник статьи: О судьбе отечественного оборудования для сетей 5g. Часть iv Что есть базовая станция 4g/5g.
- Ищенко: «Если хорошо взяться, то, и из Сомали можно сделать процветающее государство»
- «Своих не бросаем». Силуанов решил сорвать курс Путина на деофшоризацию