Применение технологий машинного обучения в задачах повышения пропускной способности волоконно-оптических линий связи с поляризационным уплотнением каналов. Этап 1 (промежуточный)

В рамках выполнения проекта был проведен обзор литературы по современным методам компенсации нелинейных искажений в волоконно-оптических линиях связи с поляризационным уплотнением каналов. На основе данного обзора были уточнены методы и подходы решения поставленных задач. Для разработки метода компенсации нелинейных эффектов были выбраны нейронные сети, поскольку они позволяют достигать высокой точности классификации принятых символов при небольшой вычислительной сложности. В ходе выполнения исследования была разработана и протестирована схема компенсации нелинейности на основе полносвязных нейронных сетей прямого распространения, учитывающая особенности распространения сигналов по линиям связи с поляризационным уплотнением каналов. Кроме того, была разработана эффективная численная реализация предложенной схемы компенсации нелинейных искажений, адаптированная для расчетов на графических процессорах (GPU). В ходе выполнения исследования для разработанной схемы было проведено исследование влияния основных характеристик нейронной сети на эффективность компенсации нелинейных искажений. Было продемонстрировано, что нейронная сеть с 64 нейронами на каждом из скрытых слоев, которая учитывает 10 предыдущих и 10 последующих символов, не может эффективно обрабатывать символы с двух поляризаций одновременно, и результаты применения такой сети совпадают с результатами схемы компенсации нелинейности, которая на вход получает сигнал только с одной поляризации. Было также показано, что увеличение числа нейронов на скрытых слоях приводит к более эффективному использованию символов с двух поляризационных компонент. В ходе выполнения исследования была также разработана схема на основе полносвязных нейронных сетей с комплекснозначной арифметикой, позволяющая компенсировать нелинейные эффекты в линиях связи, в которых данные передаются по одной поляризационной компоненте. В рамках выполнения проекта было продемонстрировано, что использование комплексных нейронных сетей позволяет повысить эффективность компенсации нелинейных эффектов и снизить коэффициент битовых ошибок на 50% по сравнению с нейронной сетью с действительнозначной арифметикой.