Разработка и применение методов нелинейного преобразования Фурье для оптимизации высокоскоростных волоконно-оптических линий связи на основе многосердцевинных и многомодовых волокон. Этап 2 (заключительный)

В отчетном периоде были продолжены работы по исследованию различных архитектур нейронных сетей в рамках задачи исследования возможности замены существующих численных алгоритмов NFT. Мы использовали уже полученный ранее набор данных из оптических импульсов с разными форматами модуляции, соответствующих непрерывных спектров и числа дискретных собственных значений. В дополнение к существующему, был добавлен набор данных с аддитивным Гауссовым шумом. Это необходимо для оптимизации работы нейронной сети и реализации свойств нелинейного фильтра для оптических сигналов. На данном этапе мы оптимизировали архитектуру нейронной сети с помощью метода Байессовой оптимизации гиперпараметров. В результате получили нейронную сеть, состоящую из трех сверточных и двух полносвязных слоев с оптимизированными параметрами. Относительная ошибка нейронной сети в случае сигналов без шума составила 8.39 * 10^(-4). Наихудшая ошибка в случае шума на уровне 0 dB составила 1.16 * 10^(-1). Кроме предсказания непрерывного спектра, нейронная сеть была обучена отдельно предсказывать b-коэффициент для нелинейного Фурье спектра. Для данной задачи точность нейронной сети оказалась на порядок выше, чем для предсказания коэффициента отражения r. Помимо высокой точности работы алгоритмов, одним из основных качеств нейронной сети является её скорость, поскольку нейронная сеть оптимизирована для исполнения на графических процессорах (GPU). Была продолжена работа по оптимизации нейронных сетей для вычисления обратного NFT. Была достигнута точность восстановления сигналов на уровне 10^(-7). В рамках исследования возможности применения NFT для расчета нелинейных эффектов в MCF и MMF, были получены и реализованы быстрые численные схемы 4-го порядка аппроксимации для решения прямой задачи Захарова-Шабата для уравнений Манакова, учитывающие следующие порядки разложения Магнуса матричной экспоненты. Их особенностью является уменьшенная по сравнению со стандартными схемами асимптотическая вычислительная сложность. Программный код был реализован на основе открытой библиотеки FNFT (fast nonlinear Fourier transform).