«Алгоритм встаёт на рельсы»: Татьяна Патужная рассказала об ИИ на железной дороге

Железнодорожная отрасль России сегодня переживает настоящую цифровую революцию. В авангарде этих изменений – искусственный интеллект (ИИ), который активно внедряется на всех этапах функционирования железных дорог. От оптимизации графиков движения поездов до повышения безопасности и эффективности обслуживания инфраструктуры – ИИ демонстрирует огромный потенциал для трансформации отрасли.

Однако не все так просто, сказала «Южному федеральному» сооснователь логистической компании SIGMA Татьяна Патужная. 

-Искусственный интеллект может просчитать миллион маршрутов за секунду, но не знает, что на пятом пути стоит неисправный вагон. Алгоритм оптимизирует загрузку, но не выйдет к диспетчеру и не скажет: «Простите, я ошибся маршрутизацией». Логистика сегодня оказалась в парадоксальной ситуации. С одной стороны, ИИ уже стал рабочим инструментом, а с другой никто до конца не понимает, кто отвечает, когда этот инструмент ошибается. И вопрос упирается не в технику, а в этику и закон.

Алгоритм работает идеально, пока всё идет по шаблону. Как только возникает нестандартная ситуация - закрытый перегон, внезапный ремонт путей, срыв сроков подачи вагонов, то начинаются проблемы.

Главная этическая проблема современного ИИ это его непрозрачность, поясняет специалист. Даже разработчики не всегда могут объяснить, почему нейросеть выдала тот или иной результат. Модели работают как «черные ящики» — данные загрузили, ответ получили, логику потеряли. Для логистики это создает конкретные риски.

-Простой пример: система управления маневровыми локомотивами на сортировочной станции принимает решение, какой состав формировать в первую очередь. Если вы не понимаете логику алгоритма, вы не можете гарантировать, что решение справедливо по отношению ко всем грузоотправителям. Одни получают вагоны вовремя, другие ждут. Ответа «так решил алгоритм» здесь недостаточно.

С правовой точки зрения ситуация выглядит еще интереснее, отмечает Татьяна Патужная. В России, как и в большинстве стран мира, отдельного закона об искусственном интеллекте пока нет. Есть Национальная стратегия развития ИИ до 2030 года, есть общие нормы гражданского права. Но прямой ответ на вопрос «кто виноват, если ошибся алгоритм?» отсутствует.

Юристы сходятся во мнении, что ответственность несет пользователь - тот, кто принял окончательное решение на основе выдачи нейросети. Закон не учитывает сложность технологии, ее самообучаемость и непредсказуемость.

-Формально вы не можете переложить вину на алгоритм - отвечать придется компании или лично руководителю.

А теперь представьте масштаб проблемы, например, для железных дорог, говорит эксперт. ИИ может ошибиться в диагностике подвижного состава и пропустить вагон с техническим или коммерческим браком. Может построить маршрут, который приведет к срыву сроков доставки стратегического груза. Может дискриминировать одних грузоотправителей перед другими при распределении контейнерного парка. Кто будет платит неустойку? Кто пойдет под суд, если ошибка алгоритма привела к аварии?

Пока законодатели «раскачиваются», рынку нужны работающие решения. И они уже появляются, рассказывает Татьяна Патужная.

Во-первых, человеческий контроль. Любой критически важный процесс должен сохранять человека в контуре принятия решений. ИИ предлагает — человек утверждает.

Во-вторых, прозрачность алгоритмов. Компании должны понимать, как работают их системы. Если поставщик ИИ не может объяснить логику решений — это повод задуматься о смене поставщика.

В-третьих, внутренняя политика. В компании должны быть четкие правила: какие задачи можно доверять ИИ полностью, где нужен контроль человека, кто отвечает за ошибки. Сотрудников нужно учить работать с алгоритмами, объяснять их логику и ограничения.

-ИИ не заменит человека, но трансформирует характер его работы, освобождая от рутинных задач и позволяя сосредоточиться на стратегическом управлении и анализе. Но ответственность за решения алгоритма всегда будет человеческой. Хотя бы потому, что алгоритмы пока не умеют краснеть и извиняться перед грузоотправителями за нарушение сроков доставки, - резюмирует специалист.