Наш интеллект начинает отставать от искусственного
«Искусственный интеллект в транспортном комплексе» – такова тема «круглого стола», организованного оператором коммуникаций в сфере обеспечения транспортной безопасности АНО «Индустрия безопасности». Официальным информационным партнером мероприятия выступила всероссийская еженедельная газета «Транспорт России».
В работе «круглого стола» приняли участие более 50 представителей отрасли. Они выслушали мнения экспертов, ознакомились с последними разработками в таких направлениях, как поддержка и регулирование внедрения искусственного интеллекта (ИИ) в транспортной сфере на государственном уровне, перспективы развития систем безопасности на основе ИИ, барьеры, имеющие место при внедрении технологий ИИ в транспортном комплексе, контроль доступа на объекты транспортной инфраструктуры с использованием технологий ИИ, практика внедрения и применения ИТС, этико–правовые аспекты применения технологий ИИ и т. д.
Когда вместе – пользы больше
Актуальность вынесенной на обсуждение темы подтверждена Указом Президента России от 2019 года, который предусматривает Национальную стратегию развития ИИ на период до 2030 года. Определены, в частности, технологии, во главе которых как раз и стоит искусственный интеллект. Он представляет собой комплекс технологических решений, позволяющих имитировать когнитивные функции человека, включая самообучение и поиск решений без заранее заданного алгоритма, и получать при выполнении конкретных задач результаты, сопоставимые как минимум с результатами интеллектуальной деятельности человека. Иными словами, ИИ на каких–то этапах призван заменить человека, которого невозможно размножить, но можно в чем–то облегчить его работу.
Между тем при использовании таких цифровых технологий специалисты одной из проблем считают недостаточный уровень информированности и координации органов власти и субъектов транспортной инфраструктуры по вопросам обеспечения транспортной безопасности и кибербезопасности.
Одним из основных ведомств, которое занимается именно этими вопросами, является дирекция информационной безопасности ФГУП «ЗащитаИнфоТранс». Как отметил ее директор Сергей Зеленый, ИИ даст возможность в перспективе использовать высокоавтоматизированные транспортные средства (ВАТС), как наиболее быстрый вид транспорта, и при этом минимизировать вероятность ДТП. Соответственно, для этого ВАТС должны знать свои маршруты, соблюдать ПДД, ориентироваться в окружающей обстановке, взаимодействовать с другими участниками дорожного движения и системами управления дорожным движением.
– Минтрансом России совместно с экспертным сообществом разработан и утвержден комплекс мероприятий по тестированию и поэтапному вводу в эксплуатацию на дорогах общего пользования ВАТС без присутствия инженера–испытателя в салоне, – отметил Сергей Зеленый. – Комплекс мероприятий предусматривает опытно–коммерческую эксплуатацию ВАТС в отдельных субъектах Российской Федерации. Реализация этих мероприятий позволит в период с 2021 по 2024 год создать необходимые правовые условия для внедрения ВАТС в транспортный комплекс страны.
Эксперт также отметил, что при подготовке комплекса мероприятий разработчики старались учесть позиции всех федеральных органов исполнительной власти, так или иначе заинтересованных в использовании беспилотников: МВД, Минфина, Минюста, Минэкономразвития, Минцифры, Минпромторга, МЧС России и т. д.
Комплекс мероприятий по тестированию и поэтапному вводу в эксплуатацию ВАТС согласован также с отраслевыми экспертными объединениями. Среди них ассоциация «Цифровой транспорт и логистика», Российский союз автостраховщиков и организации научно–технологического бизнес–сообщества. Участвовать в дорожном движении смогут беспилотные автомобили, прошедшие оценку соответствия требованиям безопасности, установленным специальным техническим регламентом Таможенного союза.
Угрозы информационной безопасности в отношении ВАТС и их систем управления представляют собой как классические наборы, так и специфические. Скажем, почему тот же фишинг – вид интернет–мошенничества, целью которого является получение доступа к конфиденциальным данным пользователей – логинам и паролям, не может использоваться и в отношении ВАТС?
– Конечно, конкуренция на этом рынке высока, но не менее высока цена ошибок систем искусственного интеллекта, – подчеркнул Сергей Зеленый.
Стандарт – всему голова
Целью специального технического комитета по стандартизации – ТК 164 «Искусственный интеллект», созданного приказом Росстандарта в 2019 году, является повышение эффективности работ по стандартизации в области ИИ на национальном, межгосударственном и международном уровнях.
Перед каждым структурным подразделением ТК 164 стоит ряд первоочередных задач. В частности, в задачи подкомитета (ПК 03) «Искусственный интеллект на транспорте» входят унификация и стандартизация терминологии, стандартизация процедур подтверждения качества и соответствия интеллектуальных транспортных систем, стандартизация требований к сбору, хранению, использованию и защите данных в ВАТС, разработка и стандартизация требований к взаимодействию между автомобилем и инфраструктурой, а также между автомобилями, участие в разработке международных стандартов и норм. Возглавляет подкомитет заведующий кафедрой «организация и безопасность движения» МАДИ Султан Жанказиев. Он отметил, что сейчас ПК 03 находится в процессе интенсивного формирования, вносятся серьезные изменения в дорожную карту, определяются границы ответственности подкомитета, поскольку до момента появления требования зарегулировать его деятельность под ИИ понималось очень многое: нужное и, к сожалению, не нужное.
Сегодня на ПК 03 возложены обязанности по обеспечению ИИ всех видов транспорта, что является очень серьезной организационной работой. Идет создание рабочей группы, в сферу деятельности которой будет включена экспертиза стандартов, входящих в соответствующий план стандартизации. Этот план формируется в текущем году на год предстоящий. Как отметил Султан Жанказиев, довольно часто вне этого плана появляются так называемые инициативные стандарты. Они могут восприниматься критически с точки зрения наименования и содержательной части стандарта. Получив после публичного обсуждения одобрение на наименование, начинается процесс обсуждения содержательной части стандарта. В основном для этого и создается рабочая группа.
– Сегодня у меня несколько проектов дорожной карты, из которых наиболее полная состоит из почти 40 наименований стандартов на перспективу их разработки до конца 2024 года, – отметил Султан Жанказиев. – Думаю, что к концу 2022 года можно будет рассказать о первых итогах работы ПК 03 и в части организационной деятельности, и в части накопленных стандартов.
Эксперт дирекции по научным проектам НИУ «Высшая школа экономики» Татьяна Усманова рассказала о разработке стандарта в отношении системы мониторинга состояния водителя с использованием технологий ИИ. Система, разработчиками которой являются НИУ «Высшая школа экономики» и ООО «Яндекс.Такси», призвана повысить уровень безопасности при эксплуатации транспортных средств категорий M и N – такси, общественного транспорта, грузовых автомобилей. Система будет вести автоматический мониторинг состояния водителя, осуществлять фото– и видеофиксацию и обеспечивать передачу информации в облачный сервис.
– В систему включены одиннадцать событий, при наступлении которых происходит оповещение водителя, – пояснила Татьяна Усманова. – События эти разделены на три группы: состояние средств мониторинга, водителя и его действий. Искусственный интеллект используется во второй и третьей группах. Туда включены сонливость, микросон, отвлечение взгляда водителя от дороги, прием пищи и использование мобильных средств связи во время управления транспортным средством, а также управление им с непристегнутым ремнем безопасности.
Для каждого события формируется отдельный тестовый набор данных. Главное требование к набору – он должен быть представительным к соответствующим условиям эксплуатации и не должен быть известен разработчику алгоритма ИИ. Формируется набор в испытательной лаборатории на основе демонстрационного набора данных.
Проект стандарта до 11 мая 2022 года находится в стадии публичного обсуждения.
И Касперский в помощь
О перспективных разработках Лаборатории Касперского рассказал директор по развитию бизнеса департамента инновационных продуктов компании Олег Барабошкин. Содокладчиком выступил Владимир Клешнин, менеджер по развитию бизнеса компании. Речь шла как о системах информационной безопасности, призванных защитить ВАТС от несанкционированного воздействия, так и о системах мониторинга и выявления ЧС на основе технологий ИИ.
Олег Барабошкин отметил, что 2021 год для Лаборатории Касперского юбилейный, ей исполняется 25 лет. Все эти годы компания занималась и продолжает свою деятельность в области кибербезопасности и развития новых информационных технологий. В 2017 году внутри компании был создан департамент развития перспективных разработок. На его базе создается первоначальный продукт, который проходит проверку в той или иной среде, после чего продукт поступает в продажу.
На данный момент одна из наиболее известных разработок компании – программно–аппаратный комплекс Kaspersky Antidrone, который является защитой от беспилотных летательных аппаратов. В эту защиту включены три этапа нейтрализации опасного летательного объекта. На первом этапе происходит обнаружение его в воздухе, на втором – классификация (анализ) объекта и на третьем этапе – нейтрализация (минимизация рисков). Система хорошо зарекомендовала себя во многих странах мира. В России она эксплуатируется второй год.
Еще одна разработка компании – решения для обеспечения кибербезопасности подключенного транспорта. Как заметил Олег Барабошкин, современный автомобиль или другое транспортное средство можно сравнить с неким компьютером. Соответственно, имея связь с различными внешними устройствами, ТС может подвергаться кибератакам. Виды таких атак – внутренние, ближние и дистанционные, мобильные приложения и устройства, атаки на инфраструктуру подключенного транспорта. Может осуществляться как защита всего транспортного средства, так и точечно его узлов и агрегатов.
– Технологии, разработанные нашей компанией, могут найти применение в различных сферах, – подчеркнул Олег Барабошкин. – Что касается транспортной индустрии, то инновационные решения можно использовать в соответствующих программах на железнодорожном транспорте, в авиации, транспортной инфраструктуре. Это дает возможность осуществлять защиту личных кабинетов пользователей, к примеру, в системе каршеринга, приложениях для парковки и других сервисах.
Дополняя рассказ коллеги, Владимир Клешнин рассказал о разработанной компанией новой цифровой технологии Kaspersky neural network (нейронные сети Касперского). Этот продукт, созданный под конкретные цели, позволяет обнаруживать объекты и делать выводы на основе полученных данных, анализировать текущую ситуацию и подбирать эффективные решения, распознавать как крупные, так и небольшие объекты на масштабных территориях.
– Нейронные сети не устают, – отметил Владимир Клешнин, – напротив, со временем становятся все более обученными. Поэтому качество и эффективность их работы только растут и с каждым разом совершенствуют результаты. Нейронные сети Касперского – это прикладные решения, основанные на технологиях компьютерного зрения, способные обнаруживать объекты различных классов и производить аналитику на основе ИИ.
В качестве примера эксперт привел поиск потерявшихся в лесу людей с использованием беспилотного летательного аппарата или их комплекса. Данные с каждого беспилотника объединяются в одном интерфейсе. Способности нейронных сетей распространяются также на обнаружение, скажем, домов и их элементов после затопления. Основное внимание здесь уделяется поиску уцелевших домов и строений, их классификации: жилые дома или хозяйственные объекты, а также концентрации объектов на территории затопления.
Другой пример использования нейронных сетей Владимир Клешнин привел в отношении автоматизированного анализа объектов улично–дорожной сети. Был представлен реальный интерфейс, включающий в себя карту с обозначенными на ней дорожными знаками, остановками общественного транспорта, информационными щитами, светофорами, пешеходными переходами. В интерфейсе отображено как текущее состояние объектов улично–дорожной сети, так и исторические данные с отметками об изменениях их состояния.
Очень важным направлением в использовании нейронных сетей является аналитика досмотровых мероприятий, позволяющая распознавать наличие в багаже запрещенных к перевозке предметов: оружия и его частей, бритв, ножей и т. д. Кроме того, система обнаруживает и классифицирует объекты и предметы с помощью интроскопа – специального рентгеновского прибора, позволяющего проводить исследование внутренней структуры предмета и протекающих в нем процессов без необходимости открытия.
– Таким образом, если человек пропустил, скажем, фрагмент оружия – бывает ведь, что и глаз «замыливается», или опасный предмет, сделанный из полимерного материала, нейронная сеть такой неосмотрительности не допустит, – резюмировал Владимир Клешнин.
В работе «круглого стола» принял участие также заместитель генерального директора АО «НИИАС», технический руководитель проектов по беспилотным поездам Санкт–Петербургского филиала АО «НИИАС» Павел Попов. Он рассказал об исследованиях, проведенных в отношении уровней безопасности человека и железнодорожного локомотива.
Требования по безопасной эксплуатации транспорта сформулированы для ТС, управляемых человеком, однако для систем автономного движения с использованием технологий ИИ таких требований пока нет, но они должны быть сформулированы, отметил эксперт. Кроме того, для повышения уровня безопасности могут применяться системы дополненной реальности, в которых видимая картина транспортной обстановки обогащается формируемой с использованием ИИ разметкой, подсказывающей машинисту оптимальное решение. Это может быть дальность до препятствия, скорость перемещения, возможность пересечения траектории движения поезда и др.
Генеральный директор НИИ антропогенеза Олег Чагин, также принявший участие в мероприятии, рассказал о специфике ИИ, провел сравнение его технологий с биологическими аспектами формирования нейронных связей «естественного» интеллекта.
Эксперт задается вопросами: способно ли устройство найти решение, не заложенное в условия его обучения? Несет ли это устройство ответственность за свои действия или ответственность лежит на разработчике? Кстати, действующее законодательство устанавливает ответственность разработчика ИИ за действия системы, а ее виновность с юридической точки зрения сегодня не установлена.
В ходе работы «круглого стола» в онлайн–чате экспертам было задано много вопросов. Касались они применения ИИ при защите акватории морских портов Российской Федерации, использования технологий ИИ в строительстве и эксплуатации автомобильных дорог, проведения сертификации технических средств безопасности на основе ИИ, использования технологий ИИ на воздушном транспорте и т. д.
Валерий БУДУМЯН,
обозреватель «ТР»
