Правительства все активнее внедряют искусственный интеллект в государственное управление. Япония вслед за Штатами намерена подключить искусственный интеллект к управлению Силами самообороны. Американские системы Maven Smart System и Lattice, которые планирует использовать Токио, будут анализировать обстановку, управлять беспилотниками и помогать в подготовке ударов.
Такое решение вызвало много вопросов. Главным образом потому, что опыт применения ИИ Америкой не был удачным. В начале года уже был громкий скандал, когда Штаты нанесли авиаудар по школе. Объект квалифицировали как военный. Как выяснилось позже, это была ошибка искусственного интеллекта. В тот день погибло более 160 детей.
Abbas Zakeri/Mehr News/WANA/Reuters
С ошибками ИИ столкнулись американские военные и в 2023 году. Тогда беспилотник под управлением искусственного интеллекта принял решение убить оператора во время имитационных испытаний, проводимых армией США, чтобы тот не мешал выполнению миссии.
Несмотря на то, что решения принимаются искусственным интеллектом, причиной подобных ошибок неизбежно становится человеческий фактор, объясняет в разговоре с Онлайн47 Виталий Вехов, эксперт в области информационной безопасности, доктор юридических наук:
«Здесь всегда будет виноват человеческий фактор, поскольку любая технология искусственного интеллекта основана на базе знаний, которую закладывает сам человек. И в России, и за рубежом создаются крупные дата-центры. Но, по сути, это просто железо, которое нужно наполнять информацией. А уже на ней ИИ будет самообучаться».
Денис Таушканов/ИА SakhalinMedia
Как объяснил эксперт, на сегодня существует два противоположных концепта программирования технологии искусственного интеллекта. Одного из них придерживаются Россия, Китай и другие дружественные им страны.
«У этого подхода во главу угла ставится правило: конечное решение, связанное с жизнью, здоровьем людей, принимает оператор, то есть человек. В законодательстве четко прописывается, что искусственный интеллект – лишь подсказчик, информационный помощник для принятия человеком обоснованного решения».
Валентин Илюшин/Онлайн47
СПри этом, совершенно другой концепции придерживается Запад, в частности, США. Это видно и по ведению боевых действий, подчеркивает Виталий Вехов. У них принятие решений, относительно человеческих жизней, определяется нейросетями. Без оператора. Соответственно, отсутствие дополнительной проверки со стороны человека приводит к ошеломляющим ошибкам.
Несмотря на это, отсутствие технологий искусственного интеллекта в управлении сегодня сложно представить. Активно внедряют их и в России. Как напомнил Виталий Вехов, уже сейчас законодательство предполагает активное развитие таких технологий, как минимум, до 2030 года:
«На законодательном уровне даны четкие определения, что такое искусственный интеллект, разновидности его компонентов. В настоящий момент находится около 160 национальных стандартов по использованию этих технологий в различных отраслях промышленности и обороны страны. Они достаточно давно используются, в том числе, в сфере безопасности и обороны нашей страны. В противном случае, мы не могли бы обладать единой системой противоракетной обороны и обеспечивать воздушную безопасность. Локальные технологии применяются для безопасности и в зоне СВО».
Валентин Илюшин/Онлайн47
Высокий уровень применения мы наблюдаем и в гражданской сфере: в борьбе с кибермошенничеством, логистике, банковском секторе. Применялись технологии искусственного интеллекта и во время ковида, когда города следили за передвижениями зараженных людей.
Практика показала, что такие технологии наиболее эффективны в целях безопасности, управления. Другое дело, что обращаться с ними нужно с умом. Пока что примеры, когда принятие решений полностью отдается на откуп ИИ, неудачные. За машинным анализом должен стоять человек. Тем более, если от этого зависят жизни сотни и тысяч людей.
Фото: сгенерировано shedevrum.ai
