В интернете все больше появляется контента, созданного нейросетями. Порой картинки и тексты получаются такими реалистичными, что отличить их от работы человека бывает просто невозможно. Но главной проблемой становятся факты и возможность распознать, где фейк, а где нет. Этим озаботились и депутаты Госдумы. Парламентарии уже начали разработку законопроекта, который обяжет россиян маркировать контент, созданный с помощью нейросетей. Однако, пока депутаты не знают, какая экспертиза позволит распознать степень участия нейросети и человека в одном тексте. Online47 поговорил с экспертами о том, насколько остро сегодня стоит вопрос маркировки ИИ-контента, и есть ли на сегодняшний день механизмы, позволяющие различать работы человека и машины.
Вопрос безопасности
Работы, сгенерированные ИИ, сегодня вызывают немало споров. С одной стороны, это хороший инструмент для создания текста или картинки, когда вы сами не можете этого сделать или у вас нет подходящего сотрудника для этого. Если раньше для создания книжной обложки компании нужен был художник или дизайнер, то сегодня все это можно сделать в интернете за 5 минут. Причем выглядеть это будет порой ничуть не хуже, чем человеческая работа. И мы видим, что это наносит огромный удар по области иллюстрации. Интерес к найму художников падает, и человеческий труд в этой области обесценивается.
С другой стороны, общество пока такие новшества воспринимает неоднозначно. Встают вопросы о том, как относиться к таким работам? Можно ли их считать искусством? Достойны ли они того, чтобы их можно было сравнить с человеческим интеллектуальным трудом? То же касается и текстов.
И вопрос использования искусственного интеллекта стоит остро не только в России. Та же проблема и за рубежом. В Испании, например, с этого года уже начал действовать закон, который предусматривает жесткие требования к маркировке ИИ-контента. Новые нормы, основанные на Европейском Акте об ИИ (AI Act), обязывают компании соблюдать прозрачность при использовании искусственного интеллекта. Нарушителям грозят штрафы до 35 млн евро или 7% от годового оборота.
Вопрос безопасности
Сфера искусства, далеко не самое страшное, чему сегодня может навредить ИИ. Нейросети используются для автоматизации вычислений, для обработки бухгалтерских данных, для получения аналитических результатов и многого другого.
Поэтому, прежде всего, контроль контента нужен сегодня для обеспечения объективности и актуальности информации в интернете, объяснил в беседе с Online47 Виталий Вехов, эксперт в области информационной безопасности, профессор кафедры «Безопасность в цифровом мире» МГТУ им. Н. Э. Баумана:
«Основной объем информации люди берут из интернета. И уже давно назрела необходимость отслеживать и маркировать то, что размещается в сети. Особенно, когда оно создается искусственным интеллектом. У нас многие научные и методические работы: учебники, диссертации, статьи, дипломные работы уже пишутся нейросетями. Но если мы говорим о текстовых работах, то они сегодня легко проверяются сервисами антиплагиата. Когда речь идет об учебных заведениях, то, конечно там любой документ такую проверку проходит. И мы видим не только указание на то, что текст сгенерирован нейросетью, но и ссылки на конкретные сайты, откуда взят материал. Но ведь сегодня существуют и частные компании, которые никакую проверку на антиплагиат проходить не обязаны. И, как мне кажется, предлагаемый закон будет направлен, прежде всего, именно на них».
Однако, если после нейросети человек самостоятельно дорабатывает текст, то в нем уже появляется авторское начало, говорит эксперт. Такой контент на антиплагиате отследить невозможно. Кроме того, сложно обстоят дела с иллюстрациями и дипфейками. Какого-то инструмента для проверки их достоверности пока нет. Но под контролем сегодня должны быть хотя бы тексты, с которыми работают медики и ученые, уверен Виталий Вехов:
«Если инструкцию к лекарствам пишет ИИ, то есть риск, что ошибка в таком тексте будет для человека фатальной: он может просто столкнуться с передозировкой, если примет не то количество лекарств. То же касается инструкций к проведению хирургических операций или зубному протезированию. Врачи сегодня тоже учатся на основе учебников, методичек, кандидатских и докторских диссертаций. Поэтому они по определению не должны писаться машиной. Это просто опасно. Поэтому маркировка работ с искусственным интеллектом сегодня жизненно необходима. Это вопрос нашей безопасности».
Замена мыслительному процессу?
Что же касается юридической точки зрения, то использование ИИ сегодня во многом помогает защищать авторские права, поскольку шансы того, что его украдут становятся в разы меньше, объясняет адвокат, член-корреспондент РАЕН Янис Юкша:
«Сегодня проще создать иллюстрацию или текст с помощью искусственного интеллекта. Во-первых, это освобождает компании от необходимости платить тем же иллюстраторам или копирайтерам. Во-вторых, это гарантирует уникальность контента, который можно использовать без страха, что кто-то подаст на вас в суд за незаконное использование. То есть это быстро и бесплатно. А для бизнеса, у которого первоочередная задача – прибыль, это становится настоящим спасением. Но, с другой стороны, мы понимаем, что все эти работы сегодня создаются на основе уже существующих и когда-то созданных людьми. То есть, ничего принципиально нового машина не выдает. Контент, который мы получаем, – это бесконечные комбинации того, что уже существует. По сути, это не имеет отношения ни к культуре, ни к искусству».
По мнению адвоката, россияне сегодня имеют полное право знать, какой продукт создан с помощью нейросетей и искусственного интеллекта. Также это поможет урегулировать рынок медиа-контента, который оказался в неоднозначной ситуации:
«Мы видим, что с одной стороны, нейросети – это большая помощь для человека, создающего те или иные произведения. Но, с другой, может складываться парадоксальная ситуация, когда условный Иван Иванович считается в обществе асом своего дела и гением мысли, а по факту половину работы за него делает машина. Да, в современном мире калькулятор помогает нам быстро считать. Но это не значит, что не нужно знать таблицу умножения. С искусственным интеллектом так же. Он не должен заменять мыслительный процесс».
Решение ввести маркировку на такого рода контент Янис Юкша считает необходимым. Он уверен, что нужен шаг в сторону того, чтобы оповещать людей: это сделано машиной. Это поможет отличать реальное от искусственного, и в целом ориентироваться в том, что нас сегодня окружает. Маркировка ИИ-работ – это право людей на то, чтобы им говорили правду о составе того информационного продукта, который они потребляют.
Дарья Нестерова
Фото: Нейросеть Kandinsky; Валентин Илюшин/Online47
