Оценка проекта “Концепции развития регулирования в сфере технологий искусственного интеллекта и робототехники до 2024 года”
Не так давно наша команда участвовала в широком обсуждении проекта “Концепции развития регулирования в сфере технологий искусственного интеллекта и робототехники до 2024 года” (далее — Концепции), разработку которого специалисты инновационного центра “Сколково” начали ещё в декабре 2019 г. Создание Концепции обусловлено принятием в 2019 г. Национальной стратегии развития искусственного интеллекта на период до 2030 г. (стратегия была утверждена Указом Президента РФ №490 “О развитии искусственного интеллекта в Российской Федерации”). По сути, Концепция стала одним из следующих за Национальной стратегии шагов, принятие которого было лишь вопросом времени.
У человека, мало погруженного в проблемы нормативно-правового регулирования технологий, может возникнуть закономерный вопрос: разве раньше в России системы искусственного интеллекта и робототехники (далее — ИИ и РТ) не создавались, не развивались и не внедрялись? Создавались, развивались и внедрялись. Но зачем тогда нам эта концепция?
Для научно-технической политики и правовой системы России эта концепция носит крайне важный характер, поскольку призвана упорядочить уже много лет обсуждаемый внутри сообщества экспертов и предпринимателей комплекс проблем и вопросов, касающихся создания, развития и внедрения систем ИИ и РТ, а также предложить некий набор подходов, которые лягут в основу принимаемых государственными институтами решений. В потоке интересных и вдохновляющих новостей об инновациях и достижениях в области ИИ и РТ мы можем упустить крайне важный нюанс: всё это не будет работать, если этого не будет прописано в законе. Если вопросы нормативного регулирования в сфере технологий оставить в “подвешенном” состоянии, а регуляторные меры — разрозненными, то рынок технологий будет неизбежно сталкиваться с огромным количеством правовых барьеров и неоднозначных ситуаций, разрешить которые согласно “букве закона” будет либо крайне трудно, либо просто невозможно. Проще говоря, новые технологии требуют и новых законов, и адаптации законов уже существующих, иначе темпы научно-технического прогресса будут не такими стремительными, какими могли бы быть.
Необходимость постоянной адаптации нормативно-правовой системы к существующим реалиям актуальна особенно сегодня, когда технологический рост стал происходить значительно быстрее, чем, например, ещё 20–30 лет назад. Безусловно, законотворческая сфера перманентно находится в состоянии изменений, но в условиях развития цифровой экономики значимость такого требования к нормативно-правовой системе как адаптивность значительно возросло. Многие из нас хотя бы раз слышали тезис о том, что в ХХI веке в числе стран-лидеров окажутся те государства, которые достигнут наиболее впечатляющих результатов в сфере научно-технического развития (чаще всего речь идет о развитии искусственного интеллекта). Важно дополнить этот тезис тем, что страной-лидером в данном случае может стать то государство, которое будет не только активно поддерживать рынок технологий и сектор научно-технических разработок финансами, но и вкладывать значительные усилия в формирование максимально гибкой и отвечающей времени нормативно-правовой системы. В тексте проекта Концепции нам встречается и тезис о том, что законодательные меры должны быть направлены на стимулирование развития ИИ и РТ.
Несмотря на то, что обсуждения Концепции были завершены, а сам проект — одобрен большинством участвующих экспертов, и в целом может считать завершенным, у нашего коллектива возникло несколько критических замечаний, которыми мы решили поделиться с читателями.
1. Процесс формирования проекта Концепции было бы актуальнее начать ещё в 2017–2018 г., когда начинали свою работу такие крупные организации как АНО “Цифровая экономика”, которые нуждались в формировании конкретных рамок своей деятельности в сфере ИИ и РТ. Кроме того, концепция как документ, включенный в правовую систему РФ в качестве источника права политико-идеологического характера, должен представлять собой не только систему взглядов на базовые принципы, приоритетные направления, цели и задачи конкретной отрасли, но и содержать стратегическое видение развития этой отрасли не только на обозначенный срок, но и на дальнейшую перспективу. Изученный нами текст проекта ограничивается лишь небольшим промежутком — 2020–2024 г.
2. В проекте Концепции не были даны определения таким основополагающим для текста терминам как “искусственный интеллект” и “робототехника”. Согласно тексту одного из пунктов проекта, однозначное содержание этих терминов отсутствует, однако известно, что в Национальной стратегии развития искусственного интеллекта на период до 2030 г. (утверждена Указом Президента РФ №490 “О развитии искусственного интеллекта в Российской Федерации”) уже были даны определения таким терминам как “искусственный интеллект” и “технологии искусственного интеллекта”. Дело в том, что ещё до проведения отраслевых и институциональных исследований крайне важно определить, что мы сейчас и в дальнейшем понимаем под искусственным интеллектом и какую общую модель правового регулирования выберем? Важно уточнить и то, какая форма искусственного интеллекта подлежит исследованию и адаптации в законодательстве: “сильный” искусственный интеллект со всеми вытекающими вопросами правосубъектности или “слабый” искусственный интеллект с корректировкой норм гражданского законодательства в части определения категорий “создатель”, “разработчик”, “оператор” для дифференции вопросов гражданско-правовой ответственности.
3. Довольно спорным в тексте Концепции показался тезис о том, что “одним из основных препятствий для расширения применения систем с использованием ИИ и РТ является отсутствие достаточной степени доверия к ним со стороны общества”. Подобное утверждение нуждается в серьезной аргументации и сопровождении данными социологических исследований, без этого обозначенную проблему нельзя поставить в ряд основных препятствий. Кроме того, сегодня существуют контраргументы приведенной позиции. Так, например, согласно результатам социологического исследования поведенческих и институциональных предпосылок технологического развития регионов РФ 2016 г.: а) технооптимисты оказались самой многочисленной группой респондентов (48% респондентов); б) технооптимисты рассматривают технологии в качестве потенциального субститута неэффективному, по их мнению, институциональному порядку (например, замена реальных судей на судей-роботов). Полный текст исследования можно посмотреть здесь: rvc.ru/upload/iblock/0e8/attitudes_to_technologies_and_innovations_in_Russia.pdf
4. В тексте проекта Концепции полностью отсутствует упоминание политической и военной сфер, где уже используются технологии ИИ и РТ. Ещё в марте 2018 г. аналитическая компания “Markets and Markets” представила результаты исследования мирового рынка технологий ИИ, используемых в военных целях, согласно которым в 2017 г. продажи соответствующих сервисов, программного обеспечения и оборудования в глобальном масштабе достигли $6,26 млрд. По прогнозам компании, к 2025 году показатель поднимется до $18,82 млрд, а ежегодный рост рынка составит 14,75%. Кроме того, в марте 2020 г. Министерство обороны США официально приняло документ “AI Principles: Recommendations on the Ethical Use of Artificial Intelligence by the Department of Defense“, в котором отражены этические принципы использования искусственного интеллекта в военной сфере.
5. В тексте проекта Концепции описываются меры по совершенствованию режима оборота данных, целью которых преимущественно является облегчение условий по сбору, распространению и их обработке. Вместе с этим, в тексте не затрагивается тема прав пользователей, которые генерируют данные и делятся ими (например, с органами государственной власти). За несколько лет проблема контроля оборота данных стала одной из наиболее тревожных для общества, в связи с чем ее игнорирование может обернуться ростом социально-политической напряженности, когда граждане будут обвинять государственные органы, научные и коммерческие структуры в сговоре и нарушении их прав. Стоит сказать и о том, что в тексте проекта Концепции не упоминается проблема нерешенности вопроса о кодификации информационного законодательства или комплексной переработке Федерального закона от 27 июля 2006 г. № 149-ФЗ “Об информации, информационных технологиях и о защите информации” в соответствие с гражданским кодексом РФ и другими актами Российского законодательства, имеющими “информационные нормы”. Статус Закона об информации до сих не определен на практике как специальный нормативный акт для общественных отношений, связанных с информацией и информационными технологиями.
6. Недостаточное внимание в тексте проекта Концепции уделено такому инструменту как экспериментальный правовой режим (“регуляторная песочница”), который имеет потенциал не только стать значимым драйвером развития цифровой экономики в регионах Российской Федерации, но и дать стимул реализации Указа Президента РФ №204 “О национальных целях и стратегических задачах развития Российской Федерации на период до 2024 года”, Указа Президента РФ №490 утверждена “О развитии искусственного интеллекта в Российской Федерации” и процессу достижения обозначенного в 2018 г. Президентом РФ В.В. Путиным научно-технологического прорыва. Дискуссия об экспериментальном правовом режиме становится особенно важной на фоне публикации в феврале 2020 г. в автоматизированной системе обеспечения законодательной деятельности Государственной Думы РФ законопроекта №896438–7 “О проведении эксперимента по установлению специального регулирования в целях создания необходимых условий для разработки и внедрения технологий искусственного интеллекта в субъекте Российской Федерации — городе федерального значения Москве и внесении изменения в статью 6 Федерального закона “О персональных данных””.
7. Нам как представителям социально-гуманитарных наук хотелось бы видеть в качестве самостоятельного раздела Концепции создание кодекса этических норм и правил в сфере технологий ИИ и РТ, которыми должны в обязательном порядке руководствоваться все участники разработки и применения систем ИИ и РТ. Этические вопросы развития технологий — это то, что сейчас волнует представителей социально-гуманитарных наук (философы, социологи, антропологи и др.) и искусства (в первую очередь кинематограф и литература), а также постепенно становится общественно-значимой темой, поскольку окружающие людей технические объекты начинают осмысливаться не только как объекты, но и субъекты социального мира. Нет сомнений в том, что формировать нормативно-правовое пространство в сфере технологий ИИ и РТ необходимо не только исходя из желания стимулировать развитие технологий, но и в согласии с необходимостью гарантировать подчинение научно-технического прогресса актуальным для современного общества этическим нормам.
