На 19-й сессии Экспертного механизма ООН по правам коренных народов участники работали над вопросами взаимодействия коренных народов и искусственного интеллекта.

Это заседание было посвящено тому, чтобы рассмотреть влияние искусственного интеллекта на коренные народы, представить успешные инициативы, реализуемые самими коренными народами, а также определить пути обеспечения того, чтобы регулирование новых технологий осуществлялось в соответствии с Декларацией ООН о правах коренных народов. Панель объединила экспертов из числа коренных народов, разработчиков государственной политики и специалистов в области технологий.

Председательствовать на этой дискуссионной панели было доверено члену Экспертного механизма ООН по правам коренных народов Антонине Горбуновой.

В своем вступительном слове Антонина Горбунова подробно остановилась на проблеме учитывания прав, взглядов и приоритетов коренных народов при обсуждении технологий ИИ.

По мнению члена ЭМРИП, искусственный интеллект открывает значительные возможности, в том числе для возрождения языков коренных народов, сохранения устных традиций и систем традиционных знаний, а также сохранения и передачи культурного наследия будущим поколениям. Вместе с тем, отметила эксперт, развитие искусственного интеллекта вызывает серьезную обеспокоенность. Речь идет, в частности, об алгоритмической предвзятости, искажении систем знаний и мировоззрения коренных народов, исключении из системы принятия решений. Кроме того, эти процессы создают риск возникновения новых форм цифрового неравенства.

Марен Б. Нистад Сторслетт, представитель Саамского парламента Норвегии, предложила ввести этические стандарты и рамки корпоративной ответственности для технологической индустрии подобно тем, что уже существуют в других крупных отраслях.

Отдельно представительница Саамского Парламента Норвегии остановилась на том, что ИИ требует значительных ресурсов и огромного количества энергии.  «В Сапми мы уже видим, как крупные центры обработки данных оказывают огромное давление на традиционные территории саамов. Чрезвычайные потребности этих объектов в энергии и инфраструктуре добавляются к другим добывающим отраслям. Это заставляет задуматься о приоритетах и пределах», – отметила Марен Сторслетт.

Эмили Пугин из министерства иностранных дел и торговли Австралии, поддержала идею о том, что ИИ может стать мощным инструментом для расширения возможностей и включения, когда его формируют люди и сообщества, которых он затрагивает, однако без эффективного управления он также может усилить изоляцию, воспроизводить предвзятость, злоупотреблять данными и подрывать культурную целостность.

В своем выступлении Василий Немечкин, директор Международного научно-исследовательского центра финно-угорских исследований Мордовского государственного университета, рассказал о технологиях ИИ, которые нашли воплощение в России и подробно остановился на этических принципах, в соответствии с которыми должен производиться сбор и дальнейшее использование традиционных знаний коренных народов, изображений, символьных и языковых систем.

По мнению Немечкина, искусственный интеллект – это инструмент, который может быть благом, но может и нести угрозы коренным народам.

С одной стороны, искусственный интеллект открывает для коренных народов широкие возможности, в частности в области возрождения языков, экономического развития, сохранения традиционных знаний, экологического мониторинга.

С другой стороны, системы искусственного интеллекта поднимают новые типы этических проблем – неправомерного использования традиционных знаний, представления культур коренных народов в искаженном виде, размывания идентичности коренных народов. Системы ИИ также могут усиливать негативные предубеждения и усугублять существующие формы дискриминации, предрассудков и стереотипов.

«Задача сейчас – найти модель, при которой технологии служат интересам коренных народов, а не наоборот», – заявил Василий Немечкин.

Ноэлани Ариста, директор Института исследований и знаний коренных народов факультета искусств Университета Макгилла, заявила:

«Наше старшее поколение учило нас, что величайшей угрозой для наших знаний было забвение, но они не могли предвидеть цифровое настоящее, где мы погружены в мир слов, звуковых фрагментов, изображений и видео, распространяемых через социальные сети и генерируемых ИИ».

По мнению Ариста, сегодня величайшей угрозой для знаний коренных народов является искажение и передача контроля над сообществом цифровым посредникам. Эксперт выделила как проблему процесс преобразования традиционных знаний в «данные».

«Для большинства из нас знания — это не «данные», их основное использование — не извлечение для получения прибыли; они не подлежат отчуждению и не являются собственностью», – подчеркнула Ариста.

Оливье Алиас, координатор программ Международного союза электросвязи, занимается вопросами интеграции стандартов и принципов в области прав человека в процессы цифрового управления и разработки технических стандартов. В своём выступлении он остановился на трёх ключевых моментах. Подключение к интернету ещё не стало полноценным правом для коренных народов: в большей степени коренные народы недопредставлены в цифровом пространстве.

Искусственный интеллект может как усугубить это исключение, так и помочь его устранить – в зависимости от того, кто его разрабатывает. Оливье Алиас напомнил, что современные системы ИИ обучаются преимущественно на нескольких доминирующих языках. А это значит, что до четырёх миллиардов человек могут получать ненадёжные или искажённые результаты от систем ИИ.

Файду М. Думарпу, представительница Форума коренных народов Глобального альянса национальных правозащитных учреждений (GANHRI) и член Комиссии по правам человека Филиппин отметила, что искусственный интеллект уже существенно влияет на принятие решений, затрагивающих жизнь коренных народов, начиная от доступа к государственным услугам, управлению земельными и экологическими ресурсами, медицинской диагностике, образовательным инструментам и заканчивая полицейской деятельностью и управлением границами.

Причём эти системы часто разрабатываются без значимого участия коренных народов и во многих случаях без надлежащих гарантий защиты их прав, данных и систем знаний.

В то же время Файду Думарпу считает важным не рассматривать ИИ только через призму риска.

«Мы уже видим примеры, когда ИИ и цифровые инструменты используются для поддержки возрождения языков коренных народов, включая модели перевода, инструменты распознавания речи и цифровые архивы, разработанные совместно с сообществами коренных народов».

Дискуссия показала, что искусственный интеллект уже стал одним из ключевых вопросов международной повестки в области прав коренных народов. Несмотря на различия в национальном опыте, участники были едины во мнении: развитие технологий должно осуществляться при полноценном вовлечении коренных народов в процессы принятия решений. Представленные на сессии инициативы и предложения подтвердили, что искусственный интеллект может стать инструментом сохранения языков и культурного наследия лишь при условии уважения прав коренных народов и их ведущей роли в разработке и применении таких технологий.