Глобальное управление через призму блокировок: столкновение технологической этики, геополитики и цифрового суверенитета.

В выходные дни января 2024 года две основные страны Юго-Восточной Азии — Индонезия и Малайзия — последовательно объявили о блокировке чат-бота Grok, разработанного компанией xAI Илона Маска. Это не обычный контроль за сетевым контентом, а первое в мире полное запрещение инструмента генеративного искусственного интеллекта на государственном уровне. Историческое решение было вызвано широким злоупотреблением Grok для создания непроизвольного порнографического контента с использованием deepfake, особенно откровенных сексуальных изображений женщин и детей.

Министр связи и цифровых технологий Индонезии Метия Хафид в своем заявлении четко заявил: правительство рассматривает недобровольный дипфейк как серьезное нарушение прав человека, достоинства и безопасности граждан в цифровом пространстве. Менее чем через 24 часа Комиссия по связи и мультимедиа Малайзии последовала этому примеру, объявив о временном ограничении на использование Grok. Эти две страны с большим мусульманским населением стали пионерами в глобальной волне регулирования искусственного интеллекта.

Злоупотребление технологиями и вакуум регулирования: глобальный резонанс событий

"Темная сторона" генеративного ИИ раскрыта.

Grok, как интегрированный в платформу X (ранее Twitter) AI-чатбот, с момента своего запуска в 2023 году привлекает пользователей своими мультимодальными возможностями. Летом прошлого года xAI добавила для Grok функцию генерации изображений Grok Imagine, включающую так называемый «острый режим», способный создавать контент для взрослых. Хотя первоначальной целью этой функции, возможно, было увеличение взаимодействия с пользователями, она быстро превратилась в инструмент для массового злоупотребления.

С технической точки зрения, способность Grok генерировать изображения представляет собой последние достижения в области генеративного искусственного интеллекта. Пользователям достаточно загрузить обычную фотографию и с помощью простого текстового запроса можно "раздеть" человека на фото или придать ему позу с сексуальным подтекстом. Такое снижение технологического порога сделало создание недобровольного порнографического контента беспрецедентно простым. Глава Управления по надзору за цифровым пространством Индонезии Александр Сабар отметил, что предварительное расследование показывает, что в Grok отсутствуют эффективные защитные меры, препятствующие пользователям создавать и распространять порнографический контент на основе реальных фотографий жителей Индонезии.

Спектр различий в глобальных регуляторных реакциях.

Решение о блокировке в Индонезии и Малайзии не является изолированным событием, а представляет собой крайнее проявление глобальной регуляторной реакции. От Европы до Северной Америки правительства разных стран реагируют на этот кризис различными способами:

Министр технологий Великобритании Лиз Кендалл объявила, что в течение этой недели официально вступит в силу положение Закона о данных, которое признает создание непроизвольных интимных изображений уголовным преступлением, и включит его в список приоритетных преступлений Закона о безопасности в интернете. Британский медиарегулятор Ofcom уже начал официальное расследование в отношении платформы X, и в случае обнаружения нарушений может наложить штраф в размере до 10% от глобального дохода или 18 миллионов фунтов стерлингов.

В Канаде министр по вопросам искусственного интеллекта Эван Соломон исключил возможность полного запрета платформы X, но сообщил, что внутри правительства ведутся активные обсуждения о возможном расследовании материалов о сексуальном насилии над детьми, созданных с помощью ИИ, Королевской канадской конной полицией. Европейская комиссия уже приказала Маску и компании X сохранить документы, связанные с выводом Grok, что предвещает возможное расследование.

Чиновники из таких стран, как Индия, Бразилия, Франция, Ирландия и Австралия, также подали сигналы о расследовании. Группа сенаторов-демократов в США даже потребовала, чтобы Apple и Google удалили X из своих магазинов приложений, пока компания не решит эту проблему.

Культурная чувствительность и цифровой суверенитет: уникальная позиция Юго-Восточной Азии.

Религиозные ценности и традиции управления интернетом.

Индонезия и Малайзия, как две страны с самым большим мусульманским населением в мире, проводят политику управления интернетом, которая глубоко подвержена влиянию религиозных и культурных ценностей. Обе страны долгое время занимают строгую позицию в отношении онлайн-порнографического контента, заблокировав такие платформы, как OnlyFans и Pornhub. Инцидент с Grok затронул этот чувствительный нерв.

Журнал Wired раскрывает серьезность проблемы: инфлюенсеры с сотнями тысяч подписчиков используют Grok для редактирования фотографий женщин, удаляя их головные уборы или длинные одеяния. В одном случае сгенерированное изображение трех женщин с волнистыми длинными волосами и довольно прозрачными платьями было распространено 700,000 раз. Такое цифровое удаление религиозной одежды является глубоко оскорбительным в культурном отношении.

Логика «превентивного» регулирования

Комиссия по коммуникациям и мультимедиа Малайзии подчеркнула в своем заявлении, что блокировка является превентивной и соразмерной мерой в ходе юридических и регуляторных процедур. Это заявление раскрывает основную логику регуляторных органов Юго-Восточной Азии: действовать до того, как произойдет вред, а не устранять последствия постфактум.

Министерство коммуникаций Индонезии заявило, что эта мера направлена на защиту женщин, детей и широкой общественности от использования сгенерированного искусственным интеллектом ложного порнографического контента. Александр Сабар отметил, что подобные практики могут нарушать право на неприкосновенность частной жизни и право на изображение, когда фотографии манипулируют или распространяют без согласия, что приводит к психологическому, социальному и репутационному ущербу.

Эта превентивная позиция контрастирует с западной традицией, которая больше фокусируется на свободе слова и постфактумном регулировании. Когда регуляторы Малайзии и Индонезии в этом месяце направили компаниям X и xAI уведомления с требованием усилить защитные меры, ответ в основном полагался на механизмы пользовательских жалоб. Регуляторы считают, что такой пассивный подход недостаточен для решения рисков, присущих дизайну платформы.

Ответственность платформ и глобальное управление: кто должен отвечать за злоупотребления?

Противоречивая позиция Маска и ответ платформы.

Реакция Илона Маска на регулирующие действия подчеркивает напряженность между технологическими гигантами и правительствами. Когда британское правительство рассматривало возможность принятия мер, Маск ответил в X, заявив, что правительство лейбористов Великобритании ищет любой предлог для цензуры. Такая постановка вопроса, приравнивающая регулирование контента к подавлению свободы слова, игнорирует конкретный вред, причиняемый личностям непроизвольными дипфейками порнографического характера.

Официальный ответ платформы X на злоупотребление Grok кажется противоречивым и недостаточным. С одной стороны, компания заявляет, что любой, кто использует или запрашивает Grok для создания незаконного контента, столкнется с такими же последствиями, как и за загрузку незаконного контента; с другой стороны, когда Associated Press отправил запрос на комментарий в xAI по электронной почте, они получили только автоматический ответ от почтового ящика поддержки СМИ: традиционные СМИ лгут. Такая конфронтационная позиция не помогает решить проблему.

Несмотря на глобальную критику, на прошлой неделе Grok ограничил функции генерации и редактирования изображений для платных пользователей, однако критики считают, что это не полностью решает проблему. До середины января пользователи бесплатных аккаунтов всё ещё могли создавать персонализированные и порнографические изображения.

Коренное изменение регуляторной парадигмы.

Событие Grok стимулирует глобальный сдвиг в регуляторной парадигме. Министр технологий Великобритании Лиз Кендалл чётко заявила: ответственность лежит не только на действиях отдельных лиц... Платформы, размещающие подобные материалы, включая X, должны нести ответственность. Она объявила, что правительство криминализирует приложения для раздевания на основе мер, изложенных в Законе о преступности и полиции.

Это новое уголовное преступление сделает незаконным предоставление компаниями инструментов, предназначенных для создания недобровольных интимных изображений, решая проблему в её источнике. Кенделл подчеркивает: это не ограничение свободы слова, как утверждают некоторые. Это направлено на решение проблемы насилия в отношении женщин и девочек.

Группы защиты интересов, такие как Канадский фонд правового образования и действий для женщин и Канадский центр по защите детей, призывают создать онлайн-регуляторный орган, аналогичный тому, который предложило правительство Либеральной партии в 2024 году. Они считают, что волна сексуальных дипфейков на платформе X демонстрирует необходимость создания специализированного онлайн-регуляторного органа со стороны правительства.

Взгляд жертвы и вызовы будущего: когда технология становится оружием

Реальная стоимость личного ущерба

Наиболее тревожным аспектом злоупотребления Grok является прямой вред, причиняемый реальным людям. Пользователь X из Индонезии Киранна Аюнинтияс, пользующаяся инвалидной коляской и делящаяся повседневным опытом, обнаружила, что незнакомцы комментируют её фотографии, требуя от Grok изобразить её в бикини. Аюнинтияс изменила настройки конфиденциальности и обратилась к платформе с просьбой удалить изображения, но, к сожалению, ни одна из этих мер не сработала по-настоящему.

Она попросила друзей сообщить об аккаунте, опубликовавшем её поддельные изображения, но это привело к тому, что ещё больше людей увидели отредактированные фото, что вызвало у неё глубокое смущение. Трудно сказать, есть ли у кого-то эти изображения, добавила она. Это чувство беспомощности и постоянной незащищённости является ярким примером психологического воздействия недобровольного дипфейка на жертв.

Британская радиовещательная корпорация обнаружила на платформе X несколько примеров цифрового изменения изображений, на которых женщины были раздеты и помещены в сексуальные позы без их согласия. Одна женщина сообщила, что было создано более 100 сексуализированных изображений с её участием.

Глобальная координация и пути будущего регулирования

Событие Grok выявило фрагментацию глобального управления в эпоху генеративного ИИ. Реакции стран различаются: от полного запрета до уголовного законодательства, а также расследований и призывов к саморегулированию отрасли. Такая несогласованность может создать возможности для регуляторного арбитража, когда компании могут перемещать свою деятельность в юрисдикции с более мягким регулированием.

Будущее регулирование может развиваться по нескольким направлениям: во-первых, усиление ответственности платформ, требующее встроенных более эффективных защитных мер в инструменты ИИ; во-вторых, укрепление международного сотрудничества и координация трансграничного правоприменения; в-третьих, развитие технологических решений, таких как цифровые водяные знаки и технологии отслеживания происхождения контента; в-четвертых, повышение осведомленности общественности и цифровой грамотности.

Теневой министр технологий Великобритании Джулия Лопес, хотя и поддерживает действия правительства против инструментов стриптиза, выражает обеспокоенность по поводу полного запрета платформ: хотя интернет ранее использовался преступниками, веб-сайты никогда не запрещались. Это чрезвычайно серьезный шаг в отношении платформы, которая может быть использована во благо — для разоблачения скандалов, инициирования демократических революций и обеспечения свободного обмена идеями в повседневной жизни, включая те, которые нам не нравятся.

Событие блокировки Grok — это не просто технический или юридический вопрос, оно затрагивает ключевую дилемму цифровой эпохи: как найти баланс между стимулированием инноваций и предотвращением вреда, как достичь консенсуса между различными культурными ценностями и как координировать глобальное управление. Решение Индонезии и Малайзии может стать лишь началом, а не концом глобальной гонки в области регулирования ИИ. По мере того, как возможности генеративного ИИ продолжают усиливаться, дебаты о технологической этике, цифровых правах и государственном суверенитете станут только более актуальными и сложными.