Практическое руководство по искусственному интеллекту для предотвращения и борьбы с насильственным экстремизмом

Список ключевых разделов

1. Введение: Искусственный интеллект и проекты по предотвращению и борьбе с насильственным экстремизмом
2. Понимание искусственного интеллекта в контексте предотвращения и борьбы с насильственным экстремизмом
3. Точки пересечения искусственного интеллекта и насильственного экстремизма
4. Текущее состояние внедрения искусственного интеллекта в предотвращении и борьбе с насильственным экстремизмом
5. Проблемы и ограничения внедрения искусственного интеллекта в предотвращении и борьбе с насильственным экстремизмом
6. Возможности и вызовы: Как искусственный интеллект может усилить операции по предотвращению и борьбе с насильственным экстремизмом
7. Стратегии снижения рисков для ответственного искусственного интеллекта в предотвращении и борьбе с насильственным экстремизмом
8. Проблемы прав человека и этики при применении искусственного интеллекта в предотвращении и борьбе с насильственным экстремизмом
9. Внедрение и наращивание потенциала
10. Заключение, рекомендации и передовая практика

Описание документа

Искусственный интеллект трансформирует социальную, экономическую и безопасностную среду беспрецедентным образом, создавая сложное двойственное воздействие в сфере предотвращения и борьбы с насильственным экстремизмом, питающим терроризм. С одной стороны, технологии искусственного интеллекта могут быть использованы террористическими и насильственными экстремистскими субъектами для генерации дезинформации в больших масштабах, манипулирования общественным мнением и ускорения процессов насилия; с другой стороны, они также содержат огромный потенциал для помощи сектору предотвращения и борьбы с насильственным экстремизмом в противодействии этим новым и давним вызовам. Настоящее практическое руководство разработано именно для реагирования на эту быстро развивающуюся ситуацию и призвано предоставить соответствующим практикам инструменты для ответственного использования потенциала и ограничений искусственного интеллекта.

Данное руководство основано на опросе 120 практиков и политиков из 45 стран, проведенном в рамках глобального проекта Управления ООН по борьбе с терроризмом по предотвращению и борьбе с насильственным экстремизмом. Опрос показал, что в настоящее время менее 25% респондентов используют искусственный интеллект в мерах по предотвращению и борьбе с насильственным экстремизмом. Низкий уровень внедрения объясняется множественными рисками, включая опасения по поводу ненадежности технологий, предвзятости, конфиденциальности, отсутствия доверия и недостаточной прозрачности. Другими препятствиями являются недостаточная организационная готовность, ограниченные ресурсы или возможности, а также отсутствие соответствующего обучения — менее трети респондентов прошли какое-либо обучение, связанное с искусственным интеллектом. Однако более двух третей респондентов, в настоящее время не использующих искусственный интеллект, заявили, что рассмотрят его использование в будущем, и подавляющее большинство респондентов выразили желание пройти обучение по вопросам снижения проблем прав человека, этики и права, использования инструментов искусственного интеллекта и применения искусственного интеллекта в предотвращении и борьбе с насильственным экстремизмом.

В докладе структурированно излагаются перспективы применения искусственного интеллекта в сфере предотвращения и борьбы с насильственным экстремизмом и управления рисками. В части возможностей руководство подробно анализирует, как искусственный интеллект может усилить несколько ключевых операционных областей, включая мониторинг и оценку, оптимизацию обучения и образования, исследования и анализ, мониторинг онлайн-нарративов, обнаружение синтетических медиа, созданных искусственным интеллектом (например, дипфейков), кризисные коммуникации, распространение позитивных и альтернативных нарративов, распознавание поведенческих паттернов и прогнозную аналитику для поддержки на трех уровнях, а также прямое взаимодействие с лицами из групп высокого риска. Одновременно в докладе систематически указаны операционные вызовы (такие как ограниченность ресурсов, нехватка навыков, сопротивление организационной культуры) и технические вызовы (такие как качество данных, предвзятость моделей, прозрачность алгоритмов), с которыми сталкивается применение искусственного интеллекта.

Для обеспечения соответствия применения технологий международным стандартам в области прав человека и основным ценностям ООН, таким как принцип «не навреди», в руководстве отдельная глава посвящена проблемам прав человека и этики. В ней подчеркивается необходимость принятия основанного на правах человека подхода с акцентом на защиту права на неприкосновенность частной жизни, свободу выражения мнений, а также права на равенство и недискриминацию. Кроме того, в докладе излагаются ключевые принципы прозрачности, подотчетности, объяснимости, а также человеческого надзора и контроля, и рассматриваются конкретные этические вопросы, такие как влияние на климат, кража интеллектуальной собственности, аутентичность информации/источников в предотвращении и борьбе с насильственным экстремизмом.

Для обеспечения ответственного и эффективного применения руководство предоставляет полную структуру от организационной подготовки до конкретной реализации. Это включает построение организационной готовности и институционального потенциала, определение ключевых компетенций, необходимых практикам, проведение обучения грамотности в области искусственного интеллекта и технических навыков, а также планирование полного пути внедрения от стратегической оценки, картирования заинтересованных сторон и пилотных вмешательств до масштабирования и постоянного мониторинга эффективности. В заключение в докладе представлены конкретные выводы, рекомендации и примеры передовой практики для ООН и других международных организаций, национальных властей, доноров, технологического сектора и всех заинтересованных сторон, а также прилагается практическое рабочее пособие, содержащее руководство по ресурсам, шаблоны оценки рисков и контрольные списки для поддержки перевода принципов в практические действия.