Предвзятость Искусственного Интеллекта. Даже Роботы могут быть сексистами

Пересечение ‎гендера‏ ‎и ‎кибербезопасности ‎— ‎это ‎новая‏ ‎область, ‎которая‏ ‎подчеркивает‏ ‎дифференцированные ‎воздействия ‎и‏ ‎риски, ‎с‏ ‎которыми ‎сталкиваются ‎люди, ‎в‏ ‎зависимости‏ ‎от ‎их‏ ‎гендерной ‎идентичности.‏ ‎Традиционные ‎модели ‎безопасности ‎игнорируют ‎гендерные‏ ‎угрозы,‏ ‎такие ‎как‏ ‎онлайн-преследование, ‎доксинг,‏ ‎что ‎приводит ‎к ‎недостаточной ‎защите.‏ ‎В‏ ‎документе‏ ‎исследуется ‎интеграция‏ ‎гендерных ‎и‏ ‎человекоцентричных ‎моделей‏ ‎угроз,‏ ‎ориентированных, ‎подчеркивая‏ ‎необходимость ‎инклюзивных ‎подходов. ‎Используя ‎технологии‏ ‎искусственного ‎интеллекта‏ ‎и‏ ‎машинного ‎обучения, ‎возможно‏ ‎разработать ‎эффективные‏ ‎системы ‎обнаружения ‎угроз ‎и‏ ‎реагирования‏ ‎на ‎них.

Кроме‏ ‎того, ‎в‏ ‎документе ‎предлагается ‎основа ‎для ‎разработки‏ ‎и‏ ‎внедрения ‎новых‏ ‎стандартов ‎безопасности.‏ ‎Цель ‎состоит ‎в ‎создании ‎более‏ ‎инклюзивной‏ ‎среды‏ ‎кибербезопасности, ‎учитывающую‏ ‎уникальные ‎потребности‏ ‎и ‎опыт‏ ‎людей,‏ ‎повышая ‎общий‏ ‎уровень ‎безопасности.

-------

Кибербезопасность ‎традиционно ‎рассматривалась ‎через‏ ‎техническую ‎призму,‏ ‎уделяя‏ ‎особое ‎внимание ‎защите‏ ‎систем ‎и‏ ‎сетей ‎от ‎внешних ‎угроз,‏ ‎что‏ ‎игнорирует ‎человеческий‏ ‎фактор, ‎особенно‏ ‎дифференцированное ‎воздействие ‎киберугроз ‎на ‎различные‏ ‎группы.‏ ‎Различные ‎представители‏ ‎групп ‎часто‏ ‎сталкиваются ‎с ‎уникальными ‎киберугрозами, ‎такими‏ ‎как‏ ‎онлайн-преследование,‏ ‎доксинг ‎и‏ ‎злоупотребления ‎с‏ ‎использованием ‎технологий,‏ ‎которые‏ ‎преуменьшаются ‎в‏ ‎традиционных ‎моделях ‎угроз.

Недавние ‎исследования ‎и‏ ‎политические ‎дискуссии‏ ‎начали‏ ‎признавать ‎важность ‎включения‏ ‎гендерных ‎аспектов‏ ‎в ‎кибербезопасность. ‎Например, ‎Рабочая‏ ‎группа‏ ‎открытого ‎состава‏ ‎ООН ‎(OEWG)‏ ‎по ‎ICT ‎подчеркнула ‎необходимость ‎учёта‏ ‎гендерной‏ ‎проблематики ‎при‏ ‎внедрении ‎кибернорм‏ ‎и ‎наращивании ‎гендерно-ориентированного ‎потенциала. ‎Аналогичным‏ ‎образом,‏ ‎структуры,‏ ‎разработанные ‎такими‏ ‎организациями, ‎как‏ ‎Ассоциация ‎прогрессивных‏ ‎коммуникаций‏ ‎(APC), ‎предоставляют‏ ‎рекомендации ‎по ‎созданию ‎гендерно-ориентированной ‎политики‏ ‎кибербезопасности.

Человекоцентричная ‎безопасность‏ ‎отдаёт‏ ‎приоритет ‎решению ‎проблем‏ ‎поведения ‎человека‏ ‎в ‎контексте ‎кибербезопасности ‎и‏ ‎предлагает‏ ‎подход ‎к‏ ‎интеграции ‎гендерных‏ ‎аспектов. ‎Сосредоточив ‎внимание ‎на ‎психологических‏ ‎и‏ ‎интерактивных ‎аспектах‏ ‎безопасности, ‎модели,‏ ‎ориентированные ‎на ‎человека, ‎направлены ‎на‏ ‎создание‏ ‎культуры‏ ‎безопасности, ‎которая‏ ‎расширяет ‎возможности‏ ‎отдельных ‎лиц,‏ ‎уменьшает‏ ‎человеческие ‎ошибки‏ ‎и ‎эффективно ‎снижает ‎киберриски.

УСПЕШНЫЕ ‎ТЕМАТИЧЕСКИЕ‏ ‎ИССЛЕДОВАНИЯ ‎МОДЕЛЕЙ‏ ‎ГЕНДЕРНЫХ‏ ‎УГРОЗ ‎В ‎ДЕЙСТВИИ

📌 Обнаружение‏ ‎онлайн-преследований ‎. Платформа‏ ‎социальных ‎сетей ‎внедрила ‎систему‏ ‎на‏ ‎основе ‎искусственного‏ ‎интеллекта ‎для‏ ‎обнаружения ‎и ‎смягчения ‎последствий ‎онлайн-преследований.‏ ‎Согласно‏ ‎UNIDIR ‎использовано‏ ‎NLP ‎для‏ ‎анализа ‎текста ‎на ‎предмет ‎ненормативной‏ ‎лексики‏ ‎и‏ ‎анализа ‎настроений‏ ‎для ‎выявления‏ ‎домогательств, ‎отметив‏ ‎значительное‏ ‎сокращение ‎случаев‏ ‎преследования ‎и ‎повышении ‎удовлетворённости ‎пользователей.

📌 Предотвращение‏ ‎доксинга: ‎разработана‏ ‎модель‏ ‎для ‎обнаружения ‎попыток‏ ‎доксинга ‎путем‏ ‎анализа ‎закономерностей ‎доступа ‎к‏ ‎данным‏ ‎и ‎их‏ ‎совместного ‎использования.‏ ‎Согласно ‎UNIDIR ‎модель ‎использовала ‎контролируемое‏ ‎обучение‏ ‎для ‎классификации‏ ‎инцидентов ‎доксинга‏ ‎и ‎оповещения ‎пользователе, ‎что ‎позволило‏ ‎увеличить‏ ‎на‏ ‎57% ‎количество‏ ‎случаев ‎обнаружения‏ ‎попыток ‎доксинга‏ ‎и‏ ‎сокращении ‎на‏ ‎32% ‎число ‎успешных ‎инцидентов.

📌 Обнаружение ‎фишинга‏ ‎с ‎учётом‏ ‎гендерного‏ ‎фактора: Финансовое ‎учреждение ‎внедрило‏ ‎систему ‎обнаружения‏ ‎фишинга, ‎включающую ‎тактику ‎фишинга‏ ‎с‏ ‎учётом ‎пола.‏ ‎Согласно ‎UNIDIR‏ ‎использованы ‎модели ‎BERT, ‎для ‎анализа‏ ‎содержимого‏ ‎электронной ‎почты‏ ‎на ‎предмет‏ ‎и ‎эмоциональных ‎манипуляций ‎и ‎гендерно-ориентированного‏ ‎язык,‏ ‎снизило‏ ‎количество ‎кликов‏ ‎по ‎фишинговым‏ ‎сообщениям ‎на‏ ‎22%‏ ‎и ‎увеличило‏ ‎количество ‎сообщений ‎о ‎попытках ‎фишинга‏ ‎на ‎38%.

ВЛИЯНИЕ‏ ‎ГЕНДЕРНЫХ‏ ‎ПРЕДПОЛОЖЕНИЙ ‎В ‎АЛГОРИТМАХ‏ ‎НА ‎КИБЕРБЕЗОПАСНОСТЬ

📌 Поведенческие‏ ‎различия: исследования ‎показали ‎значительные ‎различия‏ ‎в‏ ‎поведении ‎в‏ ‎области ‎кибербезопасности‏ ‎между ‎мужчинами ‎и ‎женщинами. ‎Женщины‏ ‎часто‏ ‎более ‎осторожны‏ ‎и ‎могут‏ ‎применять ‎иные ‎методы ‎обеспечения ‎безопасности‏ ‎по‏ ‎сравнению‏ ‎с ‎мужчинами.

📌 Восприятие‏ ‎и ‎реакция: Женщины‏ ‎и ‎мужчины‏ ‎по-разному‏ ‎воспринимают ‎угрозы‏ ‎безопасности ‎и ‎реагируют ‎на ‎них.‏ ‎Женщины ‎уделяют‏ ‎приоритетное‏ ‎внимание ‎различным ‎аспектам‏ ‎безопасности, ‎таким‏ ‎как ‎конфиденциальность ‎и ‎защита‏ ‎от‏ ‎преследований, ‎в‏ ‎то ‎время‏ ‎как ‎мужчины ‎могут ‎больше ‎сосредоточиться‏ ‎на‏ ‎технической ‎защите.

📌 Содействие‏ ‎гендерному ‎разнообразию: Инклюзивность‏ ‎может ‎повысить ‎общую ‎эффективность ‎области‏ ‎так‏ ‎как‏ ‎разнообразные ‎команды‏ ‎привносят ‎разные‏ ‎точки ‎зрения‏ ‎и‏ ‎лучше ‎подготовлены‏ ‎к ‎борьбе ‎с ‎широким ‎спектром‏ ‎угроз.

📌 Данные ‎с‏ ‎разбивкой‏ ‎по ‎полу. ‎Сбор‏ ‎и ‎анализ‏ ‎данных ‎с ‎разбивкой ‎по‏ ‎полу‏ ‎имеет ‎решающее‏ ‎значение ‎для‏ ‎понимания ‎различного ‎воздействия ‎киберугроз ‎на‏ ‎различные‏ ‎гендерные ‎группы.‏ ‎Эти ‎данные‏ ‎могут ‎стать ‎основой ‎для ‎более‏ ‎эффективной‏ ‎и‏ ‎инклюзивной ‎политики‏ ‎кибербезопасности.

📌 Укрепление ‎гендерных‏ ‎стереотипов: Алгоритмы, ‎обученные‏ ‎на‏ ‎предвзятых ‎наборах‏ ‎данных, ‎могут ‎укрепить ‎существующие ‎гендерные‏ ‎стереотипы. ‎Модели‏ ‎машинного‏ ‎обучения, ‎используемые ‎в‏ ‎сфере ‎кибербезопасности,‏ ‎наследуют ‎предвзятость ‎данных, ‎на‏ ‎которых‏ ‎они ‎обучаются,‏ ‎что ‎приводит‏ ‎к ‎гендерным ‎допущениям ‎в ‎механизмах‏ ‎обнаружения‏ ‎угроз ‎и‏ ‎реагирования ‎на‏ ‎них.

📌 Некорректная ‎гендерная ‎ориентация: ‎Платформы ‎соцсетей‏ ‎и‏ ‎другие‏ ‎онлайн-сервисы ‎используют‏ ‎алгоритмы ‎для‏ ‎определения ‎атрибутов‏ ‎пользователя,‏ ‎включая ‎пол,‏ ‎бывают ‎неточными, ‎что ‎приводит ‎к‏ ‎нарушению ‎конфиденциальности.

📌 Гендерные‏ ‎последствия‏ ‎киберугроз: Традиционные ‎угрозы ‎кибербезопасности,‏ ‎такие ‎как‏ ‎атаки ‎типа ‎«отказ ‎в‏ ‎обслуживании»,‏ ‎могут ‎иметь‏ ‎гендерные ‎последствия‏ ‎в ‎виде ‎дополнительных ‎проблем ‎безопасности‏ ‎и‏ ‎целенаправленными ‎атаками,‏ ‎которые ‎часто‏ ‎упускаются ‎из ‎виду ‎в ‎гендерно-нейтральных‏ ‎моделях‏ ‎угроз.

📌 Предвзятость‏ ‎в ‎обнаружении‏ ‎угроз ‎и‏ ‎реагировании ‎на‏ ‎них‏ ‎. Автоматизированные ‎системы‏ ‎обнаружения ‎угроз, ‎такие ‎как ‎фильтры‏ ‎электронной ‎почты‏ ‎и‏ ‎симуляции ‎фишинга, ‎могут‏ ‎включать ‎гендерные‏ ‎предположения. ‎Например, ‎симуляции ‎фишинга‏ ‎часто‏ ‎связаны ‎с‏ ‎гендерными ‎стереотипами,‏ ‎что ‎может ‎повлиять ‎на ‎точность‏ ‎и‏ ‎эффективность ‎этих‏ ‎мер ‎безопасности.