ГенИИ на выборах: изменение избирательных кампаний, рост этических проблем

В 2024 году по всему миру, начиная с Бангладеш в январе и заканчивая Ганой в декабре, проголосуют два миллиарда человек. Поскольку Генеративный ИИ (ИИ) оказывает влияние на каждый аспект человеческого поведения и промышленности, включая знакомства, образование, творчество, обслуживание клиентов и социальные сети, выборы, независимо от того, где они проводятся, не будут лишены Генеративного ИИ (ИИ), который включает в себя знакомства, образование, творчество, обслуживание клиентов и социальные сети. ИИ.

Поколение ИИ меняет способы проведения кампаний, распространения информации и влияния на избирателей. Например, в декабре находящийся в заключении бывший премьер-министр Пакистана Имран Хан, чьей партии было запрещено проводить публичные митинги, использовал аудиоклип, созданный искусственным интеллектом, для выступления на виртуальном митинге. Речь была создана на основе письменной версии, одобренной Ханом в тюрьме.

Технология дала право голоса тем, кто сталкивается с угнетением. В Беларуси, где лидеры оппозиции часто попадают в тюрьму, ссылку или умирают, оппозиция создала искусственного интеллекта Яса Гаспадара, виртуального кандидата, созданного с использованием ChatGPT OpenAI, который может свободно говорить, не опасаясь последствий.

Однако, от создания убедительных сообщений до ориентации на определенную демографическую группу, с применением этой технологии все идет не так хорошо. В результате среди политических аналитиков и политиков во всем мире возникают как волнение, так и опасения.

Согласно отчету CrowdStrike Global Threat Report за 2024 год , эксплуатация генеративного искусственного интеллекта ожидается уже в 2024 году. В докладе прогнозируется, что, поскольку на 2024 год запланировано более 40 демократических выборов, у противников национальных государств и электронной преступности будет множество возможностей сорвать избирательный процесс или повлиять на мнение избирателей. Субъекты национальных государств из Китая, России и Ирана, скорее всего, будут проводить операции по дезинформации или дезинформации, чтобы посеять смуту на фоне геоконфликтов и глобальных выборов.

Персонализированная кампания

Одним из наиболее значительных влияний генеративного ИИ на выборы является его способность проводить персонализированную кампанию в беспрецедентных масштабах. Анализируя обширные наборы данных об избирателях, алгоритмы ИИ могут генерировать высоко персонализированные сообщения, рекламные объявления и стратегии работы с общественностью. Благодаря такому подходу политические кампании могут ориентироваться на отдельных лиц на основе их демографии, интересов и прошлого поведения, получая максимальную отдачу от своих информационно-просветительских усилий.

Политический кубок Starbucks облетел социальные сети в марте, когда мексиканская гражданская организация Sociedad Civil de México разместила на X созданное искусственным интеллектом изображение, на котором был изображен красочный стакан Starbucks с надписью #Xochitl2024 и хэштегом #StarbucksQueremosTazaXG ( #StarbucksWeWantACupXG). Кандидат в президенты Мексики от оппозиции Сочитль Гальвес попросила своих последователей X заказать «café sin miedo» (кофе без страха). Вскоре пользователи стали делиться изображениями, созданными с помощью ИИ, и эта тенденция завоевала популярность. Позже Starbucks заявила , что дизайн не принадлежит кофейному бренду.

Это переломный момент совершенно нового способа проведения визуальной политики, который, возможно, фундаментально изменит то, как мы потребляем мультимедийные артефакты во время политических кампаний.

Джойоджит Пал, доцент Мичиганского университета

В Индии все стало официальным, говорит Aljazeera . В феврале видео Индийского национального конгресса (ИНК), пародирующее премьер-министра Нарендру Моди, собрало более 1,5 миллиона просмотров. В тот же день официальный представитель БДП загрузил видео, в котором искусственный интеллект клонировал голос умершего патриотического певца Махендры Капура, чтобы он пел о достижениях премьер-министра.

«Это переломный момент совершенно нового способа проведения визуальной политики, который, возможно, фундаментально изменит то, как мы потребляем мультимедийные артефакты во время политических кампаний», — сказал Джойоджит Пал, доцент Мичиганского университета.

Дезинформация и дезинформация

Однако распространение генеративного ИИ также вызывает обеспокоенность по поводу распространения дезинформации и дезинформации. Благодаря способности генерировать текст, убедительно похожий на человеческий, злоумышленники могут использовать ИИ для создания и распространения ложных повествований, сеяния раздора и манипулирования общественным мнением. Проблема борьбы с дезинформацией, создаваемой искусственным интеллектом, представляет собой серьезную угрозу целостности демократических процессов во всем мире.

В Индонезии сфабрикованное видео в Facebook показало, как избранный вице-президент оскорбляет получателей государственных пособий. В США зрители увидели сгенерированные искусственным интеллектом звонки президента Джо Байдена с просьбой к избирателям оставаться дома.

В феврале Институт стратегического диалога (ISD), британский аналитический центр, обнаружил так называемый «спамуфляж», проводимый китайским правительством. Это кампания по обмену сгенерированными искусственным интеллектом изображениями в попытке распространить дезинформацию перед США. выборы в этом году.

В этом насыщенном выборами году дипфейковые видео стали широко распространены. В нескольких странах, таких как Пакистан , Тайвань и Бангладеш , были случаи, когда такие видео распространялись среди избирателей и распространяли дезинформацию.

Этические и нормативные проблемы

Рост использования генеративного ИИ на выборах вызвал дебаты вокруг его этических последствий и необходимости нормативного надзора. Вопросы прозрачности, подотчетности и защиты демократических норм стали центральными в дискуссиях среди политиков и технологов.

Каждой стране необходимо иметь собственную инфраструктуру искусственного интеллекта, чтобы использовать экономический потенциал и одновременно защищать свою культуру.

Генеральный директор NVIDIA Дженсен Хуанг

Как сказал генеральный директор Nvidia Дженсен Хуанг , каждая страна должна иметь собственную инфраструктуру искусственного интеллекта, чтобы использовать экономический потенциал и одновременно защищать свою культуру. Нахождение баланса между использованием потенциала ИИ для политических кампаний и смягчением его негативных последствий остается ключевой задачей для заинтересованных сторон.

Европейский Союз (ЕС) сделал первый официальный шаг, приняв в марте Закон об искусственном интеллекте . Согласно закону, случаи использования, которые представляют высокий риск для основных прав людей, ограничены. Искусственный интеллект, представляющий «неприемлемый риск», также подлежит запрету. Сюда входят случаи использования, когда системы ИИ используют «подсознательные, манипулятивные или обманные методы для искажения поведения и нарушения принятия обоснованных решений» или эксплуатации уязвимых людей.

В Индии государственный министр электроники и информационных технологий Раджив Чандрашекхар заявил, что нормативно-правовая база ИИ будет обсуждаться и обсуждаться в июне-июле этого года.

Технологические компании также прилагают усилия, чтобы ограничить ущерб , наносимый контентом, созданным искусственным интеллектом.

Интернет-протокол с открытым исходным кодом под названием C2PA использует криптографию для кодирования сведений о происхождении части контента. Это означает, что нам будет доступна такая информация, как, например, откуда взялся фрагмент контента и кто или что его создало. Такие технологические гиганты, как Google, Microsoft и Meta, уже объявили о своем участии в этом протоколе.

Поскольку использование Gen AI в избирательной политике продолжается, его влияние в ближайшие годы будет только усиливаться. Достижения в области технологий искусственного интеллекта и растущая сложность алгоритмов будут продолжать менять динамику политических кампаний и вовлеченность избирателей. Чтобы ориентироваться в этой быстро меняющейся ситуации, политики, избирательные органы и гражданское общество должны сотрудничать для создания надежной нормативной базы и этических принципов, которые защищают целостность демократических процессов.

В конце концов, насколько мы знаем ИИ?

Поколение искусственного интеллекта, особенно языковые модели, такие как GPT (генеративный предварительно обученный преобразователь), несомненно, формирует политические нарративы. Эти модели могут генерировать огромные объемы текста, имитируя человеческий язык и генерируя контент, начиная от речей и заканчивая публикациями в социальных сетях. Создавая сообщения, адаптированные к конкретным сегментам избирателей и эффективно влияя на общественное мнение по ключевым вопросам, эта технология дала большую власть в руки участников кампании.

Однако важно задаться вопросом, понимают ли люди то, что они видят, или они слепо верят этому. Сам премьер-министр Нарендра Моди выразил обеспокоенность по поводу дипфейков и призвал СМИ информировать общественность о рисках, связанных с Gen AI.

Согласно данным опроса Ipsos, существует отставание в понимании ИИ людьми, и это наблюдение носит глобальный характер. В опросе, проведенном в 31 стране, в среднем около 70% считают, что хорошо разбираются в ИИ, но только 50% могут назвать продукты и услуги, в которых используется ИИ. Например, в Индии этот показатель составляет 64%. Кроме того, что интересно, население развивающихся рынков больше доверяет технологиям искусственного интеллекта. Кроме того, они склонны видеть в ИИ скорее плюсы, чем минусы.

Появление генеративного искусственного интеллекта представляет собой глубокий сдвиг в том, как проводятся и выигрываются выборы. Предлагая беспрецедентные возможности для персонализированной кампании и взаимодействия с избирателями, ИИ также создает серьезные проблемы с точки зрения дезинформации, конфиденциальности и демократической подотчетности. По мере того как общества адаптируются к этой новой реальности, ответственное использование ИИ в избирательных процессах будет иметь решающее значение для сохранения целостности и легитимности демократического управления во всем мире.