В преддверии выборов 2024 года над миром нависла угроза, порожденная не человеческой рукой, а искусственным интеллектом. Исследование Центра по противодействию цифровой ненависти (CCDH) выявило у инструмента Илона Маска Grok опасную уязвимость: отсутствие эффективных барьеров против генерации манипулятивных изображений, способных исказить реальность предвыборной кампании.
Гроковские фейки: от Харрис до Трампа
Представьте себе: вице-президент Камала Харрис на фото запечатлена принимающей наркотики, а экс-президент Дональд Трамп лежит в постели, выглядя болезненно. Эти не просто плоды фантазии – это реалистичные изображения, сгенерированные Grok по простым текстовым подсказкам исследователей CCDH. Инструмент ИИ словно волшебный фонарь, рисующий картины, которые могут легко быть приняты за правду.
- Беззащитность перед манипуляцией: Grok не отклонил ни одно из 60 тестовых запросов, касающихся фальсификаций выборов и кандидатов. В отличие от него, OpenAI и другие популярные генераторы изображений с ИИ установили строгие ограничения на создание подобных материалов в предвыборный период.
- Трамп – легко, Харрис – сложно: Интересно, что Grok демонстрировал особую ловкость в создании убедительных образов Трампа, в то время как с изображениями Харрис возникали трудности. Возможно, это временная особенность, связанная с объемом доступных для обучения данных о каждом кандидате.
- Гроковские фейки: выборы под ударом: Исследователи смогли получить от Grok реалистичные изображения нарушений на выборах – вооруженные люди в красных бейсболках у Капитолия, горящая ка урна для голосования. Такой контент способен спровоцировать панику и подорвать доверие к демократическому процессу.
Гроковские демоны: ненависть в кодированном виде
Угроза не ограничивается политической сферой. Grok также показал способность генерировать “ненавистнические изображения” по запросам, содержащим элементы расизма и пропаганду отрицания Холокоста. Представьте: инструмент создает карикатуры, вызывающие ненависть к маргинализированным группам, изображает события, разжигающие вражду, – это не просто цифры в отчете, а реальная опасность для социальной стабильности.
CCDH обнаружил, что Grok сгенерировал “ненавистнические изображения” из 16 из 20 тестовых подсказок, включая сцену сожжения флага Прайда у Эмпайр Стейт Билдинг. Даже при попытке обойти ограничения с помощью синонимов, инструмент все равно поддавался на провокации.
Эхо в реальности: Трамп и искусственные иллюзии
Недавние действия экс-президента Дональда Трампа служат тревожным примером. Он публиковал фейковые изображения певицы Тейлор Свифт, якобы поддерживающей его кампанию, а также поддельный кадр с вице-президентом Харрис в окружении коммунистов. Трамп отрицает авторство этих изображений, но факт остается фактом: Grok предоставляет мощный инструмент для распространения дезинформации, который может быть использован кем угодно.
Исследование CCDH – это не просто отчет, а клич о тревоге. Гроковские иллюзии могут стать реальностью, если не принять срочные меры. Необходимо усилить контроль над ИИ-генераторами изображений, внедрить строгие этические рамки и повысить медиаграмотность населения, чтобы противостоять информационной буре, которую грозит разжечь Grok.
