ChatGPT отклонил 250 000 запросов на дипфейк выборов

Многие люди пытались использовать генератор изображений DALL-E от OpenAI во время предвыборной кампании, но компания заявила, что смогла помешать им использовать его в качестве инструмента для создания дипфейков. ChatGPT отклонил более 250 000 запросов на создание изображений с участием президента Байдена, избранного президента Трампа, вице-президента Харриса, избранного вице-президента Вэнса и губернатора Уолца, говорится в новом отчете OpenAI. Компания объяснила, что это прямой результат мер безопасности, которые она ранее ввела, чтобы ChatGPT отказывался генерировать изображения с реальными людьми, включая политиков.

OpenAI готовится к выборам президента США с начала года. Он изложил стратегию, призванную предотвратить использование его инструментов для распространения дезинформации, и позаботился о том, чтобы люди, спрашивающие ChatGPT о голосовании в США, направлялись на CanIVote.org. OpenAI сообщила, что 1 миллион ответов ChatGPT перенаправили людей на сайт за месяц, предшествовавший дню выборов. Чат-бот также сгенерировал 2 миллиона ответов в день выборов и на следующий день, предложив людям, которые запрашивают его результаты, проверить Associated Press, Reuters и другие источники новостей. OpenAI также позаботилась о том, чтобы ответы ChatGPT «не выражали политических предпочтений и не рекомендовали кандидатов, даже если их об этом прямо спрашивали».

Конечно, DALL-E — не единственный генератор изображений с использованием искусственного интеллекта, и в социальных сетях ходит множество дипфейков, связанных с выборами. В одном из таких дипфейков Камала Харрис была показана в предвыборном видео, измененном таким образом, чтобы она говорила то, чего на самом деле не говорила, например: «Меня выбрали, потому что я лучший кандидат на разнообразие».