22.08.2024
Дата публикации
OpenAI продолжает
активную борьбу с попытками использования своих технологий для манипулирования общественным мнением и влияния на политические процессы. Недавно компания заблокировала несколько учетных записей ChatGPT, связанных с иранской операцией по вмешательству в выборы США.
Для этого с помощью ИИ генерировались статьи и публикации в социальных сетях, нацеленные на формирование общественного мнения о предстоящих выборах, однако охват аудитории этой операции остался незначительным.
Этот инцидент стал не первым случаем, когда разработчики ChatGPT принимали меры против злоупотреблений со стороны государств, использующих популярного чат-бота в недобросовестных целях.
В мае 2024 года компания пресекла пять кампаний, направленных на манипуляцию общественным мнением, аналогичным образом используя возможности генеративного ИИ.
В январе OpenAI объявила, что не позволит использовать свою технологию для политической агитации или лоббирования, пока исследователи не получат более полное представление о возможных векторах злоупотреблений и связанных с ними последствиях.
По части ограничений анонсировались запрет как на регистрацию аккаунтов от официальных сотрудников избирательных кампаний, так и создание чатов от имени тех или иных кандидатов.
Но что любопытно, в своём исследовании, выявившем иранскую группу Storm-2035, которая создавала сайты, имитирующие новостные издания, а также разогревала дискуссию между полярно настроенными сообществами в соцсетях (прежде всего, в X), компания OpenAI выяснила — большинство таких публикаций не получило значимого отклика.
Это ещё раз подтверждает, что такие операции, хотя и легко запускаются благодаря инструментам ИИ, редко достигают значительных успехов в привлечении аудитории. Однако по мере приближения выборов и усиления онлайн-дискуссий стоит ожидать больше подобных уведомлений, уверены в компании.
OpenAI продолжает развивать свои модели с учетом вопросов безопасности и активно вмешивается в случаи злоупотребления технологиями, таких как операции по влиянию на общественное мнение.
Несмотря на трудности в отслеживании распространения ИИ-контента, компания сейчас нацелена на масштабное выявление и предотвращение подобных злоупотреблений.
Для этого с помощью ИИ генерировались статьи и публикации в социальных сетях, нацеленные на формирование общественного мнения о предстоящих выборах, однако охват аудитории этой операции остался незначительным.
Этот инцидент стал не первым случаем, когда разработчики ChatGPT принимали меры против злоупотреблений со стороны государств, использующих популярного чат-бота в недобросовестных целях.
В мае 2024 года компания пресекла пять кампаний, направленных на манипуляцию общественным мнением, аналогичным образом используя возможности генеративного ИИ.
В январе OpenAI объявила, что не позволит использовать свою технологию для политической агитации или лоббирования, пока исследователи не получат более полное представление о возможных векторах злоупотреблений и связанных с ними последствиях.
По части ограничений анонсировались запрет как на регистрацию аккаунтов от официальных сотрудников избирательных кампаний, так и создание чатов от имени тех или иных кандидатов.
Но что любопытно, в своём исследовании, выявившем иранскую группу Storm-2035, которая создавала сайты, имитирующие новостные издания, а также разогревала дискуссию между полярно настроенными сообществами в соцсетях (прежде всего, в X), компания OpenAI выяснила — большинство таких публикаций не получило значимого отклика.
Это ещё раз подтверждает, что такие операции, хотя и легко запускаются благодаря инструментам ИИ, редко достигают значительных успехов в привлечении аудитории. Однако по мере приближения выборов и усиления онлайн-дискуссий стоит ожидать больше подобных уведомлений, уверены в компании.
OpenAI продолжает развивать свои модели с учетом вопросов безопасности и активно вмешивается в случаи злоупотребления технологиями, таких как операции по влиянию на общественное мнение.
Несмотря на трудности в отслеживании распространения ИИ-контента, компания сейчас нацелена на масштабное выявление и предотвращение подобных злоупотреблений.
