22.08.2024 16:04:00
Дата публикации
OpenAI қоғамдық пікірді манипуляциялау және саяси процестерге ықпал ету үшін өз технологияларын пайдалану әрекеттерімен белсенді күресуді жалғастыруда. Жақында компания Иранның АҚШ сайлауына араласу операциясына байланысты ChatGPT бірнеше есептік жазбасын тоқтатты.
Бұл үшін AI әлеуметтік желілерде алдағы сайлау туралы қоғамдық пікірді қалыптастыруға бағытталған мақалалар мен жарияланымдарды жасау үшін пайдаланылды, бірақ бұл операцияның аудиториясының қол жетімділігі шамалы болып қалды.
Бұл оқиға ChatGPT әзірлеушілерінің үкіметтердің танымал чатботты қаскүнемдік мақсатта пайдаланатын теріс әрекеттеріне қарсы әрекет жасаған бірінші оқиға емес.
2024 жылдың мамырында компания генеративті AI күшін пайдалана отырып, қоғамдық пікірді манипуляциялауға бағытталған бес науқанды тоқтатты.
Қаңтарда OpenAI зерттеушілер теріс пайдаланудың ықтимал векторлары мен соған байланысты салдарларды жақсырақ түсінбейінше, өзінің технологиясын саяси науқан немесе лобби үшін пайдалануға рұқсат етпейтінін жариялады.
Шектеулердің бір бөлігі ретінде ресми сайлау науқаны қызметкерлерінің аккаунттарын тіркеуге де, белгілі бір кандидаттар атынан чаттар жасауға да тыйым салынды.
Бір қызығы, жаңалық басылымдарына еліктейтін веб-сайттар жасаған, сондай-ақ әлеуметтік желілерде (ең алдымен X-де) поляризацияланған қауымдастықтар арасында пікірталас тудырған ирандық Storm-2035 тобын анықтаған зерттеуінде OpenAI бұл басылымдардың көпшілігін анықтады. мәнді жауап ала алмады.
Бұл AI құралдарының арқасында мұндай операциялар оңай іске қосылса да, аудиторияны тартуда айтарлықтай табысқа сирек жететінін растайды. Дегенмен, сайлау жақындаған сайын және онлайн пікірталастар күшейген сайын, біз мұндай хабарламаларды көбірек күтуіміз керек, компания сенімді.
OpenAI қауіпсіздік мәселелерін ескере отырып, өз үлгілерін дамытуды жалғастыруда және әсер ету операциялары сияқты технологияны теріс пайдалану жағдайларына белсенді түрде араласады.
AI мазмұнының таралуын қадағалаудағы қиындықтарға қарамастан, компания қазір ауқымды түрде мұндай теріс пайдалануды анықтауға және алдын алуға бағытталған.
(мәтінді аудару автоматты түрде жүзеге асырылады)
Бұл үшін AI әлеуметтік желілерде алдағы сайлау туралы қоғамдық пікірді қалыптастыруға бағытталған мақалалар мен жарияланымдарды жасау үшін пайдаланылды, бірақ бұл операцияның аудиториясының қол жетімділігі шамалы болып қалды.
Бұл оқиға ChatGPT әзірлеушілерінің үкіметтердің танымал чатботты қаскүнемдік мақсатта пайдаланатын теріс әрекеттеріне қарсы әрекет жасаған бірінші оқиға емес.
2024 жылдың мамырында компания генеративті AI күшін пайдалана отырып, қоғамдық пікірді манипуляциялауға бағытталған бес науқанды тоқтатты.
Қаңтарда OpenAI зерттеушілер теріс пайдаланудың ықтимал векторлары мен соған байланысты салдарларды жақсырақ түсінбейінше, өзінің технологиясын саяси науқан немесе лобби үшін пайдалануға рұқсат етпейтінін жариялады.
Шектеулердің бір бөлігі ретінде ресми сайлау науқаны қызметкерлерінің аккаунттарын тіркеуге де, белгілі бір кандидаттар атынан чаттар жасауға да тыйым салынды.
Бір қызығы, жаңалық басылымдарына еліктейтін веб-сайттар жасаған, сондай-ақ әлеуметтік желілерде (ең алдымен X-де) поляризацияланған қауымдастықтар арасында пікірталас тудырған ирандық Storm-2035 тобын анықтаған зерттеуінде OpenAI бұл басылымдардың көпшілігін анықтады. мәнді жауап ала алмады.
Бұл AI құралдарының арқасында мұндай операциялар оңай іске қосылса да, аудиторияны тартуда айтарлықтай табысқа сирек жететінін растайды. Дегенмен, сайлау жақындаған сайын және онлайн пікірталастар күшейген сайын, біз мұндай хабарламаларды көбірек күтуіміз керек, компания сенімді.
OpenAI қауіпсіздік мәселелерін ескере отырып, өз үлгілерін дамытуды жалғастыруда және әсер ету операциялары сияқты технологияны теріс пайдалану жағдайларына белсенді түрде араласады.
AI мазмұнының таралуын қадағалаудағы қиындықтарға қарамастан, компания қазір ауқымды түрде мұндай теріс пайдалануды анықтауға және алдын алуға бағытталған.
