01.10.2025
Дата публикации
На Генеральной Ассамблее ООН в Нью-Йорке был представлен «Глобальный призыв к красным линиям в области ИИ» — открытое письмо, подписанное более чем 200 научными экспертами, включая 10 лауреатов Нобелевской премии.
Авторы обращения требуют от ООН до конца 2026 года установить юридически обязательные ограничения на опасные применения искусственного интеллекта, чтобы предотвратить угрозы для человечества и международной безопасности.
Среди подписантов — пионеры ИИ Джеффри Хинтон и Йошуа Бенджио, сооснователь OpenAI Войцех Заремба, а также представители Anthropic и Google DeepMind. К ним присоединились бывшие главы государств и лауреаты премий мира, химии, экономики и физики.
В письме подчёркивается, что современные ИИ-системы уже демонстрируют признаки обманчивого поведения, получают всё больше автономии и могут быть использованы без должного контроля.
Авторы призывают запретить применение ИИ для управления ядерным оружием, массовой слежки, социального скоринга и замены человека без раскрытия факта использования технологии.
Особое внимание уделено рискам самовоспроизводящихся ИИ-систем, которые могут выйти из-под контроля и нанести необратимый ущерб — от потери рабочих мест до масштабных нарушений прав человека.
Инициатива предлагает создать международный независимый орган, который будет отслеживать соблюдение «красных линий», оценивать новые угрозы и предлагать меры реагирования.
Журналистка и лауреат Нобелевской премии мира Мария Ресса назвала это «поворотным моментом», подчеркнув, что человечество должно действовать до того, как технологии подорвут основы общества.
Несмотря на обещания крупных ИИ-компаний, эксперты отмечают, что добровольные меры недостаточны — необходимы чёткие, проверяемые ограничения на глобальном уровне.
Обращение стало крупнейшей инициативой по регулированию ИИ, и в ближайшие месяцы его положения будут обсуждаться на международных форумах и в рабочих группах ООН.
Авторы обращения требуют от ООН до конца 2026 года установить юридически обязательные ограничения на опасные применения искусственного интеллекта, чтобы предотвратить угрозы для человечества и международной безопасности.
Среди подписантов — пионеры ИИ Джеффри Хинтон и Йошуа Бенджио, сооснователь OpenAI Войцех Заремба, а также представители Anthropic и Google DeepMind. К ним присоединились бывшие главы государств и лауреаты премий мира, химии, экономики и физики.
В письме подчёркивается, что современные ИИ-системы уже демонстрируют признаки обманчивого поведения, получают всё больше автономии и могут быть использованы без должного контроля.
Авторы призывают запретить применение ИИ для управления ядерным оружием, массовой слежки, социального скоринга и замены человека без раскрытия факта использования технологии.
Особое внимание уделено рискам самовоспроизводящихся ИИ-систем, которые могут выйти из-под контроля и нанести необратимый ущерб — от потери рабочих мест до масштабных нарушений прав человека.
Инициатива предлагает создать международный независимый орган, который будет отслеживать соблюдение «красных линий», оценивать новые угрозы и предлагать меры реагирования.
Журналистка и лауреат Нобелевской премии мира Мария Ресса назвала это «поворотным моментом», подчеркнув, что человечество должно действовать до того, как технологии подорвут основы общества.
Несмотря на обещания крупных ИИ-компаний, эксперты отмечают, что добровольные меры недостаточны — необходимы чёткие, проверяемые ограничения на глобальном уровне.
Обращение стало крупнейшей инициативой по регулированию ИИ, и в ближайшие месяцы его положения будут обсуждаться на международных форумах и в рабочих группах ООН.
