04.06.2026
Дата публикации
Искусственный интеллект всё глубже проникает в повседневную жизнь — от рекомендаций фильмов до кредитных решений. Но вместе с удобством растут риски для цифровых прав человека.
В интервью изданию
Современные алгоритмы требуют огромных массивов информации. Пользователи ежедневно оставляют цифровой след — покупки, фото, геолокацию, банковские операции. Эти данные формируют основу для обучения нейросетей.
«Закон РК «Об искусственном интеллекте» прямо относит системы ИИ к объектам информатизации. При любом взаимодействии происходит обмен данными, в том числе персональными», — отметил эксперт EDF.
ИИ способен помочь в усилении безопасности:
- выявлять мошенничество,
- блокировать вирусы,
- предотвращать кибератаки.
Но те же технологии используют злоумышленники — для создания дипфейков, поддельных сайтов и убедительных фишинговых писем.
По словам эксперта, решение проблемы лежит не в запрете технологий, а в повышении устойчивости пользователей:
«Чтобы повысить безопасность, необходимы три элемента — цифровая грамотность, критическое мышление и системная осведомлённость об угрозах».
Ключевым правом остаётся возможность знать, кто собирает данные и зачем. В реальности экосистемы включают десятки сервисов, обменивающихся информацией. Пользователь видит лишь результат — рекламу или рекомендацию, но не понимает, как система пришла к этому решению. Поэтому усиливаются требования к прозрачности: компании обязаны объяснять принципы обработки и давать больше инструментов контроля.
Не менее важно право на жалобу. Ошибки алгоритмов могут блокировать доступ к сервисам или формировать некорректные рейтинги.
«Системы ИИ не просто обрабатывают данные, они создают новые векторы угроз, о которых пользователи даже не подозревают. Одним из наиболее серьёзных является риск «инвертирования модели»: данные, на которых обучалась система, могут быть частично восстановлены злоумышленником через направленные запросы», — подчёркивает Елжан.
Таким образом, ИИ одновременно усиливает защиту и открывает новые уязвимости. Сохранение человеческого контроля над ключевыми решениями и развитие правовых механизмов обжалования становятся необходимыми условиями для защиты цифровых прав в эпоху искусственного интеллекта.
В интервью изданию
Youth.kz глава юридической практики Eurasian Digital Foundation Елжан Кабышев предупреждает: персональные данные становятся главным ресурсом эпохи ИИ, а значит — объектом новых угроз. Современные алгоритмы требуют огромных массивов информации. Пользователи ежедневно оставляют цифровой след — покупки, фото, геолокацию, банковские операции. Эти данные формируют основу для обучения нейросетей.
«Закон РК «Об искусственном интеллекте» прямо относит системы ИИ к объектам информатизации. При любом взаимодействии происходит обмен данными, в том числе персональными», — отметил эксперт EDF.
ИИ способен помочь в усилении безопасности:
- выявлять мошенничество,
- блокировать вирусы,
- предотвращать кибератаки.
Но те же технологии используют злоумышленники — для создания дипфейков, поддельных сайтов и убедительных фишинговых писем.
По словам эксперта, решение проблемы лежит не в запрете технологий, а в повышении устойчивости пользователей:
«Чтобы повысить безопасность, необходимы три элемента — цифровая грамотность, критическое мышление и системная осведомлённость об угрозах».
Ключевым правом остаётся возможность знать, кто собирает данные и зачем. В реальности экосистемы включают десятки сервисов, обменивающихся информацией. Пользователь видит лишь результат — рекламу или рекомендацию, но не понимает, как система пришла к этому решению. Поэтому усиливаются требования к прозрачности: компании обязаны объяснять принципы обработки и давать больше инструментов контроля.
Не менее важно право на жалобу. Ошибки алгоритмов могут блокировать доступ к сервисам или формировать некорректные рейтинги.
«Системы ИИ не просто обрабатывают данные, они создают новые векторы угроз, о которых пользователи даже не подозревают. Одним из наиболее серьёзных является риск «инвертирования модели»: данные, на которых обучалась система, могут быть частично восстановлены злоумышленником через направленные запросы», — подчёркивает Елжан.
Таким образом, ИИ одновременно усиливает защиту и открывает новые уязвимости. Сохранение человеческого контроля над ключевыми решениями и развитие правовых механизмов обжалования становятся необходимыми условиями для защиты цифровых прав в эпоху искусственного интеллекта.
