Дата публикации
Tech Policy Press сайтында жарияланған «The Privacy Challenges of Emerging Personalized AI Services» мақаласында жасанды интеллекттің заманауи технологиялары цифрлық әлемді түбегейлі өзгертіп жатқаны айтылған. Жеке дараландыру — ИИ-ассистенттердің сұраныстарға жауап беріп қана қоймай, пайдаланушылардың қажеттіліктерін алдын ала болжауына мүмкіндік беретін негізгі үрдіске айналды.
Компаниялар пайдаланушылардың талғамы мен қызығушылықтарынан бастап, діни көзқарасы, медициналық жағдайы және жыныстық бағдарын қоса алғанда, кең көлемде деректер жинайды. Мұндай ақпарат жүйелерге аса нақты ұсыныстар жасауға жол ашады, алайда құпиялылықтың жоғалу қаупін де арттырады.
OpenAI, Google және Meta сияқты ірі компаниялар көбірек ақпарат жинау үшін өзара бәсекелесуде. Олар дәстүрлі іздеу жүйесін дамыған дараланған алгоритмдермен біріктіруде.
Ақпаратпен өзара әрекеттесу тәсілі түбегейлі өзгеруде: дәстүрлі сілтеме тізімдерінің орнын енді әлеуметтік контекст пен пайдаланушы қажеттіліктеріне бейімделген жауаптар ұсына алатын чат-боттар басуда.
ИИ-ассистенттер билеттер броньдау, күнтізбені басқару, онлайн-сатып алу және ұсыныс беру сияқты күрделі функцияларды атқаруда. Бұл үшін жүйеге сезімтал деректерге қол жеткізу қажет.
Жиналған деректер көлемі артқан сайын тәуекелдер де өседі: мұндай деректер қызметті жақсартумен қатар, пайдаланушыны манипуляциялау үшін де пайдаланылуы мүмкін. Әрбір онлайн әрекет пайдаланушы туралы нақты, бірақ қауіпті досье жасау көзіне айналады.
Бақылаудың мұндай деңгейі адам еркіндігі мен анонимдігін қауіпке тіреді, әсіресе деректердің таралуы немесе теріс пайдаланылуы тұрғысынан.
Заңнаманың технологияның даму қарқынынан қалып қоюы жағдайды ушықтыруда.
Кейбір компаниялар деректерді деидентификациялау тәсілдерін және қайта сәйкестендіруге жол бермейтін әдістерді әзірлеуде. Бірақ жиналатын дерек көлемінің артуы негізгі мәселе болып қала береді.
"Супер-ассистенттердің" дамуы — адамның бүкіл цифрлық өмірін басқаруға мүмкіндік беретін жүйелер — жеке деректерді пайдалануға қатысты үлкен сұрақ тудырады. Мұндай жүйелердің тиімділігі деректердің дәлдігі мен көлеміне тәуелді.
Мақала авторы Марк Маккарти атап өткендей, егер заңнамалық бақылау болмаса, бұл технологиялар толық цифрлық бақылау жүйесіне айналуы мүмкін. Құпиялылықты қорғау — болашақ цифрлық технологиялар үшін басты сынаққа айналуда.
(мәтін автоматты түрде аударылды)
