Штучний інтелект тихо проникає, криптографія стає останньою лінією оборони?

Криптографічно підтверджене доведення людяності, можливо, дозволить нам відновити справжню комунікацію та знову зрозуміти, що насправді думають і відчувають реальні люди.

Автор: Byron Gilliam

Переклад: AididiaoJP, Foresight News

Онлайн-опитування стикаються з серйозною кризою «AI-ботів». Зараз до 30% відповідей у таких опитуваннях надходить від автоматизованих програм на основі AI, а не від справжніх людей. Ці «AI-боти» заради фінансової винагороди або з метою маніпулювання громадською думкою та втручання у вибори масово забруднюють дані, що ставить під загрозу достовірність результатів досліджень у таких сферах, як економіка, громадське здоров’я та політичні науки.

У довгостроковій перспективі криптографічні технології на основі блокчейну (криптографічне доведення людяності) можуть стати єдиним шляхом до відновлення справжньої комунікації. Вони дозволяють перевірити, що на іншому кінці мережі — справжня людина, тож ми знову зможемо чути «реальні» голоси, а не імітації машин.

Іноді потрібно знати, що насправді думають люди, а не отримувати імітацію людських відповідей.

«Ми виявили, що найбільший ворог комунікації — це ілюзія комунікації».

—— Вільям Вайт

Останні онлайн-дослідження показують, що AI-боти виявляють особливу схильність до «ризикованої сексуальної поведінки».

Це — самозвіти AI-ботів у опитуваннях. Але результати самозвітних досліджень ненадійні — хто знає, як ці AI-боти діють насправді?

У будь-якому разі, це вже стало серйозною проблемою: AI ускладнює нам розуміння реальних тенденцій серед людей.

Дослідники в економіці, громадському здоров’ї, споживчих звичках і політичних науках завжди покладалися на опитування для розуміння людської поведінки.

Зараз, коли телефонні опитування залишаються без відповіді, всі ці дослідження повністю перейшли в онлайн.

Але виявилося, що AI набагато активніше бере участь в онлайн-опитуваннях, ніж люди.

Чому вони такі активні?

Головний мотив — гроші.

Щоб компенсувати постійне зниження рівня відповідей, дослідники почали платити користувачам за участь в опитуваннях — іноді до 5 доларів за одне опитування.

Це породило нову проблему: жителі країн з низьким рівнем доходу видають себе за респондентів із багатих країн, адже 5 доларів для них — значна сума.

Заповнення одного опитування на 5 доларів займає 15-20 хвилин, і якщо постійно шукати такі платні опитування, погодинна оплата виходить не дуже вигідною.

Але для AI весь процес займає лише кілька секунд, і винагорода у 5 доларів значно перевищує вартість кількох секунд обчислень у дата-центрі.

Ще більш тривожно, що боти можуть спотворювати результати опитувань для втручання у вибори або навмисно створювати інформаційну асиметрію для дестабілізації геополітичних суперників.

Якими б не були мотиви, дані показують, що AI вже займає 30% відповідей в онлайн-опитуваннях — цього достатньо, щоб зробити результати беззмістовними.

Ще серйозніше — 37% інтернет-трафіку припадає на шкідливих «атакуючих ботів».

З такою величезною кількістю шкідливих ботів і неефективністю захисту через капчу, ринок маркетингових досліджень вартістю 1200 billions доларів перебуває під серйозною загрозою.

Дослідники все ще можуть застосовувати інші захисні стратегії: наприклад, використовувати «пастки» — питання, які не помітні для людей, щоб відсіяти AI, або фільтрувати аномальні відповіді.

Але це, зрештою, гра в кішки-мишки — боти все одно пристосуються до нових правил.

Більш радикальне рішення — відмовитися від пошуку справжніх респондентів: проєкт «штучне суспільство» пропонує замінити людей у дослідженнях на тренованих біонічних AI.

Замість шкідливих (або випадкових) ботів використовуються професійно розроблені прогностичні боти, які «завдяки набору AI-персонажів виконують експеримент, що раніше займав місяці, за кілька хвилин».

Цей підхід ефективний для тестування нових маркетингових кампаній або прогнозування того, як аудиторія Середнього Заходу сприйме новий смак чипсів (наприклад, зі смаком гарбузових спецій).

Але що, якщо мова йде про такі важливі події, як президентські вибори?

Це питання варте глибокого осмислення: зараз рівень відповідей на телефонні опитування впав нижче 5%, і онлайн-опитування стали основним способом з’ясувати:

1) Намір голосування громадян

2) Мотиви голосування

Вражаюча точність прогнозів prediction market щодо виборів часто змушує думати, що традиційні опитування вже не потрібні.

Але самі prediction market все ще залежать від даних опитувань: той французький трейдер, який зробив точний прогноз на Polymarket, поставив на Трампа лише після отримання ексклюзивних даних опитувань.

Ці опитування, звісно, проводяться онлайн, і якщо тенденція збережеться, до 2028 року такі дані можуть повністю втратити цінність через забруднення ботами, а prediction market теж перестануть працювати.

Ще важливіше: якщо опитувальні агентства не зможуть зрозуміти мотиви виборців, політики не зможуть бути справжніми представниками народу.

Створення набору AI-персонажів тут не допоможе — як вони зможуть уловити мінливі думки людей?

AI може тренуватися лише на вже наявних даних, а найважливіші змінні у виборах — це саме ті нові фактори, які роблять кожні вибори унікальними.

Для таких важливих подій, як президентські вибори, лише прямий контакт із реальними людьми є надійним.

Можливо, незабаром у нас залишиться лише останній рубіж: криптографічні технології на основі блокчейну.

Поширення криптографічного доведення людяності відбувається повільно. Наприклад, пропозиція Worldcoin щодо сканування райдужки ока не знайшла широкої підтримки — можливо, тому, що більшості байдуже, чи є творець онлайн-контенту людиною чи машиною.

Але для розробників опитувань це важливо: іноді потрібно знати справжню думку людей, а не імітацію відповідей.

Якщо онлайн-опитування — це форма масової комунікації, то опитування, згенеровані AI, — це лише ілюзія комунікації.

Криптографічно підтверджене доведення людяності, можливо, дозволить нам відновити справжню комунікацію та знову зрозуміти, що насправді думають і відчувають реальні люди (наскільки це взагалі можливо).

Ця технологія повинна стати майже універсальною: опитування лише серед тих, хто обміняв райдужку ока на токени, очевидно, не буде репрезентативним.

Також потрібно створити достатній рівень довіри, щоб люди були готові ділитися приватною інформацією із системою, яка гарантує безпеку та конфіденційність.

Але до того часу ефективна комунікація між людьми може ставати дедалі складнішою.