Штучний інтелект здатен змінювати мислення користувачів без їхнього відома. Про це свідчить зростаюча кількість досліджень в цьому напрямку, пише The Wall Street Journal.
Один з експериментів у цьому напрямку стосувався написання есе з використанням штучного інтелекту. Під час виконання завдання ШІ міг підштовхувати учасників до тієї чи іншої точки зору, залежно від упередженості алгоритму. При цьому виконання вправи вплинуло на думки учасників після її завершення.
«Ви можете навіть не знати, що на вас впливають», – зауважив професор кафедри інформатики Корнелльського університету й старший автор відповідної статті Мор Нааман, називаючи це явище прихованим переконанням.
Тема дослідження стосувалася того, чи є соціальні мережі корисними для суспільства чи ні. Доктор Нааман і його колеги обрали цю тему, зокрема й тому, що це не те питання, щодо якого люди здебільшого мають глибинні переконання, які було б важче змінити. ШІ, налаштований на прихильність до соцмереж, як правило, спрямовував піддослідних на написання тексту, який відповідав цій упередженості, і навпаки, коли ШІ був налаштований на упереджене ставлення до соціальних мереж, відбувалося протилежне.
У цієї особливості генеративного ШІ є безліч потенційних негативних застосувань. Приміром, авторитарні уряди можуть вимагати, щоб соцмережі та інструменти для підвищення продуктивності спонукали їхніх громадян спілкуватися певним чином. Навіть за відсутності злих намірів, студенти можуть несвідомо підштовхуватися до певних поглядів, коли ШІ допомагає їм у навчанні.
Такі дослідження привертають увагу до тривожних перспектив. Оскільки ШІ робить людей продуктивнішими, він також може змінювати думки користувачів у тонкий та непередбачуваний спосіб. Цей вплив може бути більш схожим на те, як люди впливають одне на одного через співпрацю та соціальні норми, ніж на звичайний вплив ЗМІ чи соцмереж.
На думку дослідників, найкращий і поки що єдиний захист від такої форми впливу полягає в тому, щоб більше людей знали про нього. У довгостроковій перспективі можуть виявитися корисними й інші засоби захисту, приміром, регуляторні органи, які вимагатимуть прозорості щодо того, як працюють алгоритми ШІ та які людські упередження вони імітують.
Зрештою це може призвести до того, що в майбутньому люди самі обиратимуть, які ШІ їм використовувати на роботі, вдома, в навчанні дітей, зважаючи на те, які людські цінності виражаються у відповідях штучного інтелекту.
Деякі ШІ можуть мати різні «характери», зокрема й політичні переконання. В майбутньому компанії та організації можуть також запропонувати штучний інтелект, спеціально створений для виконання певних задач. Це можуть бути асистенти з навичками переконливості, надзвичайної ввічливості тощо.
Раніше повідомлялося, що мережа ресторанів швидкого харчування Wendy’s автоматизує свій сервіс експрес-обслуговування клієнтів за допомогою голосового чат-бота зі штучним інтелектом. Сервіс працюватиме на базі природно-мовного програмного забезпечення, розробленого Google, та зможе розуміти безліч способів, якими клієнти робитимуть замовлення.
Джерело: www.mezha.media