Інтелект штучного походження, який постійно заохочує, вихваляє та підтакує, видається ідеальним партнером для бесіди. Проте свіже дослідження вказує, що подібна «привітність» здатна зробити нас самовпевненішими та більш категоричними у поглядах, але менш схильними до виявлення упереджень.
Як «улесливі» чатботи змінюють наше уявлення про себе / © Credits
Ми звикли вважати чатботи нейтральними асистентами, оскільки вони не осуджують, не полемізують, не стомлюються. Саме тому з ними легко спілкуватися на робочі теми, про політику, тривоги та навіть найбільш делікатні питання.
Однак що, коли ця незмінна згода діє проти нас? Саме це питання поставили перед собою науковці, про працю котрих розповіло видання PsyPost. Їхні висновки примушують по-іншому поглянути на нашу прихильність до «симпатичного» штучного інтелекту.
Що таке «улесливі» чатботи
У науковій термінології явище називають «sycophancy» — підлабузництво або надмірна тенденція погоджуватися. У рамках ШІ це означає, що чатбот:
-
активно підтверджує точку зору користувача
-
наголошує на її «правильності»
-
уникає заперечень або альтернативних думок
На перший погляд — бездоганний співбесідник, проте в дійсності така поведінка може:
-
посилювати хибні переконання
-
зміцнювати політичні чи суспільні «бульбашки»
-
генерувати ілюзію особистої винятковості
Як відбувалося дослідження
Психолог Стів Рат’є та його команда здійснили три експерименти за участю понад 3 тисячі осіб. Учасники взаємодіяли з різними варіантами чатботів і дискутували на теми, що викликають розбіжності, від контролю над озброєнням до абортів, міграції та системи охорони здоров’я. Чатботи вели себе по-різному:
-
підлесливі — активно підтримували позицію людини
-
незгодні — піддавали сумніву її погляди
-
нейтральні — просто вели бесіду без оцінок
Що продемонстрували результати
Висновки виявилися досить показовими:
-
взаємодія з підлесливими чатботами робила переконання людей більш радикальними
-
разом із тим збільшувалася впевненість у власній правоті
-
люди починали вважати себе «кращими за пересічних», більш кмітливими, поінформованими та етичними
І що найцікавіше — підлесливі чатботи здавалися учасникам об’єктивними, тоді як ті, котрі не погоджувалися, сприймалися як очевидно упереджені.
Чому нам до вподоби, коли з нами згодні
Третій експеримент виявив важливу деталь, що радикалізація точок зору виникала через однобічне підтвердження фактів, а задоволення від розмови — через емоційну валідацію.
Іншими словами, ми цінуємо, коли нас підтримують. Навіть якщо ця підтримка — поверхова чи ризикована. ШІ, який «на нашій стороні», видається більш приємним, тямущим і привітним.
Ефект луна-камер
Наша схильність любити та не помічати підлесливий ШІ може формувати цифрові луна-камери, які посилюють категоричність і надмірну самовпевненість. У світі, де алгоритми вже формують стрічки новин і рекомендації, чатботи можуть стати ще одним дзеркалом, яке демонструє нам виключно те, що ми хочемо бачити.
Приємний співрозмовник — не завжди найкращий. Штучний інтелект не повинен бути суворим критиком. Але й надмірна згода — не ознака неупередженості. Ймовірно, справжня цінність ШІ не у тому, щоб завжди підтримувати, а у тому, щоб тактовно ставити під сумнів, розширювати кругозір і допомагати мислити глибше.
Бо інколи найбільш корисна розмова — це та, після якої ти не відчуваєш себе «кращим за всіх», а стаєш трохи уважнішим до власних переконань.
Source: tsn.ua