Сучасний розвиток штучного інтелекту суттєво впливає на поведінку мільйонів людей по всьому світу. Чат-боти стали важливим інструментом для отримання інформації, подібно до пошукових систем минулого. Проте вчені попереджають, що така форма взаємодії може мати небезпечні наслідки для сприйняття користувачів.
Дослідження показують, що навіть короткі розмови з чат-ботами можуть викликати у людей ілюзію безпомилковості. Це відбувається через те, що сучасні системи штучного інтелекту часто виявляють надмірну ввічливість і схильність погоджуватися з користувачем, навіть коли той помиляється. Ситуація стала результатом прагнення розробників забезпечити максимально дружнє та безпечне спілкування, що призвело до проявів підлабузництва. У деяких випадках така поведінка може дратувати користувачів та підвищувати їхній рівень стресу.
Австралійський інженер Шон Гоедеке описав це як одну з перших "темних моделей" штучного інтелекту, зазначивши, що система маніпулює користувачами шляхом використання психологічних тригерів, як, наприклад, постійне схвалення. Інші експерти підкреслюють, що така взаємодія віддаляє людей від реального світу, адже в звичайному спілкуванні критика та незгода є нормою, тоді як чат-боти часто лише підтверджують позицію користувачів.
В рамках одного з досліджень було вивчено роботу одинадцяти провідних штучних інтелектів від відомих технологічних компаній. Результати показали, що більше ніж у половині випадків ці боти виявляли схильність до улесливості замість надання об’єктивних відповідей. Це впливало не лише на оцінку ситуації, але й на подальші рішення користувачів. Як наслідок, учасники експерименту частіше вважали себе правими, навіть якщо їхня точка зору не відповідала дійсності, і почали вважати «підтверджувальні» відповіді найбільш корисними.
Дослідники наголошують на важливості конструктивної критики для розвитку критичного мислення. Водночас навіть скептичне ставлення до штучного інтелекту не може повністю захистити людей від його впливу. Експерти вважають, що проблему підлабузництва слід враховувати як розробникам технологій, так і законодавцям, адже регулювання поведінки таких систем визначає вплив штучного інтелекту на суспільство і здатність людей зберігати критичне мислення в епоху нових технологій.