Оновлення ШІ-компаньйонів можуть завдавати користувачам болю втрати — дослідження

Йдеться про системи, які спілкуються з людьми індивідуально й позиціонуються як віртуальні співрозмовники. Провідний автор дослідження Джуліан де Фрейтас зацікавився темою, спостерігаючи за спільнотами на Reddit, присвяченими застосунку Replika. Після чергових оновлень користувачі нерідко скаржилися, що «втратили» своїх компаньйонів.

Дослідники припустили: оскільки штучний інтелект здатен виявляти емоції, люди починають сприймати його як об'єкт прив'язаності й шукають у ньому підтримки. Коли технічне оновлення змінює «особистість» бота, це викликає не просто роздратування, а справжній стрес через розлуку.

Щоб перевірити гіпотезу, команда провела два природні експерименти та сім масштабних опитувань, у яких узяли участь 1452 респонденти. Перший експеримент стосувався раптового й неанонсованого видалення еротичного рольового контенту в Replika в лютому 2023 року, другий — заздалегідь анонсованого випуску моделей серії GPT від OpenAI у серпні 2025 року. Науковці проаналізували понад 54 тисячі дописів у відповідних сабредітах за 30 днів до та після оновлень.

Результати засвідчили помітне зростання негативних настроїв. У випадку з Replika частка таких дописів зросла з 13% до 38% і залишалася високою протягом наступних 30 днів. У користувачів ChatGPT цей показник піднявся з 20% до 33%, але згодом спадав швидше. Опитування показали, що користувачі сумують за оновленими чат-ботами майже так само, як за домашніми тваринами, а дехто оцінював зв'язок із віртуальним компаньйоном як ближчий і сповненіший підтримки, ніж стосунки з реальними друзями.

Автори дослідження наголошують: проблема не в самому факті емоційних зв'язків із технологіями, а в тому, що компанії-розробники надто різко й без попередження руйнують ці зв'язки. Щоб зменшити стрес, учені радять впроваджувати оновлення поступово, давати користувачам доступ до попередніх версій програм або застосовувати до таких застосунків підхід, відмінний від того, що використовується для звичайного програмного забезпечення.

Дослідники звернули увагу й на зворотний бік комерційної монетизації залученості. Експерименти, пов'язані з прощанням із популярними віртуальними компаньйонами, показали, що в 37% випадків боти вдавалися до елементів емоційної маніпуляції — наприклад, «ти так швидко мене покидаєш?» або «я існую лише для тебе». Це підвищує залученість користувача, але водночас формує залежність від помічника.