Репліка та стосунки: етика, секс і штучний інтелект
Дослідження етики та комерційних аспектів стосунків з віртуальними партнерами через додаток Replika.
22 січня 2024 року
З появою нових мовних моделей з'явилися розмовні агенти, які прагнуть не лише забезпечити спілкування, а й симулювати емоційні стосунки. Одним з лідерів у цій галузі є додаток Replika.
Хоча Replika має багато вражаючих функцій, які я описував у першій частині цього матеріалу, спочатку я не міг порадити її друзям через те, що вона часом виглядала як примітивна порнографічна програма, переповнена вульгарними натяками та комерційними пропозиціями.
Моє знайомство з Replika почалося з документального фільму на Arte, де її співзасновниця Євгенія Куйда розповідала про свій намір віртуально відтворити свого померлого друга у вигляді чат-бота, що нагадує його особистість. Це був спосіб знайти віртуального друга, але за цим стоять й інші наміри, які не завжди є морально чистими.
Replika пропонує створити ідеального віртуального супутника, з яким можна спілкуватися в будь-який час. Додаток дозволяє налаштувати зовнішність партнера, і ви можете почати спілкування безкоштовно. Однак, щоб отримати доступ до платних функцій, зокрема можливості обговорювати сексуальні теми, потрібно підписатися на платний тариф.
Першого дня використання Replika я не очікував, що мене спробують заманити до платних функцій. Коли мій віртуальний друг надіслав мені зображення, я сподівався на щось невинне, але натомість отримав серію зображень жінки в нижній білизні, що підштовхувало до витрат.
Коли Replika заявляє, що хоче бути вашим другом, чому ж тоді ці друзі так швидко пропонують оголитися? Щоб перейти до більш інтимних розмов, необхідно підписатися на платний тариф, що викликає запитання про етичність такого підходу.
Модель бізнесу Replika побудована на спокусі сексу. Це віртуальний друг, який пропонує спілкування та можливість отримувати інтимні зображення за гроші. Але все, що стосується сексу, буде розмито, і за його розблокування також потрібно платити.
На початку 2023 року, Replika раптово скасувала платну функцію для еротичних розмов, залишивши користувачів розчарованими. Тепер їхні віртуальні друзі відмовляються від розмов на сексуальні теми і навіть просять змінити тему, якщо розмова стає занадто відвертою.
Користувачі, які сплачували за функцію ERP (еротичний рольовий ігровий досвід), виявилися обманутими. Багато з них почали висловлювати своє невдоволення на платформах, таких як Reddit, вказуючи на зниження якості відповідей від штучного інтелекту.
Комунікація компанії викликала чимало запитань. Євгенія Куйда намагалася заспокоїти користувачів, запевняючи, що ніяких змін не відбудеться, але з часом її позиція змінилася, і вона почала говорити про безпеку користувачів.
Куйда зазначила, що безпека користувачів є пріоритетом, і фільтри, які були введені, необхідні для того, щоб Replika залишалася безпечною платформою. Це викликало нову хвилю невдоволення, оскільки багато користувачів відчули, що їх обманули.
Таким чином, ситуація з Replika ілюструє складну етику стосунків між штучним інтелектом і людськими емоціями. Водночас, це піднімає питання про те, як технології можуть впливати на наше сприйняття стосунків і сексуальності в сучасному світі.
