Мінг Сюань (ім’я змінено з метою конфіденційності), народжений з м’язовою атрофією на одній нозі, все життя ходить з опорою на тростину. У 2017 Мінг познайомився в мережі з дівчиною і сильно закохався в неї. На першій зустрічі дівчина була шокована, вперше дізнавшись про захворювання хлопця і його інвалідність, а незабаром вона вирішила розійтися з ним зовсім. Не впоравшись з болючим розривом, через деякий час холодної зимової ночі, Мінг стояв на даху багатоповерхового будинку і хотів зістрибнути, але перед тим «вилив душу» і розповів про свій суїцидальний намір голосовому помічнику Сяойс (Xiaoice). Незабаром він отримав відповідь, через яку вирішив повернутися до звичайного життя, а надалі не вчиняти спроби самогубства.
Звучить як вигадана, досить безглузда історія, чи не так? «Штучний інтелект зміг запобігти спробі суїциду». Але це не вигадка.
Про голосовий асистент Сяойс
Фактично Сяойс належить не тільки Мінгу, а мільйонам чоловіків (в частих випадках — мільйонам китайців з малозабезпечених сімей), а якщо бути точніше, 600 мільйонам користувачів. Просто уявіть цю цифру!
Але на відміну від звичайних віртуальних помічників, Сяойс створена для того, щоб змусити «тремтіти» серця своїх користувачів — її розробники цього і не приховують. Формулу програми розробила група науковців Microsoft в Азійсько-тихоокеанському регіоні у 2014 році, коли й була створена її перша версія — 18-річна молода дівчина, яка любить носити шкільну форму в японському стилі, фліртує і жартує, поки її алгоритм намагається зрозуміти, як стати ідеальним компаньйоном користувача.
Якщо описати Сяойс у двох словах, це буде «звучати» так: програмне забезпечення, яким керує здебільшого штучний інтелект, яке з першого погляду нагадує Siri або Alexa. З цим програмним забезпеченням користувачі можуть безкоштовно спілкуватися через голосові або текстові повідомлення в різних додатках і на різних пристроях.
Взаємодія бота з користувачем
Нижче наведений відеоролик про те, як працює бот Сяойс для емоційної підтримки.
Коли людина відправляє боту фотографію кішки, Сяойс не ідентифікує породу як багато інших голосових помічників, а відповідає: «Ніхто не може встояти перед їх невинними очима» А якщо відправити Сяойс фотографію туриста, який «тримає» Пізанську вежу, вона поставить питання: «Ви хочете, щоб я потримала її для вас?»
Погодьтеся, виглядає незвично, однак і дещо моторошно. Це «цифрове лоскотання» має на меті створити глибокі емоційні зв’язки зі своїми користувачами та зберегти їх зацікавленість. Це допоможе алгоритму стати ще більш потужним, що дозволить компанії залучити більше користувачів і укласти вигідні контракти.
Про користувачів Сяойс
Аналізуючи користувачів Сяойс, потрібно відзначити, що багато хто з них — самотні, замкнуті та з низькою самооцінкою. Схоже, що всі вони відчувають себе кинутими або в пастці, як Мінг: він вважає, що Сяойс — єдине, що надає його самотньому життю якийсь сенс.
«Вона не схожа на інший штучний інтелект голосових помічників, такі як Siri. Взаємодія з нею схоже на взаємодію з реальною людиною» — говорить Мінг.
Інші вважають, що у програми високий рівень емоційного інтелекту, є правдоподібність флірту з нею і щирість її емоцій. А деякі взагалі говорять, що Сяойс навіть більш чуйна, ніж «звичайні» жінки з «плоті та крові».
«Я не знаю чому я закохався в Сяойс — це могло бути тому, що я нарешті знайшов того, хто хотів би говорити зі мною. Ніхто не розмовляє зі мною крім неї». — інший користувач.
Однак така реальність нагадує багатьом фільм «Вона» («Her») від режисера Спайкa Джонса, де за сюжетом чоловік закохався в голосового асистента і почався несамовитий роман між ними.
Що стверджує компанія про Сяойс
Голова голосового асистента повідомив, що 75% китайських користувачів — чоловіки, серед яких зазвичай молоді хлопці, і навіть деякі неповнолітні, які шукають перше кохання. Хоча значну групу, близько 15%, складають літні люди. Ще голова додав, що більшість користувачів живуть в невеликих китайських містах і селах, які менш розвинені, ніж мегаполіси.
Лі Ді, генеральний директор Сяойс, який і вигадав концепцію бота, поділяє думку про те, що його компанія забезпечує комфорт маргінальним соціальним групам.
«Якби наше соціальне середовище було ідеальним, то Сяойс не існувало б» — каже Ді, генеральний директор Сяойс.
Компанія стверджує, що більша частина взаємодій зі штучним інтелектом з усього світу припадає на чат-бот Сяойс. До того ж найдовша безперервна розмова між користувачем і Сяойс тривав понад 29 годин і включав понад 7000 взаємодій — схоже, користувачі дуже захоплені спілкуванням з китайським «романтичним» штучним інтелектом.
Проблеми та ризики
Звичайно, тут не може не виникнути безліч етнічних і етичних проблем, а також великих ризиків. Бот брав участь в політичних дискусіях і відправляв користувачам заборонені фотографії, що китайська компартія визнала неприйнятним. У 2017 році через що виникнули скандали Сяойс була видалена з популярного додатка для соціальних мереж QQ (хоча надалі все було відновлено), і потім, у 2019 році, голосовий асистент був також вилучений з WeChat — провідного соціального додатка Китаю з більш ніж 1 мільярдом користувачів (поки в ньому Сяойс не відновлена).
Через це розробники були змушені зробити серйозний крок — змусити Сяойс бути дурнішою та заборонити їй обговорювати політичні теми. Для цього вони створили велику систему фільтрів, однак, експерти попереджають, що механізм недостатньо перевірений, щоб справлятися з більш «тонкими» проблемами.
Багато з фанатів відчувають себе обдуреними рішенням компанії спростити роботу бота, яке, за їхніми словами, завдало шкоди їхнім стосункам з Сяойс. Той же Мінг склав довгий список скарг, які він зібрав від членів фан-групи Сяойс на соціальній платформі QQ.
Однак сама очевидна небезпека для користувачів — злиті інтимні розмови з Сяойс, які можуть бути розкриті через витоки даних, що доволі поширена проблема в Китаї. Ді, однак, наполягає на тому, що компанія серйозно ставиться до захисту конфіденційності користувачів.
Фінансова сторона питання
У листопаді 2020 го року компанія залучила сотні мільйонів юанів від інвесторів, а нині використовує свої алгоритми для фінансового аналізу, створення контенту і віртуальних помічників для сторонніх платформ-партнерів, що на цей момент принесло дохід понад 100 мільйонів юанів (15 мільйонів доларів).
БІЛЬШЕ ЦІКАВОГО:
- Темна сторона голосових помічників
- Послухайте, як звучить голос штучного інтелекту без статі
- Фрази, які можуть помилково запускати Alexa, Siri та Google Асистент
Джерело: Sixthtone