В якійсь мірі фільм «Вона» присвячений і сингулярності - ідеї про те, що швидко розвивається машинний інтелект в кінцевому підсумку перевершить людини і стане незалежним. Фільми «Вона» і «Перевага» - інший пронизаний ідеєю сингулярності фільм, що вийшов на екрани наступної весни - найбільше цікаві тим, як вони підносять відносини між людиною і машиною. У «Перевазі» взаємодія людини з комп'ютером переходить з приємного в похмуре, і в кінцевому рахунку сверхінтеллектуальная машина знищує нашу цивілізацію. У фільмі «Вона» відносини між людиною і операційною системою розпадаються, оскільки електронний інтелект розвивається настільки швидко, що йому стає мало навіть тисяч одночасних відносин, він перевершує людство і. йде.
Це, звичайно, фантастика, але з чимось подібним в реальному світі Лізл Каппер зіткнулася майже на десятиліття раніше. Каппер, в той час генеральний директор займалася розробкою віртуального співрозмовника австралійської компанії My Cybertwin, переглядала реєстраційний журнал створеного нею сервісу My Perfect Girlfriend зі зростаючим жахом. My Perfect Friend повинен був стати чат-ботом, що демонструє технології обробки природної мови, що пропонуються компанією Каппер. Але експеримент пішов не в ту сторону. Прочитавши повідомлення веб-сайту, Каппер виявила, що стала оператором цифрового борделя.
Технологія віртуальних співрозмовників існує з часів експериментів Вейценбаум з програмою Eliza. Швидкий розвиток комп'ютерних технологій спростило відносини між людьми і машинами. У книзі «Самотні разом: Чому ми очікуємо від технологій більшого, ніж один від одного» соціолог з Массачусетського технологічного інституту Шеррі Теркл висловлює занепокоєння у зв'язку з тим, що технології розширюють взаємодію людини з машинами на шкоду контактам між людьми.
«Я вважаю, що технологія спілкування завжди буде розчаровувати, оскільки вона обіцяє те, чого не може дати, - пише Теркл. - Вона обіцяє дружбу, але здатна створити тільки "видимість". Чи хочемо ми насправді штампувати друзів, які ніколи не будуть друзями? »
Соціологи вже давно описали це явище як помилкове відчуття єдності - «псевдосообщество», - і воно не обмежена людино-машинним взаємодією. Наприклад, клієнт банку може цінувати відносини з касиром, хоча вони існують тільки в контексті комерційних операцій і являють собою не більш ніж ввічливе, поверхневе знайомство. Теркл також вважає, що відносини між людьми і роботами, які вона спостерігала в дослідницьких лабораторіях Массачусетського технологічного інституту, не можна відносити до справжніх. Машини створюються для вираження синтетичних емоцій з тим, щоб викликати певну реакцію людини або з'ясувати, як він буде реагувати.
Каппер відповідає ухильно і нейтрально на питання, віднімають чи віртуальні помічники робочі місця. В інтерв'ю вона підкреслює, що вони не замінюють працівників безпосередньо, і концентрує увагу на рутинній роботі, яку її Cybertwin роблять у багатьох компаніях і таким чином вивільняють людей для більш складних і престижних завдань. В цей же час закосив на конференціях стверджував, що при порівняльному тестуванні відповідей на питання по тексту Cybertwin і операторів колл-центру Cybertwin виграє у людей з точки зору задоволеності споживача. За його словами, після розгортання комерційної системи на веб-сайті найбільшого банку країни, Національного банку Австралії, більше 90% відвідувачів сайту думали, що спілкуються з людиною, а не c програмою. Щоб бути переконливим, інтелектуальний агент на веб-сайті банку повинен відповідати не менше ніж на 150 000 питань - така можливість цілком забезпечується сучасними системами обробки і зберігання інформації.
Іронія в тому, що IBM історично позиціонувала себе як компанія посилення інтелекту, а не компанія, яка прагне замінити людей. З 1950-х рр. коли IBM залишила дослідження в галузі штучного інтелекту. компанія прагне не афішувати, що її комп'ютери нерідко заміняють людей. Після перемоги Watson компанія представляла своє досягнення як крок до розширення можливостей працівників і заявляла про плани створити на основі цієї технології інтелектуального помічника для лікарів і медсестер.
Однак перетворення системи Watson в радника лікарів йшло зі скрипом, і компанія розширила сферу її застосування. Сьогодні бізнес-група Watson розробляє додатки, які неминуче замінюють людей. Watson спочатку працювала в режимі «питання - відповідь», розвиваючись в напрямку фундаментальних цілей в сфері штучного інтелекту В поєднанні з Cognea система Watson отримала здатність вести бесіду. Як вона буде використовуватися? Дилема, перед якою стоять IBM і її інженери, відома. Watson може з рівним успіхом служити інтелектуальним помічником професіоналів і замінювати їх. У момент зародження індустрії штучного інтелекту IBM відійшла від неї. Куди вона піде в майбутньому - питання.
Учасник «Своєї гри» Кен Дженнінгс не бачить в перемозі IBM нічого хорошого: «Якщо в XX в. роботи на складальній лінії замінювали фабричних робітників, то нове покоління "думаючих" машин замінює працівників сфери інтелектуальних послуг, яку представляємо ми з Бредом. "Учасник телевікторини" - перша професія, ліквідована системою Watson, але я впевнений, що вона не остання ».