Технологічна сингулярність як найближче майбутнє людства
"Протягом найближчих тридцяти років у нас з'явиться технічна можливість створити надлюдський інтелект. Незабаром після цього людська епоха буде завершена."
- Визначення та обґрунтування
-
Принципи прихильників Сингулярності
- Співпраця і незалежність
Всі спроби якось деталізувати вигляд майбутнього виглядають aposteriori сміховинними, якщо не жалюгідними.
Борис Стругацький (зі статті Кирила Єськова).
Зрозуміло, однією тільки обчислювальної потужності мало - потрібно і відповідне програмне забезпечення. Але, як ми бачимо, з цим теж все в порядку: досягли рівня практичної застосовності такі традиційно "інтелектуальні" операції як розпізнавання мови, тексту і інших образів; далекі нащадки "Елізи" - чат-роботи - успішно витримують тест Тьюринга в невибагливих бесідах на рівні "дівчат, необтяжених розумовою діяльністю"; ну і всім вже обридлий приклад Deep Blue, лише трохи не дотягнувши до нічиєї з чемпіоном світу з шахів.
Отже, давайте приймемо в якості робочої гіпотези, що можливості комп'ютерів в найближчому майбутньому перевершать людські. На цьому рівні абсолютно не важливо, чи будуть вони насправді мислити (до речі, а ви можете сказати, що це таке - мислити насправді?), Оскільки результати їх роботи будуть такими ж, як якщо б вони мислили, причому швидше і глибше, ніж люди.
Вперше за всю історію людства ми опинимося в суспільстві істот, більш розумних, ніж ми самі. У романі "Полум'я над безоднею" Виндж називав їх Силами (Powers). Далі я буду для стислості буду періодично користуватися цим терміном.
Перше (і, фактично, єдине) наслідок: ми не зможемо повністю ні зрозуміти, ні передбачити подальший розвиток подій, коли "біля керма" цивілізації встануть не тільки, й не так, а потім і виключно не люди, а сверхінтеллекти. В цьому і полягає зміст запропонованого Віндж терміна "Сингулярність": умови, в яких звичні моделі та подання втрачають свою придатність, і починається щось принципово інше.
Примітка: сингулярність - не синонім нескінченності. Нічогонескінченного не виникне. Хоча з точки зору стороннього спостерігача зміни, швидше за все, будуть виглядати вибуховими, швидше експоненціального зростання, але ніде не гіперболічними. На цьому, в принципі, статтю можна було б і закінчити. Все істотне вже сказано. Але дозволю собі розважити вас демонстрацією деяких найбільш ймовірних шляхів розвитку і їх наслідків.
Схоже, він вгадав, що технологічний етап розвитку цивілізації загалом і в цілому близький до свого завершення. Тільки ось кінця історії це аж ніяк не означає - скоріше навпаки: закінчена Передісторія людства, а справжня-то Історія тільки-тільки починається. Саме інформаційна революція виводить цивілізацію на принципово новий рівень. (Втім, може бути це нове - лише добре забуте старе: "Спочатку було Слово" - а що є Слово, що не Інформація?) Можливо, до речі, що відмінність нинішньої революції від двох попередніх - її "каскадність" - пов'язане саме з властивостями інформації як такої: це Ляпунов, пам'ятається, строго довів, що на інформацію, на відміну від речовини і енергії, не поширюються закони збереження, тобто вона може бути заново створена - або, навпаки, безповоротно втрачена; саме тому Акт Творіння для людини можливий лише в інформаційній сфері - в сферах ж речовини і енергії це прерогатива Деміурга.
Давайте перерахуємо слідом за Вернор Віндж можливі шляхи освіти надлюдського інтелекту.
1. Штучний інтелект
Старий, добрий штучний інтелект. Тут про нього багато говорити, мабуть, не варто; будь-який при бажанні може накопати хоч греблю гати багато серйозних теоретичних і практичних розробок в цій галузі.
Зазначу лише одну цікаву деталь. Коли на зорі розвитку комп'ютерів спроби побудови штучного інтелекту закінчилися великим Нічим, все напрямок втратило більшу частину привабливості, асигнування скоротилися, ентузіасти переповзли на програмування комп'ютерних супротивників в іграх і "помічників" MS Office.
Здавалося б, безвихідь. Якби не одне "але": іншого результату тоді очікувати і не варто було. Ви уявляєте собі обчислювальну потужність комп'ютерів в лабораторіях штучного інтелекту Массачусетського технологічного? Вони були приблизно еквівалентні мозку комахи. І еквівалент інтелекту комахи був отриманий. Потім скорочення асигнувань позбавила змоги оновлювати комп'ютерний парк дослідників в темпі, адекватному можливостям технології. І тільки зараз, коли істотно більші потужності стали доступні практично кожному, слід очікувати подальшого прогресу.
До речі, ви часто граєте в логічні та стратегічні ігри? Ну і як, чи завжди ви виігривате у комп'ютерних супротивників? Тих самих, можливості "мозку" яких в 108 разів слабкіше ваших.
2. Збільшення біологічних можливостей людини
Теж улюблена тема фантастів, тому і про неї багато говорити не варто. Все, в кінцевому підсумку, зводиться або до генної інженерії та євгеніки, або до тонкої кіборгізаціі, що не бере на себе функції нервової системи, а тільки доповнює їх. Рішення непогане, але і дуже туманне. Так, геном людини вже розшифрували (до речі, не без допомоги проекту розподілених мережевих обчислень United Devices), але зрозуміти, які ділянки ДНК за що відповідають - на це потрібні десятиліття наполегливої людської праці. Не кажучи вже про те, що для початку практичного застосування знань будуть потрібні, в кінцевому підсумку, досліди не просто на людях, а на ембріонах. Сучасна мораль до цього не готова, і ще довго готова не буде - он які проблеми виникли навіть з банальним клонуванням без дублювання особистості.
3. Людино-комп'ютерні системи
Основна суть цього підходу - в об'єднанні сильних сторін людини і комп'ютера. Людина використовує інтуїцію, асоціації та своє розуміння процесів. Комп'ютер виконує громіздкі точні розрахунки і розширює ефективний обсяг оперативної і довготривалої пам'яті людини. Хоча окремо ні людина, ні комп'ютер не є Силою, у взаємодії вони цю Силу утворюють. Інший варіант тієї ж ідеї - злагоджена співпраця людей, об'єднаних комп'ютерною мережею.
Цей сценарій найбільш привабливий. Нам не доведеться переламувати моральні принципи і розумні побоювання, як у випадку форсованого біологічного розвитку. Ми не ризикуємо бути витісненими з усіх сфер активного життя штучного інтелекту. Більш того, не потрібно розробляти нічого настільки ж принципово нового, як штучний інтелект або біотехнології - все відбудеться м'яко і непомітно, в процесі природного розвитку.
По суті, на цьому шляху ми вже є надлюдськими інтелект - по крайней мере, деякі з нас, хто вміє ефективно працювати з комп'ютером. Слабкими і вузькоспеціалізованими, але вже вище людського рівня. Деякі іспити вже зараз неможливо здати за розумний час без допомоги калькуляторів. Якщо дати людині комп'ютер з відповідним програмним забезпеченням, він легко досягне вищих результатів в існуючих IQ-тестах. Програми-словники і інтерактивні перекладачі дозволяють людині, не дуже добре знає іноземну мову, спілкуватися цією мовою в чатах практично в реальному часі. Якби у Каспарова була в розпорядженні проста шахова програма-асистент, у Deep Blue не було б жодного шансу. Я вже не кажу про обсяг знань, які практично миттєво виявляються в розпорядженні людини, яка вміє користуватися пошуковими серверами в інтернеті.
Ці приклади можна продовжувати і продовжувати.
Ви не відчуваєте себе сверхінтеллектамі, працюючи за комп'ютером? Особисто ви, як окремі людські істоти, ними і не є. Але результати роботи вашого людино-машинного симбіозу однозначно свідчать про ефективне посилення інтелекту. Саме зменшення коефіцієнта закону Мура з 2 років до 1.5 було б неможливо без нових програмно-апаратних комплексів розробки і проектування.
Як я вже розповідав тобі, Массачусетський проект був похований під потрійним кільцем брехні. 99.98% населення думали, що машину відключили через те, що вона почала ПОВОДИТИСЯ. 0.02% вважали, що вона відповідальна за ряд великих катастроф і аварій. І лише кілька сотень людей знали істину. Ентузіасти безвинно похованого массачусетського проекту знову об'єдналися під дахом філії Інституту біологічного Кодування. У глибокій таємниці массачусетська машина була розконсервувати і віддана під дослідження мене.
- Так ви - академік Окада? - Ні, молода людина, я то, що вийшло з академіка Окада після невдалого досвіду з його мозком.
Ми не можемо передбачити конкретні форми, в яких реалізується Сингулярність. Але деякі деталі можна передбачити майже напевно.
На що це буде схоже з точки зору Сили (молодий, ще не дуже далеко пішла за межі людського розуміння)? Практичне суб'єктивне безсмертя. Можливість бути у всіх місцях, куди протягнута мережа. Величезна кількість завдань і проблем для дослідження і вирішення - все захоплююче цікаві, на все вистачає часу і здібностей. При необхідності завжди можна добудувати себе, як програмно, так і апаратно (не забуватимемо про нанотехнології.). Загалом, це не всезнання і всемогутність, але дуже близьке практичне їх подібність.
А з точки зору людей, що не увійшли до складу Сил (майже напевно буде вистачати і таких, особливо на початковому етапі)? Припустимо найкращий варіант - Сили не стануть знищувати людство, а, навпаки, приділять частину прихильну увагу своїм еволюційним попередникам.