Останнім часом з'явилося багато новин, пов'язаних зі штучним інтелектом, а точніше, з тією областю, яку прийнято називати обробкою природної мови (natural language processing), або NLP.
Наприклад, в МФТІ зараз розробляється чат-бот, який відповідає на питання з певної області, наприклад, він зможе допомогти вам замовити піцу. Поки він працює тільки з шаблонними відповідями, тому що згенеровані відповіді не завжди «потрапляють». Крім того, для бота не існує, наприклад, поняття ввічливості. З цим, до речі, вже зіткнулася Microsoft, коли деякий час тому випустила свого бота для вільного спілкування в інтернет. Через нетривалий час співробітники компанії змушені були його відключити. тому що не змогли контролювати процес його спілкування з людьми.
Складнощі природної мови
З цього обмеження народилася ідея дати можливість комп'ютерам розробити свою власну мову, що підходить для умов, в яких вони «живуть». Один з таких експериментів був поставлений в дослідницькому підрозділі Facebook - Facebook Artificial Intelligence Research (FAIR). Вчені з FAIR розробили середу, в якій агенти змогли винайти свою мову. Далі з'явилася новина. що вони припинили експеримент, тому що не могли зрозуміти мову агентів з експерименту. Це некоректна інтерпретація журналістами факту, що експеримент був просто закінчений - можливість створення «природного» мови в штучних умовах була доведена. Небезпеки ця мова представляти не міг просто в силу того, що він був донезмоги примітивний і не міг розвинутися далі - у агентів просто не вистачило б на це потужності. А обмінюватися між собою вони могли повідомленнями довжиною всього в кілька символів, що позначають якісь базові поняття їх світу (аналоги наших рук, ніг або пір року).
Раз вже мова зайшла про потужність, найбільші сучасні штучні нейронні мережі (істотно великі тих, що використовувалися в агентах) можуть досягати розміру мільйонів штучних нейронів. Людський мозок має в середньому близько сотні мільярдів нейронів. Тобто зараз комп'ютери не здатні відтворити і тисячну частку потужності людського мозку.
Тому нещодавно голосно прозвучала «застереження» Ілона Маска є скоріше криком «вовки!» В ситуації, коли ніяких вовків поблизу немає. Комп'ютери не можуть мислити зараз і не зможуть мислити як мінімум в найближче десятиліття - судячи з того, як ростуть обчислювальні потужності сучасних процесорів.
Якщо ж зазирнути в більш віддалене майбутнє, де комп'ютери будуть вже досить потужними, то варто згадати, що у комп'ютера немає тіла, очей або шлунка - він буде сприймати все навколишнє зовсім не так, як ми, і придумає дуже відрізняється від нашого мову. Оскільки комп'ютер буде сприймати інакше взагалі все: буде хотіти іншого, боятися іншого, - він буде і мислити інакше. З цього випливає, що інтереси людей з інтересами комп'ютерів будуть перетинатися слабо або взагалі перетинатися не будуть. Так що великий шанс, що нам просто буде «нема про що поговорити». Тобто ми будемо співіснувати, але практично не взаємодіяти, як зараз люди і дельфіни (другий умовно розумний вигляд на нашій планеті).
Є також і негативний сценарій, в якому ми почнемо конкурувати за базовий ресурс - енергію. Однак негативний сценарій можливий лише в тому випадку, якщо комп'ютери будуть живими в нашому розумінні, тобто будуть прагнути розмножуватися і продовжувати своє існування. Але цього ми ніяк поки передбачити не можемо.
Валентин Малих дослідник Лабораторії нейронних систем і глибокого навчання МФТІ