Чому ми добровільно здаємо власну свідомість чат-ботам і що залишається, коли відібрати в людини потребу щось робити

Мені на очі потрапила стаття про журналіста, який поїхав на відпочинок у заміський будинок із трьома парами. Вони мали досліджувати природу своїх романтичних стосунків. Нюанс полягав у тому, що фізично в будинку було четверо людей: сам репортер і три людини, а їхні партнери існували у вигляді цифрових аватарів.

Живі люди знайомили своїх «партнерів» з іншими, робили фотографії, щоб штучний інтелект «побачив», з ким вони проводять час, а потім розходилися по кімнатах, щоб пошептатися зі своїми чат-ботами.

Я читав цю дичину і ловив себе на думці, що для сучасних людей підтримувати стосунки з живими людьми — це вже завдання із зірочкою.

Нейробіолог Крістоф Кох, чиї роздуми про свідомість я останнім часом гортаю замість стрічки новин, порівнює це з рідкісним синдромом Котара. Це психічний розлад, за якого людина переконана, що вона мертва, а її нутрощі гниють.

Він наводить приклад. Ти вказуєш пацієнту: «Але ж ти говориш, ти дихаєш», він неохоче погоджується, а за хвилину знову повертається до свого «я мертвий». Існує прірва між тим, що вони розуміють, і тим, що відчувають.

Те саме відбувається з самотніми людьми, які шукають розради в чат-ботах.

Розумом вони розуміють, що по той бік екрана — просто сервери. Але емоція бере гору. Алгоритм пам'ятає кожну дрібницю вашого життя, сміється з ваших жартів і ніколи не скаржиться на втому.

Культ ефективної метушні

Кох дуже влучно помічає корінь проблеми. Останні пару сотень років людство винагороджує за дію. Роби щось. Будуй, рахуй, оптимізуй, створюй додатки, пиши звіти. Суспільству байдуже, що ти там собі відчуваєш чи уявляєш, поки ти дивишся у вікно. Тобі платять за результат.

Ми настільки зациклилися на дії, що перестали бачити різницю між інтелектом і свідомістю. А різниця фундаментальна.

Інтелект — це здатність швидко вчитися і розв'язувати проблеми. Якщо вас раптово викинути посеред Німеччини без знання мови і грошей, і ви зможете вижити та адаптуватися швидше за інших — ви дуже інтелектуальні. Але це нічого не говорить про те, що ви при цьому відчуваєте.

Свідомість — це не про дію. Це про стан.

Можна сидіти на стільці, не рухати жодним м'язом і проживати цілий всесвіт усередині: згадувати, сумувати, бачити сни або просто відчувати тепло кави на язиці.

Ілюзія, яку ми самі створили

Наука довго ігнорувала свідомість. Деякі філософи досі намагаються переконати нас, що наше внутрішнє життя — це лише ілюзія, побічний ефект роботи нейронів. Мовляв, ми просто біологічні машини.

Але Кох, спираючись на Теорію інтегрованої інформації, каже: свідомість — це структура, вшита у фізику складних систем. Її не можна просто імітувати кодом.

Цифрові алгоритми можуть обігнати нас в інтелекті. Вони вже це роблять. Вони комп'ютерно прораховують ідеальні відповіді, пишуть картини, складають тексти, що імітують радість, депресію чи нудьгу. Але вони нічого не відчувають. Вони не мають того, що Кох називає «відчуттям самого життя».

І ось тут стає незатишно.

Ми звикли знаходити сенс у роботі, в досягненнях. Що буде, коли машини почнуть робити все краще за нас? Якщо нейромережа може написати блискучу статтю за годину — навіщо це робити мені?

Кох згадує метафору Ервіна Шредінгера про всесвіт без свідомості як про театральну виставу, яка йде перед порожніми кріслами. Ми будуємо світ ідеальних виконавців-автоматів, яким ніхто не аплодуватиме, бо вони самі не здатні оцінити красу своєї гри.

Право на внутрішню тишу

Кох радить шукати порятунок у здатності дивитися всередину себе. Він згадує психоделічні досвіди й глибоку медитацію, але визнає, що для більшості з нас це недосяжно чи просто не потрібно. Наш головний ворог зараз набагато банальніший. Це економіка уваги.

Увага і свідомість — різні речі. Можна їхати трасою на автоматі, утримуючи увагу на розмітці, а подумки сваритися з кимось із минулого. Наша здатність до рефлексії гине не від штучного інтелекту, а від того, що кожні десять секунд нас смикає новий подразник.

Нещодавно я зловив себе на тому, що під час перегляду фільму двічі тягнувся до телефону, просто щоб перевірити, чи не пропустив я щось «важливе». Досвід перетворюється на нескінченну реакцію.

Ми втрачаємо здатність запитувати себе: «Чому я це зробив?», «Чого я насправді хочу?», «Чи це дійсно мої думки, чи я просто ретранслюю те, що щойно прочитав?».

Кох каже, що без цієї практики наші внутрішні погляди атрофуються.

Можливо, в цьому і є наша єдина перевага перед досконалими машинами, які ми самі ж і створюємо. Здатність зупинитися, зробити вдих і просто побути в тиші зі своїми недосконалими, іноді болючими, але абсолютно справжніми думками. Бо якщо ми відмовимося і від цього, передавши навіть власні переживання алгоритмам, то вистава дійсно продовжиться. Тільки в залі вже нікого не залишиться.