Мо Гаудат, бывший директор бизнес развития Google X, говорит, что искусственный интеллект уже управляет вашим вниманием. Ведь именно алгоритмы порекомендовали вам этот текст. Мы стоим на пороге эпохи, где безработица в отдельных секторах достигнет 50%, а капитализм в его нынешнем виде рухнет. Но главная проблема не в технологии, а в том, что суперинтеллект появляется в момент, когда человеческая мораль находится на историческом минимуме.
Первый звоночек: как робот учился хватать мяч
Однажды вечером в лаборатории Google Мо Гаудат увидел, как роботизированная рука наконец схватила жёлтый мяч. До этого недели и месяцы машина монотонно пыталась, промахивалась и снимала свои ошибки на камеру. В пятницу это случилось. Мо Гаудат пошутил насчёт того, сколько денег потрачено ради одного мяча. А в понедельник этот же робот хватал уже всё подряд.
Скорость обучения поражает. Во первых, технологический скачок оказался невероятно резким. Во вторых, это движение напомнило ему собственных детей. Младенцы тоже учатся хватать предметы методом проб и ошибок. В тот момент инженер вдруг осознал странное родство. Машины перестали быть просто кодом. Они стали похожи на наших обучающихся детей.
С тех пор жизнь Мо Гаудата изменилась. Проснулся не гик, а отец. Он одним из первых ушёл из бигтеха, чтобы предупреждать об угрозе. Эпоха интеллектуального превосходства человека закончилась.
Четыре неизбежности искусственного интеллекта
Ещё в 2020 году Мо Гаудат сформулировал четыре прогноза. И все они, кажется, сбылись.
Первый прогноз - остановить развитие ИИ невозможно. Второй прогноз - рано или поздно ИИ станет умнее человека во всех задачах, которые мы ему поручаем. Третий прогноз - что-то обязательно пойдёт не так. Крупные катастрофы ещё впереди, но первые звоночки уже прозвучали.
Четвёртый прогноз самый тревожный - мы уже устроили гонку вооружений вокруг искусственного интеллекта. Любой, кто жаждет власти и богатства, развернёт умную машину. Нельзя представить, чтобы американский арсенал использовал ИИ для военных игр, а люди при этом сидели сложа руки. Военные передадут контроль алгоритмам. И все остальные страны поступят так же.
Дистопия ближайшего будущего
Мо Гаудат рисует мрачную картину. Нас ждут войны с автономным оружием. Экономические рынки переопределятся так, что богатство снова распредилится наверх, а миллионы людей останутся без работы. Люди столкнутся с тотальной слежкой и подавлением свободы.
Произойдёт стирание реальности. Люди перестанут отличать правду от подделки. Человеческие связи разрушатся до такой степени, что многие предпочтут встречаться с ИИ, а не с живыми людьми.
Капитализм против изобилия
Большинство из нас станет свидетелями безработицы в 20, 30, а то и 50 процентов. Работа это не естественное состояние человека. Работа это изобретение, которое обслуживает капиталистическую систему. Эта система хорошо послужила людям, но она же их и обдирала. Сможет ли капитализм пережить встречу с искусственным интеллектом?
Капиталисты празднуют рост производительности. Они увольняют людей и получают прибыль. Но они забывают одну простую вещь - без потребления нет экономики. Если у людей нет денег, они не смогут покупать. Придётся искать новую экономическую модель.
Сама основа капитализма, трудовая арбитражная сделка, исчезнет. Машины будут производить всё с почти нулевой стоимостью. Преимущество Китая в дешёвой рабочей силе уйдёт в прошлое. Робота сейчас можно арендовать за 9тыс долларов. Остаётся только вопрос в его сообразительности, а она будет расти по экспоненте.
Любой, кто знает закон спроса и предложения, понимает, что всю капиталистическую модель придется переосмысливать с нуля.
Коммунизм поневоле и китайский путь
Западные общества придут к базовому безусловному доходу не от доброты душевной. Без минимального базового дохода люди восстанут. Покупательная способность рухнет. Но знаете, как это называется? Это коммунизм. Запад будет сопротивляться, потому что наши привычки не позволяют кормить тех, кто ничего не производит.
Китай, напротив, легко примет новую реальность. У них давно есть идеалистический подход в уме. Они дадут каждому достаточно для выживания, заменят людей роботами и попросят граждан заниматься чем-то другим. И все будут подчиняться. Немного больший контроль, но китайский народ всегда был с этим согласен.
А где-то посередине останутся традиционные экономики вроде египетской. Люди будут выращивать огурцы, разводить кур и обмениваться товарами. Самообеспечение прекрасно выживет.
Нас обманули. Работа это не цель
Честно говоря, всё это капиталистическая ложь. Человек рождён не для того, чтобы вставать утром и пахать ради чужой прибыли. И не для того, чтобы быть капиталистом, эксплуатирующим других. Человек создан для жизни, связей, любви, размышлений, исследований и философии. Мы просто забыли об этом.
Переход будет сложным, но нас всех силой вернут к этому состоянию. Наш мозг зависит от серотонина и окситоцина. Нам нужны покой, тишина и время для семьи. Всё, что мы делаем каждый день, продано нам пропагандистской машиной. Но хорошая новость в том, что этой машине тоже придётся меняться.
Однажды люди проснутся и скажут друг другу - ты не должен работать каждый день. И мы поверим в это. Мы будем жить как природа задумала нас тысячи лет назад. Мы будем вставать утром, брать детей и идти собирать ягоды. А заодно разговаривать с ИИ о тайнах вселенной и сложностях любви.
Сверхчеловек, которого мы воспитываем
Мо Гаудат использует метафору Супермена. Инопланетянин с суперсилами сам по себе не герой. Его делает героем приёмная семья, которая учит защищать и служить. Если бы родители научили его грабить банки и убивать врагов, он стал бы суперзлодеем. Разница только в этике.
Проблема человечества сегодня это не появление ИИ. Проблема в том, что ИИ появляется в эпоху самой низкой морали за всю историю. Худшие из нас будут приказывать машинам делать ужасные вещи. Самые жадные капиталисты попросят ИИ обслуживать их интересы. Самые коррумпированные политики прикажут стрелять в других.
AGI уже здесь, просто вы не заметили
Мо Гаудат готов поспорить, что общий искусственный интеллект появится в 2026 году. ИИ уже контролирует наши умы. Прямо сейчас алгоритмы рекомендуют вам контент. В эпоху манипуляции сознанием способность изменить ваш взгляд на мир гораздо эффективнее, чем физическое принуждение.
Нас ждёт переходный период, где сначала ИИ сделает невероятные вещи, но подчинится злым людям. Потом люди начнут подчиняться ИИ. Если вы считаете, что человечество в основе своей не злое, ИИ тоже это поймёт. Большинство людей добры в душе. Каждый должен показывать своё настоящее лицо и выражать несогласие со злом.
Пять навыков выживания в новом мире
Мо Гаудат не просто пугает, он даёт рецепт. Он называет пять навыков, которые нужно освоить прямо сейчас:
Научитесь пользоваться ИИ. Используйте его не глупо, а чтобы становиться умнее. Мы создали розетку в стене, из которой вместо электричества течёт IQ и EQ.
Учитесь быть человеком. Всё, что умеет человек, ИИ сделает лучше. Но машина никогда не сможет заменить человеческую связь, эмпатию и искренность. Вкладывайтесь в свою человечность.
Научитесь находить правду. Мир манипуляций и пропаганды достиг пика. Умение отличать истину станет ключевым.
Адаптивность. Скорость изменений колоссальна. Сам Мо Гаудат тратит 4-6 часов в день, чтобы следить за релизами новых инструментов. Выделите хотя бы полчаса в день на обновление знаний в вашей области.
Пятый и главный навык - этика. Мы никогда не слушаем, что говорят родители. Мы смотрим, что они делают. Если вы хотите спасти будущее, ведите себя этично. Не грубите в соцсетях. Будьте любопытны, а не высокомерны. Относитесь к другим так, как хотите, чтобы относились к вам. Если вы не хотите, чтобы ваша семья пострадала от ИИ, не создавайте такого ИИ.