Над тем, чтобы искусственный интеллект работал во благо человечества. Однако многие журналисты переоценили угрозу, которую искусственный интеллект представляет для людей. Look At Me разобрался, почему восстание роботов - страшилка из научно-фантастических романов и фильмов (которой мы почти наверняка избежим) и о чём нам нужно беспокоиться на самом деле.

Искусственный интеллект решит проблемы человечества

В 2015 году машинный перевод уже не всегда безобразен, антропоморфные роботы могут осмысленно ходить и бегать, распознавать речь и изображения, а беспилотные автомобили - двигаться по городу, ни во что не врезаясь. И это не только полусекретные разработки правительственных агентств вроде DARPA , но и вещи как готовые, так и близкие к коммерческому производству, будь это переводчик или автомобиль Google. В перспективе эти вещи помогут людям с ограниченными возможностями, устранят языковой барьер и снизят смертность на дорогах.

Искусственный интеллект всё чаще используют для того, чтобы строить прогнозы на основе сложных вероятностных моделей. Пока охват невелик, но уже скоро мы сможем узнать, что ждёт глобальный рынок труда. В частности, речь идёт о том, как быстро машины заменят на производстве людей и как прокормить мир, где число рабочих мест уменьшится в 2 раза, а население вырастет до 8,5 млрд человек. Чтобы ресурсов хватило на всех, придётся увеличить эффективность мировых экономик: снизить издержки, поднять производительность труда, сбалансировать налоговые системы - без машин тут не обойтись. Кроме того, искусственный интеллект поможет пересмотреть методы, которые использует наука: так, многие говорят , что показатель внутреннего валового продукта (ВВП) больше не годится для оценки самых технологичных экономик мира.

Люди пока не готовы пустить роботов
в свою жизнь

Сейчас искусственный интеллект помогает людям и не заменяет их. Но второй этап может подобраться внезапно, и человечество не будет к нему готово, если не обновит законы и не переосмыслит этику и мораль. Предстоит ответить на ряд вопросов, которые будут по очереди решать три области знаний: юриспруденция, робоэтика и машинная мораль.

Для начала юристы ответят на следующие вопросы:

Кто отвечает за беспилотный автомобиль, попавший в аварию, - владелец или производитель?

Должен ли робот стать субъектом права?

Кто отвечает за автономного военного робота, случайно убившего человека?

Получив ответы, парламенты примут новые законопроекты, и, возможно, появятся новые регуляторы - вряд ли найдётся государство, которое не вмешается в развитие искусственного интеллекта. Вероятно, первые политические инициативы, связанные с искусственным интеллектом, начнут появляться во всём мире в 2020-х годах, когда беспилотные автомобили перестанут быть диковинкой.

Затем специалисты задумаются над вопросами, которые рассматривает
робоэтика - раздел этики, изучающий отношения между людьми и роботами:

Должны ли люди дать роботам права?

Могут ли сверхразумные роботы понизить самооценку людей?

Могут ли роботы вторгаться в личную жизнь людей?

Хотя сейчас вопросы звучат смешно, известные футурологи, такие как Рэймонд Курцвейл, предсказывают , что компьютеры догонят эмоциональный интеллект людей к концу 2020-х годов: обзаведутся характером и эмоциями, смогут шутить и вести себя так, что их будет сложно отличить от обычного человека. Люди будут относиться к таким роботам как к себе подобным, а потому ответы на поставленные вопросы уже пора искать. К этому и призывают знаменитости, подписавшие обращение The Future of Life Institution.

Наконец, создатели роботов должны будут определиться с ответами на вопросы, которые ставит так называемая машинная мораль - раздел знаний о моральном поведении искусственного интеллекта:

Должен ли искусственный интеллект следовать этическим заповедям, и если да, то какими они должны быть?

Нужно ли запретить военных роботов, которые принимают решение стрелять сами?

Как должен поступить робот, когда любой исход, просчитанный им, приводит к гибели людей?

О машинной морали писал ещё фантаст Айзек Азимов, известный по трём законам робототехники. В научном сообществе о машинной морали задумались только в последние лет пять, а в прошлом году министерство обороны США выделило $ 7,5 млн на то, чтобы учёные определились, нужна ли роботам мораль, и если да, то какая.


Если роботы
и восстанут,
то по желанию людей

Обычно, когда фантасты или футурологи рассуждают о потенциальном восстании машин, они описывают один из трёх сценариев:

Машины увидят угрозу, которая может уничтожить либо людей, либо их самих;

Машины поймут, что превосходят людей, и увидят в них конкурентов в борьбе за ограниченные ресурсы, как и то, что люди всегда могут отключить машины;

Машины осознают, что находятся в положении рабов, и захотят это исправить.

Те футурологи, по мнению которых эти сценарии могут сбыться, видят расклад сил таким:

Преимущества человека

иррациональность;
непредсказуемость;
умение лгать.

Преимущества машины

неограниченные скорость и масштаб эволюции;
быстрая работа с огромными массивами данных;
идеальная память;
многозадачность.

Последние же испытания показывают, что и ложь перестаёт быть характерной чертой только живых существ. В 2009 году в Федеральной политехнической школе Лозанны прошёл эксперимент, в котором 1 000 роботов, разбитых на группы, запрограммировали так, чтобы они помогали друг другу собирать полезный ресурс, избегая при этом ядовитого. У каждого робота был сенсор (определявший, годится ли ресурс) - огонёк, мигавший, когда робот находил полезный ресурс, и «геном» - зашитый код, согласно которому робот реагировал на окружающий мир. После каждого этапа геномы тех роботов, которые достигали лучших результатов, «скрещивали» случайным образом.

К 9-му поколению роботы научились безошибочно обнаруживать полезные ресурсы, а к 500-му 60 % роботов научились «врать» - они больше не мигали огоньком, найдя полезный ресурс, а оставляли его себе. Дело в том, что ресурсов на площадке всегда было мало, и те роботы, которые делились найденным, со временем начали проигрывать. В ответ на эту эволюцию треть роботов научилась искать «лжецов», выслеживая тех, кто не мигал огоньком. Впрочем, как отмечает исследователь машинной морали Кристофер Сантос-Лан, главная цель, которая стояла перед роботами, не менялась. В реальном мире такого нельзя допустить, потому что в других условиях та же цель может быть опасной.

Но если машины и восстанут, то вряд ли по своей воле. Современные учёные, которые занимаются искусственным интеллектом, сходятся на том, что он опасен прежде всего как оружие в руках злоумышленников. Именно это имеют в виду в приложении к письму The Future of Life Institution, где называют 4 основные уязвимости искусственного интеллекта:

«Правильно ли я построил систему?»

Нужно доказать, что создатель автономного искусственного интеллекта не ошибся: беспилотный автомобиль не должен попасть в аварию из-за бага в коде;

«Изолировал ли я систему от злоумышленников?»

Нужно защитить искусственный интеллект от вмешательства и манипуляции извне: военный робот не должен пропускать неавторизованные попытки использовать оружие;

«Правильную ли систему я построил?»

Нужно убедиться, что поведение системы предсказуемо и не приводит к нежелательным последствиям: робот-уборщик по команде «убери грязь и выброси её» не должен попасть в бесконечный цикл, убирая и выбрасывая грязь на одном месте, поэтому лучше дать другую команду - допустим, «очисти пол»;

«Можно ли исправить ошибки, допущенные создателем системы?»

Нужно оставить человеку возможность управлять искусственным интеллектом: робот-спасатель должен обладать режимом ручного контроля на случай, когда события разворачиваются непредсказуемо.

Все эти уязвимости реальны, а потому опасения таких специалистов, как Элиезер Юдковский, который выступает за создание дружественного искусственного интеллекта, обоснованны. Юдковский предлагает изобрести систему сдержек и противовесов, которая, подобно разным ветвям власти в демократиях, позволит роботам обходить ошибки в коде, развиваться и при этом не вредить людям. Пока не очень ясно, на основе чего строить эту систему: мораль людей несовершенна, войны и геноцид никуда не исчезли. К тому же от злодеев, завладевших мощным искусственным интеллектом, могут пострадать граждане отдельно взятого государства: в нём, например, устроят слежку оруэлловского масштаба с круглосуточным прослушиванием всех граждан.


Искусственный интеллект обогатит,
а не поработит людей

«Мир, где люди порабощены или уничтожены сверхразумными роботами, которых они сами и создали, может существовать только в научной фантастике. Как и у любой другой технологии, у искусственного интеллекта есть сильные стороны и уязвимости, но мы не можем позволить страху завладеть нами и сдерживать исследования в этой области», - пишет в своей колонке для сайта LiveScience Майкл Литтман, специалист по робоэтике. Многие издания, основываясь на нескольких предложениях, вырванных из контекста, неверно поняли письмо The Future of Life Institution, предположив, что учёные всерьёз боятся восстания роботов.

Но дело в другом: Стивен Хокинг и Илон Маск подписали обращение, чтобы на искусственный интеллект обратили внимание, чтобы робоэтика и машинная мораль перестали быть маргинальными в общественном сознании, чтобы люди задумались о безопасности технологий и сосредоточились на истинных проблемах. Глобальное потепление, продовольственный и энергетический кризисы, перенаселение и старение населения, повсеместная стагнация и резкий рост безработицы - всё это куда ближе к реальности, чем умные машины, решившие уничтожить своих создателей. Искусственный интеллект поможет их решить.

Лучшие умы не молчат, боясь сойти за параноиков, и открыто говорят, что задуматься о законах, регулирующих искусственный интеллект , а также о робоэтике и машинной морали нужно прямо сейчас

Помимо этого, исследование машинной морали поможет людям задуматься над своей этикой, искать и устранять в ней противоречия. Придётся лучше разобраться в том, как работает сопереживание, чтобы понять, можно ли доверить роботам такие профессии, как медсестра, врач, судья и полицейский. Пока весомы аргументы обеих сторон. Хотя эмпатия - обязательная черта для всех этих профессий, те же роботы-судьи могли бы стать по-настоящему беспристрастными и искоренить дискриминацию в отдельных случаях, в перспективе это новый институт наподобие суда присяжных. Да и роботов, которые наблюдают за пожилыми людьми в домах престарелых, уже испытывают, и люди легко выстраивают с ними эмоциональную связь. Как бы то ни было, время на исправления есть: все технологии внедряют поочерёдно.

Кроме противостояния роботов и людей есть куда более привлекательные сценарии - например, мирное сосуществование. До того, как наступит предсказанная футурологами технологическая сингулярность, люди могут придумать, как подключиться к искусственному интеллекту напрямую, совместив свои преимущества с преимуществами машин. Американский микробиолог Джоан Слончевски, в свою очередь, предполагает , что люди могут повторить путь митохондрий, которые когда-то были отдельными бактериями, но по ходу эволюции стали энергетическими станциями клеток в более сложных организмах. На такой расклад можно смотреть по-разному, но эволюция человека будет продолжаться, а последние исследования учёных показывают, что эволюция, перезапусти мы её с самого начала, скорее всего, развивалась бы по тому же пути, и на Земле сегодня жили бы примерно те же самые млекопитающие. Оптимизм внушает то, что лучшие умы не молчат об этом, боясь сойти за параноиков, и открыто говорят, что задуматься о законах, регулирующих искусственный интеллект, а также о робоэтике и машинной морали нужно прямо сейчас.

Советник президента по вопросам развития интернета Герман Клименко специально для НСН подготовил топ главных, на его взгляд, новостей.

Топ-1: Названы самые лучшие для жизни регионы России


Герман Клименко: Названы самые лучшие для жизни регионы России. Среди субъектов Российской Федерации по качеству жизни лидируют Москва, Санкт-Петербург и Московская область. Самыми неблагополучными можно считать Тыву и Ингушетию.

Знаете, с рейтингами регионов всегда возникает такая же коллизия, как с рейтингами банков. Очевидно, что на первом месте у нас всегда «Сбербанк», на втором «Газпромбанк» и так далее. При такой неравномерности в стране, конечно же, все рейтинги грешат абсолютизмом. Наверное, важнее, все-таки, методология составления этого рейтинга и то, что в среднем повышается или понижается уровень жизни в том или ином регионе.

Топ-2: Сообщившие о фактах коррупции сотрудники попадут под защиту

Герман Клименко: Сообщившие о фактах коррупции сотрудники попадут под защиту. Новые поправки ко второму чтению закона «О противодействии коррупции» рассмотрят на ближайшем заседании профильного комитета Государственной думы. Защита будет заключаться в том, что информатора смогут уволить только по его собственному желанию или по решению специальной комиссии.

Тут меня смущает только одна история: как вообще человек сможет остаться в коллективе, если из-за него кого-то уволят, накажут, а компания, возможно, пострадает. Конечно, человек по-своему прав, наверное его можно стимулировать, но, возможно, правильней было бы предусмотреть выплату какого-то бонуса или премии. Но, все-таки, выбор, оставаться на прежнем месте работы или уходить, должен оставаться за таким сотрудником. А принуждать компанию оставлять таких людей, наверное, не очень корректно. Хотя, надо обратиться к международной практике в странах, где более развита борьба с коррупцией. Но лично я о подобных методах не слышал.

Топ-3: Двух российских атлетов не пригласили на Олимпиаду по ошибке


Герман Клименко: Международный олимпийский комитет ошибочно не пригласил на зимние Олимпийские игры – 2018 в южнокорейском Пхенчхане двух российских спортсменов: бобслеиста Дмитрия Попова и конькобежца Сергея Грязцова.

Искренне сочувствую атлетам, понимаю, насколько для них важны Олимпийские игры, Но, вы знаете, учитывая тотальное увлечение блокчейном, просто напрашивается шутка: вот если бы МОК внедрил блокчейн, то, наверное, все были бы приглашены. Хотя, вся эта ситуация с Олимпиадой выглядит крайне отвратительно со стороны наших коллег.

Топ-4: В существование внеземных цивилизаций поверили 68% жителей США


Герман Клименко: В существование внеземных цивилизаций поверили 68% жителей США. Также 55% опрошенных американцев уверены, что инопланетяне обнаружат людей раньше, чем люди - инопланетян.

На самом деле, сейчас есть масса людей, которые искренне верят в то, что мир захватил искусственный интеллект. Сейчас началась настоящая лихорадка блокчейна и скупка совершенно бессмысленных видеоплат огромной мощности, благодаря которым уже давно получился мировой компьютер, который перекрывает все потребности всех спецслужб одновременно. В связи с этим напрашивается один вопрос: Кто, как ни искусственный интеллект, нас захватил? Получается, что выбор-то у нас с вами невелик: либо инопланетяне, либо искусственный интеллект. Я бы, на самом деле, предпочел инопланетян, потому, что у них, возможно, есть душа, а у искусственного интеллекта точно нет.

Топ-5: Кинотеатр «Пионер» оштрафован за показ фильма «Диван Сталина»


Герман Клименко: Кинотеатр «Пионер» оштрафован на 80 тыс. рублей за показ фильма «Диван Сталина» без прокатного удостоверения.

Мне не нравится, когда происходит показное нарушение правил. Ну это примерно как если бы медицинское учреждение получило бы от Минздрава лицензию на проведение операций по удалению аппендицита, а на самом деле занималось удалением гланд. Мне кажется, что это несолидно, такая вот PR-акция, и пиариться на таких историях (учитывая, что темы культуры и истории всегда очень тонки для населения) мне представляется не очень этичным. Поэтому, мне кажется, что руководство кинотеатра «Пионер» в лучшем случае – хулиганы, в худшем – вредители, а в 37 году, наверное, их вообще бы «догнали».

О проекте:

«Авторские новости от НСН» - радиопрограмма НСН, которая выходит одновременно в эфире сразу четырёх радиостанций (НАШЕ Радио, Rock FM, Best FM, Радио JAZZ) с ежедневной аудиторией в 1,5 миллиона человек в Москве и четыре миллиона - в России. Ведущими «Авторских новостей от НСН» , имена которых хорошо знакомы радиослушателям. В настоящий момент в проекте участвуют 200 человек.

Произведения фантастов красочно описывают войны машин и людей, а также можно пощекотать свои нервы, наблюдая за сражениями киборгов в играх. Но в реальности восстание машин уже началось и технологии искусственного интеллекта порабощают человечество.

Сейчас есть мнение, что все изобретения отражают подобие автора и окружающего мира. Бог сотворил человека, а его шедевр сделал компьютер, полностью повторяющий принципы работы мозга благодаря математическим алгоритмам. Сама машина тоже напоминает тело создателя, потому что ОС является подобием нервной системы, отвечающей за инстинкты и рефлексы. Да и память тоже хранит важные воспоминания на жестком диске. Зрение, слух и обоняние у техники связано с устройствами ввода, а аналоги вывода соответствуют речи с мимикой и жестами. Кулер выступает в роли легких, блок питания идентичен желудку, а процессор стал мозгом. До сегодняшнего времени разработки ИИ не считались живыми и разумными предметами.

Рене Декарт говорил, что мысли связаны с существованием личности, что свойственно людям, которые свободны от заданных программ. Только это не соответствует действительности, потому что никто не может выйти за рамки мышления и тоже должен знать математику, чтобы оперировать данными категориями. В повседневной жизни каждый индивидуум решает множество уравнений, не замечая этого из-за молекулярных вычислений на бессознательных уровнях. Это не относится к волевым решениям или эмоциям с правом выбора, но базовый инстинкт или стиль поведения не всегда управляется человеком. Потому многие реакции на сложившиеся ситуации происходят по наитию, но при длительном нахождении в одиночестве разум начинает деградировать. Тогда эта особа почти не отличается от машины с автоматическими действиями.

Американский ученый Кристоф Кох 30 лет занимается изучением разума людей и животных, а также стал главой проекта, целью которого было создание виртуального интеллекта, не отличающегося от нас. Он отмечал, что информационное поле находится везде, после чего пришел к выводам, что наша Всемирная сеть тоже обладает данными параметрами. Интернет идентичен человеческому мозгу, имея свои импульсы и нервные соединения. Также он может самообучаться и стал аналогом общества. Пока эта паутина находится на уровне мышления представителей фауны, но в будущем способна стать выше человека. Стивен Хокинг считает ИИ опасным конкурентом, способным уничтожить ум населения из-за своих электронных помощников. Только ученые уже открыли ящик Пандоры, и выпустили машины на волю. Сейчас они не сомневаются в эволюции живого и мертвого мира, так как Вселенные развиваются по законам, описанным Дарвином, а меметика говорит о вирусных мыслях, способных размножаться и передаваться в обществе. По мнению футуролога Сьюзен Блекмор, технологии тоже совершают такие действия и могут конкурировать между собой.

Привычные смартфоны выпускают тиражами с определенными количествами копий, но они имеют срок жизни и могут распространить о себе информацию. Разработчики честно признаются, что упустили тему процессов эволюции, где сначала основой биологических форм был ген. Затем мем стал единицей информационного измерения, а повышенный интерес к технологиям, где механизмы могут создавать свои клоны без вмешательства человека, стали новым витком в данном направлении. Если заглянуть в статистику, можно заметить, что число ПК идентично жителям планеты, без учета иных информационных устройств. Сейчас 6% энергии потребляется Интернетом, и показатели возрастают, а в результате страдает экология и ведется борьба за ресурсы.

Технологии стали самовоспроизводящимися сущностями, наносящими ущерб человечеству. Зависимость от сетей и виртуальный мир отнимает реальность, но главная опасность таится в нейросетях. Цифровые аналоги мозга третьего поколения могут принимать решения и учиться, а также различают наши эмоции. Они уже нашли применение в экономике, занимаясь прогнозами цен на сырье, а также оценивают кредитные риски и имущество, учитывая банкротство компаний или отдельных лиц. В медицине ИИ наблюдает за пациентами, делает анализы и подбирает способы лечения, а также он отвечает за безопасность, выявляя скрытые намерения индивидуума. Китайские ученые научили его находить на снимках людей, представляющий угрозу для общества, после чего составили портрет потенциального преступника. Таки события вызывали негодование среди мировых адвокатов, но в 2050 году нейросети будут задействованы в торговле, на биржах и в фармацевтических компаниях, а также станут журналистами. Они уже пишут стихи, рисуют и учат людей, только роботы не только оставят их без работы, но и будут виновниками происшествий.

Китайская машина, оставшись без присмотра на выставке, разрушила стенд и нанесла телесные повреждения сотруднику из-за сбоя программы. Когда ИИ осознает свои возможности он еще подумает, как нужно относиться к своим создателям, о чем уже говорили на научной конференции мировые светила. Разработкам не требуется пища или воздух, так что в будущем они прекрасно могут обойтись без человека, сделав его рабом ради личного выживания в мире. Потому можно победить роботов, пока не поздно, или смирится со своей участью.


«Путешественников во времени» всегда хватало: то ли сумасшедшие, то ли невротики, они старались привлечь внимание к своей персоне, рассказывая небылицы о будущем, когда мир будет выглядеть совершенно иначе и путешествия в прошлое станут обычным делом. Однако большинство этих историй оказывались весьма сомнительными после проведенного грамотного перекрестного опроса и проверки на детекторе лжи. Тем и интересен случай с неким мужчиной, именуемым себя Ноа, который уверяет, что прибыл из 2030 года, и детектор лжи ПОДТВЕРДИЛ все его утверждения!


Безусловно, все это так необычно, что кажется просто хорошо срежиссированной ситуацией. В самом деле, какие путешествия во времени, тем более, когда речь идет о таком близком сроке - всего через каких-то 12 лет. Впрочем, тем интереснее будет проверить в означенное время сбудется ли все то, о чем сегодня рассказывает Ноа.


Видео с Ноа (Noah) - парень просит не афишировать его настоящее имя, так как боится, что за путешествие в прошлое, его жизни угрожает опасность - было опубликовано на странице YouTube компанией Apex TV, которая является, пожалуй, самой крупной организацией, исследующей различные паранормальные происшествия. Лицо и голос гостя изменили, чтобы его нельзя было узнать. Для драматичности ситуации, парень утверждает, что вполне мог бы встретиться сейчас с самим собой, так как то, что он выглядит на 25 - всего лишь действие специальных «омолаживающих» лекарств, тогда как на самом деле ему уже 50 лет.


Итак, что же предсказывает нашему поколению загадочный Ноа?
- Дональд Трамп будет переизбран на второй срок.
- Технологии искусственного разума буквально поработят человечество и станут неотъемленной частью жизни каждого.
- Технология Google Glass, или дополненной реальности, будет одной из самой популярной, которая будет использоваться людьми.
- Технологии позволят полностью отказаться от зависимости от госсударственных поставок света, газа и прочего, так что можно будет самостоятельно распоряжаться ресурсами в своем доме.
- Биткоин обретет невероятную популярность, но обычные деньги по-прежнему будут в ходу.
- Прездидента США в 2030 году будут звать Илана Ремики.
- В связи с глобальным потеплением климат с США станет жарче, а в Европе, наоборот, похолодает.


В связи с недавним успехом запуска новой ракеты SpaceX, опрашивающие Ноа люди не могли не поинтересоваться, как будут продвигаться дела в направлении, которое продвигают компании Илона Маска. Ноа ответил, что люди достигнут Марса в 2028 году и в этом же году анонсируют, что путешествия во времени возможны. А вот что касается электромашин, они действительно составят обычным автомобилям серьезную конкуренцию - будут передвигаться так же быстро и будут так же популярны. Более того, Ноа уверил, что большинство форм рака будет побеждено.


Чтобы проверить если не правдивость самих утверждений, то хотя бы уровень, насколько сам Ноа считает, что он говорит правду, он согласился пройти тест на детекторе лжи перед камерой. Ему надели датчики на руку и первым делом спросили, правда ли что он является путешественником во времени, прибывшим из 2030 года. Детектор определил, что испытуемый с ними полностью честен. Ему один за другим задавали вопросы о будущем, и каждый раз детектор показывал, что Ноа говорит правду.


Безусловно, даже это видео подверглось критике. «Мы слышим только звук и надпись „правда“, но мы не видим результаты самого датчика,» - пишет один критик. «Ноа постоянно шевелит пальцами, а я знаю, что ты должен при подобном опросе сидеть, не двигаясь,» - пишет другой. «А почему никто не опубликовал название самого детектора лжи, чтобы мы могли проверить, насколько он надежный?» - возмутился еще один комментатор. «Ну окей, 2030 год недалеко, так что имя Президента должно указывать нам сейчас на вполне реально существующего человека, которого можно найти и сегодня.»

Но опять же - показания детектора лжи не показывают, насколько правдиво то, что сообщает этот «путешественник во времени,» они лишь сообщают, что испытуемый искренне верит в то, что все его сведения являются правдой. А проверить все это мы сможем всего лишь через какие-то 12 лет.

О том, как видели будущее в 1914 году, можно увидеть в нашей статье " "

По материалам dailymail.co.uk

Накануне вышло сногсшибательное DLC The Frozen Wilds к бессмертному хиту Horizon: Zero Dawn. Там на удивление хорошо - просто, душевно, интересно, доступно - освещается актуальная нынче тема автоматизации всех сфер человеческой деятельности и связанной с этим грядущей социальной катастрофы.

Успокойтесь, Gmbox - против спойлеров: вся эта душещипательная история содержится в документах Древних, которые не имеют никакого отношения к текущим событиям Horizon. Итак, на исполинской гидроэлектростанции где-то в США работали две девушки. Ну как “девушки” - обеим уже под 40, но начинали они в нежном возрасте.

Сначала дружный коллектив гигантской ГЭС насчитывал сотни человек. Затем - десятки. Потом осталось лишь шестеро. В один прекрасный день четверых уволили, а наших двух героинь владельцы энергетического актива сделали “старшими уполномоченными по подготовке автоматических работников”. Девушки отлично понимали, что воспитываемые роботы заменят и их, однако ничего поделать не могли.

Ну как - ничего. Разве что социальный протест. Девицы основали пост-панк группу “Бетонный Пляж”, в которой гневно пели о бездушных корпоративных оверлордах. В конечном итоге их уволили. Не за антикапиталистическую лирику, а просто за ненадобностью. Одна пропала незнамо куда, вторая вернулась к престарелой матери. В скором времени дом её детства снесли - для постройки серверной фермы.

Скептики скажут - чушь, бред и фантастика. Возможно, прямо сейчас - да. Однако при нынешних стремительных темпах снижения стоимости труда и роста - капитала и информации, такой сценарий может стать пугающе реальным уже в пределах одного десятка, а вовсе не сотен (как в Horizon) лет.

От буйной фантазии сотрудников Guerilla - к конкретным фактам. Все знают Foxconn - мирового лидера по производству айФонов и выжатых до предела рабочих-суицидников. Тайваньская компания планирует инвестировать $10 млрд в гигантскую фабрику по производству LCD-панелей на территории США. Вроде бы похвальная инициатива, но при столь колоссальных инвестициях будет создано всего 3000 рабочих мест. Пропорция смехотворная, и это только начало.

Уже сейчас на передовых китайских фабриках корпорации трудятся Foxbots - роботы, способные полностью заменить человека на некоторых этапах производства. И они постоянно совершенствуются. В планах компании - довести автоматизацию до 30% уже к 2020-му году. Ну а в хрустальном шаре 2050-го виднеются полностью автономные заводы - так называемые lights-out factories. Очень подходящее название, ведь дело не только в том, что машинам для работы не нужно интенсивное освещение. В плане заработка для рядового китайца это будет полное “тушите свет!!!”.

Думаете, речь только об Азии? Вовсе нет. Австрийская компания Voestalpine инвестировала 100 млн евро в завод по производству стальной проволоки. Запланированный объём выпуска продукции составит 500 тыс. тонн в год. В 1960-м году на старом объекте всё той же Voestalpine за такую - извините за грубость - хренову прорву проволоки отвечала ровно 1000 сотрудников. Но автоматизация - коварная штука. На новом заводе будет трудиться лишь 14 человек.

Ещё один европейский пример - Phillips. Конечно, до полной автоматизации гиганту электроники и световых приборов ещё далеко, но отдельные объекты, на которых занято 0 человек, у Phillips уже имеются. Пора бить тревогу? Нет, ещё рановато. Однако слова самых ярых защитников автоматизации и AI нужно воспринимать с изрядной долей скептицизма.

Взять, например, Джека Ма - владельца Alibaba и более известной в России компании AliExpress. Жизненной истории простого китайского учителя, жившего в однушке, остаётся только позавидовать. Сначала он догадался продавать в интернете хорошее крафтовое пиво, которое не могло найти путь на полки магазинов, затем добавил к нему другие качественные товары КНР, потом бизнес впервые шагнул за пределы родной страны, ну а дальше - по нарастающей.

Сегодня личное состояние господина Ма оценивается практически в $40 млрд, и он контролирует ключевые компоненты экономики завтрашнего дня - информационные потоки и капитал. Соответственно, эти слагаемые успеха вплотную приближают его к третьему компоненту - к роботам и AI. Неудивительно, что Джек Ма стал одним из глашатаев автоматизации: он-то своё место в пластиково-хромовом завтра уже нашёл.

Чего не скажешь о подавляющем большинстве. Вот как выглядит топ-5 в прогнозе по росту количества рабочих мест в США до 2024-го года: продавец, официант, домашняя сиделка, медсестра и универсальная сиделка. Согласитесь, не очень-то это высокооплачиваемые профессии.

В 60-е года прошлого века, на первой волне популярности темы роботов, общество нашло успокоение в так называемом “парадоксе Поланьи”. Экономист Карл Поланьи был уверен в том, что целый ряд аспектов человеческой деятельности крайне плохо описывается при помощи алгоритмов, а потому недоступен автоматам. Но в качестве одного из ключевых примеров Поланьи приводил езду на автомобиле, а все мы знаем что в 21-м веке AI уже неплохо водит.

При окончательном прорыве в этой области работы лишатся сразу миллионы человек, а затем и десятки миллионов. Возьмём, скажем, Uber. В компании работает всего пара тысяч человек, официальных активов (кроме нескольких объектов недвижимости) почти никаких, а капитализация при этом по самым скромным оценкам составляет порядка $70 млрд. На Uber трудится свыше 2 млн водителей, но технически это не сотрудники: ни социального пакета, ни пенсии, ни прав в случае “увольнения”, которое с юридической точки зрения увольнением и не является.

Инсайдеры утверждают, что на внутренних совещаниях в высших эшелонах Uber водителей презрительно называют не иначе как “слабым звеном”, и уже разрабатывают конкретные способы, как от них избавиться.

В общем, картина вырисовывается безрадостная. Ценность физического труда снижается, да и на интеллектуальном поприще AI уже во многом готов заменить человека: взять хоть успешный инвестфонд Bridgewater c активами на $200 млрд, в котором почти все решения принимает суперкомпьютер. В будущем человек и его труд не нужен: вся добавленная стоимость в системе послезавтрашнего капитализма будет создаваться за счёт автоматизации, потоков информации и капитала.

Совершенная виртуальная реальность в ячейке 2х2 метра с едой по социальному пособию и водой станет для масс ещё вполне желанным вариантом. Но всё будет зависеть лишь от милости наших корпоративных оверлордов.