19 квітня 2017

Технические неполадки: почему прогресс может завести человечество куда-то не туда

Технологии занимают в жизни человека все больше места. Вполне вероятно, что уже скоро беспилотные автомобили будут возить нас от одного развлечения к другому – потому что работать будут тоже роботы. Украинец Сергей Гетьман поделился с Platfor.ma собственными опасениями по поводу того, к чему может привести бесконтрольное развитие.

 

Фотографія: Daria Ganns

Новости из Кремниевой долины – уже вполне привычная повестка дня. Фактически каждый день в новостях есть хоть что-то о Гейтсе, Брине или Цукерберге. Миллиардеров из Кремниевой долины действительно нужно поблагодарить за инновации. Если не придираться к мелким деталям (кто-то украдет чужие интимные фото, другой совершит кибератаку на банк), то они и правда делают нашу жизнь проще и приятнее. Зачастую не государства, а именно они отодвигают вперед горизонт неизведанного.

 

На этом фоне понятно, почему многие идеализируют инноваторов. Хотя на самом-то деле далеко не факт, что их цель – это наши улыбки, а не кошельки. Вот, например, из последнего: бесплатный интернет для Африки от Facebook оказался не таким уж и бесплатным, а Цукерберга обвиняют в «цифровом колониализме».

 

Если рассматривать технологический прогресс в позитивном ключе, то, по сути, он ведет нас к «техно-коммунизму» и переходу к пост-трудовому обществу. Полная автоматизация физического и когнитивного труда наряду с безусловным доходом формально превратит жизнь человека в рай. Можно будет не работать и потреблять. А робот-врач еще и взяток не берет.

 

Когда речь заходит о крупных инноваторах, то в первую очередь часто вспоминают Илона Маска. Основатель Space X и Tesla тоже явно видит будущее человека в технологической среде. При этом не так давно появилась новость о том, что он направит усилия не только на совершенствование машин, но и на симбиоз людей с ними. Электростимуляция нейронных схем позволит выжать из человеческого мозга максимум, сделать ввод/вывод информации мгновенным. Учиться новому станет проще. Взаимодействие с машинами не будет ограничено только визуальной или звуковой информацией: станет возможным стимулировать эмоции, чувства, настроение. Возможно, когда-нибудь человек и вовсе не будет отключаться от сети.

 

Фотографія: Daria Ganns

Вот только тут возникает вопрос: должны ли быть у технологий рамки, границы применения, сферы? Сеть уже давно вышла за переделы общения между людьми и стала, к примеру, интернетом вещей: вокруг нас все больше умных домов, умного транспорта, умных предприятий. Мы все меньше задумываемся над тем, как все работает и какие риски у новых технологий.

 

Один из самых наглядных примеров – с беспилотными автомобилями. Мы начинаем не только использовать технологии как помощников, но и как равноценных участников процесса, а то и руководителей. Мы передаем им принятие решения – машина не только везет нас, но и решает, как именно это делать.

 

В этом контексте особенно интересны новости с WikiLeaks. Например, внутренний документ ЦРУ об их хакерских инструментах и техниках. Стоит обратить внимание на три угрозы:

 

– если вы едете на беспилотном такси, подключенному к сети, контроль может быть перехвачен, и тогда уже дальнейший маршрут будет сюрпризом;

 

– не так уж важно, насколько сильно защищено приложение. Любую систему можно взломать, после чего все приложения больше не безопасны;

 

– если вы выключили устройство, это еще не значит, что оно на самом деле выключено.

 

Так вот, Илон Маск решил разрабатывать методы прямого взаимодействия машин и человека. Основателя Tesla и Space X не устраивают ограничения на обмен данными между человеком и машиной. Стук клавиш и голосовой набор не соответствуют духу времени – надо быстрее. Речь идет о вживлении электродов в мозг для увеличения скорости соединения с компьютером.

У этой технологии грандиозные перспективы. А еще множество сложностей на этапе реализации. Шон Эверетт, который последние 15 лет исследует этот вопрос на уровне животных, утверждает, что биологический мозг очень чувствителен и если электронный импульс будет слишком сильным, то это просто нас убьет. В лучшем случае отделаемся повреждением части нейронов. Но даже если на физическом уровне все будет в порядке, то на цифровом уровне нас просто хакнут, как обычный гаджет.

 

Еще одна вещь, которая идет неотъемлемым элементом новых технологий, – это безработица. Недавно японская страховая компания Fukoku Mutual Life Insurance уволила 30 сотрудников. Теперь их работу выполняет искусственный интеллект IBM Watson. При этом важно то, что речь уже идет не о физическом труде, а о когнитивных способностях. Вот список профессий, где Watson успешно используется, а значит может уменьшить количество занятых там людей.

 

Под угрозой не только механический труд, но и солидные рабочие места, средний класс. Образование – уже не гарантия занятости. Более того, уже сейчас даже можно узнать вероятность автоматизации вашей профессии. Наибольшая опасность грозит водителям, почтовым службам, бухгалтерам, юристам и многим другим.

 

Технологии атакуют со всех сторон. После выборов в США возник вопрос о влиянии фейковых новостей на результаты. А ведь есть еще и более интересная история с российскими хакерскими атаками и их ролью в победе Трампа.

 

На фоне происходящего действия Илона Маска – это действительно потенциально очень важная вещь. Нужно отметить, что этот человек вроде бы и правда хочет не просто заработать, а ему небезразлично будущее человека, Земли, Солнечной системы.

 

Фотографія: Daria Ganns

Илон Маск ведет нас в светлое технологическое будущее электромобилей, солнечных панелей и межпланетных полетов. Этакий положительный цифровой Ленин без изъянов. Но что будет, если ему на смену придет цифровой Сталин? Так может не стоит так уж бесконтрольно лезть в черепную коробку? Серьезный вызов для человечества – удержаться на грани между новым луддизмом и тем, чтобы держать технологии под контролем. Чтобы они не стали держать под контролем нас.


comments powered by Disqus