Почему компьютеры угрожают нашему интеллекту?
В середине XX века началась масштабная автоматизация труда во многих отраслях промышленности. Сегодня компьютеры заменяют человека в авиации, медицине, архитектуре и других профессиональных сферах. Технологии помогают повысить эффективность работы и получить большую прибыль, но при этом они отбирают у человека самые интересные и творческие задачи, оставляя лишь рутинную и механическую работу. Но могут ли машины полностью заменить человека? И как не допустить их вторжения в те области, где требуется творческое мышление, интуиция и умение быстро принимать решение в нестандартной ситуации? T&P перевели статью Николаса Карра в The Wall Street Journal.
С появлением искусственного интеллекта многое в мире изменилось. Сегодняшние компьютеры точны, распознают окружающую среду, решают сложные задачи, делают тонкие наблюдения и учатся опытным путем. Они мыслят не так, как мы, и по-прежнему мертвы, как зубочистки, но при этом они могут воспроизвести многие редкие и ценные умения человека. Завороженные этими новыми волшебными машинами, мы с готовностью передали им все сложные рабочие задачи, которые раньше выполняли сами.
Но это растущее доверие к компьютерной автоматизации может дорого обойтись. Различные тревожные факты говорят о том, что мы постепенно утрачиваем свои умственные способности и становимся все более зависимыми от искусственного интеллекта. Кажется, умная техника делает нас глупее, вместо того, чтобы поднимать на новую ступень развития.
Это произошло не в одночасье. Первая волна автоматизации прокатилась по США после Второй Мировой, когда на заводах стали устанавливать электронное оборудование. Благодаря новым машинам работа стала эффективнее, а компании начали получать больше прибыли. Машины также стали освободителями. Они значили для людей больше, чем просто повышение производительности. Они освободили рабочие руки от однообразных задач и дали людям возможность заниматься более живой работой и развивать в себе более ценные таланты и навыки. Новые технологии возвышали и облагораживали рабочих. Позднее, в 1950-х годах, профессор Гарвардской школы бизнеса Джеймс Брайт заинтересовался тем, как автоматизация влияет на разные области промышленности, от нефтепереработки до хлебопечения. Он выяснил, что условия на заводах отнюдь не вдохновляющие. Из–за нового оборудования рабочим гораздо чаще доставалась лишь скучная, низкоквалифицированная работа. Например, с автоматизированным фрезерным станком ремесло слесаря не становилось более творческим, а сводилось к простому нажатию кнопок. Брайт пришел к выводу, что главный эффект от автоматизации (в терминах экономики труда) — снижение квалификации рабочих, а не повышение ее. «Урок из этого прост, — писал он в 1966 году. — Сложным оборудованием необязательно должны управлять квалифицированные рабочие. Все профессиональные навыки могут быть встроены в саму машину».
Сегодня мы наблюдаем ту же самую картину, но в большем масштабе. Программы научились анализировать и принимать решения, и автоматизация перешла из мира промышленности в мир офисов и белых воротничков. Компьютеры теперь выполняют высококвалифицированную работу, требующую определенных знаний, которая всегда считалась прерогативой образованных и опытных специалистов. Летчики доверяют компьютерам управлять самолетами, врачи пользуются ими для диагностирования заболеваний, архитекторы проектируют здания с помощью компьютерных программ. Новая волна автоматизации затронула всех.
Компьютеры не отбирают всю работу у талантливых людей, но они меняют рабочий процесс. Все больше мы убеждаемся в том, что деквалификация, затронувшая в прошлом веке заводских рабочих, начинает убивать даже самые редкие профессиональные таланты. Вчерашние операторы на фабриках сегодня просто управляют компьютерами.
«Пилот, давно не управлявший самолетом вручную, с большей вероятностью допустит ошибку в случае чрезвычайной ситуации»
Посмотрите хотя бы на небо. 100 лет назад изобрели автопилот, и полеты стали безопаснее и эффективнее. Система получила развитие в 1970-х годах с появлением электродистанционной системы управления. Но сегодня специалисты волнуются, не зашли ли мы слишком далеко. Так много задач по управлению самолетом было переложено с человека на компьютер, что пилоты теряют свою сноровку, постепенно утрачивают навыки.
Даже незначительная потеря навыков ручного управления самолетом может привести к трагедии. Пилот, давно не управлявший самолетом вручную, с большей вероятностью допустит ошибку в случае чрезвычайной ситуации. Ошибки пилота, связанные с автоматизацией, привели к нескольким недавним авиакатастрофам, в том числе к крушению континентального рейса 3407 в Буффало в 2009 году и падению рейса 447 Air France в Атлантическом океане, а также к неудачной посадке рейса 214 Asiana в 2013 году в Сан-Франциско. В конце прошлого года был опубликован отчет Федерального управления гражданской авиации, в котором говорится, что все больше крушений происходит из–за чрезмерного доверия пилотов автоматике. Пилоты привыкли просто смотреть, как развиваются события, и реагировать на уже случившуюся ситуацию, вместо того, чтобы опережать и предупреждать события. Федеральное управление гражданской авиации теперь обязывает авиакомпании уделять больше времени полетам с ручным управлением.
Компьютерные системы развиваются, а люди, которые их используют, наоборот все меньше стремятся совершенствовать свои собственные знания. В этом часто обвиняют приложения в программах, которые постоянно предлагают пользователю множество подсказок и советов. Простые, менее изощренные программы заставляют людей больше думать, активнее действовать и учиться. Наши навыки развиваются только в том случае, если их практиковать, если использовать их регулярно и решать с их помощью сложные задачи.
Задача же современных программ состоит в том, чтобы облегчить нам жизнь и избавить от этих нагрузок. Программисты чаще всего автоматизируют именно тяжелую, трудозатратную работу, ведь так быстрее всего удается повысить эффективность и получить прибыль. Другими словами, здесь разворачивается активная борьба интересов разработчиков программ автоматизации и их пользователей или операторов.
Тем не менее, автоматизация продолжает распространяться на разные сферы. С появлением электронной медицинской документации врачи в большой степени полагаются на программные шаблоны, которые помогают им разобраться с данными пациента. Программы содержат ценные вопросники и предупреждения, но они также превращают врачебную практику в рутину и формальность, а также дистанцируют врачей от их пациентов. В 2007-2008 гг. в Нью-Йорке профессор Тимоти Хофф провел исследование на эту тему — он опросил более 75 врачей, использующих компьютерные программы. По их словам, из–за компьютерного оборудования они стали хуже понимать своих пациентов и потеряли способность принимать осмысленные решения, касающиеся диагноза и лечения.
В своей статье 2012 года профессор Гарвардской медицинской школы Бет Лоун отмечает, что врачи теперь больше слушают подсказки компьютера, чем жалобы своих пациентов. В худшем случае это может привести к тому, что врачи упустят важные для диагноза симптомы. Даже творческие профессии страдают от деквалификации, к которой приводит автоматизация. Благодаря компьютерному проектированию архитекторы теперь могут строить здания необычных форм и из необычных материалов. Но если использовать компьютеры на слишком ранней стадии проекта, пропадает чувство эстетики, и мы упускаем важные вещи, которые можно заметить только при создании эскизов и моделировании вручную.
Ручной труд, как показывают психологические исследования, лучше помогает раскрыть оригинальность художника, улучшает его рабочую память и усиливает осязание. «Блокнот — это усилитель мозговой деятельности», — говорит Найджел Кросс, профессор в Открытом университете Великобритании.
Профессор по архитектуре в Университете Майами Якоб Бриллхарт (Jacob Brillhart) писал в своей статье в 2011 году, что современные компьютерные системы могут с невообразимой скоростью превратить множество технических данных в точные 3D модели, но из этого получаются более банальные и «плоские» проекты, лишенные смысла, воображения и чувства. Однако с этой ситуацией нельзя мириться. Автоматизация не должна устранять сложные задачи из нашей работы и разрушать наши способности. Все эти недостатки объясняются тем, что программисты и инженеры преимущественно используют машиноориентированный подход к автоматизации. Когда системные разработчики начинают проект, они, прежде всего, оценивают способности компьютеров, чтобы переложить на программу как можно больше работы. Оператор работает уже с тем, что осталось: как правило, это относительно пассивные задачи, такие как ввод данных, шаблонные действия и контроль за мониторами. Такой подход представляет собой порочный круг, который ведет к постоянному снижению квалификации. Устранение трудных задач в работе приводит к деквалификации и большей вероятности ошибки. Когда такие ошибки случаются, разработчики пытаются еще больше ограничить человеческую ответственность, таким образом запуская новый круг деквалификации.
Но из этой ситуации есть выход. Человекоориентированный подход к автоматизации ставит во главу угла профессиональные качества человека. Система проектируется таким образом, что оператор постоянно остается в «цикле принятия решений», как это называют разработчики. Это постоянный процесс, состоящий из действия, ответной реакции и оценки. Благодаря этому работники не теряют внимание и концентрацию, вовлекаются в процесс и выполняют трудные задачи, которые развивают их профессиональные навыки.
В этой модели компьютерные программы играют важную, но второстепенную роль. Им доверяют однообразные задачи, которые уже освоил оператор, они предупреждают о возникновении непредвиденных ситуаций, предоставляют свежую информацию, расширяющую видение оператора, сообщают об ошибках в процессе, из–за которых люди часто принимают неправильные решения. Технология становится союзником профессионала, а не его заменой.
«Роботы не могут имитировать человеческую проницательность, изобретательность и интуицию, отточенную упорным трудом и дополненную реальным жизненным опытом»
Для перевода автоматизации в более человечную плоскость не требуется технического прорыва. Нужно просто сместить приоритеты и по-новому посмотреть на сильные и слабые стороны человека.
Например, авиалинии могли бы программировать компьютеры в кабине пилота так, чтобы во время полета происходила периодическая смена ручного и автоматического управления. Полеты могли бы стать даже безопаснее, если бы пилот был всегда начеку. Что касается медицины и других профессий, программы могли бы намного меньше вмешиваться в работу профессионалов и давать людям возможность высказывать собственное мнение, прежде чем предлагать решения, основанные на определенных алгоритмах.
Человекоориентированный подход к автоматизации не сдерживает прогресс. Наоборот, он выводит прогресс на более гуманистический путь и борется со слишком общим, античеловечным подходом, в основе которого лежит поклонение компьютерам и пренебрежение людьми. Один из самых вдохновляющих примеров такого подхода — адаптивная автоматизация. В ней используются современные сенсоры и алгоритмы интерпретации для отслеживания физических и умственных состояний человека, а затем эта информация используется для переключения задач и функций между человеком и компьютером. Если система чувствует, что человек работает со сложным процессом, она перекладывает больше задач на компьютер, чтобы не отвлекать оператора. Но когда она понимает, что интерес оператора угасает, система сдвигает нагрузку на человека, чтобы привлечь его внимание и потренировать профессиональные навыки.
Мы очарованы компьютерами, и в этом нет ничего плохого. Но это увлечение не должно заставлять нас недооценивать наши собственные таланты. Даже самому умному программному обеспечению не хватает здравого смысла, изобретательности и яркости, которые есть у квалифицированного профессионала. В самолетах, офисах, врачебных кабинетах люди остаются незаменимы. Роботы не могут имитировать человеческую проницательность, изобретательность и интуицию, отточенную упорным трудом и дополненную реальным жизненным опытом. Если мы позволим нашим способностям исчезнуть и будем во всем полагаться на автоматизацию, мы станем менее талантливыми, менее гибкими и более зависимыми от машин. Мы создадим мир, более пригодный для роботов, чем для нас самих.
