Не повод для хвастовства. Эксперты опасаются искусственного интеллекта

|

В конце 2018 года Исследовательский центр Пью опросил экспертов, усилят ли технологии человеческий потенциал? Большинство ответов оказались отрезвляющими и далекими от оптимистичных оценок. Чего боятся люди, хорошо знающие индустрию технологий, рассуждает профессор Открытого университета Джон Нотон.

Пятьдесят лет назад инженер по имени Дуглас Энгельбарт провел в Сан-Франциско живую демонстрацию, которая изменила компьютерную индустрию и, косвенно, весь мир. Несколько сотен гиков в зрительном зале наблюдали, как он использует что-то, называемое «мышкой», и специальную клавиатуру, чтобы управлять документами, и показывает, как люди в разных местах могут вместе работать над общими файлами в интернете.

Это, как сказал присутствовавший на выступлении технический историк Стивен Леви, была «мать всех демонстраций».

«Окна открывались и закрывались, и их содержимое менялось, а аудитория смотрела в утробу киберпространства. Энгельбарт говорил своим спокойным голосом сотрудника Центра управления полетами, и, действительно, перед их глазами проносились последние рубежи».

Это выступление 1968 года вдохновило огромную новую индустрию, основанную на сетевых персональных компьютерах, использующих графические интерфейсы. Другими словами, все то, что мы используем сегодня.

Дуглас Энгельбарт во время демонстрации

Энгельбарт был провидцем, который считал, что наиболее эффективный способ решения проблем — расширить человеческие возможности и разработать способы построения коллективного интеллекта. По его мнению, компьютеры будут «мощным рулевым механизмом для мозга» — инструментом для расширения человеческих возможностей. Эта идея стала основой оптимистической истории технологической индустрии.

***

За последние несколько лет мечта оказалась немного запятнана. Мы узнали, как информационные вампиры внедряют технологии, чтобы использовать нас, и одновременно предоставляют бесплатные инструменты для нашего предполагаемого «роста». Аргументы «за» варьируются от компании к компании. Электронные таблицы, обработка текстов, автоматизированное проектирование (CAD) и инструменты для планирования, например, безусловно стали благом.

Поисковые системы можно рассматривать как протез для человеческой памяти или оправдание того, что нет необходимости сохранять в голове фактические знания. Но не ясно, какой когнитивный рост – если такой имеется – нам дают Instagram или Facebook. А уж что касается твиттера…

Тем не менее, существует один вид недавних технологических разработок, в пользу которого постоянно приводят аргументы о росте. Это искусственный интеллект (ИИ). Его проповедники неизменно изображают ИИ как технологию, которая действительно может усилить человеческие возможности. В нынешнем проявлении это, как правило, машинное обучение.

Его потенциал роста часто впечатляет. Можно подумать, например, о том, как программное обеспечение может сканировать десятки тысяч снимков сетчатки и отбирать те, на которые необходимо обратить внимание глазному хирургу.

Но в то же время известно много случаев, когда машинное обучение приводило к искаженным результатам и предвзятым прогнозам. Широко распространена обеспокоенность по поводу построения мира вокруг такой мощной и такой несовершенной технологии.

***

Чтобы попытаться оценить степень риска, Исследовательский центр Пью поставил перед группой экспертов следующий вопрос: «Считаете ли вы, что к 2030 году продвижение систем искусственного интеллекта и связанных с ним технологических систем усилит человеческий потенциал и расширит его возможности?»

Ученые получили откровенные и отрезвляющие ответы. Все респонденты были людьми, которые понимали потенциал технологий, но преобладающее впечатление, которое у них сложилось, вызывает обеспокоенность. Они считают, что широкое использование ИИ приводит к потере человеческой воли, поскольку принятие решений по ключевым аспектам жизни передается «черному ящику», управляемому кодом. Они боятся возможного злоупотребления в системах наблюдения, предназначенных для получения прибыли (так называемых «социальных сетях»), последствия которых уже достаточно очевидны.

Они видят риски существования для многих видов занятости. В то время как некоторые ожидают появления новых видов рабочих мест, другие беспокоятся по поводу массовой безработицы, расширения экономических разногласий, социальных потрясений и популистских восстаний, вызванных этим.

Многие из респондентов осознают и приветствуют потенциал роста ИИ, другие же опасаются, что наша растущая зависимость от технологий подорвет нашу способность думать самостоятельно, действовать независимо или эффективно взаимодействовать с другими.

И некоторые предвидят, что рост способности технологий вмешиваться в демократические процессы (например, с помощью видео с «глубокой фальсификацией») приведет к хаосу.

Первое, что следует сказать об этом исследовании — это не был статистически репрезентативный опрос общественного мнения. Это серьезная попытка выяснить мнение широкого круга хорошо осведомленных мыслителей, многие из которых знакомы с отраслью, ее технологиями и корпорациями. По крайней мере, их размышления отличаются от бешеного хвастовства об «искусственном интеллекте повсюду» в технологической индустрии, которая рассматривает этику как профессиональную терапию для философов на неполной занятости и других «неудачников».

Но в первую очередь это заставило меня задуматься, что бы Дуглас Энгельбарт сделал во время дебатов. «Кто-то однажды назвал меня “просто мечтателем”, — как-то сказал он. — Это оскорбило меня. Быть “просто мечтателем”, настоящим мечтателем — тяжелая работа. Действительно сложно становится, когда начинаешь верить в свои мечты». Особенно когда они превращаются в ночной кошмар.

Источник

Поскольку вы здесь…

… у нас есть небольшая просьба. Все больше людей читают портал "Православие и мир", но средств для работы редакции очень мало. В отличие от многих СМИ, мы не делаем платную подписку. Мы убеждены в том, что проповедовать Христа за деньги нельзя.

Но. Правмир — это ежедневные статьи, собственная новостная служба, это еженедельная стенгазета для храмов, это лекторий, собственные фото и видео, это редакторы, корректоры, хостинг и серверы, это ЧЕТЫРЕ издания Pravmir.ru, Neinvalid.ru, Matrony.ru, Pravmir.com. Так что вы можете понять, почему мы просим вашей помощи.

Например, 50 рублей в месяц – это много или мало? Чашка кофе? Для семейного бюджета – немного. Для Правмира – много.

Если каждый, кто читает Правмир, подпишется на 50 руб. в месяц, то сделает огромный вклад в возможность нести слово о Христе, о православии, о смысле и жизни, о семье и обществе.

Темы дня
Вспоминая Алексия II – журналист Елена Писарева сняла последний фильм к 80-летию Святейшего

Сообщить об опечатке

Текст, который будет отправлен нашим редакторам: