Издание Gizmodo опросило ученых, задав им один вопрос: какая новая технология способна в скором времени ухудшить жизни миллионов людей, а в перспективе — погубить человеческую цивилизацию? Каждый из специалистов дал свой ответ, аргументируя опасения и описывая последствия.

Искусственный интеллект

Профессор компьютерных наук Брауновского университета Майкл Литтман рассказал, что серьезно опасается развития искусственного интеллекта (ИИ).

«Группа из 17 экспертов выразила мнение, что по мере того, как системы ИИ становятся все более полезными в реальных делах, расширяется и сфера их деятельности. Это приводит к увеличению рисков неправильного использования, чрезмерного использования и явных злоупотреблений», — предупредил ученый.

Одним из самых больших опасений он назвал появление у человечества отношения к ИИ как к технологии, которая сможет быть использована для решения любой проблемы.

«У ИИ появилась будто аура нейтральности и беспристрастности. Из-за этого системы воспринимаются как объективные и полезные, хотя они могут применяться ненадлежащим образом и быть построены на результатах предвзятых данных или даже вопиющей дискриминации», — уточнил Литтман.

По его словам, без прозрачности в построении данных и алгоритмов ИИ люди останутся в неведении относительно того, как принимаются решения, влияющие на их жизни.

Например, алгоритмы ИИ играют роль в принятии решений о распределении донорских органов, вакцин и других элементов здравоохранения — эти подходы имеют буквально ставки на жизнь и смерть, предупредил профессор. Он заключил, что нельзя исключать мнения людей из цепочки принятия решений на основе ИИ, чтобы не навредить человечеству.

Биометрия

Профессор эпидемиологии Гарвардского университета Дэвид Шамуэй Джонс склонен считать, что больше всего людям стоит опасаться биометрии, и в особенности технологии распознавания лиц.

«Наши передвижения больше не будут частными. Кто-то всегда будет иметь возможность знать, где мы находимся и где мы были. Даже если никто не злоупотребит этой информацией, потеря конфиденциальности и анонимности кажется мне достаточно значимой», — отметил специалист.

При этом ученый уверен — избежать злоупотреблений почти наверняка не получится. «Риск неправильного использования этой информации реален. Тот, кто имеет доступ к информации, безусловно, может использовать ее в гнусных целях», — выразил опасения Джонс.

По его словам, спектры заинтересованных широк — от сталкеров и бывших партнеров до авторитарных правительств. С развитием технологий у них даже появится способность предсказывать, что люди будут делать дальше: куда идти, что покупать и с кем видеться, констатировал профессор.

Синтетическая биология

Гендиректора компании по прогнозированию событий и трендов «Институт будущего сегодня» (Future Today Institute) Эми Уэбб больше всего пугают новые технологии в области синтетической биологии.

«У них единственная цель — получить доступ к клеткам, чтобы написать новый биологический код. Синтетическая биология — это область науки, которая применяет инженерию, искусственный интеллект, генетику и химию для переделки организмов с улучшенными способностями и новыми целями», — рассказал она.

Специалист заверила, что ряд новых биологических технологий и методов позволят не только читать и редактировать код ДНК, но и записывать его, то есть программировать живые биологические структуры, как если бы они были крошечными компьютерами.

По ее словам, со временем у людей появятся программы, которые будут устроены как текстовый редактор Word, но для кода ДНК — с таким же простым редактированием. Молекулы ДНК же будут печататься с нуля с использованием аналога 3D-принтера, пояснила Уэбб.

«Что может пойти не так? Синтетическую биологию делает самой опасной новой технологией сами люди. Нам нужно будет бросить вызов нашему образу мысли, задавать трудные вопросы и вести рациональные дискуссии о происхождении жизни, иначе мы упустим возможности и лишь увеличим риски», — посчитала глава компании.

В том числе придется определить, следует ли программировать новые вирусы для борьбы с болезнями, формировать новые требования к генетической конфиденциальности и кто должен «владеть» живыми организмами. По ее словам, главная опасность исходит из того, что такие решения кардинальным образом повлияют на судьбы миллионов людей.

Постоянная слежка на работе

Профессор права Фордхемского университета Зефир Тичаут уверена: постоянное и более продвинутое наблюдение за сотрудниками на рабочих местах и удаленке крайне опасно и со временем испортит жизнь миллионам.

«Это перевернет и без того неравные отношения между работодателем и работником, позволяя работодателям обращаться с работниками как с морскими свинками. Эти объемы информации о действиях создают нездоровую мотивацию и в итоге приведут к цели получить больше сделанной работы за меньшую плату», — добавила она.

Специалист отметила, что некоторые работодатели заинтересованы в технологиях в области азартных игр — иметь возможность зарабатывать как можно больше на слабостях людей. И если в казино речь идет об игроках, то у компаний это будут их собственные работники.

Квантовые вычисления

Профессор права, соучредитель факультета Лаборатории технической политики и Центра информированной общественности Вашингтонского университета Райан Кало рассказал, что больше всего его беспокоят квантовые вычисления.

По его словам, взлом соответствующих систем шифрования — лишь верхушка айсберга. Кало уверен, что другие опасности квантовых вычислений не являются новыми, однако обновленные мощности дадут старым угрозам новую, невиданную ранее силу.

«Я беспокоюсь, что квантовые вычисления помогут следить за всем миром, и в нем каждое правительство и компания — это Шерлок Холмс, разгадывающий все наши секреты на основе информации, которую мы даже не думаем скрывать», — отметил он.

Ученый заключил, что квантовые вычисления ускорят потерю конфиденциальности и автономии каждого человека, и это будет несравнимо с тем, на что способны текущие суперкомпьютеры.