Искусственный интеллект опаснее ядерного оружия

Илон Маск в очередной раз заострил внимание на потенциальных проблемах, с которыми может столкнуться человечество после появления развитых систем искусственного интеллекта.

С искусственным интеллектом мы вызываем демона. Вы, наверное, знаете все эти истории, в которых герой с пентаграммой и святой водой уверен, что может контролировать нечистую силу. Но на деле это не работает!

– заявил господин Маск, намекая на то, что электронный разум может оказаться неподвластным человеку.

Я думаю, нам стоит быть крайне осторожными с искусственным интеллектом. Возможно, это одна из самых серьезных угроз для существования человечества. Не будет лишним введение определенных регулирующих норм на национальном и международном уровнях, которые не позволят наделать глупостей,

— подчеркнул основатель Tesla.

Это уже не первый раз, когда Маск предупреждает о потенциальной опасности электронного разума. Ранее он заявлял, что люди попросту не понимают, насколько быстро прогрессирует искусственный интеллект и какую угрозу он может таить в себе. «Теоретически он [ИИ] может быть опаснее ядерного оружия», — заявил Элон Маск.

Впрочем, основатель Tesla и SpaceX не говорит о том, что разработку интеллектуальных систем нужно полностью прекратить. По его мнению, должна быть обозначена некая черта, переступать за которую не следует.

Любопытно, что заявления господина Маска прозвучали на фоне заключения партнерского договора между Google DeepMind и Оксфордским университетом, которые намерены сообща развивать ИИ-технологии. Речь идет о средствах глубокого обучения для осмысления естественного языка и инструментах визуального распознавания. Подобные разработки позволят машинам понимать человеческую речь и воспринимать изображение реального мира так, как это делают люди.

Кстати, о том, что искусственный интеллект представляет скрытую угрозу для человека, ранее говорил Стивен Хокинг, английский физик-теоретик и космолог. Потенциал искусственного интеллекта в теории поможет справиться с болезнями, нищетой и военными конфликтами. С другой стороны, электронный разум может стать последней разработкой в истории человечества, если не будут тщательно просчитаны все потенциальные риски и опасности.