logo logo
Сообщество робототехников

Интервью с Элоном Маском об ИИ и опасности

Пятница, 4 Июля 2014, в 8:03
Мнение

Терминатор оживает?

Прогресс искусственного интеллекта несет в себе потенциальную угрозу. Сначала об этом предупреждал Стивен Хокинг, а теперь и Маск выразил подобные опасения.

Бизнесмен и основатель корпораций Tesla и SpaceX Элон Маск инвестирует деньги в разные компании, которые занимаются разработкой искусственного интеллекта (ИИ). Тем не менее, в недавнем интервью на канале CNBC, он заявил, что инвестировал в такие компании не для финансовой выгоды, а чтобы «быть в курсе инноваций в области ИИ. Я считаю, что в этом есть потенциальная опасность».

Маск даже вспомнил классику кинематографа – «Терминатор» 1984 года, и сказал, что именно таких подобных ситуаций человечество должно избегать.

Ведущие на канале CNBC Келли Эванс и Джулия Бурстин взяли у Маска полное интервью:

 

Джулия Бурстин: Я хочу задать Вам вопрос о компаниях, в которые Вы инвестировали. Вы утверждаете, что кроме SpaceX и Tesla, Вы почти не инвестируете деньги в другие фирмы.

Элон Маск: Ну да, я не самом деле не могу назвать себя полноценным инвестором.

 

Джулия Бурстин: Вы не инвестор?

Элон Маск: Точно. Кроме SolarCity и Tesla, я не владею другими государственными ценными бумагами.

 

Джулия Бурстин: Удивительно. Но Вы же только недавно инвестировали в компанию под названием Vicarious Artificial Intelligence. Что это за компания?

Элон Маск: Верно. Я также инвестировал и в Deep Mind до того как Google приобрела её, и выкупила Vicarious. Я как бы не стараюсь получить обратную выгоду от своих инвестиций. Я просто хочу быть в курсе того, что происходит с искусственным интеллектом. Мне кажется, в этом есть потенциально опасные последствия.

 

Келли Эванс: Опасные? Почему?

Элон Маск: Потенциально, да. Об этом ещё снимали фильмы, Вы помните «Терминатор»?

 

Келли Эванс: Да, но фильмы это совсем другое. И даже если так, что Вы можете поделать с такой потенциальной опасностью, если она есть?

Элон Маск: Не знаю.

 

Джулия Бурстин: А для чего Вы инвестировали в Vicarious? Чем занимается эта компания? Что она будет делать в дальнейшем?

Элон Маск: Ну, Vicarious занимается технологией рекурсивных корковых сетей (recursive cortical networks). Это подразумевает эмуляцию человеческого мозга.

 

Джулия Бурстин: То есть, Вы хотите убедиться, что технология используется в добрых целях, а не для плохих, как в «Терминаторе»?

Элон Маск: В общем, да. По фильму тоже, когда они создавали ИИ, они не ожидали такого результата. Просто нам нужно быть осторожными.

 

Келли Эванс: В этом-то и ирония. В смысле, человек, который занимается одними из самых продвинутых технологий в стране, боится их прогресса.

Элон Маск: По сути, так.

 

Келли Эванс: Поэтому я и спрашиваю: что Вы можете сделать? Другими словами, этот прогресс практически невозможно остановить, не так ли? Что Вы сделаете, если увидите, что эти разработки по имитации мозга выходят на новый уровень?

Элон Маск: Я точно не знаю.

 

Джулия Бурстин: Но на чем должен основываться ИИ? В чем его ценность?

Элон Маск: Я не знаю. Но возможен очень страшный исход. И мы должны постараться обеспечить адекватный результат, а не породить всемирное зло.

 

Келли Эванс: Или улететь на Марс, если больше не будет других вариантов.

Элон Маск: ИИ догонит нас там довольно быстро.

 

Хокинг и трое других ученых опубликовали работу, в которой говорится, что ИИ может стать не только «самым выдающимся моментом для человеческой цивилизации», но также и «последним». Хокинг приводит несколько достижений в сегменте ИИ, включая самоуправляемые автомобили, ОС Siri и компьютер, который выиграл в телеигру «Jeopardy!». Но «эти достижения, вероятно, потускнеют на фоне того, что нам принесет грядущее десятилетие».

Учение пишут: «Потенциальные преимущества – огромные; все благанашей цивилизации – продукт человеческого интеллекта. Мы не можем предвидеть, чего мы сможем достичь, когда этот интеллект будет улучшен инструментами, которые может предоставить ИИ; но такие вещи как устранение войн, болезней и бедности стоят многого. Успешное создание ИИ будет самым большим достижением за всю историю человечества».

К сожалению, это также может стать закатом нашей цивилизации, разве что мы поймем, как избежать риска. В ближайшем будущем, мировые армии планируют акцентировать внимание на автономных оружейных системах, которые смогут выбирать и уничтожать цели. ООН и организация Страж прав человека («Human Rights Watch») предложили декларацию о запрете на такое вооружение. В будущем, во Второй век машин (как его называют Эрик Бринолфссон и Эндрю МакАфи), ИИ может трансформировать нашу экономику, сделав её богаче и эффективнее.

Ученые считают, что ничто не будет препятствовать саморазвитию машин со сверх-интеллектом. «Представьте, что эта технология может перехитрить финансовые рынки, корректируя человеческие исследования, манипулируя человеческими лидерами и разрабатывая оружие, которое мы не сможем понять. Если в скорой перспективе мы не сможем решить, кто будет контролировать ИИ, то потом – не факт, что мы и вовсе сможем это контролировать».

рейтинг

1947

просмотров

0

комментариев

порекомендовать друзьям

комментарии

Нет комментариев

Гость

Дорогие друзья! Помните, что администрация сайта будет удалять:

  • Комментарии с грубой и ненормативной лексикой
  • Прямые или косвенные оскорбления героя поста или читателей
  • Короткие оценочные комментарии ("ужасно", "класс", "отстой")
  • Комментарии, разжигающие национальную и социальную рознь