logo logo
Сообщество робототехников

«Разберёмся с искусственным интеллектом, пока он не разобрался с нами»: лекция журналиста Business View Дмитрия Полищука

Разберёмся-с-искусственным-интеллектом-лекция-журналиста-Business-View-Дмитрия-Полищука
Четверг, 10 Августа 2017, в 11:45
события

Существует неоконченная история о воробьях. Жил-был воробей Вася. В один прекрасный день он съел волшебного червя – и ему в голову пришла идея: поработить сов. Представьте, мол, какое замечательное нас, воробьёв, ждёт будущее: совы добывают нам пищу, высиживают наши яйца, охраняют от котов, а мы целыми днями ничего не делаем и наслаждаемся жизнью. Васю поддержали почти все воробьи, кроме старого мудрого воробья Виктора. Он сказал: «Постойте! А что вы знаете о совах? А как вы будете их порабощать? А чем потом кормить? А видели ли вы их? А не боитесь ли вы их? Давайте сначала изучим этих птиц, а потом решим, что делать». Но Виктора мало кто послушал. С тех пор воробьи разбились на два лагеря: те, кто загорелся идеей порабощения и хотел посмотреть, что из этого получится; и те, кто решил изучить сов и только потом делать выводы.

Эта история имеет непосредственное отношение к искусственному интеллекту. Современный научный мир разделился на две группы: те, кто создаёт искусственный интеллект и затем анализирует его, и те, кто хочет изучить его поведение и только потом приступить к его созданию, зная, что нас ожидает.

«Умные роботы, или Что мы наделали» – так звучала тема лекции, которую 2 августа провёл специалист по интеллектуальной собственности, экс-гид музея популярной науки и техники «Экспериментариум», журналист проекта Business View Дмитрий Полищук.

Он рассказал об истории развития роботов, проследив за которой, становятся очевидны две вещи:

  1. Робототехника и машинное обучение шагнули далеко вперёд.

  2. Скорость их развития катастрофически высока, даже по сравнению с ситуацией 3–5 годами ранее.

 

Разберёмся-с-искусственным-интеллектом-лекция-журналиста-Business-View-Дмитрия-Полищука-1

И что теперь?

Этапы развития ИИ и робототехники с точки зрения человека выглядят и смешно, и тревожно одновременно:

  1. «Робот не может выполнять задачи, которые выполняю я».
  2. «Ок, он может сделать многое, но не всё, что делаю я».
  3. «Ок, он делает ВСЁ, но я ему нужен, если он сломается».
  4. «Он идеально выполняет рутинную работу, но его нужно обучать новым вещам».
  5. «Ок, пусть забирает мою старую работу – её вообще не должны выполнять люди» (отсылка к деятельности в опасных и вредных условиях труда. – Прим. авт.).
  6. «Wow! Робот очень круто делает мою прежнюю работу, а на моей новой мне платят больше!»
  7. «Слава богу, что он пока не умеет делать то, чем занимаюсь я».

Действительно, сейчас мы стоим на пороге технической революции, которую профессор математики и писатель Вернор Виндж сравнивает с возникновением человеческой жизни на Земле.

Роботы активно внедряются в производство, показывая чудеса производительности 24/7, при этом им не надо платить заработную плату. Однако во всей этой истории учёных больше всего беспокоит, по какому пути пойдёт машинное обучение. Более того, пока мы выясняем, что происходит с искусственным интеллектом, он пытается изучить, что и почему нравится нам.

 

Разберёмся-с-искусственным-интеллектом-лекция-журналиста-Business-View-Дмитрия-Полищука-2

О, дивный новый робомир

Историю из начала статьи (записанную по мотивам пересказа лектора), придумал философ Ник Бостром и представил в своей книге «Искусственный интеллект».

Разумеется, ещё рано впадать в панику и чувствовать себя воробьями, но лучше принять тот факт, что настанет время, когда наше общество, мягко говоря, видоизменится: роботы будут с нами сосуществовать совсем буквально и, возможно, станут полноправными членами общества.

Дабы не повторилась плачевная история из фильма «Терминатор: восстание машин» (впрочем, если непримитивному роботу попадётся видео с испытанием Atlas от Boston Dynamics, то мы обречены), человечество уже сейчас задумалось о техноэтике и этике ИИ и придумало два понятия:

  • Машинная этика – обращение людей с искусственным интеллектом.
  • Робоэтика – нормы поведения роботов по отношению к людям; антоним машинной этики.

Так, Дмитрий привёл выдержку из разрабатываемого Европейским парламентом проекта Гражданского кодекса для роботов, по сравнению с которым три закона робототехники Айзека Азимова кажутся детским лепетом:

«Роботам нужно присвоить законодательный статус. По крайней мере, за высокотехнологичными автономными роботами должен быть закреплён юридический статус электронной личности со своими правами и обязанностями. И если они нанесут ущерб, то должны быть привлечены к ответственности. При этом дела электронных личностей будут рассматривать другие роботы и выносить smart-решения, взаимодействуя с третьими независимыми сторонами».

Вечер перестаёт быть томным, не правда ли?

Кроме юридического статуса, 2500 экспертов, включая Илона Маска и Стивена Хокинга, на конференции Beneficial AI 2017 утвердили 23 принципа, по которым следует развивать искусственный интеллект.

А группой Scalable Cooperation в MIT Media Lab был разработан тест о нравственном выборе – Moral Machine. Его суть в том, что в определенной ситуации умной машине таки нужно кого-то убить. И мы, люди, должны сами выбрать меньшее из двух зол. Его результаты будут учтены для того, чтобы хотя бы электрокары вели себя так, как задумали их создатели.

Аудитория прошла его в конце лекции. Вы также можете внести свою лепту и пройти этот тест.

В завершение статьи хочется перефразировать классика: «Мы в ответе за тех, кого создали». Что ж, остаётся надеяться, что новый робомир будет лучше прежнего. А пока мы живём в старом, нужно приложить максимум усилий, чтоб не превратиться в бостромских воробьёв. Для этого первым делом можно пройти тест Moral Machine и удалить из сети все видео с тестированием роботов от Boston Dynamics.

 

Дарья Козлова

рейтинг

186

просмотров

0

комментариев

порекомендовать друзьям

комментарии

Нет комментариев

Гость

Дорогие друзья! Помните, что администрация сайта будет удалять:

  • Комментарии с грубой и ненормативной лексикой
  • Прямые или косвенные оскорбления героя поста или читателей
  • Короткие оценочные комментарии ("ужасно", "класс", "отстой")
  • Комментарии, разжигающие национальную и социальную рознь