Подписаться на новости
brand brand
logo logo
Сообщество робототехников

Студенты MIT обманули искусственный интеллект Google

Студенты-MIT-обманули-искусственный-интеллект-Google
Четверг, 28 Декабря 2017, в 18:16
Искусственный интеллект

Студенты из Массачусетского технологического института заставили искусственный интеллект Google вместо двух лыжников и других изображений видеть собаку.

Команды студентов из лаборатории компьютерных наук MIT и лаборатории искусственного интеллекта (CSAIL), разработали метод обмана нейронных сетей, который заставляет ИИ вместо одного изображения видеть другое. Новый алгоритм протестировали на Google Cloud Vision.

«Наш метод является первым агрессивным алгоритмом для настройки частичной информации», – сказал Джесси Лин, студент-исследователь из MIT. – Он позволяет совершать атаки в реальных условиях, где они ранее были неразрешимыми или очень дорогостоящими».

Полученные результаты студенты планируют представить на конференции по «Системам компьютерного зрения и распознавания» в июне 2018 года.

По словам исследователей, их работа может помочь специалистам своевременно создавать защиту для систем компьютерного зрения и нейросетей. Ведь когда ИИ распознает на фото собаку вместо двух лыжников, это кажется безобидным. Однако возможность хакеров обмануть умные системы может быть опасна. К примеру, когда система автопилота на дороге изображение ребенка примет за полиэтиленовый пакет.

 

рейтинг

690

просмотров

0

комментариев

порекомендовать друзьям

комментарии

Нет комментариев

Гость

Дорогие друзья! Помните, что администрация сайта будет удалять:

  • Комментарии с грубой и ненормативной лексикой
  • Прямые или косвенные оскорбления героя поста или читателей
  • Короткие оценочные комментарии ("ужасно", "класс", "отстой")
  • Комментарии, разжигающие национальную и социальную рознь
brand brand