Подписаться на новости
brand brand
logo logo
Сообщество робототехников

Новый инструмент от OpenAI и Google позволяет проникать в «сознание» нейросети

Новый-инструмент-от-OpenAI-и-Google-позволяет-проникать-в-сознание-нейросети
Понедельник, 11 Марта 2019, в 17:19
Искусственный интеллект

Специалисты компаний OpenAI и Google разработали «микроскоп» для нейронных сетей. Это инструмент Activation Atlases, который позволяет исследователям анализировать работу алгоритмов и определять, чем искусственный интеллект руководствуется при распознавании объектов.

С помощью Activation Atlases исследователи научились проникать в «сознание» компьютерной программы с искусственным интеллектом и проследили за тем, как она воспринимает различные изображения.

Так, Activation Atlases изучил процессы, которые происходят внутри нейросети GoogLeNet, или InceptionV1. Оказалось, что искусственный интеллект идентифицирует объекты по скоплению пикселей или фрагменту изображения. Разные нейроны AI-программы предоставляют системе отличающуюся информацию. Низшие слои нейросети распознают основные геометрические фигуры. Более высокие уровни превращают их в узнаваемые объекты. ИИ собирает все данные воедино и устанавливает, что изображено на рисунке.

 

Новый-инструмент-от-OpenAI-и-Google-позволяет-проникать-в-сознание-нейросети

 

Узнав, как нейросеть распознает объекты, исследователи решили запутать ее во время эксперимента. Ученые обратили внимание на то, что на одном из фото челюсть акулы похожа на мяч для игры в бейсбол. Поэтому, чтобы усложнить искусственному интеллекту задачу, они добавили изображение мяча на картинку, где был запечатлен китовый плавник. В результате AI-система приняла кита за акулу.

Разработчики Activation Atlases полагают, что их инструмент поможет выявлять и устранять уязвимости в нейронных сетях, которые связаны с неточной классификацией изображений.

 

Новый-инструмент-от-OpenAI-и-Google-позволяет-проникать-в-сознание-нейросети

Новый-инструмент-от-OpenAI-и-Google-позволяет-проникать-в-сознание-нейросети

рейтинг

363

просмотров

0

комментариев

порекомендовать друзьям

ЧИТАТЬ НА ЭТУ ТЕМУ

Loading

комментарии

Нет комментариев

Гость

Дорогие друзья! Помните, что администрация сайта будет удалять:

  • Комментарии с грубой и ненормативной лексикой
  • Прямые или косвенные оскорбления героя поста или читателей
  • Короткие оценочные комментарии ("ужасно", "класс", "отстой")
  • Комментарии, разжигающие национальную и социальную рознь
brand brand