Показать меню

Искусственный интеллект вырывается из-под контроля: ученые перестали понимать, как он работает

Искусственный интеллект вырывается из-под контроля: ученые перестали понимать, как он работает

Проблемы искусственного интеллекта обсудили ученые и программисты в рамках научной конференции, состоявшейся в Лонг-Бич (Калифорния). Сразу несколько специалистов заявили, что они перестали понимать, как работает ИИ.

Ученые хотят разобраться в вопросе, каким образом искусственный интеллект принимает решения. Причем сделать это необходимо уже сейчас, пока система не стала еще более сложной.

Эксперты согласились, что проблема, которая получила название «черная коробочка», действительно серьезная. Эксперименты показывают, что ИИ склонен принимать предвзятые решения и искать ненужные аналогии. Ошибки ИИ могут стоить человечеству очень дорого. Скажем, во время миссии на Марс, когда космические аппараты стоимостью миллионы долларов находятся в далеком космосе, ошибки просто недопустимы.

Ученые пытаются решить проблему и найти методы, позволяющие понять логику ИИ. Сотрудник Google Мэтра Рагху рассказала о своем исследовании, в ходе которого она отслеживала действий отдельных «нейронов» нейросети. Проведя анализ более миллиона операций, она смогла понять, какие из искусственных «нейронов» сосредоточивались на неверных представлениях, и успешно их отключила. В своем докладе исследователь доказывает, что работу нейросетей можно перевести в форму, доступную для понимания человека.

Автор: Дмитрий Лынько По материалам: u-f
Добавить комментарий
Ваше Имя:
Ваш E-Mail:
Введите два слова, показанных на изображении: *
Лента новостей
Как избавиться от слепоты с помощью апельсинов рассказали ученые14:17Магазин кигуруми – костюмы для детского праздника14:13Биокамин для дома – красиво, уютно, безопасно13:30Трамп рассказал, сколько США вкладывают в НАТО: цифра шокирует12:45Личные данные россиян со сканами паспортов попали в «Яндекс» – СМИ12:17Metallica готовит к переизданию «And Justice For All»11:01Трамп ответил на критику его переговоров с Путиным09:45Порошенко назвал дату встречи в нормандском формате заместителей дипсоветников08:18В США обвинили россиянку в шпионаже: адвокат раскрыл истинную причину ее приезда в страну07:27Замглавы администрации Ростова по ЖКХ уволен по требованию прокуратуры03:36Петра Порошенко рассмешили слова Путина о Крыме02:54«Куячат конкретно»: оккупированный Донецк второй час дрожит от мощных залпов00:54Дима Билан объяснил, почему не хочет детей00:45