Показать меню

Искусственный интеллект вырывается из-под контроля: ученые перестали понимать, как он работает

Искусственный интеллект вырывается из-под контроля: ученые перестали понимать, как он работает

Проблемы искусственного интеллекта обсудили ученые и программисты в рамках научной конференции, состоявшейся в Лонг-Бич (Калифорния). Сразу несколько специалистов заявили, что они перестали понимать, как работает ИИ.

Ученые хотят разобраться в вопросе, каким образом искусственный интеллект принимает решения. Причем сделать это необходимо уже сейчас, пока система не стала еще более сложной.

Эксперты согласились, что проблема, которая получила название «черная коробочка», действительно серьезная. Эксперименты показывают, что ИИ склонен принимать предвзятые решения и искать ненужные аналогии. Ошибки ИИ могут стоить человечеству очень дорого. Скажем, во время миссии на Марс, когда космические аппараты стоимостью миллионы долларов находятся в далеком космосе, ошибки просто недопустимы.

Ученые пытаются решить проблему и найти методы, позволяющие понять логику ИИ. Сотрудник Google Мэтра Рагху рассказала о своем исследовании, в ходе которого она отслеживала действий отдельных «нейронов» нейросети. Проведя анализ более миллиона операций, она смогла понять, какие из искусственных «нейронов» сосредоточивались на неверных представлениях, и успешно их отключила. В своем докладе исследователь доказывает, что работу нейросетей можно перевести в форму, доступную для понимания человека.

Автор: Дмитрий Лынько По материалам: u-f
Добавить комментарий
Ваше Имя:
Ваш E-Mail:
Введите два слова, показанных на изображении: *
Загрузка...
Лента новостей
Стало известно, сколько русских спортсменов поедут на Игры в Южную Корею21:51Вторжение Эрдогана в Сирию грозит Турции огромными потерями21:45ДТП кроссовера и квадрацикла произошло в Перемышльском районе21:40Эксперты назвали ТОП-3 самых лучших китайских автомобилей в России?21:40СМИ: Интернет-магазины торгуют данными покупателей21:40Непогода в Украине: «Укравтодор» снял все ограничения на дорогах21:35В Подмосковье на заводе произошло возгорание21:35Вооруженные боевики напали на Intercontinental Hotel в Кабуле21:35Авиаудары Турции по курдам: ранены 10 мирных жителей21:35Бледанс для поиска жениха использует соцсети21:30На Урале вор постарался ограбить пенсионера с помощью ножниц21:27В Харьковской области военный взял в заложники свою супругу21:27Британский пенсионер оснастил Лэнд Ровер паровым двигателем?21:22На калининградской границе задержали змею21:22МЧС: В Калининградской области потонул ребенок21:22Антон Шипулин завоевал бронзу на этапе Кубка мира по биатлону21:20Постпред Казахстана в Организации Объединенных Наций предложил перенести переговоры по Донбассу в Астану21:20Ломаченко назван в США боксером года21:20Укргидрометцентр назвал области, которые в последующие три дня накроет непогода21:15Турция нанесла авиационные удары по позициям курдов в Сирии21:15