Показать меню

Искусственный интеллект вырывается из-под контроля: ученые перестали понимать, как он работает

Искусственный интеллект вырывается из-под контроля: ученые перестали понимать, как он работает

Проблемы искусственного интеллекта обсудили ученые и программисты в рамках научной конференции, состоявшейся в Лонг-Бич (Калифорния). Сразу несколько специалистов заявили, что они перестали понимать, как работает ИИ.

Ученые хотят разобраться в вопросе, каким образом искусственный интеллект принимает решения. Причем сделать это необходимо уже сейчас, пока система не стала еще более сложной.

Эксперты согласились, что проблема, которая получила название «черная коробочка», действительно серьезная. Эксперименты показывают, что ИИ склонен принимать предвзятые решения и искать ненужные аналогии. Ошибки ИИ могут стоить человечеству очень дорого. Скажем, во время миссии на Марс, когда космические аппараты стоимостью миллионы долларов находятся в далеком космосе, ошибки просто недопустимы.

Ученые пытаются решить проблему и найти методы, позволяющие понять логику ИИ. Сотрудник Google Мэтра Рагху рассказала о своем исследовании, в ходе которого она отслеживала действий отдельных «нейронов» нейросети. Проведя анализ более миллиона операций, она смогла понять, какие из искусственных «нейронов» сосредоточивались на неверных представлениях, и успешно их отключила. В своем докладе исследователь доказывает, что работу нейросетей можно перевести в форму, доступную для понимания человека.

Автор: Дмитрий Лынько По материалам: u-f
Добавить комментарий
Ваше Имя:
Ваш E-Mail:
Введите два слова, показанных на изображении: *
Лента новостей
Фанаты заподозрили жену Урганта в беременности00:05Цымбалюк-Романовская разыскивает «пропавшего» Джигарханяна00:05Джон Траволта новой прической огорошил фанатов00:05«Дом-2»: На проект пришла Альбина Джанабаева00:05Ремонт от компании «Золотые руки»00:04Ремонт варочных поверхностей. Замена дверей00:03Названа страна Европы с самым большим госдолгом00:01Губернатор Тулеев обвинил в своей отставке видео Навального23:25Посольство России дало комментарий проникновению властей США в резиденцию в Сиэтле22:45В Черновцах пикетировали консульство Румынии22:25Telegram усадит РКН в лужу, заявил глава ФАС22:14В Подмосковье собака разорвала лицо трехлетнему мальчику22:00В РФ вдвое увеличат дефицит бюджета Пенсионного фонда21:10Деми Роуз снялась в "знойной" фотосессии на пляже Африки20:55«Я услышал твой крик о помощи»: Николай Соболев записал ответный дисс на Гнойного20:55Владимир Пресняков-старший прокомментировал свою госпитализацию20:55Солнцев шокировал фоловеров рассказом о медовом месяце с пенсионеркой20:55Невеста Тимати напугала фанатов широкими бёдрами20:55Максим Фадеев представит новую поп-группу в азиатском стиле20:55Звезда «Дом-2» Марина Африкантова рассказала о своей семейной трагедии20:55