Показать меню
12 дек 08:04Технологии

Искусственный интеллект вырывается из-под контроля: ученые перестали понимать, как он работает

Искусственный интеллект вырывается из-под контроля: ученые перестали понимать, как он работает

Проблемы искусственного интеллекта обсудили ученые и программисты в рамках научной конференции, состоявшейся в Лонг-Бич (Калифорния). Сразу несколько специалистов заявили, что они перестали понимать, как работает ИИ.

Ученые хотят разобраться в вопросе, каким образом искусственный интеллект принимает решения. Причем сделать это необходимо уже сейчас, пока система не стала еще более сложной.

Эксперты согласились, что проблема, которая получила название «черная коробочка», действительно серьезная. Эксперименты показывают, что ИИ склонен принимать предвзятые решения и искать ненужные аналогии. Ошибки ИИ могут стоить человечеству очень дорого. Скажем, во время миссии на Марс, когда космические аппараты стоимостью миллионы долларов находятся в далеком космосе, ошибки просто недопустимы.

Ученые пытаются решить проблему и найти методы, позволяющие понять логику ИИ. Сотрудник Google Мэтра Рагху рассказала о своем исследовании, в ходе которого она отслеживала действий отдельных «нейронов» нейросети. Проведя анализ более миллиона операций, она смогла понять, какие из искусственных «нейронов» сосредоточивались на неверных представлениях, и успешно их отключила. В своем докладе исследователь доказывает, что работу нейросетей можно перевести в форму, доступную для понимания человека.

Загрузка...
По материалам: u-f
Добавить комментарий
Ваше Имя:
Ваш E-Mail:
Введите два слова, показанных на изображении: *
Лента новостей
Взрыв газа в жилом доме Кировской области: есть погибший (ФОТО)09:00Увидеть Турцию и умереть: турист из России прыгнул с 40-метровой скалы в Анталье09:00Число больных COVID-19 в Липецкой области достигло 409308:30Температура в Липецке вновь растет08:30В Данкове в квартире случилась поножовщина08:30Лазарев идет на выборы депутатов Нижнего Новгорода самовыдвиженцем08:10Минздрав выяснил, почему нижегородку спасали волонтеры вместо «Скорой»08:10АО «ГК ЕКС» оказалось в центре скандала08:10Мелик-Гусейнов рассказал об открытии детских лагерей07:40Нижегородстат заявил о резком подорожании продуктов07:40Стало известно, когда в Нижегородской области может начаться вторая волна COVID-1907:40Загадки кармы: как понять, что вы встретили любовь из прошлой жизни07:10Компас внутри нас: как научиться слышать самого себя07:10Полиция: причиной скандального убийства чеченца в Вене могла быть ссора07:00