Ученые утратили контроль за ходом мысли искусственного интеллекта

В ходе калифорнийской конференции ученые заявили, что перестали понимать, как работает искусственный интеллект. Предметом разговора стала необходимость разработки алгоритма действий, направленных на контроль за сложной системой.

По словам Джейсона Йосински из Uber, научные работники отказываются принимать решения искусственного разума без логического объяснения. Для адекватного восприятия обществом модели машинного обучения необходимо изучать принципы его работы более досконально. Возникшую проблему эксперты окрестили «черной коробочкой».

Ошибки ИИ могут стоить людям очень дорого. Так, в пример была приведена космическая миссия на Марс, в ходе которой система самостоятельно отключила неверные механизмы ИИ.