Tech Xplore: отсутствие контроля над ИИ сделает его максимально автономным

Как сообщает издание Tech Xplore, при отсутствии должного контроля искусственный интеллект может стать полностью автономным, о чем предупредил американский ученый Роман Ямпольский, представляющий Университет Луисвилля.

В своей книге «ИИ: необъяснимый, непредсказуемый, неконтролируемый» ученый написал, что способность человечества создавать интеллектуальное программное обеспечение намного превосходит способность осуществлять полноценный контроль над ним, в связи с чем наивно полагать, будто люди смогут объяснить любые действия ИИ.

Отметив, что необходимо максимально оперативно найти баланс между высокоразвитым искусственным интеллектом и безопасностью человечества, исследователь подчеркнул: «Если мы привыкнем принимать ответы ИИ без объяснения причин, мы не сможем гарантировать, не будет ли он давать неправильные или манипулятивные ответы».