Разработчики из google deepmind создали аварийную кнопку остановки ии

Развитие ИИ связано прежде всего с созданием комфорта средств и увеличением человека, упрощающих его жизнь. Создание ИИ, талантливого самостоятельно ликвидировать разные неприятности и машинально делать задачи, есть целью многих больших компаний. Гугл относится к тем, кто поддерживает идею ИИ и вносит в эту сферу важный вклад. Но компания кроме этого разделяет разные опасения довольно предположительной опасности ИИ, которую он может причинить, исходя из этого "дочка" Гугл называющиеся DeepMind создала кнопку тревоги, разрешающую мгновенно остановить ИИ и не разрешить ему причинить вреда ни себе, ни людям.

Смотрите кроме этого: ИИ Гугл сразится с мировым чемпионом по го

Победа программы AlphaGo, которую создала компания Гугл DeepMind, над чемпионом Европы по игре в го стала беспрецедентной. Сейчас же создатели поставили новую цель — с 9 по 15 марта марта в Сеуле будет проходить турнир по игре в го между AlphaGo и мировым чемпионом Лии Седолем. Призовой фонд — 1 миллион долларов. По словам директора DeepMind, прямая трансляция игры будет организована на видеохостинге YouTube.

Согласно точки зрения разработчиков из DeepMind, аварийная кнопка есть последним пределом контроля человека над ИИ в страшной обстановке.

В случае если подобный агент трудится в настоящем времени под наблюдением человека, иногда от оператора может потребоваться нажатие громадной красной кнопки, дабы не допустить вредоносную последовательность действий агента (вредоносную как для него самого, так и для его окружения) и перевести агента в надёжный режим.

Но это не будет универсальным ответом для всех предположений ИИ. Кое-какие методы, к примеру, Q-learning, возможно легко и безопасно приостановить, а для некоторых потребуются модификации разработки. Кроме этого пока остается под вопросом, вероятна ли по большому счету работа данной кнопки со всеми существующими обучаемыми методами, но, по крайней мере, начало положено.

Источник: ubergizmo.com

DeepMind’s AlphaStar Beats Humans 10-0 (or 1)


Похожие статьи: