Ранее Институт будущего жизни опубликовал открытое письмо, где просит ввести мораторий на обучение мощных нейросетей как минимум на 6 месяцев. Его подписали 1300 человек, в том числе генеральный директор SpaceX Илон Маск, соучредитель Apple Стив Возняк и бывший кандидат в президенты США Эндрю Янг.
Юдковский похвалил такой шаг, но сам письмо подписывать не стал. По его словам, подписавшие понимают все серьезность проблемы, но просят слишком малого, чтобы ее решить.
Ученый добавил, что, создавая нечто гораздо мощнее человека, необходимо все рассчитать и тщательно подготовиться. Сегодня искусственный интеллект и нейросети развиваются с невероятной скоростью, но пока не создано ни одного механизма на случай непредвиденных ситуаций.
Элиезер Юдковский призвал отключить все системы, где совершенствуются самые мощные ИИ. Запрет должен коснуться всех, в том числе правительств государств и военные службы. По словам ученого, если кто-то нарушит мораторий и решит открыть центр обучения искусственного интеллекта, то по этому месту необходимо «нанести авиаудар».
