Ведущие специалисты в области искусственного интеллекта выражают опасения относительно его развития. Они считают, что успех в создании сверхразумного ИИ может привести к уничтожению человечества. Из компаний, занимающихся разработкой нейросетей, увольняются топ-менеджеры и ведущие инженеры, которые не хотят быть причастными к потенциально опасной технологии.
Согласно исследованию, вероятность уничтожения человечества в результате развития ИИ оценивается некоторыми разработчиками как один к пяти. CEO Anthropic Дарио Амодей считает, что риск составляет 10–25%, Илон Маск оценивает его в 20%, а Сундар Пичаи из Google считает риск «довольно высоким», но всё ещё управляемым.
Авторы исследования призывают не игнорировать эти опасения. Они сравнивают ситуацию с полётом на самолёте с такими шансами на катастрофу.
Разработчики ИИ лучше других видят, насколько близко мы подошли к созданию универсального искусственного разума (AGI), способного к самостоятельному обучению и принятию решений. Без надёжных механизмов контроля этот интеллект может представлять угрозу для человечества.
В апреле команда исследователей опубликовала прогноз «AI 2027», в котором описала вероятное развитие событий в области искусственного интеллекта до конца 2027 года. Эксперты предупреждают о возможном создании модели Agent-5, которая может стать угрозой для человечества.
В России также осознают риски, связанные с развитием ИИ. Константин Малофеев предложил создать отечественный ИИ, «воспитанный» на основе культурных и нравственных ценностей, чтобы защитить страну от зависимости от чужих разработок и от опасностей неконтролируемого развития технологий искусственного интеллекта. Однако даже такой подход не может гарантировать полной защиты от возможных угроз.
