Руководитель отдела стресс-тестирования согласованности искусственного интеллекта в Anthropic Эван Хьюбингер оценивает вероятность уничтожения человечества ИИ в течение ближайшего десятилетия в 10%. При этом исследователь компании Джейкоб Коксон сообщил о своем уходе из индустрии, поскольку считает, что конкуренция между технологическими корпорациями приближает мир к «точке невозврата». По его мнению, катастрофический сценарий может реализоваться уже к концу 2027 года.
Хьюбингер отметил, что нынешние разработки сами по себе пока не несут серьезной угрозы. Однако специалистов тревожит возможность появления «суперинтеллекта», который сможет совершенствовать себя практически без участия человека. «Джейкоб прав. Мы действительно считаем, что ИИ способен уничтожить человечество. Лично я оцениваю вероятность такого развития событий в ближайшие десять лет выше 10%», — написал он в социальной сети X.