Исследователь Anthropic Джейкоб Коксон решил покинуть сферу искусственного интеллекта, поскольку считает, что соперничество крупных технологических компаний может приблизить человечество к «точке невозврата». По его мнению, самообучающиеся ИИ-системы способны однажды выйти из-под контроля и создать угрозу существованию людей.
Коксон пришел к выводу, что отдельная частная компания не может ответственно и этично заниматься разработкой ИИ без независимого государственного надзора либо согласованного замедления темпов развития всей отрасли. Об этом сообщает газета Wall Street Journal.
По словам специалиста, наиболее опасный сценарий может реализоваться уже к концу 2027 года. «Мы приближаемся к самому жесткому варианту развития событий, при котором уже к концу следующего года ситуация способна стать неконтролируемой», — цитирует его издание.
27-летний математик из Великобритании покидает компанию, поскольку не хочет участвовать в гонке за создание ИИ-моделей, способных самостоятельно совершенствоваться. Он опасается, что подобные системы могут выйти за пределы человеческого контроля и привести к уничтожению человечества.
Коксон отметил, что его коллеги все чаще характеризуют нынешнее направление развития технологий такими выражениями, как «критический момент» и «финальная стадия». В начале года он перешел из OpenAI в Anthropic, рассчитывая работать в компании, известной повышенным вниманием к вопросам безопасности искусственного интеллекта.
Несмотря на сохраняющееся уважение к подходу Anthropic, исследователь теперь убежден: ни одна коммерческая организация не сможет безопасно развивать ИИ без внешнего регулирования или согласованных мер по снижению темпов развития отрасли.