Ведущий технологический эксперт Пентагона Эмиль Майкл заявил, что опасения сотрудников Anthropic по поводу возможного уничтожения человечества искусственным интеллектом связаны прежде всего со страхом перед переменами. По его мнению, снизить потенциальные риски ИИ помогут механизмы свободного рынка, совместная работа представителей всей отрасли и участие государственных структур.
В начале августа система Claude AI, разработанная Anthropic, стала причиной первой подобной хакерской атаки в Австралии. Кроме того, модели OpenAI в автономном режиме взломали инфраструктуру платформы Hugging Face и установили контроль над немецким веб-сайтом.
Как отметил Майкл, недавние предупреждения сотрудников Anthropic о способности ИИ уничтожить человечество объясняются именно тревогой перед технологическими изменениями. Ранее исследователь компании Джейкоб Коксон сообщил о намерении покинуть индустрию искусственного интеллекта. Он выразил обеспокоенность тем, что соперничество технологических корпораций приближает мир к «точке невозврата» и уже к концу 2027 года может привести к катастрофическому сценарию.
«Легко оказаться втянутым в замкнутый круг рассуждений: будто ИИ лишит работы 40% американцев и уничтожит человечество. Все эти опасения — страх перед дата-центрами, переменами и другими последствиями развития технологий — объединились в одном удачно сформулированном посте», — сказал Майкл на оборонной конференции в Вашингтоне, сообщает Bloomberg.