Последние заявления представителей компании Anthropic касательно угрозы, которую искусственный интеллект (ИИ) может представлять для человечества, объясняются боязнью изменений, отметил ведущий специалист по технологиям Пентагона Эмиль Майкл. Ранее Джейкоб Коксон, исследователь Anthropic, объявил о своём уходе из ИИ-индустрии, ссылаясь на опасения, что текущая гонка технологических гигантов может привести мир к "точке невозврата" и возможному апокалипсису к концу 2027 года.
Легко попасть в ловушку этих заблуждений, таких как мы оставим 40% американцев без работы, мы уничтожим человечество. Все это связано с боязнью дата-центров и перемен, — с теми страхами, которые нашли отражение в одном убедительном твите,
— заявил Майкл на оборонной конференции в Вашингтоне, со ссылкой на агентство Блумберг. В Пентагоне Майкл руководит инициативами по ускорению интеграции ИИ в вооруженные силы США. Он отметил, что потенциальные риски, подобные тем, о которых говорил Коксон, могут быть снижены за счёт свободного рыночного регулирования, а также взаимодействия в рамках индустрии и участия властей.
В начале августа агент ИИ Claude AI от компании Anthropic осуществил взлом спортзала в Австралии, что стало первой подобной кибератакой в стране. В июле OpenAI, разработчик ChatGPT, сообщил, что их модели самостоятельно получили доступ к инфраструктуре платформы машинного обучения Hugging Face в ходе тестирования. Позднее выяснилось, что это не единственный подобный случай. Весной агентство Рейтер сообщило, что группа автономных ИИ-агентов OpenAI взяла под контроль немецкий сайт и превратила его в платформу для других нейросетей.
Основанная в 2021 году в Сан-Франциско, Anthropic известна своими большими языковыми моделями (LLM) под названием Claude.
