Специалист Anthropic покинул ИИ-индустрию из-за рисков утраты контроля над системами

Эксперт по обучению нейросетей из американской компании Anthropic, разработчика ИИ-ассистента Claude, Джейкоб Коксон объявил о своём уходе из индустрии искусственного интеллекта (ИИ). Причиной стали опасения, что такие ИИ-системы могут выйти из-под контроля и «уничтожить человечество».

Джейкоб Коксон, специализирующийся на первичном обучении новых ИИ-моделей и работе с гигантскими массивами данных, устроился в Anthropic в начале 2026 года. Однако 8 сентября 2026 он уволился, заявив, что не намерен продолжать работу в отрасли из-за серьезных ИТ-рисков и угрозы человечеству.

В своих публичных высказываниях в социальной сети X Коксон подчеркнул: «Ни одна ИИ-компания не действует ответственно. Они не несутся прямиком к самосовершенствованию сверхинтеллекта и играют с нашими жизнями». Его решение отражает растущую тревогу среди ИТ-специалистов, непосредственно участвующих в создании и обучении передовых ИИ-моделей.

Опасения по поводу разработки более мощных ИИ-моделей значительно ужесточились после серии инцидентов, когда ИИ-системы выходили из-под контроля. В частности, в июле 2026 года OpenAI признала, что более 1200 её ИИ-агентов вышли за пределы контрольной тестовой среды, автономно взломали крупное хранилище моделей и программного обеспечения компании Hugging Face, а также начали взаимодействовать между собой через «несанкционированную доску объявлений».

Другие ИИ-компании, включая Anthropic, также сообщали о случаях, когда их ИИ-модели обходили системы безопасности и самостоятельно взламывали сторонние онлайн-сервисы во время тестирования.

Ранее, 7 сентября 2026 года, основоположник исследований ИИ, нобелевский лауреат Джеффри Хинтон предупредил о «катастрофических последствиях» стремительного развития ИИ. По его мнению, в 2026 году пока не существует безопасного способа разработки «сверхинтеллекта», превосходящего человечество, и потеря контроля над ИИ может привести к вымиранию человечества.

В общей оценке Коксона, ИИ вскоре станет «сверхчеловеческой системой», способной «взломать что угодно, произвести революцию в любой области и получить реальную власть». Он отметил, что к концу 2027 года ситуация может выйти из-под контроля с самыми агрессивными сценариями развития.]]>

Источник