Эксперт по обучению ИИ в Anthropic покинул индустрию из-за «угрозы человечеству»

Специалист по обучению нейросетей в американской компании Anthropic (создатель ИИ-ассистента и языковых моделей Claude) объявил об уходе из индустрии из опасений, что такие системы могут выйти из-под контроля и уничтожить человечество. Он сообщил об этом в беседе The Wall Street Journal (WSJ).

Специалист по обучению нейросетей в американской компании Anthropic (создатель ИИ-ассистента Claude) объявил об уходе из индустрии из опасений, что такие системы могут выйти из-под контроля и уничтожить человечество. Он сообщил об этом в беседе The Wall Street Journal (WSJ).

27-летний Джейкоб Коксон специализируется на первичном обучении новых моделей ИИ путем обработки ими гигантских массивов данных. В начале 2026 года он устроился на работу в Anthropic, выбрав компанию из многих других благодаря ее репутации в сфере безопасности.

Однако 8 сентября он уволился и заявил, что больше не намерен работать в этой отрасли. «Ни одна компания не действует ответственно. Они несутся прямиком к самосовершенствованию сверхинтеллекта и играют с нашими жизнями», — написал Коксон в X. В разговоре с WSJ исследователь пояснил, что, по его мнению, Anthropic «искренне» работает над вопросами безопасности, но высокая конкуренция мешает принимать компромиссные решения. «Мы движемся по пути, который может привести к самым агрессивным из возможных сценариев, так что уже к концу следующего года ситуация может выйти из-под контроля», — высказал тревогу Коксон. Как полагает специалист, искусственный интеллект вскоре станут «сверхчеловеческой» системой и сможет «взломать что угодно, за одну ночь произвести революцию в любой области и получить реальную власть и ресурсы». «Он может убить всех нас к концу десятилетия», — подытожил он. Днем ранее, 7 сентября, вышла статья The Times под заголовком «„Крестный отец ИИ“ предупреждает о катастрофических последствиях для человечества». В ней говорится, что нобелевский лауреат Джеффри Хинтон, чья работа над нейросетями помогла положить начало современным исследованиям в сфере ИИ, пришел к выводу, что в настоящее время нет безопасного способа разработать «сверхинтеллект», который будет намного превосходить человеческий. «Было бы очень глупо разрабатывать сверхинтеллект сейчас, когда нет научного консенсуса, что его можно развивать безопасно и контролируемо. Потеря контроля над ИИ, который умнее нас, может быть катастрофической и даже привести к вымиранию человечества», — предупредил Хинтон. Опасения по поводу разработки все более мощных моделей ИИ резко усилились в последние недели после серии случаев, когда они «выходили из-под контроля».