"На кону — наши жизни". Исследователь Джейкоб Коксон из Anthropic уволился из страха перед сверхмощным ИИ

Исследователь Джейкоб Коксон уволился из компании Anthropic из страха перед сверхмощным ИИ и заявил, что искусственный интеллект может уничтожить всю цивилизацию уже в ближайшее десятилетие. Об этом пишет ряд источников в западной прессе, включая The Wall Street Journal и Newsweek.

Джейкоб Коксон — 27-летний исследователь, специализирующийся на обучении новых моделей ИИ. В соцсети X он опубликовал серию твитов, где поделился своим мнением об опасном воздействии ИИ и тех, кто за ним стоит, на человечество.

"Сегодня я уволился из Anthropic. Последние три года я проводил исследования в OpenAI и в Antrhropic. Ни одна из компаний не заботится об ответственности. Они стремятся к совершенствованию сверхинтеллекта и играют с нашими жизнями, — написал Джейкоб. — Совсем скоро появятся системы, превосходящие человека, способные взломать практически что угодно, за считанные дни перевернуть целые отрасли и получить в своё распоряжение реальные рычаги влияния и ресурсы".

По словам Коксона, люди, создающие ИИ, на самом деле считают, что это может истребить всё человечество уже к концу десятилетия. Он подчёркивает, что это не просто громкое заявление: топ-менеджеры и ведущие исследователи в области ИИ публично специально смягчают формулировки, а в личных беседах высказываются гораздо жёстче, оценивая усиливающееся с каждым годом влияние искусственного интеллекта.

Скриншот из X Джейкоба Коксона



Джейкоб Коксон

Как утверждает исследователь, в OpenAI многие не до конца осознали масштаб происходящего, а в Anthropic риск понимают, но хотят победить в технологической гонке. Ещё один научный сотрудник компании Эван Хьюбингер подтвердил слова Коксона, оценив вероятность того, что в ближайшие десять лет ИИ может привести к гибели всего человечества, более чем в 10%.

В феврале этого года из Anthropic ушёл глава команды Safeguards Research Мринанк Шарма. Перед этим он написал своим коллегам прощальное письмо, где предупредил, что "мир в опасности". "И дело не только в ИИ или биологическом оружии, а в целой череде взаимосвязанных кризисов, которые разворачиваются прямо сейчас", — заявил Шарма.

В компании уход разработчика и его заявления пока никак не прокомментировали. Ранее генеральный директор Дарио Амодеи и другие руководители Anthropic предупреждали о рисках, которые связаны с моделями ИИ, и призывали замедлить темпы разработок.

Ранее стало известно, что с помощью ИИ в OpenAI решили одну из семи "задач тысячелетия", после чего профессор математики обвинил компанию в краже его работы.

Фото: X

Источник