ИИ грозит дебилизмом, Россия «больна гордыней», война «не шутки»: тезисы Грефа и Шевкунова 23 Октяб

Глава Сбера и «духовник Путина» советуют «держать ум в аде» и объясняют, как победить депрессию

«Я жил только моментом, когда уйду с государственной службы. До сих пор самый великий момент в моей жизни — когда президент меня отпустил, и я испытываю огромное чувство благодарности за это», — признался сегодня Герман Греф на конференции СберУниверситета. Руководитель банка провел нечто вроде лекции о смысле жизни, страхах человека и искусственном интеллекте, причем сделал это с необычным собеседником — митрополитом Симферопольским и Крымским Тихоном (Шевкуновым), которого в прессе называют «духовником» Владимира Путина. О том, как митрополит опасался появления «интеллектуальных дебилов», какую «болезнь» обнаружил Герман Оскарович у России и в чем же, по Грефу, смысл жизни, — в нашем материале.




Главный тезис Грефа — нынешний ИИ «совсем-совсем беби», ребенок, каким бы страшным или развитым он ни казался Фото: © Михаил Воскресенский, РИА «Новости»

«Жил только моментом, когда уйду с государственной службы»

Юбилейную конференцию СберУниверситета сегодня открыла сессия с не совсем обычными спикерами. Появление президента и председателя правления Сбербанка Германа Грефа было как раз объяснимым, но на сцену он вышел вместе с епископом Русской православной церкви, митрополитом Симферопольским и Крымским Тихоном. Последнего в прессе зачастую называют «духовником» президента России Владимира Путина.

Так что в дискуссии о насущном сошлись эксперты из, казалось бы, диаметрально противоположных сфер, мира материального и духовного. Правда, они находили консенсус. Причем из разговора можно было предположить, что с духовным деятелем Греф общается далеко не в первый раз, просто сейчас впервые делает это в публичном формате.

Греф начал разговор не столько о самом ИИ — великом и ужасном, — сколько о тревоге вокруг него. Надо ли переживать? «Честно говоря, года два назад я был в таком же состоянии, потому что понимал, куда все движется и какие функции будут освоены искусственным интеллектом. Временами меня это вводило в транс. Я думал: „Господи, где же этот предел? Что останется нам, людям, в силу того что инструмент, который мы изобрели, начинает быть сам по себе субъектным?“», — признался он.

Сегодня, по его словам, из этого состояния рынок и общество в целом вышли. Хотя волнения не исчезли, а просто сменили облик. Главный тезис Грефа — нынешний ИИ «совсем-совсем беби», ребенок, каким бы страшным или развитым он ни казался. Все сегодняшние нейросети построены на больших лингвистических моделях, т. е. учатся на языке и знаниях самих людей. Они быстрее, замечают все паттерны, но не касаются эмоционального интеллекта, чувств и невербального понимания. Настоящий качественный скачок произойдет, лишь когда ИИ начнет познавать физический мир через сенсоры и органы чувств, как это делает человек. Тогда темпы развития науки будут «совершенно другими», а выводы машина сможет делать «совсем не те, которые нам нравятся». «Мир может разворачиваться совсем в другую сторону», — предупредил спикер.

При этом Греф настойчиво призывает не бояться: «Мы сами рисуем какие-то ужасы. Он (ИИ — прим. ред.) выходит из-под контроля, когда мошенники его используют против нас. Это да. Поэтому нужно бояться не искусственного интеллекта, а людей, которые его используют быстрее, чем мы».

Плюс в том, что ИИ отлично справится с «мусором» в жизни — всем, что связано с самоутверждением, а не с самореализацией. Первое — это подтверждение собственного эго через внешние знаки (лайки, просмотры, должности, кабинеты), когда человек проживает чужую жизнь и ждет одобрения извне. Самореализация же — это ответ на вопрос «зачем», занятие делом, от которого получаешь удовольствие независимо от внешней оценки.

Путая эти вещи, человек тратит единственную жизнь на погоню за подтверждением собственной значимости вместо того, чтобы делать то, для чего он на самом деле предназначен. «Я много лет провел на государственной службе. Честно сказать, не получал никакого удовольствия, жил только моментом, когда уйду с государственной службы. До сих пор самый великий момент в моей жизни — это когда президент меня отпустил, испытываю огромное чувство благодарности за это», — поделился глава Сбера.




Еще одну опасность владыка видит в деградации самого человека: «Мы получим в ближайшее время, я это вижу уже сейчас, интеллектуальных дебилов»   Фото: MAGNIFIC.COM/RU

«Мы получим в ближайшее время интеллектуальных дебилов»

Его собеседник, митрополит Тихон, оказался куда более тревожен в оценках новейших технологий. «Мифологизация искусственного интеллекта сейчас продолжается более стремительными темпами, чем само развитие искусственного интеллекта», — подчеркнул он. Страх, по словам владыки, вполне обоснован, но не в фантастическом сценарии восстания машин, а в руках мизантропов.

Атомную бомбу имеют несколько стран, а ИИ в ближайшее время окажется в распоряжении огромного числа людей. Причем именно «боевой» искусственный интеллект, который может причинять боль и воздействовать на целое общество, обратил он внимание. «Вполне возможно, что так будет, если его не ограничить так же, как ограничивали то же самое ядерное оружие», — добавил митрополит.

Еще одну опасность владыка видит в деградации самого человека. «Мы получим в ближайшее время, я это вижу уже сейчас, интеллектуальных дебилов», — заявил он. Людей, которые в совершенстве владеют ИИ, всячески им пользуются и сами при этом стремительно деградируют. Он привел в пример журналистику: зачем профессия, если модель может набросать 20 вариантов текста лучше и интереснее? Но при некритическом отношении, предупредил он, это приведет специалиста к печальным последствиям уже через несколько месяцев.

Формулу риска митрополит сформулировал афористично: «Не искусственный интеллект становится паразитом в человеке, а человек паразитирует на искусственном интеллекте». И вместо фильмов о том, как ИИ завоевывает человечество, он предложил снимать кино о том, как он завоевывает талантливого, хорошего человека. «Действительно устрашить тем будущим, которое в данном случае мне представляется печальной реальностью», — заключил он.

«Мы на вершине финансовых технологий»

Один из зрителей попросил Грефа назвать два его главных достижения — за почти 20-летнее руководство Сбером и за последний год. Что касается года нынешнего, Сбер как технологическая компания находится в «тяжелейшей» ситуации, испытывает такие ограничения по вычислительным мощностям, каких нет ни у одной другой компании в мире, и «умудряется» поддерживать уровень и не опускать руки.

«Мы на вершине финансовых технологий. Всяческие маленькие финансовые компании повторяют то, что делаем мы, провозглашают себя первыми в мире и так далее. Но на самом деле все базовые современные технологии в финансовом секторе в стране были изобретены в этом банке», — подчеркнул глава банка.

Сейчас Сбер на 2-м месте в мире по объему транзакций, хотя Россия в экономическом плане не самая большая страна, «существенно меньше» США и Китая. Еще одно достижение — стабильно хороший финансовый результат, в этом году будет около 2 трлн рублей чистой прибыли. «Мы недовыполнили целый ряд целей своей стратегии, связанной с построением человекоцентричной организации, но выполнили все свои финансовые и технологические цели», — сказал Греф.

В ноябре Сбер представит, а в следующем году «подарит» финансовому рынку целый ряд «принципиально новых продуктов», связанных с физическим ИИ. Поясним, если классический ИИ обрабатывает данные — изображения, текст, числа, то физический взаимодействует с физическим миром через сенсоры, камеры и прочее.

«Мы покажем всему миру, что в стране, которая находится под беспрецедентным количеством санкций, можно развивать весь технологический стек», — пообещал Герман Оскарович, не уточнив деталей.

«Наша страна — страна, больная гордыней»

Как отметил Греф, слово «гордость» его не «драйвит», потому что он не совсем понимает разницу между гордостью и гордыней. «А наша страна — это страна, больная гордыней. Нам нужно лечить себя от гордыни, потому что наша страна — это огромная синусоида с большой амплитудой взлетов и падений», — сказал глава Сбера.

«Мы талантливая страна. И как только мы начинаем подниматься и рассказывать про себя, какие мы крутые, с этого момента начинается пике, — отметил Греф. — Я этого очень боюсь. Поэтому я внутри компании строю культуру, чтобы мы никогда не врали, никогда не говорили, что мы самые-самые, что мы самые первые в мире. Я терпеть не могу всего этого вранья! Пусть мы немножко хуже про себя расскажем, но лучше сделаем».

По словам Грефа, человеку надо находиться в коридоре между «держи ум в аде», т. е. не возгордись собой, и «не отчаивайся». Фраза «Держи ум свой во аде и не отчаивайся» — это известное духовное изречение, обращенное Христом к преподобному Силуану Афонскому.

«Гордость очень важно контролировать. У меня, как и у всех людей, бывают иногда падения настроения, руки опускаются и так далее, но для меня это признак, что надо выспаться», — улыбнулся руководитель банка.

«Война — это не шутки»

Уровень депрессии сейчас стабильно растет, заметил далее Греф со ссылкой на статистику и спросил у митрополита Симферопольского и Крымского, бывает ли депрессия у него и как он справляется, «как с этим быть».

Депрессия и уныние сегодня обусловлены и объективной ситуацией, признал духовный деятель. «Война — это не шутки. Такие вызовы, такие беды и скорби у людей, которых в обычной жизни не бывает. Это не может не вызывать серьезной, глубокой печали», — отметил митрополит.

С другой стороны, человек не должен отчаиваться, «в каком бы аду ни оказался». «Человек призван видеть себя в таком состоянии, в каком он есть, и зачастую эта картина совсем не оптимистичная. Видеть себя таким, какой есть, — это один из постулатов духовной жизни. Мы можем себя обманывать. Зачастую мы живем самообманом, но человек должен соответствовать тому, что он есть», — сказал Шевкунов.

«Самый лучший совет вы только что дали нам — выспаться. Это самый лучший духовный совет», — улыбнулся митрополит, обратившись к словам Грефа. «Все пройдет так или иначе. Даже самые тяжелые этапы человеческой жизни. Все встанет на свои места. Человек поймет, зачем это все и что и нет ничего нового под солнцем. Сегодня это искусственный интеллект, позавчера — станки, против которых боролись английские рабочие, и так далее».

«Поиск ответа на вопрос «зачем?» — это, может быть, одна из самых главных миссий человека»

Самое страшное для человека, по словам Шевкунова, — это абсолютная уверенность в своей правоте. «В нравственном смысле слова. Вот это и есть гордыня. И из чувства самосохранения этому противостоять необычайно важно».

Греф же обратил внимание на то, что есть люди, которые только говорят, но ничего не слышат. «Человек никогда и никого не слышит. А слышит только себя. И тут вопрос, что он слышит — собственное эго или что-то другое?» — отметил глава Сбера.

По его словам, чувство саморефлексии — это главное, что должно развиваться в человеке. Искусственный интеллект это качество не вытеснит и не поможет в этом. «Эта составляющая для всего человечества критически важна. И [с развитием технологий] нам останется больше времени вместо рутины именно этим заниматься — самопознанием, познанием другого человека, собственных реакций, несовершенства», — говорит глава Сбера.

Мир устроен так, что каждый человек должен «прорисовать» свою дорогу к счастью, также отметил Греф. «Поиск ответа на вопрос „зачем?“ — это, может быть, одна из самых главных миссий человека и смысл его жизни», — рассуждал Греф.

По мнению руководителя банка, нет рецепта построения гармоничного человека. Более того, это вредная история, когда человек получает какую-то инструкцию. Переработанная пища вредна и ничего не дает, кроме ожирения, провел ...огию участник конференции.

Митрополит обозначил универсальное утверждение в православии — главный момент в жизни тот, который ты проживаешь сейчас, а главный человек тот, с которым ты сейчас разговариваешь. И этим императивом нужно руководствоваться.

Приходилось ли участникам конференции пересматривать свое мнение? Митрополит «все-таки рассказал», что раньше думал, что есть безвыходные ситуации и что-то невозможное. Сейчас бы духовный деятель с этим поспорил.

Как воспитывать школьников в эпоху ИИ?

Там, где ИИ в школе никак не регулируется (а им пользуются 70–80% детей и еще больше студентов), образовательные результаты падают примерно на 20%, привел данные Греф. Там, где администрация пытается решить проблему запретами, система все равно проигрывает («она всегда будет проигрывать») и результат примерно тот же. Но есть небольшая группа образовательных организаций, которая взяла ИИ на вооружение, понимая его сильные и слабые стороны. В этом случае результаты растут примерно на 15%.

«Главная задача школы — это воспитание. Мы воспитываем будущее нашей страны», — добавил митрополит. Главную проблему он видит в ориентирах: те примеры, которые показывают детям, зачастую «не того уровня», которого достойно молодое поколение. А блогеры и эстрадные певцы, сколь бы ни увлекали подростков «в столь нежном возрасте», не заменят героев, передающих вечные ценности.

«Мы помним, о ком нам рассказывали в наши школьные годы. И в Древнем Риме, и в Древней Греции это были в первую очередь герои», — заметил он. Именно поэтому вместе с минпросвещения был перезапущен предмет «Разговоры о важном» — в новом формате для 6–11-х классов.

Фильмы о героях делаются с помощью ИИ: владыка пишет сценарии, а студия видеоконтента завершает работу. «Кстати, Фальков (Валерий Фальков — министр науки и высшего образования РФ — прим. ред.) просит и для студентов эти фильмы тоже передать. В первую очередь они о том, что человек может очень многое. Герои — это именно те люди, которые могут сделать то, что другим кажется невозможным», — пояснил он замысел.

Отвечая на вопрос о том, не усредняет ли ИИ креативность, Греф отметил, что технологии, напротив, дают каждому инструмент, чтобы проявить себя. «Ведь, как говорил Пикассо, каждый ребенок — художник. Просто, вырастая, не у всех у нас есть мастерство, или не все мы владеем инструментами, чтобы свою креативность проявить», — объяснил он.

Важная задача — «вернуть человека к человеку», а сделать это можно, если сбросить рутину на ИИ и освободить время для развития души и эмоциональной сферы, заключил глава Сбера.

Ева Малиновская

https://www.business-gazeta.ru/article/714142?ysclid=mvky3ewfcm1948665

Источник