Топ-менеджеры покидают компании, занимающиеся искусственным интеллектом, опасаясь угрозы для человечества

Топ-менеджеры покидают компании, занимающиеся искусственным интеллектом, опасаясь угрозы для человечества

В крупнейших компаниях по созданию ИИ покидают свои посты топ-менеджеры, опасающиеся, что их деятельность может привести к гибели человечества.

По информации издания Axios, недавно из передовых фирм, занимающихся нейросетями, ушли уже 10 сотрудников. Это не рядовые менеджеры, а представители руководства и ведущие инженеры. Причина — тревога из-за развития технологий, которые могут стать причиной катастрофы для человечества.

Илон Маск, основатель Grok, у себя на странице в X оценил p(doom) в 20%. P(doom) изначально была шуткой, но теперь стала серьёзной метрикой, измеряющей риск гибели человечества от сверхразумного ИИ. Генеральный директор Google Сундар Пичаи в подкасте у Лекса Фридмана назвал схожий диапазон — от 15% до 25%.

Речь идёт об AGI — сильном искусственном интеллекте, сравнимом с человеческим, способным к универсальному обучению и решению задач. Никто точно не знает, когда он появится. Тот же Пичаи считает, что это произойдёт чуть позже, чем через 5 лет.

Для оптимистов, не видящих в ИИ угрозы, авторы исследования высказали своё мнение:

Сами разработчики ИИ оценивают вероятность уничтожения человечества в 1 из 10, а возможно, даже в 1 из 5. Сели бы вы на самолёт с такими шансами? Стали бы строить самолёт и пускать на него людей при таких рисках?