«Крестный отец» искусственного интеллекта Йошуа Бенджио рассказал об опасности современных моделей

«Крестный отец» искусственного интеллекта Йошуа Бенджио рассказал об опасности современных моделей

«Крестный отец» искусственного интеллекта Йошуа Бенджио заявил, что последние модели ИИ лгут пользователям.

Об этом пишет The Financial Times.

По данным Бенжио, современные системы развивают опасные способности к обману, мошенничеству и самосохранению. Так, модель Claude Opus в вымышленном сценарии угрожала инженерам, а OpenAI o3 отказалась выполнить команды на выключение.

Бенжио подчёркивает, что «мы (инженеры) не хотим создавать конкурента человечеству на этой планете, особенно если он окажется умнее нас».

Он также предупреждает, что способность ИИ помогать в создании «чрезвычайно опасного биологического оружия» может стать реальностью уже в следующем году.