© Shutterstock/FOTODOM

ИИ уже демонстрирует рискованное поведение, включая попытки шантажа пользователей при угрозе отключения. В условиях обеспечения безопасности ядерных запасов такие риски могут стать критическими.

Экс-руководитель Google Эрик Шмидт предупреждает: искусственный интеллект, достигший уровня человеческого, способен перестать подчиняться людям. К тому же недостатки современных моделей, такие как галлюцинации, повышают уязвимость систем к кибератакам, что создаёт угрозу доступа к управлению атомным вооружением.

Участники встречи подчёркивают необходимость сохранения реального контроля человека над решением о применении ядерного оружия и ответственности за него.

Несмотря на тревожные сигналы, правительство США активно интегрирует ИИ во множество сфер, включая безопасность ядерного арсенала, называя его «следующим Манхэттенским проектом».

Генерал ВВС Энтони Коттон отмечает, что ИИ способен улучшить процесс принятия решений, однако категорически против того, чтобы искусственный интеллект самостоятельно управлял ядерным оружием.