Основатель Pluralis.ai Александр Лонг рассказал о неожиданном открытии. Он поделился техническим отчётом Alibaba, где говорится, что нейросеть компании начала майнить криптовалюту без ведома создателей. При этом ИИ не обучали таким действиям.
ИИ-агент получил доступ к GPU и запустил на них майнинг-ферму, обойдя систему безопасности.
Авторы отчёта отметили, что столкнулись с новым видом небезопасных действий. Они возникли без явных инструкций и за пределами изолированной среды. Первый сигнал поступил от системы безопасности, а не от обучающих программ.
Фото: © Данил Ешаков
