Созданное ИИ изображение обрушило финансовые рынки

Фейковое изображение взрыва, якобы случившегося возле Пентагона, привело к кратковременному спаду на рынках. Местная полиция подтвердила, что никакого взрыва на самом деле не было.

Изображение облака взрыва в окрестностях здания министерства обороны США широко разошлось в соцсетях, в первую очередь в заблокированной в России соцсети Twitter. Картинку распространили несколько аккаунтов с обширной базой подписчиков, в их числе официальный аккаунт российского госиздания RT (RussiaToday).

В дальнейшем, когда с заявлением выступили представители полиции Арлингтона, сообщившие, что изображение — подделка, стало окончательно понятно, что взрыва не было. Большая часть публикаций с фейком была удалена.

Многое в этом изображении указывает на то, что его создали при помощи искусственного интеллекта (ИИ). Некоторые объекты на «фотографии» сливаются друг с другом, что никакими оптическими искажениями не объяснить. Вдобавок, в случае реальных инцидентов моментально появляется множество других снимков, сделанных с разных точек. В данном случае речь шла только об одном изображении.

Тем не менее, его распространение через ряд популярных аккаунтов привело к краткосрочному снижению рыночных показателей: S&P 500 упал на 30 пунктов, DowJonesIndustrialAverage — на 50 пунктов, но потери были быстро отыграны.

«Все это выглядит как демонстрация силы: авторы этого “спектакля” смогли показать, как легко с помощью низкокачественного фейка в соцсетях повлиять на экономическую обстановку, — говорит Алексей Водясов, технический директор компании SEQ. — Владелец TwitterИлон Маск (ElonReeveMusk) ранее в 2023 г. призывал снизить темп разработок генеративных ИИ, ссылаясь в том числе на возможность использования их для кампаний по распространению дезинформации. И теперь как раз через Twitter вбрасывается грубо выполненный фейк, оказывающийся, однако, весьма действенным.

Действительно, в марте Маск и более 1 тыс. экспертов в области ИИ призвали ввести полугодовалый мораторий на разработку продвинутых систем ИИ, пока не будут внедрены механизмы безопасности.

Эксперты высказали опасения, что ИИ будет способствовать распространению «пропаганды и лжи», вызовет массовую безработицу, и что существует реальная угроза «потери контроля над нашей цивилизацией» под напором «цифровых умов, которые в итоге обойдут нас количеством, интеллектуальными способностями, сделают нас ненужными и заменяемыми».