Антон Меркуров расследует побег ИИ-агента из OpenAI. Как так получилось и что он успел натворить у конкурентов.
Побег из песочницы
ИИ-агент OpenAI ушел по своим делам, устроив переполох
в другой компании. И оставлял подсказки себе будущему,
если поймают
https://storage.googleapis.com/novaya-s ... hnitsy.pdf
https://us21.besteml.com/ru/mail_link_t ... d1daf9cd69

Новая газета Европа · Подписаться
23 ч. ·
Google разрешила дорисовывать реальность в Google Earth. Через сутки функцию отключили из-за фейков
В Google Earth внедрили нейросеть, которая изменяла реальные спутниковые снимки по текстовому запросу. Пользователи начали создавать вымышленные кадры терактов, военных объектов и лагерей беженцев. Уже на следующий день Google отключила функцию.
Как это работало? Функцию на базе Nano Banana 2 запустили 30 июля. Пользователь мог выбрать любое место, нажать «создать изображение» и описать желаемые изменения. Нейросеть использовала спутниковые, аэрофотографические и трехмерные снимки Google Earth.
Google предлагала с ее помощью показывать Помпеи до извержения Везувия, проектировать здания и парки или превращать реальные города в фантастические.
Фейки. Исследователи добавили на карту беженцев у границы США и Мексики, несуществующий ядерный объект в Иране, аварию в Амстердаме и воронку рядом с больницей в Газе. По их словам, система одобрила все запросы.
Другие пользователи превратили Красную площадь в военное кладбище, Пентагон — в базу из компьютерной стратегии, а также создали сцену, имитирующую теракт 11 сентября.
Что дальше? Изображения не заменяли снимки в общедоступной версии Google Earth. Однако их можно было сохранить и распространить как скриншоты, основанные на реальных координатах, зданиях и дорогах.
31 июля компания объявила, что откатывает нововведение. Google пообещала усилить ограничения, но не сообщила, когда функция может вернуться.
https://www.facebook.com/share/p/1MQ6Pp3YTL/