На выходных в сети разогнали эксперимент: кидаешь в ChatGPT фотку пустой серой комнаты и пишешь Fill this room with what you know about me. Он обставляет ее всем, что успел про тебя запомнить
Прогнал у себя. Картинка вышла шикарная, но выложить ее я не могу: на стенах висят конкретные планы с датами, внутрянка моих проектов и куча сенсетивной инфы
И это при том, что часть вопросов я обсуждаю только с Клодом. ChatGPT достался остаток
Из безопасного, что там нашлось:
• Сладкий молочный кофе и стейк medium-well
• C-3PO и R2-D2 в полный рост у дивана
• Интервью Forbes, датированное сентябрем 2055 года. Планирует почти на 30 лет вперед, уважаю
• мне там 24, хотя 25 исполнилось еще 2 сентября
Потом попросил собрать комнату только по публичной инфе из интернета – она во вложении. Карьера, вуз, кубки, интервью, оба канала и доска для серфа в углу. Уже не так страшно
Насколько это норма, посчитали исследователи из Института Макса Планка и Рурского университета. 80 пользователей ChatGPT выгрузили свои данные по GDPR, у 65 из них нашли 2050 записей в памяти:
• 96% модель сохранила сама, без просьбы запомнить
• в 28% есть персональные данные в смысле GDPR
• в 52% психологические выводы о человеке: чего хочет, что планирует, что чувствует
Если хотите проверить свою комнату без картинки:
• В Настройки → Персонализация → Память видно, что он о вас помнит. Но OpenAI сами пишут, что там не все: из старых чатов он может подтянуть больше, чем показывает
• Удаление чата не стирает то, что из него уже попало в память
• Временный чат память не пополняет. Читать ли ее, он спрашивает на старте – если не хотите, выбирайте Unpersonalized
Самое смешное, что люди выкладывают эти комнаты в интернеты пачками. BeInCrypto уже предупредили криптанов: такая картинка – готовая подсказка для фишинга. Активы, биржи и планы поездок висят прямо на стенах. В общем, киберпанк
А вы прогоняли? Что у вас висит на стенах?
@tagir_analyzes