В Georgia Tech создали инструмент для восстановления удалённых чатов с ИИ

Исследователи из Georgia Tech разработали судебно-криминалистический инструмент ORISA, который позволяет восстанавливать удалённые диалоги с ИИ-ассистентами на смартфонах. Как сообщает Digital Trends, система ищет сохранившиеся в памяти устройства фрагменты переписки, а затем объединяет их в сессию чат-бота, с которой можно продолжить взаимодействие.

Работа касается приложений, запускающих ИИ-модели непосредственно на устройстве. Хотя такие сервисы не отправляют разговоры в облако, данные во время работы приложения остаются в оперативной памяти телефона. Удаление диалога через интерфейс приложения не обязательно сразу уничтожает все связанные с ним данные: ORISA рассчитана именно на поиск таких остаточных фрагментов.

В одном из испытаний исследователи создали тестового помощника Project Note Keeper и передали ему 100 фактов. К моменту удаления чата из-за ограниченного контекстного окна активная сессия могла использовать только 14 из них. ORISA удалось восстановить 26 фактов. Это неполное восстановление исходного разговора, однако в данном тесте инструмент извлёк больше данных, чем было доступно самой активной сессии перед удалением.

Авторы проверили ORISA в 60 конфигурациях, охвативших десять Android-приложений и три ИИ-модели; во всех этих конфигурациях инструмент восстанавливал данные удалённых разговоров. Для работы ему требуется доступ к копии памяти и хранилища телефона, а перезапись данных другой активностью усложняет восстановление.

Разработка может быть полезна цифровым криминалистам при изучении того, какую информацию пользователь передавал ассистенту и какие советы получал от него. Одновременно она указывает на ограниченность удаления чатов в локальных ИИ-приложениях: для пользователя удалённый диалог может исчезнуть из интерфейса, но отдельные следы ещё остаются на устройстве. ORISA предназначена для расследований, а не для массового восстановления переписок.