Приложение для личного дневника с ИИ: что ИИ должен видеть, чего не должен и как это проверить
Мало что так разделяет пользователей дневников, как ИИ. В отзывах в App Store в этом году человек, много лет пользующийся популярным приложением-дневником, написал, что в единственное убежище, которое есть у него каждый день, теперь проник ИИ, и что он полностью потерял доверие к компании. Пользователь другого дневника, изначально построенного вокруг ИИ, написал обратное: ИИ помогает, с ним он увидел закономерности, которых раньше не замечал.
Правы оба. ИИ в дневнике может быть по-настоящему полезен, а может ощущаться как посторонний, который читает через плечо. Разница обычно не в самом ИИ. Она в том, выбрали ли его вы, знаете ли вы, что он читает, и можете ли вы отказаться. Ниже — для чего ИИ хорош, чего он не должен делать никогда и как узнать, куда уходят ваши слова.
Для чего ИИ в дневнике действительно полезен
Вопрос вместо пустой страницы. Самое трудное, когда пишешь о своей жизни, — часто второе предложение. Вы написали, что случилось, и остановились. Короткий вопрос о написанном («Что вы сделали сразу после?», «Кто ещё там был?») может раскрыть воспоминание лучше любого списка общих подсказок, потому что он об этом моменте, а не о моментах вообще.
Замечать, что повторяется. За месяцы люди обычно пишут об одних и тех же нескольких вещах и не видят этого. ИИ, прочитав записи за месяц, может заметить, что все хорошие дни были связаны с прогулками на улице или что определённая неделя раз за разом заканчивается одинаково. Прав он будет не всегда.
Превращать голосовую заметку в текст. Если вам проще говорить, чем печатать, расшифровка делает устный рассказ доступным для поиска и его легче перечитывать.
В чём он плох и чего не должен делать никогда
- Он вас не знает. Он читает несколько строк текста и делает обоснованное предположение. Закономерность, которую он нашёл в десяти записях, — это наблюдение, а не факт о вашей жизни.
- Он не психотерапевт и не врач. Он ничего не может диагностировать. Если вы переживаете что-то серьёзное, обращаться стоит к человеку, который обучен помогать. Если вы в опасности, звоните в местную экстренную службу.
- Он не должен решать за вас. Мягкое предложение — одно. Советовать уйти с работы или от партнёра — совсем другое, и ни одно приложение-дневник не должно этого делать.
- Его не должны навязывать. Дневник, который пихает кнопки ИИ, баннеры и предложения купить в каждый экран без возможности их выключить, забыл, чей это дневник.
Куда уходят ваши слова, когда их читает ИИ
Большинство функций ИИ в приложениях-дневниках работают не на телефоне. Приложение отправляет ваш текст большой языковой модели на сервере, часто принадлежащем другой компании, и получает ответ. Чтобы текст прочитать, он должен быть читаемым. Если дневник зашифрован, приложение должно расшифровать запись, прежде чем ИИ её увидит.
Приложения, которые относятся к этому серьёзно, говорят об этом прямо. Например, в руководстве Day One о функциях ИИ сказано, что эти функции включаются только с согласия пользователя и их можно отключить в любой момент, а содержимое записи временно расшифровывается на вашем устройстве для обработки, после чего отправляется на серверы Day One и затем в сервис ИИ. Некоторые функции устроены иначе: Apple пишет, что её функция «Предложения дневника» использует обработку на устройстве, чтобы группировать моменты и подсказывать, о чём написать.
Важно и то, как приложение платит за ИИ. Наглядный пример — условия Gemini API от Google. На бесплатном уровне Google использует отправленный контент, чтобы предоставлять, улучшать и развивать свои продукты и сервисы, а запросы и ответы API могут читать, размечать и обрабатывать люди-проверяющие. На платном уровне Google не использует ваши запросы и ответы для улучшения своих продуктов, но хранит журналы запросов и ответов ограниченное время — чтобы выявлять злоупотребления и на случай раскрытия информации, которого требует закон или регулятор. В правилах использования Google сейчас указывает этот срок — 55 дней.
Семь вопросов к любому приложению-дневнику с ИИ
- ИИ необязателен? Отправляется ли что-нибудь до того, как я соглашусь?
- Что именно отправляет каждая функция и когда: только когда я нажимаю или ещё и в фоне?
- Модель какой компании получает мой текст?
- Используется ли мой текст для обучения или улучшения моделей ИИ — приложением или поставщиком ИИ?
- Сколько его хранит поставщик ИИ и хранит ли приложение результаты?
- Можно ли выключить каждую функцию отдельно и весь ИИ сразу?
- Что происходит с закрытыми или зашифрованными записями?
Хорошее приложение отвечает на все семь простыми словами, прямо в приложении.
Как на них отвечает Lifeline
Вот наши собственные ответы — настолько точно, насколько мы можем их дать.
- Необязателен, и до вашего согласия ничего не отправляется. Когда вы впервые пользуетесь функцией ИИ, приложение один раз спрашивает: в окне «Прежде чем ИИ прочтёт воспоминания» объяснено, что отправляется и кому. Вы подтверждаете, что вам 18 лет или больше (условия Gemini API от Google не разрешают использовать его в сервисах для людей младше 18), и разрешаете — или нажимаете «Не сейчас». Пока вы не согласились, из ваших воспоминаний ИИ ничего не получает.
- Что отправляется. Каждая функция отправляет только то, что ей нужно. Вопросы к воспоминанию: его название, дата, текст и эмоция, а также ваше собственное слово для чувства; с Premium — ещё даты, названия, эмоции и первые строки до трёх прошлых воспоминаний с тем же чувством или словами. Для второго круга — ещё ваши ответы на первые вопросы. Вопросы, которые создаются автоматически при сохранении нового воспоминания: его название, дата, текст, эмоция и ваши размышления о влиянии и об уроке. Паттерн месяца: даты, названия, эмоции и начало воспоминаний этого месяца вместе с размышлениями о влиянии и об уроке. Компас жизни: даты, названия, эмоции и первые строки ваших воспоминаний. «Что было после похожих моментов»: само воспоминание и до пяти прошлых с той же эмоцией (названия, первые строки и короткие фрагменты размышлений). «В текст»: запись этой одной голосовой заметки, только когда вы нажимаете кнопку. После вашего согласия некоторые функции работают и без нажатия: вопросы к новому воспоминанию при сохранении, если этот переключатель включён, а с Premium — «Что было после похожих моментов» для сохранённого воспоминания и еженедельная перепроверка уже созданных паттернов месяца. Сразу после оформления Premium «Что было после похожих моментов» также готовится для ваших последних воспоминаний — до 30.
- Какой поставщик. Модель Google Gemini, через наш собственный сервер.
- Обучение. Мы используем Gemini как платный сервис. По условиям Google для платных сервисов Google не использует запросы и ответы для улучшения своих продуктов. Мы тоже не обучаем никакие модели на ваших воспоминаниях.
- Сколько хранится. Google хранит журналы ограниченное время — для защиты от злоупотреблений и по требованиям закона, как описано выше. Результаты ИИ (вопросы, паттерны, компас) сохраняются в вашем аккаунте, чтобы вы могли к ним вернуться. Для «В текст» наш сервер запись не хранит. Когда вы шифруете или удаляете воспоминание, вопросы и прогнозы о нём удаляются. Паттерн месяца или компас жизни, в которые оно вошло, остаются, пока их не пересоберут.
- Переключатели. В профиле один переключатель выключает весь ИИ: тогда нигде нет кнопок, карточек и предложений ИИ, а воспоминания и сохранённые ответы остаются. Выключение также отзывает ваше согласие, так что, если включить ИИ снова, приложение спросит ещё раз. Есть и отдельные переключатели: «Вопросы к воспоминаниям», «Паттерны месяца» и «Компас и похожие моменты».
- Зашифрованные воспоминания. Фоновые функции никогда не отправляют текст зашифрованного воспоминания, и зашифрованные воспоминания никогда не используются как контекст для других вопросов. Если вы сами просите вопросы к зашифрованному воспоминанию, приложение сначала переспрашивает: «Это воспоминание зашифровано». Только после того, как вы нажмёте «Отправить один раз», его текст расшифровывается на телефоне и отправляется — пока вы остаётесь на этом воспоминании. В архиве оно остаётся зашифрованным, как и вопросы и ваши ответы. «В текст» в зашифрованном воспоминании спрашивает так же, но отправляет саму запись: голосовые заметки не шифруются, даже в зашифрованном воспоминании.
Что бесплатно, а что в Premium: первый круг вопросов и «В текст» бесплатны. Premium добавляет более глубокий второй круг, вопрос, который может сослаться на одно из трёх прошлых воспоминаний с тем же чувством или словами, паттерн месяца, компас жизни и «Что было после похожих моментов».
Экран «Что видит ИИ»
В профиле на экране «Что видит ИИ» перечислены все функции (вопросы к воспоминанию, паттерн месяца, компас жизни, «Что было после похожих моментов», голосовые заметки) и что каждая из них отправляет, а дальше — правило для зашифрованных воспоминаний и дневные лимиты. Главный переключатель — внизу, а окно согласия ссылается на этот экран, так что его можно прочитать до того, как согласиться.
Частые вопросы
ИИ в Lifeline включён по умолчанию?
Кнопки ИИ на месте, но из ваших воспоминаний ничего не отправляется, пока вы один раз не согласитесь в окне согласия. Если вы вообще не хотите видеть ИИ, выключите «Функции ИИ» в профиле.
Можно ли пользоваться Lifeline совсем без ИИ?
Да. Всё остальное работает без него, а один переключатель в профиле убирает все кнопки ИИ.
Читает ли ИИ мои зашифрованные воспоминания?
Сам по себе — нет. Фоновые функции никогда не отправляют текст зашифрованного воспоминания. Если вы просите вопросы к зашифрованному воспоминанию, приложение сначала спрашивает вас и отправляет расшифрованный текст только после подтверждения — пока вы остаётесь на этом воспоминании. «В текст» тоже сначала спрашивает; он отправляет саму голосовую заметку, а голосовые заметки не шифруются.
Используются ли мои воспоминания для обучения ИИ?
Мы не обучаем на них модели, а по условиям Google для платных сервисов Google не использует запросы и ответы для улучшения своих продуктов. Журналы он при этом хранит ограниченное время — для защиты от злоупотреблений и по требованиям закона.
ИИ — это психотерапевт?
Нет. Он задаёт короткие вопросы, замечает, что повторяется в ваших воспоминаниях, и может предложить один небольшой шаг. Он ничего не может диагностировать и не служба кризисной помощи. Если вы в опасности, звоните в местную экстренную службу.
Почему ИИ доступен только с 18 лет?
Условия Gemini API от Google не разрешают использовать его в сервисах для людей младше 18, поэтому перед первым запросом к ИИ приложение просит подтвердить возраст.
Каким бы дневником вы ни пользовались, ИИ должен быть гостем, которого вы пригласили, а не тем, кто достался вместе с мебелью. Если приложение не может сказать, что читает его ИИ, — это и есть ответ.