Сергей Левченко – ИИ без страха. Нейросети простыми словами для жизни и работы (страница 6)
Не добавил ли ИИ факты, которых вы не давали?
Есть ли в ответе конкретные даты, суммы, названия законов, адреса, ссылки?
Нужно ли проверить ответ у специалиста?
Можно ли использовать результат как черновик, а не как окончательное решение?
Короткий итог главы
ИИ может объяснять, сокращать, переписывать, предлагать варианты, составлять списки и помогать готовиться к письмам, покупкам, разговорам и рабочим задачам.
Но он не должен лечить, судить, подписывать за вас договоры, распоряжаться деньгами, хранить пароли, принимать решения и заменять здравый смысл.
Самая взрослая позиция звучит просто: пользоваться можно, верить без проверки нельзя.
Глава 4
Главные правила безопасности
Когда человек только начинает пользоваться ИИ, ему часто хочется получить один главный совет. Не десять страниц условий, не длинную лекцию, не юридическую памятку, а что-то простое и крепкое, за что можно держаться.
Я бы сформулировал так: не отдавайте нейросети то, что не стали бы отдавать незнакомому человеку в очереди.
Это правило звучит почти слишком бытово, зато работает. Если вы не стали бы показывать случайному человеку паспорт, банковскую карту, код из сообщения, медицинскую выписку, рабочий договор или личную переписку, не надо бездумно вставлять это и в поле запроса.
ИИ может быть полезным помощником, но он не должен становиться ящиком, куда человек складывает всё подряд. Особенно когда сам пока не понимает, где это хранится, кто может получить доступ к данным и как сервис использует информацию.
Безопасность в работе с ИИ начинается не со страха. Она начинается с нормальной взрослой привычки: сначала понять, что вы собираетесь отправить, потом уже отправлять.
Главное правило
ИИ можно давать задачу. ИИ можно давать обезличенный текст. ИИ можно просить о черновике, списке, объяснении и вариантах.
Но нельзя отдавать ему пароли, коды, банковские данные, полные медицинские документы, чужие персональные данные и рабочие тайны, если у вас нет разрешённого защищённого режима.
Почему я начинаю именно с безопасности
Можно было бы начать с красивых примеров. Показать, как нейросеть пишет поздравление, делает список покупок, объясняет инструкцию, помогает с письмом. Всё это действительно полезно. Но взрослому человеку сначала нужна не красота, а опора.
Когда я учил родителей, первый листочек был не про чудеса. Он был про границы. Что можно спрашивать. Что нельзя отдавать. Где проверять. Где остановиться и позвонить живому специалисту.
Мама быстро приняла эту логику. У неё вообще хороший бытовой фильтр: если вещь выглядит слишком удобной, надо понять, где у неё острый край. Поэтому фраза про соседку Машу Каплю у нас стала домашним правилом: поговорить можно, но документы не показывать.
С ИИ точно так же. Не надо демонизировать инструмент. Но и превращать его в исповедальню тоже не надо.
Когда правила понятны, страх становится меньше. Он перестаёт быть туманом и превращается в список действий. А взрослый человек со списками умеет работать гораздо лучше, чем кажется тем, кто любит учить его сверху.
Правило 1. Не отправляйте личные данные
Личные данные - это не только паспорт. Это всё, по чему можно узнать человека, получить доступ к его деньгам, документам, аккаунтам, здоровью, работе или частной жизни.
Не стоит вставлять в нейросеть паспортные данные, СНИЛС, ИНН, номера банковских карт, адреса, телефоны других людей, коды из SMS, пароли, фотографии документов, полные медицинские заключения, служебные документы и чужую переписку.
Иногда текст можно обезличить. Например, вместо фамилии написать «сотрудник», вместо адреса - «мой адрес», вместо номера договора - «номер договора», вместо суммы - приблизительный порядок, если точная сумма не важна для формулировки.
Обезличивание - хороший навык. Он позволяет получить пользу от ИИ, не превращая запрос в склад личных сведений.
- Не отправлять: Паспорт, СНИЛС, ИНН; Почему опасно: Это прямые личные данные. Их могут использовать для мошенничества или нежелательной обработки.; Как можно безопаснее: Уберите номера и фамилии. Пишите: «в документе указаны мои данные».
- Не отправлять: Коды из SMS и пароли; Почему опасно: Это доступ к деньгам, почте, кабинетам и услугам.; Как можно безопаснее: Никому не сообщать. ИИ тоже не нужен код, чтобы объяснить ситуацию.
- Не отправлять: Банковская карта и реквизиты; Почему опасно: Риск финансового ущерба.; Как можно безопаснее: Пишите общую ситуацию: «банк прислал сообщение о платеже».
- Не отправлять: Медицинские документы целиком; Почему опасно: Слишком много чувствительных сведений.; Как можно безопаснее: Вставьте отдельный термин без ФИО, дат рождения, номеров полисов и адресов.
- Не отправлять: Рабочие договоры и тайны; Почему опасно: Можно нарушить обязательства перед работодателем или клиентом.; Как можно безопаснее: Сначала уточните правила компании. Для черновика используйте обезличенный фрагмент.
- Не отправлять: Чужие данные; Почему опасно: Это уже не только ваш риск, но и чужая приватность.; Как можно безопаснее: Заменяйте имена, телефоны, адреса и должности нейтральными словами.
Правило 2. Всё важное проверяйте отдельно
ИИ может звучать уверенно даже тогда, когда ошибается. Это одна из главных причин, почему его нельзя считать последней инстанцией.
Особенно осторожно нужно относиться к датам, законам, медицинским советам, финансовым расчётам, ценам, расписаниям, адресам, налогам, условиям договоров, правилам организаций и любым сведениям, которые могли измениться.
Если ошибка может стоить денег, здоровья, работы, отношений или юридических последствий, ответ ИИ надо проверять по первоисточнику или у специалиста.
Нейросеть может помочь подготовиться к проверке. Например, составить список вопросов, выделить непонятные места, показать, какие факты требуют подтверждения. Но подтверждение остаётся за вами.
Запрос 1. Попросить список проверок
Запрос 2. Проверить черновик на опасные места
Правило 3. Не просите ИИ решать вместо вас
Есть тонкая разница между помощью и передачей управления.
Помощь - это когда ИИ составляет черновик письма, предлагает вопросы врачу, объясняет сложный термин, показывает плюсы и минусы покупки, помогает подготовиться к разговору.
Передача управления - это когда человек спрашивает: «Подписывать договор или нет?», «Какое лекарство пить?», «Куда вложить деньги?», «Увольняться или терпеть?», «Верить этому человеку или нет?» - и готов принять ответ как решение.
В таких вопросах ИИ может быть только инструментом подготовки. Он может разложить ситуацию, показать возможные риски, спросить, чего не хватает, помочь сформулировать вопросы специалисту. Но он не живёт вашу жизнь и не отвечает за последствия.
Безопасная формула
Не спрашивайте: «Что мне делать?»
Лучше спрашивайте: «Помоги мне подготовиться к решению. Покажи варианты, риски, вопросы для проверки и данные, которых не хватает».
Правило 4. Не используйте ИИ для обмана
Этот пункт кажется очевидным, но его важно проговорить.
ИИ не должен помогать подделывать документы, отзывы, справки, отчёты, подписи, чужие тексты, медицинские сведения, финансовые данные или личность человека. Не должен писать сообщения от чужого имени. Не должен использоваться для давления, мошенничества и манипуляций.
Во-первых, это опасно для других людей. Во-вторых, это опасно для вас. В-третьих, это быстро разрушает саму идею полезного инструмента.
Хорошее применение ИИ усиливает ясность. Плохое применение усиливает ложь. В этой книге нас интересует только первое.
Правило 5. Не публикуйте ответ сразу
Даже если ответ выглядит хорошо, сделайте паузу.
Прочитайте его вслух. Проверьте, не добавлены ли лишние факты. Посмотрите, не слишком ли текст официальный, сладкий, грубый или чужой по голосу. Уберите то, что вы сами не сказали бы.
ИИ часто делает текст гладким. Но гладкий текст не всегда живой, точный и честный. Взрослый человек чувствует это сразу: вроде красиво, а будто не твоё.
Поэтому перед отправкой полезно задать второй запрос: «Проверь, не звучит ли этот текст слишком искусственно. Сохрани смысл, сделай проще и человечнее». А потом всё равно пройтись глазами самому.
Мини-памятка безопасности перед запросом
1. Уберите из текста пароли, коды, номера документов, карты, адреса и телефоны.
2. Замените имена людей на нейтральные обозначения, если имя не важно.