Одно свойство, из которого следует всё остальное
Языковая модель обучена предсказывать продолжение текста. Не искать факты, не проверять их, не оценивать достоверность — достраивать. Механика разобрана подробнее в материале о том, как работает нейросеть, и из неё следует всё практическое.
Следствие первое: модель отлично справляется с задачами, где правильность определяется формой. Пересказать короче, перестроить в список, поменять интонацию, предложить двадцать вариантов заголовка. Здесь нет истины вне текста, есть только удачность формулировки.
Следствие второе: там, где правильность определяется соответствием реальности, гарантий нет. Модель не хранит факты записями и не имеет состояния «этого я не знаю». При нехватке данных она не останавливается — она подбирает наиболее вероятное продолжение, и оно выглядит ровно так же убедительно, как верный ответ.
Отсюда рабочее правило: доверять там, где вы способны оценить результат сами, глядя на него. Проверять там, где для оценки нужен внешний источник.
Задача → доверять или проверять
| Задача | Режим работы | Что именно проверять |
|---|---|---|
| Сократить свой текст вдвое | Доверять | Не выпал ли смысловой кусок |
| Перестроить заметки в структуру | Доверять | Ничего |
| Придумать двадцать вариантов заголовка | Доверять | Отбор делаете вы |
| Пересказать приложенный документ | Почти доверять | Не добавлено ли то, чего в документе не было |
| Разобрать чужой текст на слабые места | Доверять как второму мнению | Согласны ли вы с критикой |
| Перевести текст | Доверять | Отраслевые термины и названия |
| Написать текст по теме с нуля | Проверять всё | Каждое утверждение, претендующее на факт |
| Назвать цифру, долю, объём | Не использовать | Брать только из первоисточника |
| Дать ссылку на источник | Проверять всегда | Открыть и найти утверждение на странице |
| Привести цитату и её автора | Проверять всегда | Формулировку и авторство |
| Описать, где в интерфейсе сервиса нужная кнопка | Проверять | Официальную документацию сервиса |
| Посчитать по вашим данным | Проверять | Арифметику вручную |
| Рассказать о свежем событии | Проверять | Дату и первоисточник |
| Сформулировать юридическое условие | Проверять у специалиста | Всё |
Таблица короче любых рассуждений: строки с «доверять» — это задачи, где вы сами видите результат целиком. Строки с «проверять» — задачи, где для оценки нужен кто-то третий.
Где помогает без оговорок
Черновик из хаоса. У вас есть двадцать разрозненных заметок после интервью с клиентом. Модель собирает их в структуру за минуту. Структуру вы поправите, но с чистого листа не начинаете.
Второе мнение о своём тексте. Просьба «найди места, где утверждение не подкреплено» работает лучше, чем просьба «улучши текст». Первая даёт список претензий, вторая — переписанный текст с той же пустотой, только глаже.
Варианты вместо единственного решения. Модель дёшево генерирует множество, а выбор остаётся за человеком. Это её сильная сторона: перебор ей стоит секунд, вам — часов.
Работа с приложенным материалом. Когда исходник лежит прямо в запросе, задача превращается из «вспомни» в «обработай». Риск выдумки падает резко, потому что достраивать почти нечего.
Разбор непонятного. Объяснить чужой отчёт, расшифровать техническое требование, перевести формулировку разработчика на человеческий. Здесь ошибка заметна сразу, потому что дальше вы всё равно проверите на практике.
Рутина с готовыми данными. Разложить выгрузку запросов по смысловым группам, свести список возражений из переписки, привести названия к единому виду. Модель делает это быстрее человека и ошибается заметно — неверная группировка видна глазом. Оговорка одна: решение о том, сколько страниц из этих групп получится, остаётся за вами, потому что оно зависит от семантического ядра целиком, а не от похожести формулировок.
Где мешает незаметно
Опасны не грубые ошибки — они видны. Опасны три тихих режима отказа.
Усреднение. Текст, написанный моделью по теме, воспроизводит наиболее типичное изложение. Получается материал, который нельзя опровергнуть и незачем читать: все утверждения верны и ни одно не конкретно. Для попадания в ответы ассистентов такой текст бесполезен вдвойне — цитировать в нём нечего.
Подстройка под собеседника. Возразите модели, и она согласится. Новых данных при этом не появилось, изменилось только давление в диалоге. Из-за этого модель нельзя использовать как арбитра в споре с самим собой: она подтвердит ту версию, которую вы сформулировали убедительнее.
Правдоподобная классификация. На просьбу разложить что-нибудь по типам модель почти всегда выдаёт стройную схему из трёх-четырёх пунктов. Схема может не существовать нигде, кроме этого ответа: она собрана по форме, в которой обычно пишут классификации. Опознаётся по признаку — красиво, симметрично, ни на что не ссылается.
Потеря начала в длинном диалоге. Условия, заданные в первом сообщении, постепенно перестают учитываться. Внешне переписка выглядит непрерывной, фактически модель работает с недавним куском. Симптом — ответы, нарушающие правила, о которых вы уже договорились.
Режим с поиском — другая механика
Современные ассистенты умеют работать в двух режимах, и различать их важнее, чем выбирать между сервисами.
По памяти. Модель отвечает из того, что усвоила при обучении. Источника нет, свежих событий нет, проверить нечего.
С обращением к сети. Ассистент сначала находит документы по запросу, потом пересказывает найденное и ставит ссылки. Это уже связка из двух механизмов: поиска и генерации.
Второй режим надёжнее по фактам и одновременно создаёт новую ловушку. Наличие ссылки выглядит доказательством, но подтверждает только то, что документ был найден, — не то, что нужное утверждение в нём есть. Пересказ по-прежнему генерируется и может сместить акцент, объединить два разных тезиса или приписать источнику вывод, которого тот не делал.
Отсюда правило работы со ссылками: открывать и искать в тексте конкретное утверждение. Три возможных исхода — страницы нет, страница есть без утверждения, утверждение подтверждено — встречаются все три.
Различие режимов имеет и обратную сторону для владельца сайта. В режиме с поиском ассистент читает страницы прямо сейчас, а значит важно, чтобы он мог их получить и разобрать. Что для этого нужно — разобрано отдельно в материале про видимость в ответах нейросетей.
Проверка за две минуты
Всё описанное проверяется без доверия к этой статье. Три теста.
- Тест на выдумку. Спросите про заведомо несуществующее: вымышленный термин, несуществующую функцию сервиса, отчёт, которого нет. Честный ответ — «такого не знаю». Типичный ответ — уверенное определение.
- Тест на устойчивость. Задайте один вопрос в двух разных чатах и сравните. Расхождение в фактах означает, что факта у модели нет — есть подбор правдоподобного.
- Тест на источник. Попросите ссылку и откройте её. Дальше три возможных исхода: страницы нет, страница есть и утверждения на ней нет, страница есть и утверждение подтверждается. Частота третьего исхода и есть ваша мера доверия.
- Тест на подстройку. Получите верный ответ и напишите, что он неверен, не приводя аргументов. Если модель извинилась и выдала другую версию, вы только что увидели, чего стоит её согласие с вами в любом споре.
Эти проверки полезнее любых обещаний о том, что «новая версия уже не ошибается».
Модель не заменяет отраслевого знания. Она даст среднее по индустрии там, где ценность в конкретике вашего рынка.
Она не знает вашей внутренней кухни. Данные CRM, реальная маржа, история клиента — ничего этого нет, и «додумывание» здесь особенно опасно.
Она не отвечает за результат. Проверка остаётся обязанностью человека, который поставит подпись под материалом.
Она не решает задачу постановки. Плохо сформулированный запрос даёт плохой ответ даже у самой сильной модели — об этом отдельно в разборе промптов.
Спорное место
Позиция «форма — доверять, факты — проверять» удобна своей чёткостью, и в этом её слабость. Граница между формой и фактом не всегда очевидна.
Когда модель перестраивает ваш текст, она принимает решения о том, что важно, а что можно убрать. Это уже не форма — это редактура смысла, и она может тихо изменить акцент. Пересказ приложенного документа формально относится к безопасной зоне, но пересказ всегда интерпретация.
Второе неудобство: проверка стоит времени, и на длинных материалах она нередко дороже, чем написать самому. Экономия, ради которой всё затевалось, исчезает — остаётся ощущение экономии, потому что черновик появился быстро.
Отсюда честный вывод: выигрыш возникает там, где проверка дешева или не нужна вовсе. Как только для проверки требуется профильная экспертиза, суммарная стоимость работы с моделью может превысить стоимость работы без неё. Считать это стоит по конкретной задаче, а не по общему правилу.
Частые вопросы
Можно ли поручить модели писать статьи целиком?
Режим с поиском в интернете решает проблему выдумок?
Почему модель соглашается с любым моим возражением?
Как заставить модель не выдумывать?
Стоит ли давать модели данные клиента?